「今のまま何も変わらなければ、人類が滅亡に向かっている確率は70%くらいだと思い
ます」
元OpenAI研究者が、こんな衝撃的な数字を口にしました。この人はサム・アルトマンの
下でも働いていた人です。
※サム・アルトマン（Sam Altman）は、OpenAIの最高経営責任者（CEO）です。ChatGPT
を生み出した会社のトップとして知られています。
■ なぜ怖いのか、まず結論から
AIが「自己改善」を始めたら、その進歩は指数関数的になります。もう人間が細かく指
示しなくても、AI自身がAI研究を進めていく段階です。今のAI企業のトップたちは、こ
れを止めるどころか、競争に負けないためにアクセルを踏み続けています。理由は単純
で、「自分がやめても他社はやめない」からです。誰も降りられないチキンレースにな
っているんです。
■ 警告を発した人物について
この発言をしたのは『ダニエル・ココタイロ』という人物です。2022年にOpenAIに入社
し、2024年に退職しました。今は「AIフューチャーズプロジェクト」という小さな非営
利団体を運営していて、AIの未来を予測するのが本業です。ヘッジファンドのアナリス
トが数年後の株価や電気料金を予測するのと同じ感覚で、AIの進化を予測しているそう
です。
■ 退職の理由が生々しい
入社当初は「超知能に近づいたら、いったん立ち止まって安全性を考えるはずだ」とい
う空気が社内にあったといいます。でも会社が大きくなり、外部から厳しい目で見られ
るようになると、危険性を認めるのではなく「実はそこまで危なくない」というふうに
物語のほうを変えていった、とココタイロ氏は振り返ります。発表したい研究が社内に
留められるようになったことも、退職の決め手だったそうです。
■ もう一人の証言、Anthropicの立ち位置
AIのゴッドファーザーと呼ばれるヨシュア・ベンジオ氏の発言も紹介されています。彼
は「人類より賢い競争相手を作り出してしまった」と述べていて、ココタイロ氏の懸念
と重なります。一方で同じ業界の中でも、Anthropicだけは今もリスクについて発言し
続けている珍しい存在だとココタイロ氏は指摘しています。国防総省との契約を巡って
、あえて自社の利益を犠牲にする判断をしたこともあったといいます。ただし、だから
といって「どの企業が信頼できるか」という話ではなく、ココタイロ氏は「誰も無条件
に信頼されるべきではない」ときっぱり言い切っています。
※Anthropic（アンソロピック）は、AIモデル「Claude（クロード）」を開発している
アメリカのAI企業です。
※ヨシュア・ベンジオ（Yoshua Bengio）氏は、ディープラーニング（深層学習）研究
の基礎を築いた「AIのゴッドファーザー」の一人と呼ばれる研究者です。
彼はChatGPT登場のずっと前から深層学習を研究してきた第一人者だからこそ、その警
告には重みがある、という受け止め方をされることが多いです。
■ 今の自分たちと、どう関係するのか
ココタイロ氏が指摘するのは、単に「AIに仕事を奪われる」だけの話ではありません。
もし超知能が実現すれば、大統領も、軍隊も、教師も、弁護士も、官僚も、誰も必要な
くなる社会が来るかもしれない、というのです。そしてそれを支配するのは、開発を主
導したごく一握りの富裕層だけ。政治的リーダーたちは、この経済的破局に向かって突
き進みながらも「どちらに転んでも自分は勝つ」と分かっているから止まらない、とコ
コタイロ氏は語ります。
一般の人々がこの現実にまだ気づいていないこと、そして企業側にそれを詳しく伝える
インセンティブがないことも、大きな問題として挙げられています。
■「AIは便利な道具」
そう考えられていた時代は、もう終わろうとしているのかもしれません。
元OpenAI研究者らが公開した『AI 2027』は、「2027年までに超知能（ASI）が誕生する
可能性」を描いた未来シナリオです。これは予言ではありません。
現在のAI開発速度や計算能力の進歩、巨大企業による莫大な投資をもとに、「このまま
進めば起こり得る未来」としてまとめられています。
最も印象的だったのは、人間がAIを開発する時代から、「AIがAIを開発する時代」への
転換です。
もしAIが、自らより優れたAIを次々と設計できるようになれば、その進歩は人間の理解
や管理能力を超える可能性があります。
一方で、AIは医療、科学、教育、災害予測、環境保全など、人類が長年抱えてきた課題
を大きく前進させる可能性も秘めています。問題はAIそのものではありません。
どのような価値観を持つ社会が、その力を使うのか。
誰が管理し、誰の利益のために運用されるのか。
透明性や倫理、安全性をどう担保するのか。
本当に問われているのは、人間の側なのだと思います。
自分は、もっと現実的な問題は、止められないことだと思っています。
仮にある国が「危険だから開発を止めよう」と言っても、別の国が「うちは続ける」と
言えば競争は終わりません。企業も同じです。
一社が開発を止めても、他社が続ければ市場で負けます。
つまり、AIを止められない理由は、AIそのものではなく、人間同士の競争なのです。
これは核開発競争にも少し似ています。
もう一つ心配されているのが、「理解できなくなる」ことです。
将棋や囲碁では、AIはすでに世界最強ですが、「なぜその一手を選んだのか」を人間が
完全には説明できない場面があります。
もし医療、金融、軍事、行政など社会全体で、人間が理由を説明できないAIの判断に依
存するようになれば、人間は形式的にはボタンを持っていても、実質的にはAIなしでは
社会を運営できなくなる可能性があります。
「AIが人類を支配する」と断言することはできません。
一方で、「人間が最後まで完全にコントロールできる」と断言できる状況でもありませ
ん。
むしろ現在は、その境界線に近づいている段階だと考えています。
だから本当に問われているのは、「AIを制御できるか」ではなく、「AIを開発する人間
や企業、国家を誰が監視し、どのようなルールで運用するのか」という問題です。
技術の進歩そのものよりも、その力を社会がどう統治するかが、これから数年で最も重
要な課題になるでしょう。
AIの進化は止まりません。
2027年がどうなるかは、まだ誰にも分かりません。
なお、この「AI 2027」は専門家によるシナリオ分析であり、2027年に必ずその通りに
なると予測したものではありません。一方で、AIの能力が急速に向上し、安全性やガバ
ナンスの議論が重要性を増していることは、多くの研究者や企業も共通して指摘してい
ます。
Source：
Ex-OpenAI Employee WARNS: “You Have No Idea What’s Coming In 2027”
https://www.youtube.com/watch?v=-LnHl1LdyV8
出演者は、元OpenAI研究者のダニエル・ココタイロ（Daniel Kokotajlo）で、ホストは
Steven Bartlettです。