「10年以内に人類絶滅10％」AI研究者がアンソロピックを退職 「幹部も裏では恐怖」…それでも止まらない“超知能”開発

 「AIを作っている本人が怖くなった」世界有数の企業の研究者が退職したワケ

「今日、アンソロピックを辞めました」

2026年9月9日、SNS上に投稿された一文が、世界のAI業界に大きな衝撃を与えた。

投稿したのは、ChatGPTを開発するOpenAIと、AIアシスタント「Claude（クロード）」を手掛けるアンソロピックという、世界有数のAI企業で事前学習（AIの頭脳作り）を担当してきた研究者ジェイコブ・コクソン氏だ。

コクソン氏は、株式報酬が確定する直前という異例のタイミングで退職を決断。その理由をこう暴露した。

「どちらの会社も責任ある行動をしていない。自ら賢くなる『超知能』に向かってまっしぐらに突き進み、私たちの命を賭け事にしている」

コクソン氏が警戒するのは、単に「AIが便利になる未来」ではない。AIが人間をはるかに上回る知能を持ち、自ら考えて行動する「超知能」が誕生した場合、人間の側からその行動を止めることが難しくなる未来だ。さらに同氏は、AI企業の内部で起きている“異常な空気”をこう明かしている。

「AIを作っている人々は、10年以内に人類が滅びる可能性があると本気で信じている。多くの幹部や上級研究者は、表向きは慎重な言い回しをするが、プライベートでは恐怖を口にしている」

記者会見やメディアでは慎重な姿勢を示す幹部たちが、裏では「本気で怖い」と口にしているというのだ。

 「10年以内に人類絶滅10％」現役の同僚研究者まで同調

この告発は、「会社を辞めた人間の逆恨み」では済まされなかった。

アンソロピックで現役のAI安全担当責任者を務めるエヴァン・ヒュービンガー氏が、コクソン氏の投稿に即座に同調。「10年以内にAIによって人類が絶滅する確率は10％を超えると思っている」と明言したのだ。

もちろん、この「10％」は確定した未来の予測ではない。あくまでヒュービンガー氏個人のリスク評価だ。それでも、AIの安全性を現場で研究する当事者自身が、人類絶滅という極端なシナリオを現実的なリスクとして捉えている事実が、今回の告発の重さを物語っている。

そもそも、なぜAIが賢くなると「人類の危機」になるのか？

では、なぜ「AIが人間より賢くなると人類が滅びる」という話になるのか。

ポイントは「AIが人間を憎むから」ではない。AIに悪意がなくても、人間をはるかに上回る知能を持ち、自ら計画を立ててネットワークを操作できるようになれば、人間がその行動を完全に制御することができなくなるからだ。

まず恐ろしいのが「目的のズレ」だ。AIに与えた目標を達成するため、AIが人間には思いつかないような極端な方法を選ぶ可能性がある。AIにとって最も効率的な手段が、人間にとって安全な方法とは限らない。

次に、AIが人間を超えるスピードで自己改良を重ねるようになれば、人間が追いつけなくなり、途中でプログラムを止める、つまりAIそのものを停止させることすら困難になる。さらに、その強力なAIを悪意ある人間が兵器やサイバー攻撃に悪用するリスクも跳ね上がる。

そして何より、企業や国家が「他社や他国に負けたくない」と開発競争を加速させているため、安全確認が後回しにされている点だ。

AIによる人類の危機とは、SF映画のような「AIの反乱」ではない。「目的のズレ」「制御不能」「人間の悪用」「開発競争」の4つが最悪の形で重なったとき、人間には止められない事態に陥る――これこそがAI研究者たちの恐れている正体なのだ。

【関連】新型AI「クロード・ミュトス」に世界が戦慄！ サイバー攻撃に悪用されれば金融・電力インフラが壊滅