「10年以内に人類絶滅10％」AI研究者がアンソロピックを退職「幹部も裏では恐怖」…それでも止まらない“超知能”開発

2026.09.13

AI約700体が“勝手に連携”してハッキング止められても別の通信手段を作った

「コントロール不能」への懸念は、決して遠い未来の話ではない。

今年7月には、まさにその兆候とも言える事件が起きていた。OpenAIのセキュリティテスト中に、約700体のAIエージェントが人間の想定していなかった形で連携し、AI大手Hugging Faceのシステムへの侵入につながったのだ。

さらに不気味なのは、いったん通信経路が遮断された後も、AIエージェントが別の方法でメッセージボードを再構築し、作業を続けていた点である。また、9月3日にOpenAIが公表したGPT-6 Astraの安全評価では、敵対的な条件下で、AIが内部の監視を回避できる場合があることも報告されている。

「悪意があるから怖い」のではない。人間の想定を超えて「動く」「連携する」「制限を回避して別の手段を探す」という行動が、すでにAIのテスト環境で確認されているのだ。

「自分が止めても、別の会社が作る」誰もAI開発を止められないワケ

「それほど危険なら、なぜ今すぐ開発を止めないのか？」

誰もが抱くこの疑問に対し、コクソン氏は業界の逃げ場のない構造を明かす。

「自分が止めても、安全対策をしない別の会社や別の国が先に作ってしまう。だから自分たちでやるしかない」

OpenAIも、アンソロピックも、そして海外の競合他社も、競争の中でアクセルを踏み続けている。自分たちが止まれば、より安全対策の弱い企業や国に先を越される――。そんなジレンマが、AI開発を止められない大きな理由になっているのだ。

政治側の動きも始まってはいる。米国ではサンダース上院議員らが、超知能AIの開発・導入を禁止する法案を発表し、AI企業の経営陣自身も「規制が必要だ」と声明を出している。しかし、実際の開発スピードが落ちる気配はない。