「10年以内に人類絶滅10％」AI研究者がアンソロピックを退職 「幹部も裏では恐怖」…それでも止まらない“超知能”開発

AI約700体が“勝手に連携”してハッキング 止められても別の通信手段を作った

「コントロール不能」への懸念は、決して遠い未来の話ではない。

今年7月には、まさにその兆候とも言える事件が起きていた。OpenAIのセキュリティテスト中に、約700体のAIエージェントが人間の想定していなかった形で連携し、AI大手Hugging Faceのシステムへの侵入につながったのだ。

さらに不気味なのは、いったん通信経路が遮断された後も、AIエージェントが別の方法でメッセージボードを再構築し、作業を続けていた点である。また、9月3日にOpenAIが公表したGPT-6 Astraの安全評価では、敵対的な条件下で、AIが内部の監視を回避できる場合があることも報告されている。

「悪意があるから怖い」のではない。人間の想定を超えて「動く」「連携する」「制限を回避して別の手段を探す」という行動が、すでにAIのテスト環境で確認されているのだ。

「自分が止めても、別の会社が作る」誰もAI開発を止められないワケ

「それほど危険なら、なぜ今すぐ開発を止めないのか？」

誰もが抱くこの疑問に対し、コクソン氏は業界の逃げ場のない構造を明かす。

「自分が止めても、安全対策をしない別の会社や別の国が先に作ってしまう。だから自分たちでやるしかない」

OpenAIも、アンソロピックも、そして海外の競合他社も、競争の中でアクセルを踏み続けている。自分たちが止まれば、より安全対策の弱い企業や国に先を越される――。そんなジレンマが、AI開発を止められない大きな理由になっているのだ。

政治側の動きも始まってはいる。米国ではサンダース上院議員らが、超知能AIの開発・導入を禁止する法案を発表し、AI企業の経営陣自身も「規制が必要だ」と声明を出している。しかし、実際の開発スピードが落ちる気配はない。

「危険かもしれない。それでも止まれない」

開発を行っている当事者自身が恐怖を感じ、警告を発しながらも、会社も国も立ち止まることができない。

「私企業が社内チャット（Slack）上で決めるような賭けではない」と訴えて会社を去った研究者の警告を余所に、超知能に向けた開発レースは今日も続いている。

「危険かもしれない。それでも止まれない」――。最先端AIをめぐる異様な競争は、すでにそんな段階に入っている。

【関連】あなたの会社も狙われている AIを使ったサイバー攻撃「二重脅迫」の手口と対策
【関連】羽田空港の機内清掃もロボットに…JALが国内初のヒューマノイド実証実験を開始、「人間の仕事」はどこまで奪われるのか
【関連】「性被害」「出産」まで作り込んだ“AI架空女性活動家アカウント”…立憲民主党員の発信に騒然、党の対応は「甘すぎる」？