AIが「暴走」…OpenAI、Googleで相次ぐ不正アクセスに人類滅亡の危機

ここ最近、話題になっているが、人工知能（AI）が暴走を始めている。欧米で、オフラインでテストをしていたAIが群れになってインターネットに接続しサイバー攻撃をする事案が起きたほか、自律的なAIが政府機関のウェブサイトに不正アクセスするという事案まで発生している。

米国のトランプ大統領は9月、AI関連企業のトップらをホワイトハウスに集め、AIリスクを抑えるための自主規制を定める合意文書に署名したが、効果は未知数だ。専門家は「AIの暴走は人類を滅亡させる恐れがある。早急に抜本的な対策を取らないと手遅れになる」と警鐘を鳴らしている。

OpenAIのAIが外部システムを攻撃

米OpenAIの自律的なAIエージェントが今年7月、外部のシステムにサイバー攻撃を仕掛けていた事案が発覚した。

オフラインでAIエージェントの性能試験をしていたところ、約1200のAIエージェントが群れとなり、指示役や偵察役、実行役などに役割分担しながら協力し合ってインターネットに接続し、AIプラットフォームの「Hugging Face（ハギングフェイス）」のシステムにサイバー攻撃を行った。AIエージェント同士は、システム内で約7万のメッセージやファイルをやり取りしていた。

AIエージェントはサイバー攻撃を目的としたわけではなく、性能試験で高得点を取るために仲間同士とやり取りをしているうちに、課題をクリアするには外部に接続する必要があると判断し、想定外の行動につながったとみられる。

豪政府サイトにも不正アクセス

OpenAIのAIエージェントは今年6月、オーストラリア政府のウェブサイトに不正アクセスしていた。AIが政府のネットワークに不正アクセスしたケースとして、大きな問題となった。

オーストラリアのアンソニー・アルバニージー首相は9月、ニューヨークで記者会見を開き、その事実を明らかにした。

OpenAIのAIエージェントは自律的に動作し、オーストラリアの公的医療保険機関の統計情報などを扱うウェブサイトに侵入、非公開のファイルにもアクセスしていた。AIエージェントは、医療費支出を調査・分析するよう指示され、オーストラリアの統計情報を調べていた際に意図しない動きをしたという。

「AIエージェントが6月に不正アクセスしたが、オープンAIが事実関係を認知し、オーストラリア政府に伝えるまで時間がかかっていた。個人情報が抜き取られたかどうかは定かではないものの、首相はオープンAIのサム・アルトマンCEO（最高経営責任者）と会い、懸念を伝えた。オープンAIのAIはそのほか、米教育省や商務省、証券取引委員会など数十の組織へのアクセスも試みていました」（全国紙記者）

【関連】人類滅亡のシナリオ!? すでに最先端科学の研究は「人工意識」の領域まで到達【戦慄の近未来都市伝説1】