AIが「暴走」…OpenAI、Googleで相次ぐ不正アクセスに人類滅亡の危機

GoogleのGeminiも実在企業に侵入

グーグルが開発したGeminiでも性能試験中、外部企業3社のシステムに不正アクセスするための行動を取った事案が起きた。

試験はオフラインで行われていたが、インターネットに接続できる設定になっており、AIがネット上の情報からパスワードなどの認証情報を入手し、侵入していたという。

いずれもAIが実在する企業のシステムにアクセスしたものの、対象が実在の企業だと認識すると攻撃を止めたとされる。とはいえ、テスト環境から外部に出て実在するシステムへアクセスしたことは、AIの安全性をめぐる新たな問題となっている。

AI研究者が「人類滅亡」を警告

米アンソロピックの研究者だったジェイコブ・コクソン氏は9月、同社を退職するとともに、XでAI暴走の危険性について警鐘を鳴らした。

『私は今日、アンソロピックを辞めました。私は過去3年間、オープンAIとアンソロピックの両方で事前訓練の研究を行ってきました。どちらの会社も責任を持って行動していません。彼らは自己改善型超知能に向かってまっしぐらに進み、私たちの命を賭け事にしています』

さらに、

『AIを構築している人々は、それが今後10年以内に我々全員を殺す可能性があると本気で信じています』

と投稿した。コクソン氏の発言は海外でも大きく報じられ、AI研究者の間で安全性をめぐる懸念が高まっていることを示している。

ビル・ゲイツ氏もAIの危険性を指摘

米マイクロソフト創業者のビル・ゲイツ氏も、AIが極めて大きな影響力を持つ技術であるとの認識を示している。

また、アンソロピックのダリオ・アモデイCEOは9月上旬、「AIモデルの性能を向上させるペースを落とさなければならない」との考えを示した。オープンAIのアルトマンCEOらもAIの安全性について警告している。

一方、トランプ大統領はAI開発を抑制する動きに否定的な姿勢を示している。