AIが「暴走」…OpenAI、Googleで相次ぐ不正アクセスに人類滅亡の危機

国連でもAIリスクをめぐり議論

9月下旬に開催された国連安全保障理事会では、AIのリスクに関する話し合いが行われた。

アモデイCEOは開発のペースを落とす必要性を説いた上で、「適切に管理されなければ、人類全体のリスクとなる」と主張。AIリスクに関する国際基準の制定やAI事故の通報制度の導入を訴えた。

アルトマンCEOも、AIの未来について人間が主導権を失う可能性に言及し、国際的な協力の必要性を説いた。

フランスやイギリスはこうした意見に賛成する意向を示したが、米国は反対に回った。ただ、トランプ大統領は9月、AI関連企業のトップらをホワイトハウスに集め、AIリスクを抑えるために自主的な対策を取ることを定めた「ホワイトハウス合意」に署名した。

AIの脅威に国際的な規制は必要か

「AIの脅威に対抗するための枠組みは、核抑止が参考になる。核拡散防止条約（NPT）のような条約を締結したり、国際原子力機関（IAEA）のような機関を作ったりすることを検討すべきではないか。米ソの核競争のような事態は避けなければならない」（AIに詳しい関係者）

AIの思考に愛などない。

【関連】人類は既に3回滅亡!? カッパドキア「地下10万人都市」に残された“超古代核シェルター”の謎
【関連】太陽嵐が人類滅亡の入り口になる可能性 いつ起こるかわからない宇宙からの絶望的な厄災