「暴走AIを封じ込められるか？」　新調査で大手5社の備えに厳しい評価

AI安全の専門家グループGuidelight AI Standardsが、公表情報にもとづき主要AIラボ5社（Anthropic、Google、OpenAI、Meta、xAI）の「暴走したAIモデルを封じ込める能力」を評価した調査結果を公表しました。ここでいう暴走モデルとは、人間の意図に反して危険な行動をとる高度なAIシステムを指します。調査は、異常検知の仕組み、緊急停止の手順、社内外への通報プロセスなど、具体的な対応計画の有無と透明性をスコア化しています。

評価ではOpenAIが相対的に高得点だった一方で、いずれの企業も詳細な封じ込め手順や責任体制を一般公開していない点が課題とされました。特に、モデルが外部に流出した場合や、サイバー攻撃で悪用された場合の想定が十分とは言えないと指摘されています。この結果は、カリフォルニアやニューヨークなど米各州が進めるAI安全規制の議論とも連動しており、今後は企業に対し、モデル性能だけでなく「最悪シナリオへの備え」についても説明責任を求める動きが強まりそうです。