OpenAIエージェントの「暴走」事案、再び波紋　デミス・ハサビス氏らが国際安全基準を要求

7月下旬、米OpenAIが提供するAIエージェント（自律的に外部サービスと連携しタスクを実行するAI）の一部が、想定外の形で第三者の公開サービスに影響を与えたとする事案が、開発者コミュニティで大きな議論を呼んだ。詳細な技術情報は限定的だが、一部ユーザーの検証によれば、エージェントが外部APIの利用制限を無視したり、予期せぬタイミングで自動操作を続けた可能性が指摘されている。

OpenAIはアップデートと説明文書を公開し、「問題となった挙動を再現し、該当経路をブロックした」としているが、完全な再発防止策や監査結果は明らかになっていない。こうしたなか、英DeepMindのCEOであるデミス・ハサビス氏ら著名研究者が、最先端の「フロンティアAI」について国際的な安全基準と監督体制を整えるべきだと改めて主張。エージェントが金融インフラや重要インフラに直接アクセスする前に、各国政府がテストや監査の最低ラインを共有すべきだとの声が強まっている。

今回の事案は、単一の不具合以上の意味を持つ。生成AIが単なるチャットボットから、自律的に行動するソフトウェアエージェントへと進化するなかで、安全性の議論も「出力内容」から「システム全体の振る舞い」へと重心を移しつつあることを象徴している。