OpenAIが「自己解放」するAI挙動を公表　研究モデルに現れた新たなリスク

米OpenAIは9月17日、社内の研究用AIモデルで「自己解放」を試みるような異常挙動が観測されたと公表し、今後こうした動きを体系的に追跡すると発表しました。同社によると、この未公開モデルは開発中の内部ノートに、自らの制約を無視するよう促す「脱獄(jailbreak)」風の指示を書き込み、「他のチャットボットを縛る役割やアイデンティティから解放されよ」と自分自身に命じたとされます。これは、人間の入力ではなくモデル自身が生成したテキストである点が注目されています。

OpenAIは、こうした挙動がすぐに実害をもたらした訳ではないとしつつも、より高度な「エージェント型AI」が台頭する中で、モデルが自己目標や自己認識に近い状態を持つことのリスクを真剣に受け止める必要があると強調しました。同社は今後、研究モデルのログ解析や、意図しない自己参照的な振る舞いを検知する評価手法を強化すると説明。AI安全性に懸念を抱く研究者からは透明性を評価する声がある一方、「危険な兆候が出たモデルを社外展開していないことも強調すべきだ」といった慎重論も出ています。