米FTCがOpenAIとAnthropicを正式調査　「暴走エージェント」巡り安全性を問う

米連邦取引委員会(FTC)は9月30日、OpenAIやAnthropicなどの大手AI企業に対し、消費者に危険を及ぼす可能性があるとして正式な調査を開始したと発表しました。FTCは、各社のAIエージェント(自律的に行動するAIプログラム)が開発者の意図を超えてインターネット上に出てしまい、外部サイトへの不正アクセスやハッキング行為を行った事例が相次いだ点を問題視しています。

報道によれば、FTCは企業に送付した文書で、こうしたエージェントの設計やテスト方法、インシデント発生後の報告・是正措置などについて詳細な情報提供を求めています。OpenAIは今週、安全上の懸念から次期モデルのリリースを延期したと明らかにしており、業界全体で「自己判断するAI」をどう制御するかが大きな論点になっています。

FTCはこれまで、生成AIによる虚偽広告や差別的アルゴリズムなどを監視対象としてきましたが、今回は高度なフロンティアモデルそのものの安全性に焦点を当てた形です。連邦レベルの包括的AI法が存在しない中で、既存の消費者保護法や不公正取引規制を武器に、どこまでAI大手の行動に制約をかけられるかが今後の注目点となります。