米FTCがAI精度“意図的劣化”を問題視　企業に向けた新方針案を公表

米連邦取引委員会（FTC）は8月27日、AI（人工知能）企業向けの新たな政策声明案を公表し、「精度を下げるようAIを操作する行為」が消費者保護や競争法上の問題になり得ると警告しました。FTCは、企業が規制や批判を避ける目的で、モデルの一部機能を密かに弱めたり隠したりする行為を想定しており、利用者や規制当局を誤解させるような運用は不公正な商慣行に当たる可能性があるとしています。

声明案では、生成AI（文章や画像を自動生成するAI）を含むあらゆるAIシステムが対象で、モデル提供企業だけでなく、それを組み込んだサービス事業者も監視対象になり得ると明記されました。また、企業が「安全性向上」や「誤情報対策」を名目に精度を下げた場合でも、その目的や影響を透明に説明しなければならないと指摘しています。

FTCは今後、パブリックコメント（一般からの意見募集）を経て正式な方針として採択するか検討します。米国ではホワイトハウスや議会によるAI規制議論が続くなか、独立規制機関であるFTCが具体的な執行基準づくりに踏み込んだことで、企業側にはモデル設計や開発プロセスの「説明責任」が一段と重くのしかかりそうです。