Anthropicがカリフォルニア州知事に提言　「危険なAIモデルは裁判所が差し止め可能にすべき」

米AIスタートアップのAnthropic（アンソロピック）は、カリフォルニア州ニューサム知事宛ての書簡で、「深刻なリスク」をもたらすAIモデルの公開について、州当局が裁判所に差し止めを求められる制度を導入すべきだと提言したことが報じられました。書簡は10月15日付とされ、10月28日に内容が公になりました。

Anthropicは、強力な汎用AI（いわゆるフロンティアモデル）が悪用された場合、社会的・経済的な損失が極めて大きくなると警告しつつも、包括的な「AI全体の停止」より、リスクの高い特定モデルや特定ユーザーへのアクセスをピンポイントで止める方が効果的だと主張しています。また、問題のあるAIエージェント（自律的に行動するAIソフトウェア）を無効化する権限など、より細かな介入手段を挙げています。

カリフォルニア州では既に、職場での自動化された監視・評価ツールを規制する「No Robo Bosses Act」など、AI関連の法整備が進んでいます。今回の提言は、州レベルでフロンティアAIの安全性をどう担保するかという議論を一段と押し上げる可能性があり、今後の立法プロセスや他州への波及が注目されています。