カリフォルニア州が全米初の包括AI安全法を成立　「第三者評価」を義務化へ

カリフォルニア州のニューサム知事は2026年9月9日、人工知能（AI）システムの安全性確保を目的とした全米初の包括的な州法に署名した。新法は、特に「フロンティアモデル」と呼ばれる高度な生成AIについて、独立した第三者機関による安全性評価（レッドチーミング＝擬似攻撃テストなど）を義務づける点が特徴だ。違反した企業には制裁金や事業制限が科される可能性がある。

この法律は、州が設置したAIに関する有識者委員会の勧告を法制化したもので、州政府自身によるAI利用の指針づくりや、差別・プライバシー侵害リスクの監視も盛り込む。生成AIが選挙や医療など重要分野で悪用される懸念が高まる中、州レベルで「安全性とイノベーションの両立」を図る試みとして注目されている。

一方で、どのようなモデルが規制対象の「高リスクAI」とみなされるのか、評価基準の細部は今後のルール策定に委ねられており、シリコンバレーのAI企業にはコンプライアンス負担の増加を懸念する声もある。連邦レベルでの包括的AI法制が見通せない中、今回のカリフォルニア法が事実上の全米標準になる可能性も指摘されている。