米上院でAI包括規制案が前進　「重大リスクの事前軽減」を企業に義務付けへ

米上院の超党派グループが、AI（人工知能）企業に対し「重大な既知リスクを事前に軽減する義務」を課す包括法案の骨格で合意しつつあります。これは、生成AIモデルや自律型エージェント（自動で判断・行動するAI）による安全保障・サイバー・社会的被害への懸念が高まる中で進む規制論の最新動向です。

報道によると、協議中の案では、高度なAIシステムを提供する企業に対し、モデルの設計段階からリスク評価と緩和策を行い、その結果を政府機関に報告する義務を課すことが検討されています。また、既に判明している重大な危険性を放置した場合には、罰則の対象とする方向も示されています。一方で、過度な規制がスタートアップのイノベーションを阻害するとの反発もあり、適用対象を「フロンティアモデル（最先端の大規模モデル）」に限定すべきだとの意見も強いとされています。

この法案は、2026年内に成立し得る数少ない連邦レベルのAI規制と見なされており、成立すれば、米国発の大手AI企業だけでなく、米市場で事業展開する海外企業にも大きな影響を与える可能性があります。EUのAI規則や中国のアルゴリズム規制と並び、世界のAIガバナンスの方向性を決める重要な一歩となりそうです。