米議会で「連邦AI安全委員会」構想が前進　ハイリスクモデルの監督強化へ

米国の超党派議員グループが、連邦レベルでAIの安全性を監督する新組織「AI安全委員会（仮称）」の設置法案を準備していると、ワシントン発の報道が伝えています。大規模言語モデルや自律エージェント（自ら判断して動くAIシステム）など、ハイリスクとみなされるモデルについて、開発・運用の審査や監査、事故報告の義務付けを行う構想です。

案では、委員会は独立規制機関として設置され、航空機事故を扱う国家運輸安全委員会（NTSB）に近い役割を担うとされています。具体的には、重大インシデントの調査や、モデル評価のベンチマーク策定、政府調達の基準作りなどが想定されており、既存のFTC（連邦取引委員会）やNIST（標準技術研究所）の取り組みを補完する位置づけです。

一方で、産業界からは「イノベーションを阻害する過剰規制になる」との懸念も出ており、11月の米大統領選を前に議会での本格審議がどこまで進むかは不透明です。とはいえ、連邦レベルで恒久的なAI監督機関を設ける議論が、これまでのガイドライン中心の政策から一歩進んだ段階に入ったことは確かだと言えます。