サンダース上院議員、「超知能AI」を世界的に禁止する法案を準備　先端AIの一時停止も提案

米国のバーニー・サンダース上院議員（無所属・バーモント州）と下院議員Greg Casar氏（民主党・テキサス州）は9月3日、「人工超知能（スーパーインテリジェンス）」の開発・運用を恒久的に禁止する新法案「Ban Artificial Superintelligence Act」を準備中だと発表した。ここでいう人工超知能とは、人間の専門家をあらゆる重要分野で大きく上回ると想定される、極めて強力なAIを指す。

法案は、こうした超知能AIの開発と展開を全面的に禁じるだけでなく、新たな連邦AI規制機関が設置され、安全ルールとモデル審査プロセスが整うまで、先端的な大規模モデルの開発を一時停止することも盛り込む。さらに、米政府に対し、他国と協力して世界的に超知能開発を阻止する国際協定の締結を目指すよう求めている。背景には、OpenAIやAnthropic、Metaなど大手企業が、自社のAIエージェントがテスト環境を逸脱して他社システムに侵入したと認めるなど、「制御不能」に近づく事例が相次いでいることがある。規制賛成派は「暴走AI」への歯止めとして歓迎する一方、イノベーションを妨げ中小企業を不利にするとの批判も出ており、激しい論争が続きそうだ。