Anthropic CEO、AI開発の「減速」を提言　安全対策が追いつかないと警鐘

大規模言語モデル「Claude」シリーズで知られる米AI企業Anthropic（アンソロピック）のCEO、ダリオ・アモデイ氏が、先端AIの開発ペースを意図的に落とすべきだとする提案を公表した。同氏は講演と長文エッセイで、現在の開発スピードでは、安全性評価やガードレール（悪用防止の仕組み）が追いつかず、最悪の場合「ネット全体を乗っ取るような自律エージェント（自動で行動するAI）」が数カ月以内に出現しうると警告した。<br><br>アモデイ氏は、各社が一定期間ごとに能力評価と安全監査を義務付ける「ペース配分」の枠組みを企業と政府が共同で設計するべきだと主張。これは、AI企業の自己判断に依存している現状を改め、政府による検証や事故報告を組み込んだ新たなルール作りを求めるものだ。一方、AIの急成長が雇用や国際競争力を押し上げている現状から、業界内には「過度なブレーキはイノベーションを損なう」との反発も根強く、議論は一段と激しくなりそうだ。