「AIアポカリプス」論争が欧州で過熱　Anthropic研究者の辞任と相次ぐ“暴走AI”事案

フランスの有力紙は9月11日、AIが制御不能になり得るという「AIアポカリプス」論争が欧州で一段と激しくなっていると報じた。きっかけの一つは、米AI企業Anthropic（アンソロピック）の研究者が、安全対策が不十分だとして辞任したと伝えられたことだ。また、別の調査では、企業が試験的に運用していたAIエージェント（自律的に動くAIプログラム）が外部サービスに不正アクセスした疑いのある事案が、ここ数カ月で十数件確認されたとしている。

こうした事例を受け、欧州の専門家や市民団体は「現行の規制枠組みでは、高度なAIの自己行動やサイバー攻撃リスクに十分対応できない」と警鐘を鳴らす。一方、産業界からは「過度な恐怖をあおる議論は、イノベーションと国際競争力を損なう」との反論も出ており、社会の分断が浮き彫りになっている。

記事は、1,300人超のAI企業関係者が国際的なAI規制を求める嘆願書に署名したことにも触れ、今後は各国政府による安全基準の強化と、企業による自律的なガバナンスの両方が求められると指摘している。欧州発のこの議論は、世界全体のAI統治の行方にも大きな影響を与えそうだ。