イエメン武装勢力、生成AIで兵器開発を試行　Anthropicが不正利用を公表

米AI企業Anthropic（アンソロピック）は、同社の対話型AIモデル「Claude（クロード）」が、中東イエメンのフーシ派支配地域のユーザーにより、ミサイルなど高度兵器の開発支援に悪用されかけていたと公表しました。フーシ派はイランと関係が深い武装組織で、紅海での船舶攻撃などで国際的な制裁対象となっています。

同社によると、問題のユーザーはミサイル誘導や推進システムに関する具体的な設計・最適化の助言を求めるプロンプト（AIへの指示文）を入力していました。Anthropicは内部のセキュリティ監視によりこれを検知し、アカウント停止と関係当局への通報を行ったといいます。同社は、危険な兵器開発関連の質問に対しては回答を拒否する「ガードレール（安全策）」を導入しているものの、高度な軍事知識と一般的な工学情報の線引きが難しく、継続的な安全強化が必要だと説明しました。

この事案は、生成AIが国家・非国家アクターによる兵器開発やテロに利用されるリスクが現実化しつつあることを示しています。各国政府や国際機関は、輸出管理やアクセス制限、監査義務など、デュアルユース（軍民両用）技術としてのAIガバナンスを急ぐ必要に迫られています。