Anthropicが「バイオ兵器悪用」を未然に阻止　最新AIモデルに生物分野の強力ガードレール

OpenAIのライバル企業Anthropic（アンソロピック）は、自社のAIモデルがサイバー攻撃や監視、さらには生物兵器につながり得る研究支援に悪用されそうになった事例を公表し、それらを事前に封じ込めたと発表しました。同社は、Claude（クロード）シリーズと呼ばれる会話型AIを提供しており、安全性研究を重視する企業として知られています。

今回の報告は、2025年から継続的に出している「AI悪用レポート」の最新号で、過去一年ほどの中で最も注目すべき事案をまとめたものです。特に、生物学の専門知識を持たない利用者が、AIの助けを借りて危険な病原体の設計や実験プロトコルを組み立てようとしたケースがありましたが、最新モデルでは関連する回答を自動的に制限し、詳細手順を出さないようガードレール（安全制御）が強化されたといいます。Anthropicは、こうした高度な悪用は日常的ではないものの、将来的な生物安全保障リスクを考えると、早い段階から検知・共有することが重要だと強調しています。