OpenAIとCloud Security Allianceが「モデル窃取」攻撃を公表　1.6万超の不正クエリを中国Moonshot AIに帰属

米OpenAIとクラウドセキュリティ団体Cloud Security Alliance（CSA）が、同社モデルに対する「モデル抽出攻撃（model extraction）」の調査結果を公表しました。モデル抽出攻撃とは、膨大なクエリ（問い合わせ）を投げることで、外部から大規模言語モデルの振る舞いを模倣しようとする行為を指します。今回の報告では、推論ログの分析から1万6,000件以上の不審なクエリが特定され、その多くが中国のAI企業Moonshot AIに関連する開発者やインフラから送信されていたとされています。

OpenAI側は、この行為が自社モデルの安全性や競争上の機密を侵害する可能性があるとして、IPブロックやレート制限といった技術的対策を強化したと説明しています。一方で、Moonshot AI側の正式なコメントはまだ伝えられておらず、事実関係や意図を巡る議論が続きそうです。今回の事案は、フロンティアAI（最先端大規模モデル）を巡る国際的な技術競争が、サイバーセキュリティや産業スパイの領域にも波及していることを象徴するケースといえます。各社のAPIログ監査や異常検知の重要性も、改めて浮き彫りになりました。