AIセキュリティ企業Aliceが1.4億ドル調達　「攻撃者視点」でモデルの脆弱性検査を自動化

AIの安全性評価を手がける米Aliceは8月25日、Apax Digital Fundsが主導する1億4,000万ドル（約210億円）の資金調達を発表しました。同社は「AIのトラスト・セーフティ・セキュリティ」を掲げ、大規模言語モデル（LLM）に対して、悪意あるプロンプトやエージェントタスクを大量に実行し、脱獄（jailbreak）やプロンプトインジェクションといった脆弱性を自動的に洗い出すサービスを提供しています。顧客にはAnthropic、Google、Cohereなど大手モデル開発企業が含まれます。

創業者は、SNSなど大規模プラットフォームで長年、不正利用やスパム対策に携わった経験を持ち、「何十億人規模のユーザーが技術をどう悪用するか」を見てきたと語ります。Aliceはその知見をAIモデルの世界に持ち込み、公開前に想定される攻撃パターンを先回りして検証する「レッドチーミング（模擬攻撃）」を自動化することを目指しています。

AI規制の議論が各国で進む中、企業側には「安全性テストをどこまでやったか」を示す説明責任が求められつつあります。Aliceは今回の調達で研究開発と人材採用を強化し、安全性評価プラットフォームを拡張するとしており、AIモデル開発の裏側を支える重要プレイヤーとして存在感を高めています。