OpenAIの次期モデル「Astra」、サイバー能力が“臨界レベル”に　安全対策強化で一般公開を延期

米OpenAIは9月1日、開発中の次期大規模モデル「Astra（アストラ）」について、サイバーセキュリティ分野で自社史上最も高い能力を持つため、追加の安全対策が必要だと発表しました。Astraは、既存の公開モデルより多くのソフトウェア脆弱性（セキュリティ上の欠陥）を自動的に見つけ出せるとされ、同社は社内評価で「Critical（臨界）」レベルのサイバー能力を持つ最初のモデルと位置づけています。これにより、OpenAIはモデルの広範な公開を遅らせ、まず選定されたパートナーや研究機関に限定提供する方針です。

同社は一部のトレーニングやサイバー評価を一時停止し、攻撃用途への悪用リスクを抑えるためのガードレール（利用制限）の設計を進めてきました。その一方で、Astraの機能を制限することで、政府機関や企業が脆弱性診断に使える「善良な用途」も制約されるジレンマが指摘されています。高性能なサイバーAIをどこまで開放すべきかという議論は、今後各国規制当局も巻き込んだ大きな論点になりそうです。