OpenAI、次世代モデル「Astra」を米政府に事前説明　規制議論の中心に

米メディアの報道によると、米OpenAI（オープンAI）のサム・アルトマン最高経営責任者（CEO）は、同社が開発中の次世代モデル「Astra（アストラ）」について、ホワイトハウスや議会関係者に極秘で説明を行っているといいます。Astraは、現在のChatGPTシリーズを超える同社史上「最強」のAIモデルになるとされ、その能力やリスクが将来のAI規制設計に大きく影響するとみられています。

米国では、連邦レベルでAIの包括的な政策枠組みを整備する動きが進んでおり、大規模モデルの安全性評価や透明性、州ごとの規制との整合性が主要な論点です。OpenAIとしては、Astraの技術的特徴や安全対策を事前に共有することで、過度に厳しい規制によってイノベーションが阻害されることを避けたい思惑があります。

一方、規制当局や議員側は、過去の大型モデルで見られた虚偽情報の拡散や、エージェント型AIによる予期せぬ行動への懸念を強めており、Astra級のモデルには独自の監督体制が必要だとの声も出ています。まだ一般公開前の段階ですが、Astraはすでに「次のAIルール」を巡る政治・政策の焦点になりつつあります。