英国AI安全研究所が最新評価結果を公表　「最先端モデルの能力とリスク」を政府に報告

英国政府のAI Safety Institute（AISI、AI安全研究所）が、9月7日付の議会向け声明で最新の活動状況を公表しました。AISIは、OpenAIやAnthropicなどが開発する「フロンティアAIモデル」（能力が最先端のAI）を実際にテストし、その危険性や悪用リスクを科学的に評価するために設立された政府機関です。

声明によると、AISIは開発企業から事前アクセスを受けたモデルを用い、サイバー攻撃支援、生物兵器や化学兵器の知識拡張、選挙・世論操作などのシナリオを専門家チームが検証していると説明しました。また、英国国家サイバーセキュリティセンター（NCSC）などと連携し、評価結果をもとに政府の政策立案や規制設計を支援する役割も強調されています。

同研究所は、今後も企業と協力して「モデルを一般公開する前」に安全性を確認する仕組みを整備していく方針です。米国やEUも同様の評価枠組みを模索しており、英国の取り組みは国際的なAIガバナンスにおける一つのモデルケースになりつつあります。