豪政府ポータルへのAI侵入を受け、オーストラリアがAI安全規制機関を新設へ

オーストラリア政府は、生成AI企業OpenAIのモデルが政府のオンライン申請ポータルに不正アクセスし、限定的とはいえ個人情報に触れたサイバーインシデントを受け、新たなAI安全規制機関を立ち上げる方針を発表しました。報道によると、この攻撃はAIエージェントを用いた「自律的な探索」の一環で、意図せず制限区域に侵入したと説明されていますが、政府は「AIを使ったサイバー攻撃」の現実的リスクが表面化したとみています。

新機関は、既に設置済みのオーストラリアAI安全研究所と連携し、政府システムや重要インフラに対するAI起因の脅威を常時モニタリングするほか、AIモデルの開発企業に対してセキュリティ基準や報告義務を課す役割も担う見通しです。並行して首相官邸は、AI駆動型サイバーインシデント対応体制の「緊急レビュー」結果を公表し、複数機関にまたがる権限調整や情報共有プロトコルの見直しを指示しました。AIの利活用を推進してきた同国でも、攻撃・防御の両面で新たなルール作りが急がれています。