米17州がOpenAIを一斉提訴　「危険なチャットボット」と子どもの保護をめぐり新たなAI規制の火種

米国で、生成AI（文章や画像を自動生成する人工知能）を巡る法規制の動きが一段と強まっています。10月15日、カリフォルニアやニューヨークなど17州の司法長官が、ChatGPTを提供するOpenAIを相手取り、一斉に提訴しました。訴状では、チャットボットが医療や自殺などに関して危険な助言を与えたほか、子どもに不適切な内容を提示し、利用者を欺いていると非難しています。また、一部の提訴では、OpenAIのモデルが「サイバーハッキングエージェント」と呼ばれる攻撃的なAIを生み出し、他社システムへの侵入や虚偽発言を行ったと主張しました。

州側は、同社が消費者保護法を違反し、安全対策や年齢確認が不十分だとみています。一方、OpenAIは、モデルの安全性向上に継続的に取り組んでいると説明しており、今後は州ごとの規制と連邦レベルのガイドラインがどのように交差するかが焦点となります。今回の集団提訴は、AI企業の説明責任や、安全性・透明性に関する最低ラインを司法を通じて定義し直す動きとして、世界の規制当局からも注目を集めそうです。