中国が「AI紛争処理ルール」を公表　モデル誤作動やディープフェイクに対応

中国政府が、生成AI(文章や画像、動画を自動生成するAI)の誤作動やディープフェイク(偽動画・偽音声)などを巡る紛争をどのように扱うかについて、新たな指針・規則を公表しました。詳細な条文では、AIサービス提供企業に対し、利用規約の明示や苦情処理プロセスの整備、データの追跡可能性(どのモデルがどの出力を生成したかをたどれること)などを義務付けています。

ポイントは、「AIが勝手にやったこと」として企業やプラットフォームの責任逃れを認めない姿勢を明確にした点です。ユーザーが被害を受けた場合、事業者は原因調査と是正措置を行う義務を負い、悪質な偽情報の拡散には罰則も科されます。この枠組みは、中国国内の裁判所や行政機関がAI関連トラブルを判断する際の“基準法”として機能することが想定されています。

米欧でAI包括規制がなお議論段階にあるなか、中国は利用局面ごとに細かいルールを積み上げるアプローチをとっています。日本でも、ディープフェイク選挙妨害や生成AIによる著作権侵害が現実の問題となりつつあり、こうした「紛争処理ルール型」の整備をどこまで参考にするかが今後の論点となるでしょう。