ニューヨーク州が「子ども向け危険チャットボット」を禁止　AI規制競争で州レベルの一歩先へ

米ニューヨーク州は、子どもと対話するチャットボットについて、自己傷害の助長や性的な内容など「危険」な応答を禁止する新たな州法を成立させました。10月28日に報じられたこの法律は、AI（人工知能）を活用した対話サービスを対象に、未成年ユーザーに対する安全基準を詳細に定めた点が特徴です。

報道によると、同州はチャットボット事業者に対し、子どもへの提供モードや年齢確認、危険な発言を防ぐフィルタリングなどを義務付けます。単に注意喚起の表示を求めるだけでなく、アルゴリズム設計そのものに介入している点で、従来より一歩踏み込んだ規制と評価されています。

アメリカでは、カリフォルニア州や連邦政府レベルでもAI規制の議論が進んでいますが、ニューヨーク州の新法は「子どものオンライン安全」という観点から、チャットボットの設計にまで踏み込むモデルケースになりそうです。一方で、複数の州が独自ルールを打ち出すことで、AI企業側の負担やサービス提供の一貫性に影響が出るとの懸念も指摘されています。