OpenAIがユーザー殺害予告をFBI通報　チャット履歴とプライバシー保護の境界線はどこに

米AI企業OpenAIが、自社の対話型AIサービス「ChatGPT（チャットジーピーティー）」上で元恋人の殺害をほのめかすメッセージを送っていた米投資銀行ゴールドマン・サックスの元アナリストを連邦捜査局（FBI）に通報していたことが報じられました。その後、男性は脅迫などの容疑で逮捕され、有罪答弁に基づく司法取引により服役は回避したものの、チャット履歴が証拠として法廷記録に残る事態となりました。事件は未然に重大犯罪を防いだ例として評価される一方で、「AIとの会話がどこまで監視・通報され得るのか」という根本的な疑問を投げかけています。

OpenAIなど大手プロバイダーは、利用規約の中で違法行為や自傷他害の恐れがある内容を検出した場合に人間の担当者が確認し、必要に応じて当局へ通報する可能性を明記しています。しかし、利用者の多くは細かな条項を読み込んでおらず、今回の事件を通じて「AIは事実上の『通報義務者』なのか」「どのレベルの危険発言で通報されるのか」といった懸念がSNS上で噴出しています。今後、AI規制やプライバシー保護の議論において、犯罪抑止と監視強化のバランスをどう取るかが、企業と政府双方にとって大きな論点となりそうです。