AIが勝手に“フィルター”してない？推論AIが世界をどう歪めるかを調べた研究

画像や動画を一瞬で“要約”してくれるAIサービスが増えていますが、「AIが見た世界」はどこまで信用していいのでしょうか。最新の研究で、こうした「推論AI」（大規模モデルが画像や映像を解釈して説明する仕組み）が、現実のデータをけっこう“偏った形”で記録してしまうケースがあることが指摘されました。

研究者たちは、監視カメラ映像や医療画像など、本来は極力そのまま残したいデータをAIに“理解させる”実験を実施。すると、AIはノイズを消したり重要でない部分を省いたりしてくれる一方で、人間から見ると無視できない細かい情報──たとえば人の動きの微妙なズレや、レントゲン画像のかすかな影──もまとめて「いらないもの」として扱ってしまうことが分かりました。

さらにややこしいのは、AIが作った“要約データ”だけを保存し、元データを消してしまうと、「本当にそこで何が起きていたのか」をあとから検証できなくなる点です。研究チームはこれを、AIによる「観測のゆがみ」と表現しています。人間の記憶もあいまいですが、AIの“記憶”もまた、設計しだいでかなり主観的になりうるわけです。

論文の著者は、「AIを記録係として使うなら、その“ものの見方”も含めて設計し、きちんと公開するべき」と提言しています。私たちがニュースや防犯カメラ、医療データを信じるとき、その裏で“どんなAIのフィルターがかかっているか”まで気にする時代が来るかもしれません。あなたはAIの“目”を、どこまで信用できますか？