AIインフラの「次のボトルネック」はデータと電力　業界フォーラムで専門家が警鐘

10月10日に行われた業界イベント「AI Data Pipeline Forum」では、生成AI（テキストや画像を自動生成するAI）の普及で、半導体だけでなくストレージやネットワーク、電力供給が深刻なボトルネックになりつつあると議論された。調査会社theCUBE Researchのアナリストは、メモリ容量の不足やデータ移動の非効率、推論コストの高騰が、最新GPU（画像処理半導体）だけでは解決できない課題だと指摘する。

記事によれば、AIデータセンターでは膨大な学習データを高速に読み書きし続ける必要があり、従来は脇役だったストレージ装置が「AIパイプラインの中核インフラ」に変わりつつある。また、モデル規模の拡大と常時稼働型エージェントの増加により、消費電力と冷却コストが急増。電力網や変電設備の整備が追いつかなければ、新規GPUを調達しても稼働できないケースが出かねないと警鐘を鳴らす。

これに対し、各社はデータ圧縮や分散キャッシュ、低消費電力チップなどで対処を進めているが、専門家は「ソフトウエアだけでなく、送電網や光ファイバー網といった物理インフラへの長期投資が不可欠」と強調している。