独Liquid AIが新ドラフトモデル「LFM2.5‑VL‑DSpark」を公開　推論高速化でマルチモーダルAIを軽量化

スタートアップ企業Liquid AIは、独自のマルチモーダル(画像とテキストを同時に扱う)モデル「LFM2.5‑VL‑3B」の推論(回答生成)を高速化するための新ドラフトモデル「LFM2.5‑VL‑DSpark」を発表しました。これは「スペキュレーティブ・デコーディング」と呼ばれる手法に特化した小型モデルで、本番モデルの前段で候補トークン(単語断片)をまとめて予測し、最終モデルが一度に検証することで全体の処理時間を短縮する狙いがあります。

発表によると、DSparkは視覚と言語の両方を扱える小型ビジョン・ランゲージモデルとして設計されており、LFM2.5‑VL‑3Bと組み合わせることで、高負荷なGPU環境を用いずに、より低コストで画像理解やチャット回答を提供できるとしています。こうしたドラフトモデル戦略は、大規模言語モデル(LLM)の推論コストを抑える有力なアプローチとして、各社が研究・実装を進めている分野です。

Liquid AIは、研究者・開発者向けにモデルの詳細やベンチマーク結果を公開し、オープンソースコミュニティでの検証と改良を促しています。クラウドコストの高騰が課題となる中、推論効率を高める技術は、生成AIサービスの料金や、エッジデバイス上でのAI実行可能性に直接影響するため、日本企業にとっても注視すべきトレンドと言えます。