Snowflake、企業向けAIコストを最大3分の1に　「動的モデル経路選択」で最適なLLMを自動切り替え

クラウドデータ分析企業Snowflakeが、自社のAI基盤「Cortex AI Gateway」に新機能「動的モデルルーティング（dynamic model routing）」を追加しました。これは、ユーザーからのプロンプト（指示文）の内容に応じて、複数の大規模言語モデル（LLM）の中から最もコスト・性能バランスの良いモデルを自動選択する仕組みです。例えば、単純な要約や定型業務には安価な中小規模モデルを使い、長文の推論や高度な分析には高性能なフロンティアモデルを割り当てることで、全体の推論コストを最大3分の1まで削減できるとされています。企業側は個々のモデルAPIを直接管理する必要がなくなり、セキュリティ設定やログ管理もゲートウェイ側で一元化できるのが特徴です。一方で、どの場面でどのモデルが選ばれるのかがブラックボックス化しやすく、説明責任やコンプライアンスの観点からは「ルーティングのルール設計」そのものが新たなガバナンス課題になるとの指摘もあります。SaaSアプリや社内業務フローにAIを幅広く埋め込みたい企業にとって、コスト最適化と管理性を両立する代表的なアプローチとして注目が集まりそうです。