米Snowflakeはこのほど、NVIDIAの年次イベント「NVIDIA GTC」において、NVIDIAとの連携を拡大し、NVIDIAのフルスタックのアクセラレーテッドプラットフォームと、Snowflakeのデータクラウドのデータ基盤およびセキュアAIを統合すると発表した。

提携拡大の内容

提携拡大により、Snowflakeのユーザーは近い将来、NVIDIA NeMo Retrieverをデータクラウドの自社専有データで直接利用できるようになる。

NVIDIA NeMo Retrieverは、生成AIモデルを構築・カスタマイズ・デプロイするためのクラウドネイティブなフレームワーク。

NeMo Retrieverはチャットボットアプリケーションのパフォーマンスと拡張性を向上し、Snowflakeのフルマネージド大規模言語モデル(LLM)およびベクトル検索サービス「Snowflake Cortex(プレビュー段階の機能を含む)」で利用できるようになる。

また、ディープラーニングの推論アプリケーション向けの低遅延かつ高スループットのNVIDIA TensorRTソフトウェアを提供し、LLMによる検索機能を向上する。

NVIDIAのアクセラレーテッドコンピューティングが提供されるAI製品

NVIDIAのアクセラレーテッドコンピューティングはSnowpark Container Servicesのほか、「Snowflake Cortex LLM Functions(パブリックプレビュー)」「Snowflake Copilot(プライベートプレビュー)」「Document AI(プライベートプレビュー)」といったAI製品に搭載される。