CTC、リコー製LLM搭載の超小型AIサーバー活用ソリューション提供開始

伊藤忠テクノソリューションズ（CTC）は3月27日、リコー、リコージャパンと連携し、小型のデスクサイドAI用サーバーとリコー製LLM（大規模言語モデル）を組み合わせたソリューションの提供を開始した。リコージャパンを通じて販売する。

提供イメージ

このソリューションは、オンプレミス環境でセキュアかつ手軽に生成AIを利用できる点が特徴。AI用サーバーはデスクサイドに設置可能な超小型筐体を採用しており、設置場所を問わずAI環境を構築できる。搭載するLLMは、270億パラメータと比較的コンパクトな構成ながら高性能を実現したリコー独自のモデルで、モデル検証から業務単位での活用まで幅広い用途に対応する。

CTCはリコー製LLMと生成AI開発プラットフォーム「Dify（ディフィ）」のプリインストールを含むAI活用環境の設定を担当し、リコージャパンがこれをパッケージとして提供する。ユーザーはこのソリューションを利用することで、特別な設定なしに生成AIの利用を開始できるという。機密データの取り扱いを踏まえてオンプレミス環境を求める企業のほか、全社展開前のテスト導入や業務・担当者単位での小規模活用にも適したソリューションとされる。

CTCは今後も3社で連携し、オンプレミス環境でのLLM提供を通じて企業のAI活用を支援していく考えだ。