リコージャパンは4月7日、オンプレミス環境での生成AI活用を導入から運用まで支援する「RICOH オンプレLLMスターターキット」を提供開始することを発表し、記者説明会を開いた。
RICOH オンプレLLMスターターキットの提供開始の背景
近年はさまざまな業務への生成AI活用が検討されているが、適切なAI活用には専門人材の確保や開発工数および導入費用への対応など、課題も多い。リコージャパンが顧客向けにAIソリューションを提案する中で、セキュリティやプライバシー、ガバナンスなどの観点から、オンプレミスや自社データセンターなど社内専用環境でAIを利用したいという意見をよく聞いたという。また、LLMを導入するだけでなく、業務内で利用を浸透させるためのサポートも求められたそうだ。
そこでリコージャパンは、オンプレミスでセキュアに生成AIを活用するために必要な環境構築、導入、運用支援までをパッケージで提供する「RICOH オンプレLLMスターターキット」の提供を開始する。
同サービスは、オンプレミスのGPUサーバに、リコー製700億パラメータのLLM、生成AI開発プラットフォーム「Dify(ディファイ)」、その他AI動作に必要なソフトウェアをプリインストールし、オンプレミスLLM動作環境を構築して提供するというもの。
同社が導入時の支援から運用支援まで対応するため、社内にAIの専門人材がいない企業でも生成AIの業務活用を開始できるとのことだ。スターターキットに含まれるDifyはノーコードで生成AIアプリケーションを開発可能であり、ユーザーが自社の業種や業務に合わせたアプリケーションを作成できる。
リコー製LLMやDifyなど必要なソフトウェアをプリインストールしたGPUサーバに加え、導入時の教育などを含めたイニシャルコストは1500万円(税別)~。ランニングコストは年額約100万円(税別)~。
RICOH オンプレLLMスターターキットの特徴
同社は「RICOH オンプレLLMスターターキット」の提供開始に伴い、オンプレミスLLMの動作環境の構築や機器の設置、導入時の教育に加え、メールでの問い合わせサポートやLLMモデルの追加情報提供など、継続した運用支援を提供する。
また、希望する企業には、各社が持つデータを学習させるファインチューニングの個別対応(別途有償)も可能とのことだ。これにより、業種や業務内容によりフィットした生成AIの利用が期待できる。
リコージャパンのデジタルサービス企画本部の本部長である宮本裕嗣氏は「オンプレミス型で提供するため、社内ネットワーク環境下にGPUサーバを設置し、LLMをローカルで利用できる。プロンプトを含むすべての情報を社内ネットワーク内で処理するため、セキュリティを確保しつつ安心して利用できる」と説明した。
APIを介したクラウド型LLMの利用は従量課金制が一般的だが、同サービスはオンプレミスで稼働するためLLM利用に応じた従量課金は発生しない。
リコージャパン AIサービス事業センター長の児玉哲氏は、サーバ筐体のメーカーは非公表としながらも、「当社はハードウェアの販売も手掛けてきた実績がある。他社と比較して優位な購買形態を実現していると考えており、スピーディな導入を実現する」と説明していた。