GDEPソリューションズはこのほど、開発中の新製品「G-RAGrid(ジー・ラグリッド)」および「G-RAGent(ジー・ラジェント)」について発表した。
-
LLM/RAG シリーズ独自開発ツール
「G-RAGrid」は、マルチGPU環境においてGPU資源を最大限に活用するための最適化基盤として開発中。検証フェーズにはOllama、本番運用フェーズには高効率推論フレームワークvLLMをロードバランシングで運用する。
Blackwell世代の大容量GPUメモリを活かし、LLMに対する複数処理を効率良く並列実行することで、同時利用ユーザーの増加にも対応できる点が特徴。
さらに、処理需要が増した場合には、ロードバランス機能によってGPUを追加するだけでシームレスにスケールアップが可能となっている。
「G-RAGent」は、自然言語による指示で自律的に業務を遂行するローカル環境動作のAIエージェント。
LLMの思考能力を活用し、社内データを参照しながらOffice系ドキュメントの生成・蓄積した社内資料の解説や要約を、安全なローカル環境下で実行することを目指している。
同社では、両製品と既存の「G-RAGon」を合わせた3製品体制により、ローカルLLM/RAG活用を「構築」から「運用」まで一貫して支援するソリューション群として展開する。
