NTTデータは1月26日、NTT版LLM（大規模言語モデル）「tsuzumi」と連携した文章検索・回答生成システム「LITRON Generative Assistant」（以下、LITRON GA）の新サービスを発表した。4月から提供を開始する。

  • LITRON Generative Assistant動作イメージ（例：旅行代理店のユースケース）

    LITRON Generative Assistant動作イメージ（例：旅行代理店のユースケース）

新サービスの概要

新サービスでは、日本語の回答精度が高いtsuzumiと最新版のLITRON GAを組み合わせて、より業務に特化した日本語の回答文章を生成する。閉域環境でも安全かつ高精度な文章検索・回答生成システムを活用できるため、会社の重要情報を扱うユースケースにも適用可能で、効率的な業務運営とセキュリティーリスクの低減が見込まれる。

軽量なtsuzumiを採用することでマシンリソースを大幅に節約でき、大きな学習・推論環境を必要とするLLM環境のコストを従来に比べて1／20以下に低減することが可能。また、tsuzumiに業務固有の情報を学習させることで、特定の用語や業務知識を前提とした回答を生成できる。

活用ユースケース

業務適用例としては、金融商品のレコメンド支援、患者ごとの治療計画策定支援、行政サービス窓口における問い合わせ応答支援、自動車販売店におけるパーソナライズされた提案書の作成支援などがある。

NTTデータは、同サービスの提供にあわせて、生成AIに関するコンサルティング、データサイエンティストによる支援、システム構築・運用、人財育成を一貫して提供する。

同社は今後も多様なLLMやマルチモーダルAI（視覚読解、音声認識など）への対応、生成AI活用コンサルティングサービスの提供、tsuzumiの学習・推論環境も含めた顧客専用の生成AI環境の提供、NTTデータの他サービス上での生成AI機能・サービスの提供といった取り組みを通して、生成AI業務利用を推進していく構えだ。