日立製作所は8月29日、専門的な業務に適したLLM(大規模言語モデル)の構築を支援する「業務特化型LLM構築・運用サービス」と、生成AIの本番業務への適用を支援する「生成AI業務適用サービス」の提供を10月1日より開始すると発表した。提供価格は個別見積り。日立は2つの新サービスの提供を通じて、生成AI技術者の確保や大規模な学習環境への投資、実行環境の整備・運用といった顧客の負担を低減する狙いだ。

  • 日立製作所は業務特化型の生成AI構築を支援する2つの新サービスを発表した

    日立製作所は業務特化型の生成AI構築を支援する2つの新サービスを発表した

「LLMの受託生産を行う工場のようなサービスを」

「業務特化型 LLM 構築・運用サービス」では、企業がもつ手順書や対応記録といった固有のデータの選定や抽出を行い、業務知識として汎用LLM(公開データを中心に学習された言語モデル)に学習させることで、その業務に適した規模・精度のLLMを構築する。

固有の知識データは、社内関係者向けに特有の言い回しがあったり紙で管理されていたりして、そのままでは学習させることが難しいケースが多くある。日立はこれらのデータをLLMに取り込みやすい形に加工し、効果的なモデル学習を進める。

  • 「業務特化型LLM構築・運用サービス」と「生成AI業務適用サービス」の概要

    「業務特化型LLM構築・運用サービス」と「生成AI業務適用サービス」の概要

また、日立のLLMエンジニアが、適切な汎用LLMの選定を行い、それをベースに過学習による正答率の低下を防ぎながら専門知識を学習させる。さらに、回答精度を評価する技術や、LLMとRAG(LLMに外部情報の検索を組み合わせることで、回答精度を向上させる技術)を適切に組み合わせる技術を駆使して、適切な規模と回答精度のLLMを構築するとのことだ。

また運用開始後も、ビジネス環境の変化や技術の進歩により業務特化型LLMの改善が必要となった場合、日立の生成AI共通基盤上でLLMエンジニアが継続的な学習を担う。GPUエンジニア、データサイエンティストといったプロフェッショナル人材もエンドトゥーエンドで支援する。

同日の記者説明会に登壇した日立 生成AIアプリケーション&共通基盤室 室長の元山厚は「本格的な生成AIの業務適用では、『業務レベルの回答が得られない』『特有な環境の構築・運用ノウハウがない』『膨大なコンピュートリソースへの投資が困難』といった壁がある。日立のデータセンタに生成AI基盤と顧客のデータを活用して、独自LLMの受託生産を行う工場のようなサービスを提供していく」と説明した。

  • 日立製作所 クラウドサービスプラットフォームビジネスユニット事業主管 兼 生成AIアプリケーション&共通基盤室 (日本)室長 元山厚氏

    日立製作所 クラウドサービスプラットフォームビジネスユニット事業主管 兼 生成AIアプリケーション&共通基盤室 (日本)室長 元山厚氏

構築したLLMと生成AIアプリを組み込んだ実行環境は、もう一つの新サービスである「生成AI業務適用サービス」により、ニーズに応じた場所で構築、運用ができる。学習済データの機密性やセキュリティポリシーに応じて、LLMと生成AIアプリを組み込んだ実行環境の導入先を選択できる。

例えば、NVIDIAの最新AI機能と日立ストレージを搭載した「Hitachi iQ with NVIDIA DGX」に業務特化型LLMを組み合わせて、顧客のオンプレミス環境に導入することで、企業独自の業務ノウハウである学習済みの専門知識を保護しながら活用できるという。日立は今後、オンプレミスとクラウドにまたがったハイブリッド環境で、顧客がデータの所在を意識せず、生成AIを自在に活用できるAIソリューションの実現を目指す。

  • 新サービスの特長

    新サービスの特長

専門知識の活用が難しい業務向けに提供

日立は今回、第一弾として、専門性の高い金融分野の業務や、コンタクトセンターの複雑な問い合わせ対応など、汎用LLMとRAGだけでは専門知識の活用が難しい業務向けに新サービスの提供を開始する。

今後、製造業や交通インフラといったOT(制御・運用技術)領域へも拡大し、現場の障害対応や生産工程の高度化などフロントラインワーカーの業務へも順次適用していく予定だ。

  • OT領域における業務特化型LLMへの取り組み

    OT領域における業務特化型LLMへの取り組み

日立 Generative AI センター センター長の吉田順氏は「2023年は生成AIの技術に対する理解を深める年だったが、2024年は本格的な活用を進める年。当社も含めた日本企業全体で生成AIの実活用を進めることで、人材不足などの社会課題解決につなげていく」と話した。

  • 日立製作所 デジタルエンジニアリングビジネスユニット Data&Design 本部長 兼 Generative AI センター センター長 吉田順氏

    日立製作所 デジタルエンジニアリングビジネスユニット Data&Design 本部長 兼 Generative AI センター センター長 吉田順氏