NTTインテグレーションは10月30日、AIアクセラレーター「IBM Spyre」を活用したAI導入検証サービス「Spyreトライアルサービス」の提供を開始したと発表した。同社が保有する実機環境を使い、AI推論やRAG(検索拡張生成)の応答性、回答品質、業務への適合性などを本番導入前に検証できる。

IBM Spyreの実機でAI推論とRAGを評価

IBM Spyreは、AI推論処理に特化したAIアクセラレーターである。Spyreトライアルサービスでは、NTTインテグレーションが保有するIBM Spyreを使い、文書検索や社内ナレッジ検索、問い合わせ対応支援などへのAI適用を検証する。

利用企業は、インターネットまたは閉域網を通じて、横浜データセンターに設置されたトライアル環境へ接続する。事前に定めた検証シナリオと評価基準に沿って、AI推論の応答性や業務適合性、運用性を評価できる。

主な検証対象には、社内規程や製品資料、設計関連文書、運用手順書などを対象とした文書・ナレッジ検索のほか、問い合わせ履歴やFAQを用いた問い合わせ対応支援がある。また、想定するユーザー数やデータ量、業務シナリオに応じた応答性能と運用性も評価可能だという。

NTTインテグレーションは、検証基盤の監視、障害発生時の一次対応、計画保守、接続環境の管理、利用終了後の環境初期化を担う。

IBM iやAIXの業務データとの連携も想定

同サービスは、既存のIBM Power環境との連携を見据えた検証にも対応する。IBM iやAIXが稼働する環境で扱う業務データやアプリケーションとの連携を想定し、AI推論やRAGの構成を検討できる。

本番導入時には、トライアルの結果を踏まえ、データ連携方式やセキュリティ対策、基盤構成、運用方法を提案する。データを必要以上に外部へ移動させず、データに近い場所でAIを活用する「Bring AI to the Data」の考え方に基づき、利用企業のセキュリティポリシーやデータ配置、運用要件に応じた環境の設計・構築を支援する。

利用企業はIBM Spyreを含むAI推論基盤を新たに購入することなく、月額制で実機環境を利用できる。検証基盤とネットワーク接続環境はNTTインテグレーションが用意するため、利用企業は業務シナリオ、評価基準、検証データ、接続端末などを準備する。

ただし、同サービスは導入前の評価・検証を目的としており、商用業務や本番業務、継続的な業務処理での利用は対象外だ。検証データについては、匿名化やマスキング、加工を施したデータの利用を推奨している。

このほか、OCRや音声認識、FAX・電話・メールからのデータ取り込み、基幹システムへの自動登録、ワークフロー連携なども標準機能には含まれない。これらについては、個別のAIアプリケーション開発やシステム連携支援として提供する。

検証後はAI基盤の構築・運用へ

トライアル終了後は、検証結果に基づき、AIアプリケーションの開発やRAG環境の設計・構築、データ整備、既存システムとの連携、AI基盤の導入、運用支援を個別に提供する。さらに、本番業務への展開に向けた導入計画の策定や実装ロードマップの具体化にも対応するという。

今後は、IBM Spyreを活用したAI推論ソフトウェアやRAG構成、関連サービスの技術検証を継続し、トライアル環境と本番導入支援メニューの充実を図る。併せて、IBM Powerやx86サーバ、オンプレミス、クラウドを組み合わせ、業務特性やデータの機密性、性能・運用要件に応じたAI基盤の導入を支援するとしている。