キンドリルが提案する、生成AI活用に向けたプラットフォームとデータ運用

キンドリルジャパンは7月5日、オンラインで「データ×AIで価値を生み出す」をテーマにしたメディア向けの勉強会を開催した。キンドリルジャパン理事アプリケーション、データ& AI担当の榎木泰平氏と、同ディレクタープリンシパルアーキテクトの劉功義氏が説明した。

生成AIの活用における理想と現実のギャップ

冒頭、榎木氏は「ここ数年、DX(デジタルトランスフォーメーション)がキーワードになり、現行システムの使い方、働き方も大きく変化し、各社でモダナイゼーションを進めていた。しかし、今年に入ってからは組織内における生成AIの活用が叫ばれている。ただ、こうした生成AIへの期待に対して活用向けた準備ができている企業は少ない」と述べた。

キンドリルジャパン理事アプリケーション、データ& AI担当の榎木泰平氏

同社が今年に入り、CxOレベル(109人)に対して実施した調査結果では、生成AIソリューションを検討している企業は96%に達するが、生成AIを活用するためのデータ戦略に「非常に自信がある」との回答は5分の1となった。

また、AIプロジェクトをガバナンスする組織を設けているのは60%、自社のITインフラが企業全体の生成AIをサポートできると「非常に確信している」と回答した企業は23%とあまりと、理想と現実におけるギャップが浮き彫りになった。

生成AIの活用で準備ができている企業は少ないという

同社におけるAI関連の取り組みとして、同社が運用するミッションクリティカルシステムに大規模なAIを統合しているほか、社員の生産性向上に対する活用、責任あるAIの企業規模における活用の支援を行っている。サービスはAIサービス、生成AIサービス、データ基盤サービスとフルスタックで支援している。

キンドリルではAIサービスをフルスタックで支援する

生成AIのみならず、アプリとデータにも課題

ただ、実際の現場ではトップダウンによるプレッシャーやビジネス部門からの要求、具体的な活用策、社内データの活用法といった課題・困難があるという。こうした生成AIの活用に向けた課題に加え、アプリとデータにも課題が存在する。

劉氏は「例えば、アプリと生成AI間のデータ連携や生成AIをバッグエンドに利用するアプリの実装・統合・保守などが挙げられる。データに関してはアセスメントや戦略立案、ガバナンス、セキュリティ、アーキテクチャなど多岐にわたる」と指摘。

キンドリルジャパンディレクタープリンシパルアーキテクトの劉功義氏

同社では生成AIとアプリの課題を乗り越えるための運用ポイントとして「パフォーマンスモニタリング」「エラー検出とデバッグ」「使用状況の分析」「モデルドリフトの検出」「スケーリングとリソースの最適化」「コンプライアンスガバナンス」の6点を挙げている。

生成AIとアプリの課題を乗り越えるための運用ポイント

同氏は「これら6つのポイントを抑えて運用することで、生成AIアプリを用いた意思決定の改善や可視性の向上、問題の早期検出、パフォーマンスの向上が図れる」としている。そのため、同社では生成AIの開発・運用を支えるためのプラットフォーム「LLMOpsプラットフォーム」を整備。

プラットフォームの実装にあたっては、バックエンドとフロントエンドそれぞれが取り組むべきことを定めている。生成AIを活用したアプリケーションを本番稼働するために必要な運用機能をプラットフォームとして実装し、これを活用することで生成AIの試行からリリースまでを高速化しているという。

そのための機能として「オブザーバビリティ(可観測性)」「オーケストレーション」「コスト管理」「フィードバック&HIL(人の関与)」「セキュリティとプライバシー管理」を備えている。

「LLMOpsプラットフォーム」の概要

オブザーバビリティは生成AIアプリの利用状況やコスト、効率をモニタリングし、コスト管理も併せて行う。オーケストレーションでは、ノーコードで高速開発を支援するツール間の連携を設定するほか、フィードバック&HILでユーザーからのフィードバックの取り込み状況を表示し、開発支援に役立てる。セキュリティとプライバシー管理については、LLMアプリのリスク総合評価や入出力から匿名化されているかプロンプトインジェクションの可能性を評価する。

データの運用も支援

一方、データに関しては「データ&AI運用のフレームワーク」を用意しており、データプラットフォームの管理やデータ統合管理、ガバナンス・セキュリティ・コンプライアンス、DataOps、MLOpsをはじめ、データソースの管理から洞察の提供までをデータマネジメントサービスとして提供。

「データ&AI運用のフレームワーク」の概要

劉氏は「これまでのデータ運用の流れと大きく変わらないが、運用ツールが多少異なる。そのためのコンソールを備えている。単一のコントロールプレーン、データインテリジェンス、オープンな統合を提供し、データオブザーバビリティやデータ品質、リネージ、ディスバリ、カタログ、ガバナンス、セキュリティなどの機能を有している」と話す。