テラデータは11月17日、企業におけるAI活用のPoC止まりを打破するアプローチの一つとして「コンテキストエンジニアリング」を取り上げ、記者向けの説明会を開催した。

コンテキストエンジニアリングとは、単にデータを集めてプロンプトでAIに指示するだけでなく、AIが回答するために必要なデータや社内の状況、背景、文脈を設計する手法を指す。

AIに足りないのはデータではなくコンテキスト

テラデータ 専務執行役員の坂義実氏はコンテキストエンジニアリングの例として、以下のような状況を取り上げて解説した。

「今は朝7時半で、小学生の男の子が寝ている。起こすか起こさないかを判断したい。今日が平日なら?日曜日なら?日曜日だけど運動会なら?運動会だけど子が熱を出していたら?子どもが7時半に寝ているという状況は変わらないが、それを取り巻く環境によって判断を変える必要がある」

  • テラデータ 専務執行役員 坂義実氏

    テラデータ 専務執行役員 坂義実氏

坂氏は単純な例として子どもが寝ている状況を示したが、企業のAI活用でも同様だ。例えば単にAIに「先月の売上は?」と質問しても、企業ごとに売上の定義が変わる場合、AIは受注ベースなのか請求ベースなのか推測で回答するしかない。コンテキストがあることで、社内のルールや質問者の状況に応じた回答(例:返品控除後の請求確定ベース)を出力できる。

AIが適切に判断するためには、データだけでなく、業界知識、業務の暗黙知、取引先との関係性など、多様な情報が必要となる。こうした文脈全体がコンテキストエンジニアリングには求められる。

  • AIが判断に必要なコンテキストとは?

    AIが判断に必要なコンテキストとは?

社内のAIが使えるコンテキストを共有財産に

製造業でAIを活用する場合、AIモデルは生産計画の一般的な知識に基づく回答を生成するだろう。各社の生産能力や供給の制約、優先順位、顧客との契約内容については、プロンプトエンジニアリングによってAIの回答を調整する。

製造業における従来のAI開発では、生産計画AI、在庫最適化AI、調達リスクAIなど、AIごとにプロンプトを最適化して業務にフィットさせる工程が必要だった。

しかし、この手法はAIが増えるにつれて同じような業務知識を何度も定義しなければならず、また、AIを使う現場によって業務ルールや指標の解釈が異なる問題も起こり得る。

  • 個別のAIを最適化する場合は分断が生じる

    個別のAIを最適化する場合は分断が生じる

「ポイントソリューション向けに調整されたコンテキストは、他のシステムでは活用できない。AIが同じデータを使う場合でも、プロンプトのニュアンスの差によってブレやズレが生じる」と坂氏は指摘した。

テラデータが目指すのは、各現場の業務知識を個々のAIに閉じ込めるのではなく、全社で利用できるエンタープライズコンテキストとして蓄積することである。

坂氏は「"Load Once, Use Many"から"Build Context Once, Evolve and Reuse Everywhere"へ変えていく。個別システムで使い捨てるのではなく、全社活用できる共有資産にすることがAI時代の競争力となる」と解説した。

  • 全社で利用できるコンテキストが競争力になるという

    全社で利用できるコンテキストが競争力になるという

大手製造業で1カ月の構築実績、AIに業務を理解させる5つのステップ

坂氏が解説するように、データが揃っていることと、AIが判断できる文脈(コンテキスト)が揃っていることは別の問題だ。定義やデータの関係性、ルールを全社で統制し、その根拠を説明できるようにする。さらには、一度作成したコンテキストをあらゆるユースケースで再利用できる状態が望ましい。

テラデータが提案するアプローチでは、最初から全社のデータを整理するのではなく、AIに答えさせたい「ビジネスクエスチョン」から逆算するという。具体的なフローは以下の通り。

まずは、業務上の問いであるビジネスクエスチョンを定義してから、AIの回答に必要なデータと業務知識を特定する。その後、業界の知識を使いながら業務の意味とデータをつないでいく。

その後のステップで、AIが利用可能なコンテキストを構築。コンテキストの構築後もAIを活用しながら、求める回答に近付くように調整する。これら全体のフローにおいて、業種別ナレッジモデルとAIエージェントがサポートするという。

  • コンテキスト構築のフロー

    コンテキスト構築のフロー

テラデータが先行的に支援した大手製造業では、10個のビジネスクエスチョンの回答に必要なコンテキストを1カ月で構築できたという。ビジネスクエスチョンの策定におよそ1カ月を要し、計2カ月ほどでプロジェクトを進めた。

テラデータでコンサルティングのディレクターを務める新関聡氏は「全社のデータ整理から始めずにビジネスクエスチョンから必要な範囲を絞ったこと、業務別のナレッジモデルを使ってゼロからの設計を減らしたこと、モデリングやマッピングにAIエージェントを活用したことが、1カ月という短期間でコンテキストエンジニアリングを実現できた理由」と話していた。

  • テラデータ コンサルティング本部 コンサルティングサービス推進部 ディレクター 新関聡氏

    テラデータ コンサルティング本部 コンサルティングサービス推進部 ディレクター 新関聡氏

同氏によると、全社のデータ整理から始めてしまうと、業種別ナレッジモデルを活用しても、数カ月から1年以上かかるケースもあるとのことだ。

同社は今後、エンジニアが顧客の現場に入り込む「FDE(Forward Deployed Engineer)」の手法と組み合わせて、コンサルティングのようにコンテキストエンジニアリングの実現を支援していく。