LLMが変える企業のデータ活用戦略 – LayerX 中村氏が語る実践的アプローチと未来像

大規模言語モデル(LLM)の登場により、企業のデータ活用戦略に新たな可能性が生まれている。LLMを「常識を持った新入社員」に例え、その効果的な活用法を提案するのは、AIを活用したコーポレート向けSaaS「バクラク」シリーズを提供するLayerX 部門執行役員（AI・LLM事業）の中村龍矢氏だ。

8月22日～23日に開催された「TECH+ EXPO 2024 Summer for データ活用」に同氏が登壇。LLMがもたらす具体的な変革について語った。

• LayerX 部門執行役員（AI・LLM事業）の中村龍矢氏

LLMは常識を持った「新入社員」として活用する

中村氏は、LLMの特性を「インターネットの情報から学習した常識的な知識を持っている新入社員のような存在」だと説明する。従来の機械学習モデルは「生まれたての赤ちゃん」のような状態から特定のタスクを学習させるのに対し、LLMは一般的な知識がベースにあることから、企業固有の業務を効率的に学習できるという。この特性を活かすことで、企業は短期間でAIの精度を実用レベルにまで高められる可能性がある。

LLMを実用レベルで活用するには、適切なチューニングが不可欠だ。中村氏は、LLMの精度を0～100点のスケールで次のように説明する。

「デジタル部門が全従業員向けにChatGPT環境を用意したという事例がよくありますが、うまく活用されないケースも多いようです。これは、何も教えていない新入社員を全社に放つのと同様なためと言えます。何もしないLLMは30点程度。しかし、1～2カ月程度丁寧にチューニングをすれば70～80点に達し、さらに高度な技術的工夫を加えれば80～90点まで向上させることができます」（中村氏）

チューニングの具体的なステップとしては、詳細な業務マニュアルを作成し、それをAIへ提供することが第一歩となる。決算書の読み取り業務を例に挙げると、単に「決算書から稟議書を作成せよ」と指示するのではなく、「決算書からこの重要な表を抽出してください」「抽出した情報からこの項目について分析してください」「それを基に稟議書を作成してください」といった具合に、細かいステップに分割して指示を出すことが効果的だという。

「LLMは非常に"鳥頭"と言えます。複雑な指示を一度に与えると、途中で忘れてしまうのです。したがって、業務を小さなタスクに分割し、段階的に指示を与えることが重要になります」(中村氏)

ハルシネーションへの向き合い方