生成AIで進化するカスタマーサポート - ソニーネットワークコミュニケーションズはRAGと何を組み合わせたか?

さて、2022年11月のChatGPT登場以来、さまざまな企業が生成AIを利用したサービスを展開している。これはもちろん、カスタマーサポートの分野においても同様だ。高速光回線サービス「NURO 光」を提供するソニーネットワークコミュニケーションズでは、ユーザー向けマイページに用意したチャット型カスタマーサポート「NURO 光 メッセージサポート」に、2024年3月から生成AIによる顧客応対を導入した。

今回はソニーネットワークコミュニケーションズ NURO事業部 カスタマーサポート部 カスタマーサポート1課 課長の鈴木康祐氏から、従来のAIを活用したカスタマーサポートと生成AIを活用したカスタマーサポートの違いや、生成AIを活用した「NURO 光 メッセージサポート」導入後の反響について伺った。

• 

  ソニーネットワークコミュニケーションズ NURO事業部 カスタマーサポート部 カスタマーサポート1課 課長の鈴木康祐氏

改めて知る、従来型AIによるチャット型カスタマーサポートの仕組み

ソニーネットワークコミュニケーションズではNURO 光のユーザー向けに、サポートページ、Youtube動画の公開やチャットボットサービスなどの無人での応対に加え、電話やメール、メッセージ、SNSなど有人のカスタマーサポートも行っている。従来の無人チャットボットサービスでもAIを活用しているというが、今回有人のチャット型サポートに生成AIを導入したのはなぜか。両者には大きな違いがあるからだと鈴木氏は話す。

従来のAIによるチャットボットサービスには大きく分けてシナリオ型と検索型の2種類がある。シナリオ型は事前に一定の質問を想定し、その回答を用意するかたちだ。一方、検索型の場合、顧客が質問を入力すると、検索結果として類似の質問文がいくつか表示される。顧客はその中から質問したい内容に近いものを選択し、回答を見る。これらのチャットボットサービスには大きな課題があると同氏は説明する。それが、想定していない質問に回答できない点だ。

これに対し、大規模言語モデル（LLM）を用いた生成AIはどのような質問・言葉であっても、元々学習しているデータから何かしらの回答を生成できる。つまり、カスタマーサポート側が想定していない質問にも回答可能だ。ただし、この段階では“正しくない”回答をしてしまうハルシネーションが発生する可能性もある。そこで必要なのが、LLMのファインチューニングだ。だが、NURO 光のカスタマーサポートに蓄積されているデータを使ってファインチューニングを行えば “完璧な”回答ができるかというと、そうではない。

「ファインチューニングを行う場合、回答生成のためにはかなりの学習が必要な上、例えば『通信障害が発生しています』といった最新の情報には対応できません」（鈴木氏）

RAGの登場により、サービス化が可能に

鈴木氏が生成AIを用いたカスタマーサポートのアイデアを得たのは2022年終盤のChatGPT登場後すぐのことだった。生成AIが脚光を浴びたタイミングで、「これはすごいな」という感覚を持ち、顧客への案内に使えたらと考えたそうだが、先述の通り、ファインチューニングではハルシネーションへの対策として不十分なことが懸念された。そこで何か良い方法はないかと、海外の情報も含め、リサーチを実施。見つけたのが、当時日本ではまだあまり一般的ではなかった検索拡張生成（RAG：Retrieval-augmented generation）だった。

LLMのチューニングにRAGを用いた場合、一般的なデータで質問に回答するのではなく、自社が持つ独自のナレッジなどに学習データを限定した上で、それに基づいた回答を生成することができる。つまり、仮に通信障害が発生した場合、自社が持つナレッジを更新すれば、それを反映した回答が生成される。これにより、即時性が求められるカスタマーサポートにおいても、生成AIを活用した応対が可能になるのだ。

同社はこれにプロンプトエンジニアリングを組み合わせることで、生成内容をコントロールし、ハルシネーションの発生を大幅に減らした精度の高い応対を実現。2023年5月からサービス化に向けた本格的な取り組みを開始し、同年8月にはサービス提供の準備が整ったという。その後、すでに提供していたメッセージサポートへのつなぎ込みを行い、2024年3月、生成AIを活用した「NURO 光 メッセージサポート」のリリースが完了した。

• 

  生成AIを活用した「NURO 光 メッセージサポート」の画面イメージ

つなぎ込みに半年ほど要したものの、サービスの核心部分についてはわずか3カ月で完成させたという。スピード感の秘密は「少数精鋭で進めたところ」だと話す鈴木氏に、具体的な人数を聞いてみたところ、なんと正確には“少数”ではなく、同氏1人からスタートしたというから驚きだ。生成AIの存在を知るや否やサービス化に取り組んだ同氏の熱意と行動力こそが、圧倒的なスピード感をもたらしたと言えるだろう。

問題を即時解決する確率を3割から8割に大幅改善

では、生成AIを取り入れたメッセージサポートでは、どのような効果が出ているのか。鈴木氏によると、従来のシナリオ型チャットボットサービスの場合、AI自体の正答率は8割程度だが、顧客の求める回答をし、問題を即時解決できていた割合は3割程度だったという。正しい答えであったとしても、顧客の問題を解決したかという指標を見ると、シナリオの設定などにより、問題解決には至らないケースも多々あったそうだ。

今回の生成AIを活用した「NURO 光 メッセージサポート」を導入して約半年経った現在、顧客の求める回答ができている割合は8割弱まで上昇している。残り2割は、マイページには記載していない情報や、自社内で完結しない配送状況に関する問い合わせなど、そもそも有人応対でしか解決し得ないものだという。

また、従来、全てオペレーターが回答していたメッセージサポートでは最初の返信まで2～3時間、解決まで約1.2日かかっていたものが、生成AI活用により、5秒程度で回答できるようになった。これに伴い、オペレーターの工数も大幅に削減。1カ月あたり約5300時間の削減につながっている。

鈴木氏はこれにより生まれた時間を「人にしかできない応対をするためのトレーニングに使っていただいている」と語る。生成AIでは解決できなかった質問は、より難易度の高いものということになる。これに向き合っていくためには、オペレーターはより深い知識を習得し、顧客に寄り添った応対をすることが求められる。難易度の高い質問を素早く解決し、顧客満足度を上げられるかどうかというところに「人の真価が問われている」（鈴木氏）のだ。同氏によると、生成AI活用により、有人応対が必要な質問も解決に至るまでの時間が従来よりも平均3.5時間ほど短縮できているといい、その効果は着実に広がっているようだ。

社内活用も進めることで、より良い応対を目指す

鈴木氏は今後、生成AIを活用したサービスをオペレーターのサポートのための回答支援や、問い合わせ履歴の入力支援などにも広げていきたいと話す。多くの企業ではまず社内活用で生成AIの効果を見極め、その後顧客サービスへ展開する場合が多い。しかし、ソニーネットワークコミュニケーションズではまずは顧客への還元を優先したことから、まだこの部分には着手できていないのだそうだ。

「生成AIは人の役割を補完するような役割を果たすことができます。オペレーターが生成AIのサポートを受けることで、さらに質の高い応対が可能になり、お客さまの待ち時間が少なくなるというメリットがあります」（鈴木氏）

現在、海外ではリアルタイムでの音声対応や同時通訳ができる生成AIサービスも登場しており、「今テキストで行っている応対を音声でできるようになれば、さらにすごいことができるのではないか」と鈴木氏は期待に満ちた表情で語ってくれた。今後、ソニーネットワークコミュニケーションズからどんな新しいサービスが飛び出すか、その動向を注視したい。