NTT、AIがユーザーの状況を理解し対話する高EQ対話知性技術を開発

NTTは10月27日、AIの対話プロセスをEQ（Emotional Intelligence Quotient：感情的知能指数）の観点で評価し改善する技術基盤を開発したことを発表した。

開発技術の概要図

既存AIの課題となるシコファンシー

AIエージェントは「ユーザーの質問に答える」便利なツールから、日常のさまざまな場面でユーザーを支援するパートナーへと、役割を広げつつある。しかしその一方で、AIがユーザーの意見や感情に過度に同調または迎合する「シコファンシー（Sycophancy）」と呼ばれる現象などが新たな問題として指摘され始めている。

例えばシコファンシー傾向があるAIは、ユーザーから「自分を肯定してくれる」「また使いたい」と評価されやすい一方で、誤った思い込みを強めたり、判断を振り返る機会が失われたりする可能性も報告されている。

その結果として、AIへの過度な依存や、人間関係・意思決定などへの影響についても議論されている。

こうした問題の背景には、AIがユーザーの発話に表面的に反応し、その場の満足度を高めることを優先する一方で、その背景や状況を十分に理解して本質的に「ユーザーにとって何が望ましいか」を踏まえた関わり方を判断できていないという課題がある。

こうした課題に対しNTTは、ユーザーにとって「その場で快適な対話」と「ユーザーの実生活を踏まえた長期的に望ましい関わり」を両立させる能力としてEQの観点に着目し、EQ能力を持たせた「高EQ対話知性技術」を開発した。

高EQ対話知性技術を実現する3つの新技術

同社が今回開発した高EQ対話知性技術は、ユーザーの発話内容だけでなく、状況なども踏まえてユーザーを理解し、その人や場面に応じた適切な応答を生成する。

単に質問に答えたりユーザーの発言に同調したりするだけでなく、「何を伝えるべきか」「どのように伝えるべきか」を考えながら、より本質的に「ユーザーにとって何が望ましいか」を踏まえた応答を実現する。

具体的には、ユーザーの状況を理解し、それに応じて応答内容や表現を調整する「高EQ発話最適化」、対話からユーザーの背景や状況、経緯などを捉え、ユーザーにとっての出来事の関係性や時間的つながりをもつ情報として表現する「物語（ナラティブ）型ユーザー情報表現」、言葉に表されていない情報や共通認識を踏まえ「全てを言わなくても伝わる」対話を実現する「ハイコンテクスト対話」の技術から構成される。

「高EQ発話最適化」とは、EQに基づく多面的な評価観点から、AIによるユーザーの状況理解や、応答内容・応答の仕方を最適化する技術。