Windows 11でAIアシスタント「Claude（クロード）」を仕事に組み込む方法を紹介する本連載。前回は、依頼・お断り・お詫びといったビジネスメールをClaudeに下書きさせる方法と、AIに意図を正しく伝えるプロンプトの基本を紹介した。

今回は、Claudeに限らず生成AIを使う上で避けて通れない「ハルシネーション」について取り上げる。ハルシネーションとは、AIがもっともらしいうそをつくことがある現象だ。今回はその仕組みを掘り下げ、どんな情報が特に危ういのか、そしてどう確認すればいいのかを解説する。

ハルシネーションとは何か

ハルシネーションとは、AIが誤った情報を、あたかも正しいことのように生成してしまう現象のことである。存在しない書籍を実在するかのように紹介したり、統計データの数字を変えて答えたり、存在しないURLをそれらしく作り上げたりといった具合だ。

厄介なのは、本来であれば「わかりません」と答えるべき場面でも、もっともらしい答えを作り出してしまうことがあるという点だ。文章としては違和感がなく、話の筋も通っているため、知らない人が読むと本当の情報だと思い込んでしまいやすい。その結果、誤りに気づかないまま資料として使ってしまうなど、業務上のトラブルにつながりかねない。

ハルシネーションの問題はClaudeに限った話ではなく、ChatGPTを含む生成AI全般に共通する特性だ。各社のAIモデルは年々精度を高めており、Claudeも改善が進んでいるが、それでもハルシネーションがゼロになったわけではない。「賢くなった＝誤った情報を出さない」ではない、という理解を持っておくことが大切だ。

なぜClaudeはうそをついてしまうのか

Claudeの仕組みを理解しておくと、ハルシネーションが起きる理由も捉えやすくなる。

Claudeのような生成AIは、膨大な文章データをもとに、言葉同士の関係や文脈上のつながり方のパターンを学習している。質問を受け取ると、そのパターンをもとに、もっとも自然につながりそうな言葉を積み重ねて回答を生成する。人間のように頭の中の「事実データベース」をそのまま検索して答えているわけではなく、学習したパターンや文脈をもとに文章を組み立てている。

この仕組みがハルシネーションを生む理由は、大きく2つある。1つは、学習していない情報や、学習データの中で登場回数が少ない情報、結論が曖昧な情報などについては、正確な回答を安定して生成できないことがある点だ。それでも自然につながる言葉を組み立てて文章を作ろうとする能力は働いてしまうため、結果として、事実に基づかない内容をもっともらしく出力してしまう。

もう1つは、Claudeには学習時点以降の出来事は反映されないことがあるという点だ。その区切りの時点以降に起きた出来事や更新された情報は、通常の会話の回答には反映されない可能性がある。最近のモデルは、Web検索などの外部情報にアクセスできる機能を使うことで最新情報を補完できるものの、その検索が不十分な場合には古い情報のままで答えてしまうことがある。

つまりハルシネーションは、Claudeが意図的にうそをついているわけでもなければ、不具合が起きているというわけでもない。生成AIが文脈に合う自然な回答を作る仕組みで動いている以上、ハルシネーションは避けて通れない特性なのだ。Claudeを使う際には、この前提を理解したうえで、重要な情報はかならず一次情報や信頼できる資料で確認するといった対策を取ることが大切だ。

ハルシネーションが起きやすい3つの情報

ハルシネーションが生成AIの特性だとは言っても、すべての回答を疑ってかかっていてはキリがなく、Claudeを使う意味が薄れてしまう。効率よく使うコツは、間違いが紛れ込みやすい情報の種類を知っておいて、そこを重点的にチェックすることだ。ここでは特に注意したいポイントを3つ取り上げる。

数字・日付・統計

金額、割合、件数、日付といった具体的な数値情報は、ハルシネーションがもっとも起きやすい情報の1つだ。Claudeは、桁を間違えたり、似たような別の数字と混同したり、存在しない統計をそれらしく作り出したりすることがある。文章の流れは自然なので、よく注意して見なければ違和感に気付くのは難しい。

固有名詞・肩書き・引用元

人名、会社名、役職、法律や制度の名称なども注意したい情報だ。実在する人物や組織について、経歴や肩書きを微妙に間違えて紹介してしまうことがある。また「〇〇によると」といった引用元の表記も、実際には存在しない文献やWebページを指していることがあるため、そのまま信じないように注意した方がいい。

存在するかどうか自体が怪しい情報

実在しない制度や書籍、機能を、あたかも存在するかのように説明してしまうこともある。「こういう制度がある」「そういう書籍がある」「そういう機能がある」など、あたかも実在するかのように解説しているが、ちゃんと調べるとそんな制度や機能はどこにもないというケースだ。内容が正しいかどうかではなく、そもそも実在するかどうかを疑う必要があるため、普通に読んでいるだけではハルシネーションを見抜きにくい。

ここで挙げた3つは特にハルシネーションのリスクが高い例だが、それ以外にも、専門的な内容や制度の説明では誤りが含まれやすいので、重要な判断につながる情報は確認することが望ましい。すべてを一律で疑う必要はないが、ハルシネーションが起こりやすいポイントを把握し、注意して確認する習慣をつければ、生成AIをより効率よく活用できるようになるだろう。

こうしたリスクの高い情報にどう対処すればいいか。ここでは3つの対策を紹介する。

Web検索を使えば精度は大きく向上する

もっとも効果的なのは、Claudeに実際のWebページを参照させながら答えてもらうことだ。Claudeには、学習済みデータに加えて、Web検索を使って最新の情報を参照し、回答に反映させる「Web検索機能」がある。Web検索機能を有効にするには、チャット入力欄の「＋」アイコンをクリックして、プルダウンメニューの「ウェブ検索」をクリックすればよい。チェックマークが付いていれば有効になっているということだ。

  • Web検索機能を有効にする

    Web検索機能を有効にする

Web検索を有効にし、必要に応じて「Web検索を使って調べてください」と指示すると、Claudeが実在するページを参照した上で回答してくれるため、精度が上がりやすい。最新情報や具体的な数値を尋ねる場合には特に効果がある。

数字や固有名詞は必ず一次情報で確認する

数字・固有名詞・引用元など、リスクの高い情報が回答に含まれていた場合は、Claudeの回答だけで完結させず、一次情報にあたって裏取りする習慣を持とう。具体的には、次のような行動を取るように心がけるとよい。

  • 公式サイトや官公庁のページなど、発信元が明確な情報源で数字を確認する
  • その業務の担当者が近くにいるのであれば、内容の正誤を直接確認する
  • Claudeに「出典を教えて」「その情報の根拠は何ですか」と聞き返し、示されたURLを実際に開いて確認する
  • 別の聞き方で同じ質問をして回答を比べてみる

特に、社外に出す資料やメールに数字を書き込む際、他人に伝える情報として引用する際には、この一手間を省かないようにしたい。Claudeが出してきた下書きに数字が入っている場合、その数字だけは別途調べ直す、というルールを自分の中に作っておくと安心だ。

プロンプトを工夫して誤回答を減らす

裏取りの手間を減らすために、Claudeに伝えるプロンプトの工夫でハルシネーションの発生をある程度抑えることもできる。

1つは、わからないことは推測せずにわからないと答えるよう、明示的に伝える方法だ。「確信が持てない場合は、推測せずにその旨を伝えてください」と一文添えるだけでも、Claudeが根拠のない断定をする可能性が低くなる。

もう1つは、情報の確度を尋ねる方法である。「この回答のうち、特に確認が必要そうな箇所を教えてください」と聞くと、Claude自身が数字や固有名詞といったリスクの高い部分を指摘してくれることがある。これを裏取りすべき箇所のあたりをつける手掛かりとして使うのもよいだろう。

ただし、これらの対策はあくまでもハルシネーションの発生を抑える工夫であり、完全にゼロにする方法ではない。最終的な確認は、常に人間の側で行うべきだという原則は変わらない。

ハルシネーションは、Claudeを含む生成AIの根本的な仕組みに起因する特性であり、無くすことはできない。だからこそ、どこにリスクが潜んでいるかを知り、そこを重点的に確認する習慣を持つことが、AIを安心して仕事で活用するための基本姿勢と言える。

ClaudeではWeb検索機能やArtifactsなどを活用することで、ハルシネーションの影響を抑えながら仕事に活用できる。重要なのは、AIを"答えをそのまま信じる道具"ではなく、"下書きや調査を支援する道具"として使うことだ。