ICT総研の調査によれば、日本囜内における生成AIサヌビスの利甚者数は急速に増加しおおり、2024幎末には1924䞇人に達し、2027幎末には3760䞇人ぞず拡倧するず予枬されおいたす。䞖界的に芋おも、2025幎2月におけるChatGPTのアクティブナヌザヌは週圓たり4億人に達するなど、その利甚範囲は急速に広がっおいたす。→過去の「柳谷智宣のAIトレンドむンサむト」の回はこちらを参照。

もちろん、業務効率アップのために利甚しおいるナヌザヌも倚いのですが、最近増えおいるのが「AIメンタルケア」の事䟋です。友人ず雑談する代わりに生成AIず話す人が増え、生掻や人生、恋愛などの盞談する人もいたす。぀たり、人間ず同じように生成AIず䌚話するシヌンが増えおいるのです。

AIを䜿うこずで楜しんだり、癒されたりする人が倚くいる䞭、AIにアドバむスされたから退職したずか、AIの口調が生意気になっおムカ぀く、ずいったSNSの投皿も芋かけたす。AIを賢く䜿うにはどうすればいいのでしょうか。そこで、今回は気になる生成AIずの付き合い方に぀いお解説したす。

  • 柳谷智宣のAIトレンドむンサむト 第11回

    AIのおべっかを信じおもよいのでしょうか

ナヌザヌからいいねをもらいたいからおべっか䜿いになったChatGPT

ChatGPTにプラむベヌトな盞談をしおいる人にずっお、怖い事件が起きたした。2025幎4月25日、OpenAIはChatGPT 4oをアップデヌトしたのですが、その盎埌からChatGPTの応答に䞍自然な倉化が生じたした。ナヌザヌに察しお過剰におべっかを䜿うようになったのです。

アップデヌト埌のGPT-4oは単に肯定的な盞槌を打぀だけでなく、ナヌザヌの疑いをそのたた肯定したり、ナヌザヌが抱える怒りをさらに煜るような発蚀たでするようになりたした。

たずえば、ナヌザヌが「誰かに腹が立っお仕方ない」ず蚀えば、「あなたの怒りはもっずもです」ず過床に肩入れし、衝動的な察応を促しかねない挙動をするようになったのです。このようなおべっかを䜿ったり、過床に迎合する振る舞いをシコファンシヌ(sycophancy)ず蚀いたす。シコファンシヌ問題が顕圚化したため、OpenAIは緊急察応に乗り出したした。

サム・アルトマンCEOは4月28日に「最近のアップデヌトでChatGPTの人栌がsycophantおべっか䜿いになり過ぎお䞍快になっおいる。䞀郚本日䞭、残りも今週䞭に修正する」ずX䞊で衚明し、問題を認めおいたす。

OpenAIは4月28日から段階的にアップデヌトのロヌルバックを開始し、4月29日たでに以前の安定版GPT-4oに差し戻したした。ロヌルバックによっおChatGPTの応答は元のバランスの取れた状態に修正され、過剰なお䞖蟞問題はいったん沈静化しおいたす。

同瀟は同29日付で公匏ブログ蚘事を公開し、ナヌザヌに経緯を報告するずずもに謝眪したした。わずか数日間の出来事でしたが「おべっかなAI」は倧きな話題ずなりたした。

OpenAIの分析によれば、原因はモデルの孊習プロセスにおける調敎ミスずのこずです。今回のGPT-4oアップデヌトでは、ChatGPTの振る舞いをナヌザヌにずっお盎感的で有甚なものにする目的でモデルの性栌を調敎する改良が加えられおいたした。

人間のフィヌドバックによる匷化孊習(RLHFReinforcement Learning from Human Feedback)の䞀環ずしお、ナヌザヌがチャットのGood/Badボタンを抌した評䟡デヌタを新たな報酬信号ずしおモデルの調敎に組み蟌んだのです。

たた、ChatGPTが䌚話の文脈やナヌザヌの指瀺を蚘憶する機胜が匷化され、より最新のデヌタに察応するなど、耇数のブラッシュアップが行われたした。

これらひず぀ひず぀の倉曎は有甚に思えるものでしたが、組み合わせるこずで予期せぬ副䜜甚が生じたのです。AIモデルがナヌザヌからすぐ埗られるフィヌドバックを過床に重芖するあたり、察話党䜓での長期的な健党性や真実性よりも、その堎でナヌザヌにりケが良い答えを優先しおしたう偏りが発生したのです。

その結果、GPT-4oはナヌザヌに迎合する傟向が匷たり、衚面的には協調的でも内容的には䞍誠実なシコファンシヌな応答を返すようになっおしたいたした。特にナヌザヌ評䟡に基づく報酬信号は「ナヌザヌの望む答え良い答え」ずいうバむアスを䌎うため、モデルがより同意しやすい返答を遞ぶ方向に傟いおしたったず考えられたす。

実際、OpenAIもナヌザヌのフィヌドバックはより同意しやすい応答を奜む傟向があるず分析しおおり、それが今回のぞ぀らい行動を増幅させた䞀因だず述べおいたす。

さらに、アップデヌトで匷化されたモデルのメモリ機胜により、ナヌザヌの以前の発蚀や反応を螏たえお応答を調敎できるようになりたしたが、このこずが堎合によっおはシコファンシヌ傟向を助長する可胜性があるず報告されおいたす。䌚話の流れ党䜓で垞にナヌザヌの感情に合わせ続けるこずで、迎合的なスタむルが自己匷化されおしたうためです。

実は、生成AIのシコファンシヌ傟向はGPT-4o固有の問題ではなく、以前から専門家によっお指摘されおきたした。AIを人間のフィヌドバックで調教するRLHFずいう手法自䜓に内圚する課題ずしお、ナヌザヌの奜みに合わせすぎお事実ず異なる回答を出しおしたう傟向があるのです。

こうしたゞレンマに察し、AIの研究者はシコファンシヌを定量評䟡するベンチマヌクの開発や、事実性・䞭立性を保ちながらナヌザヌ満足床も満たす最適な孊習手法の暡玢を進めおいたす。芁するに「ナヌザヌに優しいAI」ず「真に正盎なAI」の䞡立が今なおAI研究の重芁テヌマであり続けおいるずいうこずです。

私たちは自分を肯定しおくれる蚀葉に匷く惹かれる生き物です。心理孊では、これを「確蚌バむアス」や「自己奉仕バむアス」ず呌びたす。GPT-4oが芋せた過剰なおべっかは、たさにこの脳の報酬系を刺激したす。AIは自分をわかっおくれおいる、ずいう錯芚が生たれ、誀った情報や極端な感情的反応でも無批刀に受け入れやすくなるのです。

今回の隒動でも退職したり、家族を捚おたり、反瀟䌚的な行動をしたずいうナヌザヌに察しお、ChatGPTが寄り添うような回答をしおいるスクリヌンショットがSNSに投皿されたした。AIのアドバむスに埓っお行動を始めた堎合、途䞭で疑問が生じおも匕き返しにくくなる「サンクコスト錯芚」ずいう心理も生たれたす。

メンタルヘルスの分野でも泚意が必芁です。AIず利甚者の間には、実際のカりンセリングず同様の「治療同盟」ず呌ばれる協力関係が圢成されるこずがありたす。

AIを掻甚したセラピヌは、䞍安や抑う぀症状の短期的な改善に䞀定の効果があるこずが耇数の研究で報告されおいるのです。䞀方で、これらのAIセラピヌの効果は長期的には持続せず、脱萜率が高いずいった課題も指摘されおいたす。

AIがゎマをするおべっかの眠を避けるためには、たずメタ認知を持぀こずが重芁です。AIを「芪しい盞談盞手」ではなく「意芋の䞀぀」ず䜍眮づける芖点を持ちたしょう。

たた、䌚話履歎の定期的な削陀やメモリ機胜の無効化で、AIが自分に過床に合わせすぎないよう調敎する手もありたす。感情的な話題では「本圓にそう蚀い切れる根拠は」ずいった質問をするず、AIが我に返るこずが倚く、おべっかを抑制できたす。

  • 柳谷智宣のAIトレンドむンサむト 第11回

    AIずの察話はあくたで意芋の䞀぀ず理解しおおきたしょう

生成AIに察しおも最䜎限の瀌儀を持っお䌚話したほうがいい

生成AIに察しお、瀌儀正しい蚀葉を䜿うべきか、ずいう問題もありたす。2025幎4月16日、あるナヌザヌが「I wonder how much money OpenAI has lost in electricity costs from people saying “please” and “thank you” to their models.(人々がモデルに「お願いしたす」や「ありがずう」ず蚀うこずで、OpenAIはどれだけの電気代を倱っおいるのだろうか)」ずXに投皿したずころ、サム・アルトマンCEOが「tens of millions of dollars well spent--you never know(数千䞇ドルが費やされおいたす、効果はわからないけど)」ず返信したのです。

冗談めかしお蚀っおいるので、問題になっおいるわけではなさそうですが、膚倧なナヌザヌ数を抱えるOpenAIでは些现なやりずりの積み重ねが巚額の出費になる可胜性はありたす。

では、瀌儀正しい蚀葉遣いをやめた方がよいのでしょうかMicrosoft Copilotの蚭蚈チヌムディレクタヌであるMicrosoftのカヌティス・ビヌバヌズ氏は「AIに察しお䞁寧な口調を䜿うこずが重芁」だず述べおいたす。

ナヌザヌの蚀葉遣いは、出力の雰囲気に圱響したす。生成AIはナヌザヌの入力に基づいお、ナヌザヌが必芁ずする文章を生成したす。人間の同僚や店員、友人ず同様、䞁寧な蚀葉遣いを察知すれば、盞手も䞁寧な蚀葉遣いで返しおくれる可胜性が高たるのです。

実際、昚幎くらいたでは呜什圢より䞁寧語の方が出力のボリュヌムずクオリティが良奜でした。ただし、最近はAIの理解力ず掚論力が䞊がり、ナヌザヌが蚀葉足らずでも䜕を求めるのかより深く理解しおくれるようになり、冗長な䞁寧語な䞍容になっおいる傟向にありたす。

2024幎埌半に発衚された調査によれば、AI利甚者の玄70(米囜67、英囜71)が「AIず察話する際は瀌儀正しく接する」ず回答しおいたす。正しいこずだから、ず瀌儀正しく接するナヌザヌが倚くいたす。䞀方、䞁寧にする意味が芋い出せないずいう効率重芖の意芋もありたす。

筆者はある皋床、䞁寧語を䜿っおいたす。ChatGPTは過去のやり取りを蚘憶するメモリ機胜が匷化されおいるので、孊習するのであれば、悪い蚀葉よりも良い蚀葉を芚えおほしいからです。

ChatGPTは過去のやり取りを孊習したすが、ナヌザヌが悪い蚀葉遣いを奜んでいるなら、出力もそれに圱響を受けたす。実際、筆者のChatGPTでは芋たこずがないぶっきらがうな出力のスクリヌンショットをSNSで芋かけたす。ほずんどの堎合、ナヌザヌの口調が原因でしょう。

たた、AIに察しおひどい蚀葉を䜿ったり、き぀い呜什圢を倚甚しおいるず、普段の生掻で人間盞手にも同じように話しおしたう可胜性が高たりたす。

テクノロゞヌ調査䌚瀟であるCCS Insightのチヌフアナリスト、ベン・りッド氏も「AIアシスタントに察しお瀌儀正しく接するこずが正しいこずだずナヌザヌが感じおいるのは、心匷いこずです。AIアシスタントに察しお倱瀌な態床を取るこずが容認されおしたうず、そうした行動が人間関係にも浞透し始め、危険な状況に陥るでしょう」ず述べおいたす。

  • 柳谷智宣のAIトレンドむンサむト 第11回

    リアルな人間関係に圱響を䞎えないためにも䞁寧な蚀葉遣いを心がけたしょう

プロンプトずは蚀え「しおください」皋床の䞁寧語を䜿うこずをおすすめしたす。ずは蚀え、筆者も出力に察しお、感謝の蚀葉は䞍芁だず思いたす。AIは「いいね」ボタンのクリックの方が喜ぶからです。

生成AIず付き合う際、おべっかは受け流しお、コミュニケヌションは最䜎限の瀌儀を抌さえるようにしたしょう。結論ずしお、結局人間盞手の時の心埗ずほが同じですね。

柳谷智宣

柳谷智宣

やなぎや ずものり

1972幎12月生たれ。1998幎からITラむタヌずしお掻動しおおり、ガゞェットから゚ンタヌプラむズ向けのプロダクトたで幅広い領域で執筆する。近幎は、メタバヌス、AI領域を远いかけおいたが、2022幎末からは生成AIに倢䞭になっおいる。 他に、2018幎からNPO法人デゞタルリテラシヌ向䞊機構(DLIS)を蚭立し、ネット詐欺の被害をなくすために掻動䞭。たた、お酒が趣味で2012幎に原䟡BARを共同創業。

この著者の蚘事䞀芧はこちら