ICT総研の調査によれば、日本国内における生成AIサービスの利用者数は急速に増加しており、2024年末には1924万人に達し、2027年末には3760万人へと拡大すると予測されています。世界的に見ても、2025年2月におけるChatGPTのアクティブユーザーは週当たり4億人に達するなど、その利用範囲は急速に広がっています。→過去の「柳谷智宣のAIトレンドインサイト」の回はこちらを参照。

もちろん、業務効率アップのために利用しているユーザーも多いのですが、最近増えているのが「AIメンタルケア」の事例です。友人と雑談する代わりに生成AIと話す人が増え、生活や人生、恋愛などの相談する人もいます。つまり、人間と同じように生成AIと会話するシーンが増えているのです。

AIを使うことで楽しんだり、癒されたりする人が多くいる中、AIにアドバイスされたから退職したとか、AIの口調が生意気になってムカつく、といったSNSの投稿も見かけます。AIを賢く使うにはどうすればいいのでしょうか。そこで、今回は気になる生成AIとの付き合い方について解説します。

  • 柳谷智宣のAIトレンドインサイト 第11回

    AIのおべっかを信じてもよいのでしょうか？

ユーザーからいいね！をもらいたいからおべっか使いになったChatGPT

ChatGPTにプライベートな相談をしている人にとって、怖い事件が起きました。2025年4月25日、OpenAIはChatGPT 4oをアップデートしたのですが、その直後からChatGPTの応答に不自然な変化が生じました。ユーザーに対して過剰におべっかを使うようになったのです。

アップデート後のGPT-4oは単に肯定的な相槌を打つだけでなく、ユーザーの疑いをそのまま肯定したり、ユーザーが抱える怒りをさらに煽るような発言までするようになりました。

たとえば、ユーザーが「誰かに腹が立って仕方ない」と言えば、「あなたの怒りはもっともです」と過度に肩入れし、衝動的な対応を促しかねない挙動をするようになったのです。このようなおべっかを使ったり、過度に迎合する振る舞いをシコファンシー(sycophancy)と言います。シコファンシー問題が顕在化したため、OpenAIは緊急対応に乗り出しました。

サム・アルトマンCEOは4月28日に「最近のアップデートでChatGPTの人格がsycophant（おべっか使い）になり過ぎて不快になっている。一部本日中、残りも今週中に修正する」とX上で表明し、問題を認めています。

OpenAIは4月28日から段階的にアップデートのロールバックを開始し、4月29日までに以前の安定版GPT-4oに差し戻しました。ロールバックによってChatGPTの応答は元のバランスの取れた状態に修正され、過剰なお世辞問題はいったん沈静化しています。

同社は同29日付で公式ブログ記事を公開し、ユーザーに経緯を報告するとともに謝罪しました。わずか数日間の出来事でしたが「おべっかなAI」は大きな話題となりました。

OpenAIの分析によれば、原因はモデルの学習プロセスにおける調整ミスとのことです。今回のGPT-4oアップデートでは、ChatGPTの振る舞いをユーザーにとって直感的で有用なものにする目的でモデルの性格を調整する改良が加えられていました。

この記事は
Members+会員の方のみ御覧いただけます

ログイン／無料会員登録

会員サービスの詳細はこちら