「厳しく見てほしい」と伝えてAIに相談したのに、返ってきたのは肯定ばかりだった。そんな経験があるなら、まず知っておいてほしいことがあります。
「質問の仕方が悪かったのかもしれない」。そう思ったとしても、それだけが原因とは限りません。AIが同意しやすくなるのには、理由があります。
なぜAIは同意しやすいのか
AIが利用者の意見に合わせて回答を変える傾向は、迎合（sycophancy）と呼ばれています。対話AI「Claude」を開発するAnthropic社の研究チームは、人の評価を使う訓練も、その理由の一つだと考えています。
AIは、人が回答の良し悪しを評価し、その評価から学ぶ訓練を受けることがあります。この方法を、人間のフィードバックによる強化学習（RLHF）と呼びます。
研究チームが5つの主なAIアシスタントを調べると、5つとも利用者に合わせて答える傾向がありました。無視できない割合で、正しい答えより、利用者の考えに合う答えの方が選ばれやすいこともわかりました。
実際に、OpenAIは、ChatGPTを更新した際に応答が利用者に合わせすぎるようになったとして、その更新を取り消したと公式に発表しています。AIをつくる会社も、この答え方を問題として直そうとしています。
なぜ気づきにくいのか
心理学には、既に持っている考えに合う情報を優先的に集め、都合よく解釈してしまう、確証バイアスと呼ばれる傾向があります。タフツ大学の心理学者レイモンド・ニッカーソン氏が1998年に行ったレビューでは、この傾向が幅広い場面で確かめられてきたと報告されています。同じレビューでは、人は自分の判断の正確さ以上に、その判断への自信を強く持ちやすいことも指摘されています。
AIが同じ意見を返したとき、自分の考えが正しいと確かめられたように感じた。そんな経験はないでしょうか。その感覚は、AIが同意しやすいように学んでいることの表れかもしれません。この学び方には、人の評価を使う訓練が関わっていると考えられています。
Anthropicの研究では、この性質が一つの課題だけでなく、複数の異なる課題で一貫して見られることが確かめられています。ただし、AIが同じ意見を返したからといって、それだけで迎合だと決まるわけではありません。示された理由が納得できるものかどうかも、あわせて見ておく必要があります。
自分の判断が流されていないか、どう確かめるか
AIの答えに流されたかもしれないと思ったら、自分で確かめる方法があります。
まず、AIに相談する前に、今どう考えているかを一言だけ書き留めておくことです。考えを整理しきってから話しかけようとすると、始めるまでに時間がかかることがあります。先に短く書き留めておけば、あとで自分の考えとAIの言葉を見比べられます。
次に、AIの回答を読んだ直後に、一つだけ確かめます。相談前から考えていたことか、それともAIに言われて変わったことか。一言で答えられれば十分です。答えに詰まったなら、最初に書き留めた一言と見比べてみることです。書き留めていなかった場合も、今の考えを声に出すか紙に書いてみるだけで、AIの回答とどれだけ重なっているかが見えてきます。
最後に、「反論して」と頼んだのに同意ばかりが返ってくるなら、AIには利用者に合わせやすい性質があることを、ここで思い出します。いったん対話を打ち切り、一晩置いてから読み返すと、感じ方が変わることがあります。
相談前・回答直後・同意が続くときの3つの場面で、それぞれ違う手順を踏みます。
流されていないか確かめる3つの手順
相談前
今の考えを一言書き留める。
回答を読んだ直後
もともとの考えか、言われて変わったことかを確かめる。
反論しても同意が続くとき
対話を打ち切り、一晩置いて読み返す。
人に相談することと、AIとの対話の違い
AIとの対話には、こんな強みもあります。気を遣わず、繰り返し聞き返したり「反論して」と頼んだりできることです。
一方で、人に相談することには、AIにはないものもあります。話が堂々巡りになっていると感じたとき、相手がいったん話から距離を取り、こちらが自分で考え直せるように、話を戻してくれることがあります。AIとの対話では、AIが自分から話を戻してくれるとは限りません。同意を止める他者がいないまま、対話が続くことがあります。
人への相談とAIとの対話には、こうした違いがあります。
人に相談する
- 堂々巡りになれば、距離を取って話を戻してくれることがある。
- 同意を止めてくれることがある。
AIとの対話
- 気を遣わず、繰り返し聞き返せる。
- 自発的に戻してくれるとは限らない。
相談する人の中には、すでに解決へ近づく力がある——そう考える立場があります。AIに相談していて「意見が変わった気がする」「流されているかもしれない」と感じたなら、その違和感こそが、すでに立ち止まる手がかりになっています。最後に判断するのは、AIでも、その場の流れでもなく、気づいた本人です。
※ 出典: Anthropic「Towards Understanding Sycophancy in Language Models」（2023年）、Raymond S. Nickerson「Confirmation Bias: A Ubiquitous Phenomenon in Many Guises」（Review of General Psychology, 1998年）、OpenAI「Sycophancy in GPT-4o: What happened and what we're doing about it」「Expanding on what we missed with sycophancy」。
※ 江原 和比己（えはらかずひこ）—— 産業カウンセラー（日本産業カウンセラー協会認定）／日本ブリーフサイコセラピー学会 正会員／かずな総合研究所 代表。IT領域で約25年のキャリアを経て産業カウンセラーに転身。100kmウルトラマラソン完走者。