部下からAIの回答をそのまま見せられ、「これで進めていいですか」と聞かれる。取引先から届いた文面を見て、AIが書いたとすぐ分かることもある。同僚の提案書に、AIの提案がそのまま貼りついていることもある。そんな経験があるなら、まず知っておいてほしいことがあります。
渡された回答が正しいかどうかを確かめる材料は、自分の手元に十分にはありません。それなのに、使うかどうかの判断だけを求められた。そう感じるなら、判断の責任を重く感じるのも無理はありません。
なぜこの一言が重く感じるのか
AIの回答は、整った文章と自信ありげな言い方で出てくることがあります。判断を求められると、確かめないまま信じてしまいそうになることがあります。
総務省・経済産業省の「AI事業者ガイドライン（第1.2版）」は、人間の判断や意思決定において自動化されたシステムや技術への過度の信頼や依存が生じる現象を、自動化バイアスと呼んでいます。AIの利用にあたっては、AIに過度に依存するリスクに注意を払い、必要な対策を講じるべきだとされています。
そのまま受け入れる
- 確かめずに信じてしまう。
- そのまま採用する。
理由を考えてから判断する
- 自分の経験と照らし合わせる。
- 使う理由を言葉にする。
渡された回答を疑ってかかる必要はありません。ただ、その内容がもっともらしく見えることと、実際に正しいかどうかは、別の問題です。
採用する前に、自分の言葉で理由を考える
同じガイドラインは、AIが出した評価や判断、提案などの答えを採用するときには、なぜ採用するのか、理由や根拠を自分の頭で考えることを、対策の一つとして挙げています。
これは、AIの回答を最初から採点し直す作業ではありません。今の案件に長く関わってきた自分の経験や、AIに伝えていない現場の事情があるなら、それはAIの回答にはない判断材料になります。
渡された回答を、その経験や事情と照らし合わせて、「ここは自分の感覚と合っている」「ここは現場の実情と違う」と気づいた点を言葉にすること。それが、そのまま使うか、直すか、使わないかを決める理由になります。
全部を一から検証し直す必要はありません。気になった点を一つ、自分の言葉で言い直せれば十分なこともあります。ただし、安全や法令に関わる判断のように、確認を省けない場合もあります。
渡してきた相手に、どう問い返すか
その場でOKかNGかだけを答えると、判断の材料は増えないままです。渡してきた相手に一言問い返せば、話す中で新しい材料が見えてくることがあります。
なぜAIに聞いたのかを問い詰める必要はありません。「この回答のどこが良いと思った？」「現場でこのまま使うとしたら、どこを変える？」というように、これからどうするかを聞く形にすると、相手も話しやすくなります。
相手が答えれば、その考えも言葉になります。そのやり取りを通じて、判断するための材料が、少しずつ増えていきます。
最後に決めるのは誰か
理由を考え、問い返しを重ねて材料をそろえたうえで、最終的にゴーサインを出すかどうかを決める。その判断を任されているなら、決めるのはAIでも、渡してきた相手でもありません。判断を求められた自分自身です。AIの回答は、判断材料の一つにすぎません。
問い返すことに気まずさを感じて、つい先延ばしにしたくなることもあります。そんなときは、気まずさが消えるのを待ってから動こうとすると、その日はなかなか来ません。先に一つだけ問い返してみれば、気持ちの整理は後からついてくることがあります。
※ 出典: 総務省・経済産業省「AI事業者ガイドライン（第1.2版）」。
※ 江原 和比己（えはらかずひこ）—— 産業カウンセラー（日本産業カウンセラー協会認定）／日本ブリーフサイコセラピー学会 正会員／かずな総合研究所 代表。IT領域で約25年のキャリアを経て産業カウンセラーに転身。100kmウルトラマラソン完走者。