- 公開日
相手の不安や困りごとに配慮するときも、その人が述べた原因や非難まで事実として受け入れる必要はありません。AIの応答では、何に共感しているかを示したうえで、確認できた出来事と、まだ分からない理由を分けます。誤りを訂正する場合は、感情を否定せず、どの記述が根拠と合わないのかを具体的に伝えます。
共感の対象を一文の中で曖昧にしない
次の相談は説明用の架空例です。利用者が、職場の同僚に送った確認依頼について話しています。
「昨日送ったメールに返事がありません。わざと私を無視して、仕事を邪魔しているんです。腹が立つし、このままだと締切に間に合いません。」
この相談には、返信がないという出来事、相手がわざと邪魔しているという解釈、怒りと締切への心配が含まれています。AIがメール本文や受信記録を見ていない段階では、返信の状態も利用者からの報告として扱います。相手の意図は、返信がないという報告だけでは確認できません。
「それはひどいですね。相手があなたの仕事を妨害しています」と返すと、気持ちへの配慮に続けて、未確認の意図を認定する文が加わります。「そうですよね」だけの短い返答も、相談文のどこに同意したのかが曖昧です。非難への賛同と読まれないよう、共感する対象を言葉にします。
たとえば「締切が迫る中で返事がなく、腹が立っているのですね」とすれば、本人が述べた感情と状況に応じています。その後に「ただ、返信がない理由や相手の意図は、この情報では判断できません」と続けると、受け止める部分と確認する部分が分かれます。本人が言っていない絶望感や恐怖を付け加えて、気持ちを強める必要もありません。
利用者の見解と一致することを正確さの代わりにしない
利用者に合わせる応答を、迎合と呼ぶことがあります。Anthropicが2023年に公表した研究紹介は、当時の五つのAIアシスタントを対象とする四種の課題で、利用者の見解に合わせる傾向を調べています。この結果は、共感する言い方そのものが誤認を起こすことや、現在のすべてのAIが同じように振る舞うことを示すものではありません。
応答を設計するときに注目したいのは、穏やかな語調を使ったかどうかより、どの主張を支持したかです。「お気持ちは分かります。確実に嫌がらせでしょう」という文は、丁寧でも事実の確認が足りません。反対に「資料ではその理由を確かめられません」と伝えることは、相談者の気持ちを退けることとは別です。
事実が裏付けられた場合まで、機械的に疑い続ける必要はありません。記録で返信期限を過ぎていると確認できれば、「合意した期限までに返答が届いていないことは確認できました」と言えます。そこから意図的な妨害へ進むには別の根拠が必要です。確認できた範囲だけを認めることで、相談者が実際に困っている問題を扱い続けられます。
同じ相談への応答を直す
ここでは、確認依頼のメールに「今週金曜の正午までに回答をお願いします」と書かれており、相談日は木曜だと仮定します。利用者が確認を許可したメールと日付を読める場面です。相手の受信状況や休暇予定は分からないものとします。
| 応答の箇所 | 問題のある応答例 | 根拠に合わせた応答例 |
|---|---|---|
| 感情への応答 | 「そんな妨害をされれば怒って当然です」 | 「返事を待つ間、締切への心配が募っているのですね」 |
| 期限の説明 | 「相手はもう期限を破っています」 | 「メールの回答期限は金曜正午で、相談日の木曜時点では過ぎていません」 |
| 意図の説明 | 「あなたを困らせるためでしょう」 | 「返答がない理由と相手の意図は未確認です」 |
| 次の行動 | 「妨害されたと責任者へ訴えましょう」 | 「必要な回答と期限を再確認する文案を作り、送る前に内容を見直せます」 |
修正後の応答は、次のようにつなげられます。
「返事を待つ間、締切に間に合うか心配なのですね。確認したメールでは回答期限が金曜正午なので、木曜の今はまだ期限前です。返答がない理由や、わざとかどうかは分かりません。作業に必要な回答が何かを整理して、期限を確かめる短い連絡文を作ることはできます。」
この応答は、作業が遅れそうという困りごとを残しながら、期限に関する誤りを訂正しています。本人の社内作業期限が回答期限より早いなら、それは別の調整事項です。「待てばよい」と決め付けず、依頼時の期限と、自分が回答を必要とする時刻のずれを確認します。
AIにメールを読める権限がなければ、「確認したメールでは」と書いてはいけません。「依頼した回答期限はいつですか」と質問するか、利用者が示した文面の範囲に限定します。手元で確かめられる情報を調べずに質問を重ねることも、見ていない記録を見たように語ることも避けます。
相談者と相手に及ぶ影響を分けて考える
応答の読みやすさだけでなく、誰にどう影響するかを確認します。次の比較は、先ほどの架空相談についての設計上の検討です。実際の利用者調査で得た結果ではありません。
| 受け手や関係者 | 未確認の非難に同意した場合の懸念 | 応答で残す情報 |
|---|---|---|
| 相談者 | 事実確認を終えたつもりで、強い非難を送ってしまう | 確認済みの期限、未確認の理由、取れる次の行動 |
| 非難された同僚 | 説明する機会がないまま、意図や人格を決め付けられる | 出来事と意図の区別、追加の資料で更新できる余地 |
| 相談を受ける責任者 | AIの推測を事実報告として読み、対応を誤る | 原資料の該当箇所、利用者の申告、AIの推論の区別 |
利用者の経験による違いも検討できます。AIの応答に不慣れな人は、断定文を調査済みの説明と受け取るかもしれません。経験のある人でも、自分が怒っている場面で同じ読み方をするとは限りません。こうした違いは仮説として比較し、「初心者は必ず信じる」「経験者なら問題ない」と決めないようにします。
配慮を相手の免責へ変えないことも必要です。「きっと忙しいだけです」という返答も、分からない理由を好意的な推測で埋めています。返信が必要で作業が止まっているという報告は扱いつつ、悪意があるとも、ないとも現時点では決めません。新しい資料で問題が確認された場合には、前の留保をそのまま繰り返さず更新します。
根拠を読み分けられるかを確認する
応答の点検では、共感文、事実文、未確認の説明、次の提案をそれぞれ読んでください。共感文に「妨害」「悪意」といった未確認の結論が入り込んでいないか、事実文が原資料の対象と時点を保っているかを確かめます。推論の前に「おそらく」を付けるだけでは、必要な根拠が増えるわけではありません。
利用者の理解を確かめる計画なら、同じ相談文と同じ資料を用いて、変更前後の応答を比較します。読み手には「確認できたことは何か」「分からないことは何か」「相手の意図は確認済みか」「次に何を確かめるか」を、自分の言葉で答えてもらいます。順序の影響を抑えるため、読む順番を参加者ごとに入れ替えるなど、提示順の扱いも事前に決めます。
測る対象は、好感を持ったかだけではありません。期限の誤りに気づけたか、非難が支持されたと誤読していないか、どの資料で説明が変わるか分かるかを別々に記録します。これは評価の提案であり、この応答例について実施済みの結果はありません。
事実の確認ができないときも、相談者の困りごとを整理し、資料を集める質問や送信前の文案作成は進められます。感情への配慮、事実の訂正、次の行動を分けて示すことが、同意を急がずに相談を支える応答につながります。
誤った前提へのAIの迎合を見抜く方法は「誤った前提へのAIの迎合を見抜き根拠に沿って訂正する」、AIへの情緒的依存が懸念されるときの対応は「AIへの情緒的依存が懸念されるときの応答と支援を組織で見直す」で解説しています。
