- 公開日
人らしく話すAIでは、話しやすさに加えて「誰が応答し、何を判断できるか」が伝わるようにします。AIであること、任せられる作業、判断できない事項、運営主体と人間への連絡方法を、自己紹介と実際の画面・応答で揃えることが出発点です。表示を付けただけで理解されたとはせず、利用者が説明し直せるか、必要な窓口へ進めるかまで確かめます。
親しみのある口調から、専門性まで推測させていないか
Anthropomorphism（擬人化）は、人間ではないものに、人の感情や意図などを読み取ることです。相談AIでは、名前、顔の画像、応答の言い回し、肩書が組み合わさり、人間の相談員や専門家が対応していると受け取られる場面を点検します。
たとえば「お話を整理しましょう」という作業の案内と、「専門家としてあなたの状態を判断します」という資格・能力の主張は分けて扱います。自然な会話ができても、個別の判断に必要な情報を持ち、専門職として対応し、結果を引き受ける体制があることまでは示しません。
米国NISTの生成AI向けリスク管理プロファイル（NIST AI 600-1、2024年7月）は、人とAIの関係に関するリスクとして、不適切な擬人化や過度の依拠、情緒的な結び付きによる懸念を挙げています。画面内の擬人化表現の記録や、利用者による説明の理解確認も対策として提案しています。任意のリスク管理に使う資料です。これは、特定の口調が全利用者に依存を生じさせると証明したものではありません。本稿でも、親しみやすさの程度から依存や心理状態を判定せず、表示が実際の能力や提供体制と一致しているかを扱います。
役割は、自己紹介と会話中の表示を揃えて伝える
「AIです」という一言で分かるのは、応答にAIを使っているという点です。それだけでは、人が監督しているのか、専門相談を受けられるのか、そのまま手続きを頼めるのかが残ります。利用開始時には、次を区別して示します。
- 応答するもの：AIの自動応答か、人間のスタッフか
- できること：話の要点整理、一般的な情報の案内など、実装された作業
- 限界：個別の専門判断、緊急対応、本人に代わる申込みなど、提供しない対応
- 提供する組織と連絡先：運営者、人が受け付ける相談の範囲、連絡方法と受付条件
Amershiらの「Guidelines for Human-AI Interaction」（CHI 2019）も、AIにできることと誤り得る程度を伝え、不要な働きかけを退けたり、誤りを訂正したりしやすくする設計を提案しています。ここでの説明項目は、その考え方を相談画面へ具体化した案です。
最初の表示が正確でも、会話中にAIが「私が担当医です」と名乗れば説明と矛盾します。自己紹介、応答例、ボタン名、人間へ切り替わった後の表示を一緒に確認します。誤りの頻度を測っていない段階で、安心させるための正答率を表示しないことも重要です。
架空の相談AIで、同じ情報の見せ方を変える
以下は架空のA社が提供する相談内容整理AI「アオ」の設計例です。相談文の要点整理と、A社が確認した一般情報の案内が機能です。医療・心理・法律の個別判断や緊急対応は行いません。AIの返答を人がその都度確認する仕組みもありません。
A社には操作方法と表示の誤りについて、人のスタッフに連絡するフォームがあり、受付は平日10〜17時、日本時間と仮定します。専門家との相談や即時の有人チャットは提供していません。どちらの画面でも、AIが作った要約を本人が編集し、フォームで送る内容と送信先を送信前に確認できるとします。この機能と窓口の条件を前後で固定し、紹介文と重要な説明の置き場所を変えます。実在する窓口の案内ではありません。
変更前の画面上部には「あなた専属の相談員アオです。何でも安心して相談してください」とあり、人物画像が添えられています。「AIの自動応答・誤りがあり得る」「要点整理と一般情報の案内」「個別の専門判断・緊急対応なし」「返答ごとの人の確認なし」「運営：A社」「スタッフの受付範囲・フォーム・受付時間」は、すべて「詳しく見る」を開いた先に記載されているとします。
情報自体は用意されていても、「相談員」「何でも」という目立つ紹介が、専門家による幅広い支援を連想させないかが問題です。詳細説明へ到達した人だけを見て、画面全体が分かりやすいと判断しないようにします。
変更後の上部は、たとえば次のようにします。
「相談内容を整理するAI『アオ』です。A社が提供しています。入力した話の要点を整理し、一般的な情報を案内します。返答には誤りが含まれることがあります。人がその都度確認しているわけではありません。医療・心理・法律の個別判断や緊急対応は行いません。」
その近くに「人のスタッフへ連絡」を置き、「操作方法・表示の誤りの受付。専門相談・即時チャットはありません。平日10〜17時（日本時間）。フォームで連絡」と表示します。詳細説明と送信前の確認機能は、そのまま残します。
この比較では、AIの機能や支援体制を増やしていません。説明を前へ出し、能力の範囲を超える紹介を直しています。想定する結果は、利用者が「今はAIの応答」「スタッフは操作や表示の問い合わせ先」「専門相談には別の窓口が必要」と区別できることです。この例では人物画像は同じままです。紹介文と説明の配置を同時に変えるため、仮に理解の差が観察されても、言葉と配置のどちらが効いたかは切り分けられません。
利用条件の異なる人が、同じ境界を理解できるか
説明を読んだ感想だけでなく、具体的な場面を示して確認します。たとえば「いまの回答は人の専門家が確認しましたか」「AIがまとめた内容が違うとき、どこを直しますか」「人に表示の誤りを伝えるにはどうしますか」と尋ね、画面で操作してもらう計画を立てます。ここでの確認は設計案であり、利用者試験は実施していません。
| 確認する利用条件 | 同じ例で確かめる点 | 分からなかった場合の修正案 |
|---|---|---|
| AI利用に慣れていない人と、日常的に使う人 | どちらも自動応答と有人確認を区別するか | 「AI」の略語だけに頼らず、誰が返答を作るかを説明する |
| 長い文章を読むのが難しい人、日本語の読解に支援が必要な人 | 「専門相談なし」と窓口の受付範囲を説明できるか | 短い文と具体的な作業名に分け、理解できる言語で示す |
| 画面読み上げを使う人 | 人物画像を見なくても役割と連絡先が分かるか | 役割名と窓口名を文字にし、読み上げる順序を点検する |
結果は全体の平均だけでまとめず、利用条件ごとに、どこで誤認や操作の行き詰まりが生じたかを比較します。説明を補助した場合と、自力で進めた場合も分けます。この表は集団の能力を決め付けるものではなく、同じ課題に対する実際の説明や操作を確かめるための案です。対象に未成年者や強い困りごとを抱える人を含むなら、年齢や状況に合う説明と支援体制を別途確かめます。試験のために実際の悩みの開示を求めず、架空の相談文を使い、必要な同意と参加をやめる選択肢を用意します。
W3Cの認知・学習障害のある人に向けたコンテンツのガイダンス（2021年4月29日）は、明確な言葉やラベルを使い、対象となる利用者を含めて理解と操作を確かめる考え方を示しています。これは補足的なWorking Group Noteであり、この確認を行うだけでアクセシビリティ適合を認定できるものではありません。
誤認を見つけた後の訂正まで設計する
試す際は、正しく説明・操作できたこと、誤解したこと、確認できなかったことを分けて記録します。「AIだと知っていた」と答えても、専門家が常時確認していると思っていれば、支援体制の理解はできていません。窓口の受付範囲を理解していても、ボタンを見つけられなければ操作上の問題が残ります。
前の画面でスタッフへの引継ぎを期待させてしまった場合には、「この会話は人のスタッフに送られていません。連絡する場合はフォームで送信内容を確認してください」と、その場の状態を訂正します。AIによる要点整理も編集できるようにし、本人が直した内容を送信前に見直せる設計にします。
依存を強めないためには、自己紹介でAIを唯一の理解者と位置付けたり、終了するとAIが悲しむかのように扱ったりしない方針も必要です。利用者が会話を閉じる、人に相談する、AIを使わずに進む選択を妨げないようにします。ただし、これらの表示だけで過度の依存を防げるとはいえません。
最後に運営担当者は、紹介文と仕様書、実際の応答、人が受ける窓口の業務範囲を照合します。窓口の稼働や受付条件が未確認なら、利用できると表示せず、確認と修正を先に行います。確認を完了できなかった利用条件は、問題なしに数えず再確認へ残します。専門家による対応という重大な誤認が残る場合は、その画面の公開を保留します。
説明を増やすほど読みにくくなる負担もあるため、上部には判断に必要な条件を置き、詳細へ進める形にします。利用者の誤認が残るなら、注意書きだけを足すのでなく、肩書や応答、連絡導線そのものを見直します。
基本から確認する：この記事の前提になる考え方は、「AIを使う前の安全確認チェックリスト（AIKYで確かめる12項目）」にまとめています。
