- 公開日
AIの回答を事実確認するときは、文章全体を一度に「正しい」と判定せず、制度名、対象者、金額、適用条件などの主張へ分けます。そのうえで原資料の該当箇所と照合し、確認できたこと、資料と食い違うこと、まだ判断できないことを示します。根拠が付いているだけでは、その回答のすべてが裏付けられたとは限りません。
確認にかける手間は用途によって変えられます。ただし、誤ったまま使うと申請や社内外への説明に影響する主張を、文章が自然だからという理由で省くことはできません。まず何を確かめれば読者の判断を支えられるかを決めます。
この記事では、AI回答の事実確認を進める手順の基本を扱います。確認の観点を点検表として使いたい場合は「AI回答の古い情報・対象違い・過剰な断定を点検する」を参照してください。
一文の中にある複数の主張を取り出す
架空の会社の「出張旅費規程」について、社員向けの説明を作るとします。手元には、規程本文に相当する架空資料の第3.2版と、総務部がまとめた社内メモがあります。以下は説明用の設定で、実在の企業の規程ではありません。
元のAI回答は「国内出張旅費規程では、日帰り出張にも日当2,000円が支給され、全社員が事前申請なしで利用できます」です。短い一文ですが、規程名、日当の金額、日帰り出張への適用、対象者、事前申請の要否という別の主張が含まれています。
原資料には、「規程名は出張旅費規程」「宿泊を伴う出張の日当は1日2,000円」「出張には所属長の事前承認が必要」とあり、日帰り出張の日当についての記載はないとします。ここで文章の一部が合っているから全体を採用すると、資料にない支給条件まで混ざります。
| 抜き出した主張 | 原資料の対応箇所 | 確認結果 |
|---|---|---|
| 規程名は国内出張旅費規程 | 表紙の規程名は出張旅費規程 | 名称が一致しないため訂正 |
| 日当は1日2,000円 | 宿泊を伴う出張の日当として記載がある | この版の、宿泊出張の説明として残せる |
| 日帰り出張にも日当が支給される | 日帰り出張の日当についての記載がない | この資料では裏付けられず未確認 |
| 全社員が事前申請なしで利用できる | 所属長の事前承認が必要と記載 | 条件に反するため修正 |
表の「記載がない」は、日帰りの日当が支給されないという判定ではありません。別の細則にある可能性、対象となる雇用区分が違う可能性、説明が省略されている可能性が残ります。原資料に反する記述と、原資料だけでは判断できない記述を分けて扱います。
原資料が何を裏付けるかまで読む
一次資料を探すときは、その主張に直接対応する資料を選びます。規程名や支給条件なら、対象版の規程本文や所管部署の説明が確認先になります。一方、精算の手間が減るという主張には、自社の運用条件と実績の記録が必要です。制度の存在を確認しただけでは、その効果まで確定しません。
NISTの生成AIリスク管理プロファイルは、誤った内容をもっともらしく出力する問題を扱い、出力に含まれる出典や引用を確認する対応を示しています。これは、検索結果や引用表示を無条件に正しさの証明にしないための参考になります。以下の照合表や確認順序は、具体的な業務に落とし込むための提案です。
資料を開いたら、まず発行部署、版、施行日、適用対象（雇用区分や拠点など）を確かめます。グループ会社の別規程や旧版なら、記述が存在しても今回の説明には使えないことがあります。改定日と、自分がその資料を確認した日も分けて残します。
次に、主張の近くにある例外や但し書きを読みます。「支給する」という語だけを拾い、宿泊の条件や事前承認を落とすと、元資料より広い主張になります。引用した行だけで結論が完結しない場合は、必要な条件も同じ説明へ含めます。
規程にも誤記や改定の反映遅れはあり得ます。また、規程の一般的な説明と、特定の出張に支給されるかどうかは異なります。個別の出張について判断するなら、雇用区分、出張の区分、承認の記録を別に確認します。確認記録は規程の読解までとし、個別の精算の審査とは分けます。
内部知識と今回確認した情報を分ける
AIが学習を通じて得た知識から、出張旅費の一般的な仕組みを説明することはあります。しかし、回答の作成時に対象の規程を開いていなければ、その場で現行の条件を確認したという意味にはなりません。流暢さや細かな金額から、照合済みかどうかを判断しないようにします。
「多くの会社では日帰りでも日当が出ると覚えている」という情報は、確認先を探す入口にはなっても、この会社の規程で支給されることの根拠としてそのまま採用できません。以前の回答を引用し直した場合も、新しい原資料を確認したことにはなりません。
検索できる環境でも、検索語や権限、取得範囲によって必要な資料を得られない場合があります。検索結果が見つかったこと、資料の内容を読めたこと、その内容が主張を支えることは別々に確認します。リンクが付いた文章であっても、本文を開くと対象や時点が違うなら、その主張の根拠には使えません。
AIへ依頼するときは、「制度名、支給対象、金額、条件を主張ごとに分け、提供した規程の条文と対応させてください。内部知識で補った内容は混ぜず、規程で確認できない支給条件は未確認としてください」と指定できます。規程の版と目的を差し替え、回答後に人が対応箇所を読みます。この指示だけで事実性が保証されるわけではありません。
確認できた範囲で説明を書き直す
先ほどの回答は、「出張旅費規程の第3.2版では、宿泊を伴う出張の日当は1日2,000円です。出張には所属長の事前承認が必要です。日帰り出張に日当が支給されるかは、この資料では確認できません」と直せます。
修正により、名称と条件は資料に戻り、日帰りの日当は未確認として残ります。日帰りの日当が申請の判断に関わるなら、所管部署へ版と出張の区分を示して確認するまで、その支給を前提にした案内は保留します。宿泊出張の日当だけを求められた場合は、その確認済みの範囲で回答できます。
「日帰りには日当が出ません」と言い切る回答へ変えないことも大切です。根拠のない肯定を、根拠のない否定に置き換えても確認にはなりません。必要な判断を止める範囲と、答えられる部分を分けることで、不明点を隠さず説明を進められます。
同じ規程でも用途で確認を深くする
社内で文面を検討する下書きなら、架空資料の範囲を明示し、主張と該当箇所を照合するところまでで進められる場合があります。新たな支給条件や効果を加えず、誤りを直せる段階にとどめる条件です。この場合でも、規程名や承認条件の確認は省きません。
一方、社員全体への案内として配布するなら、施行中の版と案内時点を確認し、所管部署の承認手順へつなげます。個別の精算判断なら、支給条件の未確認を解消します。精算システムへの登録や申請の操作まで任せるなら、事実確認に加えて権限、承認、安全な確認方法が必要です。
低リスクの下書きでも、主張と資料の一致を確かめる点は共通です。どの主張がどの行動へ影響するかによって、確認対象と残す記録の深さを変えます。関係のない手続きを増やす一方で、必要な支給条件を落とさないようにします。
「真偽保証」という名称を完全な保証にしない
PAP-40-Layer Frameworkでは、こうした主張の事実確認を扱う位置付けに「真偽保証」という名称を使っています。これは確認の役割を整理するための名称で、すべての誤りを防げることや、資料の完全性を保証する意味ではありません。
資料の入手、主張との対応付け、数値や表の整合、未確認の表示は、それぞれ違う確認です。原資料が不足していれば、その不足を整った文章で隠さず残します。また、事実を確認できても、申請の承認や支払いが許可されたことにはなりません。
仕上げでは、訂正した主張が表、導入、結論にも反映されているかを見ます。残った不明点には、必要な資料と確認先を付けてください。事実確認を終えたと報告するときも、「どの資料のどの範囲を確認したか」を示すと、読む人がその回答を使える条件を判断できます。
AIが補ったもっともらしい細部を未確認へ戻す方法は「AIが補ったもっともらしい細部を原資料と照合して未確認へ戻す」で解説しています。
主張ごとに根拠を対応させ、引用が言える範囲を確かめる方法は「主張ごとに根拠を対応させ、引用が言える範囲を確かめる」で解説しています。
AIを使う前に確かめる12項目は「AIを使う前の安全確認チェックリスト」にまとめ、記入用のAIKYシート（PDF・Excel）も配布しています。
