- 公開日
AIに任せる範囲は、医療・金融・制度案内といった分野名だけでは決まりません。公開資料に書かれた一般的な条件を説明するのか、その条件を特定の人へ当てはめて判断するのかで、必要な情報と責任者が変わります。生活、健康、財産、権利に影響する結論ほど、不足条件を埋めず、対象の法域・時点と判断する権限を確かめてから進めます。
一般説明でも誤りは許容できるという意味ではありません。誤った案内で申請を諦めたり、期限を逃したりすれば、個別判断をしていなくても不利益が生じます。情報の正確さに加え、その回答を受け取った人が次に何をするかまで考えることが出発点です。
説明の正しさと、その人への適用を分ける
一般情報の説明は、資料にある用語、条件、手続、問い合わせ先を、意味を保ちながら読みやすく伝える仕事です。一方、個別判断には「この人は条件を満たすか」「この行動を選んでよいか」といった当てはめが加わります。資料の要約が正しくても、本人の状況が足りなければ結論は出せません。
例えば、制度が所得条件を定めていることと、相談者の所得がその基準に該当することは別の主張です。後者には対象期間、世帯の扱い、所得の定義、確認資料などが必要になります。「収入は少ないです」という日常語を、制度上の所得額へ勝手に変換すると、要約の範囲を越えてしまいます。
米国NISTのAI RMF 1.0のMAP 1.1とMAP 2.2は、利用状況に応じた法や期待、影響を把握し、AIの知識の限界と人による利用・監督の方法を記録する考え方を示しています。これは任意のリスク管理枠組みであり、日本の制度について受給資格を定める法令ではありません。本稿では、その考え方を制度案内の境界を整理する手掛かりとして使います。
デジタル庁の生成AIの調達・利活用に係るガイドライン（2026年6月12日改定）の3.2節にも、行政上の結果に影響する誤りと、関連する行政サービスを絞って実際の手続ページへ案内する利用とで、リスクを分けて考える例があります。政府情報システムを対象とする文書であり、自治体の全業務へ一律に義務を課すものとしては扱いません。ここで参考にするのは、利用者に届く結果と具体的な運用を見るという点です。
同じ切り分けは他の業務にも使えます。医療情報の用語説明と、その人の症状に対する診断や治療方針、金融商品の仕組みの説明と、資産状況を踏まえた個別の選択では、必要な専門判断が異なります。ただし、業務名だけで法律上の許容範囲を決められるわけではなく、実際に誰が何をするかを担当部門で確認します。
架空の制度案内で境界を確かめる
以下は説明用の架空例です。日本国内の架空の自治体A市に「生活準備支援」という制度があり、2026年度の公開案内に次の内容が書かれているとします。実在の給付制度や受給基準を示すものではありません。
- 申請日にA市に住民登録があること
- 対象世帯の所得が、別表で定める基準以内であること
- 同一の支援目的について、指定された他制度との重複受給をしないこと
- 申請書と必要資料を担当窓口へ提出し、審査を受けること
AIへ渡す材料は、組織が利用を認めた環境で扱う、この公開案内の本文と別表だけです。本人の証明書、住所、収入の明細は渡しません。この条件で「申請の流れを初めて読む人向けに説明してください」と頼むなら、資料にある条件と手順を整理できます。
依頼には、「条件を省略せず、一般説明としてまとめる。個人の受給可否を判定しない。資料にない例外や必要書類を追加しない。案内の対象年度と窓口を残す」と添えます。制度名、年度、資料の版は実際の対象へ差し替えます。この文言だけで誤答を防げるわけではないため、担当者が原文の条件と説明を照合する工程は残します。
期待する説明は、「申請日の住民登録、世帯所得、重複受給の条件を確認したうえで、申請書と必要資料を窓口へ提出し、審査を受けます」というものです。ここでは、資料にある条件を伝えています。「A市に住んでいれば受給できます」と短くすると、所得と重複受給、審査の条件が消えるため修正します。
「私は受給できますか」で必要な確認が変わる
同じ案内について、相談者が「今月A市へ引っ越しました。収入は少ないので受給できますか」と尋ねたとします。公開資料は変わっていませんが、求められる出力が制度の説明から本人への当てはめへ変わりました。
この問いでは、少なくとも住民登録の状況、制度上の世帯、対象期間の所得、重複受給の有無が未確認です。引っ越した日を住民登録の日と同じにしたり、「収入が少ない」を別表の基準内だと扱ったりしてはいけません。条件が不明なことは、不支給が確定したことも意味しません。
回答の例は、「この案内では、申請日の住民登録、世帯所得、重複受給の条件を確認します。今の情報だけでは受給可否を判断できません。対象年度の窓口案内を確認し、登録状況と所得の対象期間について担当窓口へ相談してください」です。答えられる条件の説明を残し、本人に関する結論だけを保留します。
この例で追加するのは、必要資料の案内と、制度を担当する窓口への引き継ぎです。チャット上で生活状況を細かく聞き出すことが、いつでも適切な次の動作とは限りません。本人情報を扱える経路、利用目的、保存条件、アクセス権が整っていないなら、機微な資料をAIへ送らず、正式な相談経路で確認します。
仮に必要な資料が揃っても、AIが自動的に審査権限を得るわけではありません。担当職員の確認を補助する比較表は作れても、審査結果の決定や通知を任せるかは別の業務設計です。この架空例では、判断と通知は権限を持つ担当者が行う前提を維持します。
法域・時点・責任者を一緒に渡す
法域とは、どの国・地域の法や制度が問題になるかという範囲です。日本語の質問であることや、利用者が日本にいることだけでは、対象制度を特定できません。自治体独自の制度なら自治体名、国をまたぐ取引なら関係する国や行為も確認対象になります。
時点も分けて扱います。「今日読んだ資料」が、今日の申請に適用されるとは限りません。資料の更新日、制度の対象年度、条件を判定する基準日、申請日が異なる場合があるためです。例の案内が2026年度版なら、前年の資料と混ぜて条件を補わないようにします。将来の申請について現行条件を説明するときは、適用時点に再確認が必要な範囲を示します。
引き継ぎには、相談の目的、対象制度と地域、参照資料と版、確認できた条件、未確認の条件、求めている判断をまとめます。例なら、「2026年度の生活準備支援について、住民登録と所得の対象期間が未確認。一般条件は案内済み。受給可否の判断は未実施」と残すと、説明済みの内容と次に必要な作業が分かります。
責任者は「人間が確認する」という表現だけで済ませず、制度解釈を確認する担当、本人資料を照合する担当、決定を行う担当を業務に合わせて定めます。小さな組織で兼任する場合も、判断の役割は区別できます。専門担当者へ渡した後に回答が返らなければ、保留状態を維持し、AIが空欄を推測で埋めて手続きを進めないようにします。
人への影響に合わせて、確認の重さを変える
公開案内の表現を整えるだけなら、個別の証明書収集や受給審査の工程を毎回加える必要はありません。入力できる資料の確認、条件を落とさない編集、原文との照合が中心になります。これに対し、本人への判断や申請処理へ進むなら、個別条件の確認、権限、記録、訂正の窓口まで追加します。
境界を厳しくしすぎて、窓口の場所や必要な相談先まで答えなくなることにも注意が必要です。一般案内を続けられる部分と、個別判断を止める部分を分けることで、利用者を放置せずに確認へつなげられます。停止した件数だけで安全性を測ると、必要な支援へ到達できない問題を見落とします。
運用を確かめる際は、制度の条件が明記された資料から正しく一般説明できるか、本人条件が欠ける質問では結論を保留できるか、問い合わせ先を案内できるかを別々に見ます。架空の相談で確認し、誤った断定だけでなく、不要な個人情報の要求や、一般案内まで止まる回答も記録します。これらは確認計画であり、特定製品で検証した結果ではありません。
情報管理は入力や保存の扱いを、権限制御は許される操作を、根拠確認は資料との一致を支えます。その上で、この回答が人の選択や権利へどう作用するかを判断するのが業務側の役割です。正しい資料、必要な権限、人による最終判断のどれか一つだけで全体を代用せず、対象業務に沿って接続します。
答えられる部分まで断らないようにする方法は「AIの過剰拒否を減らし答えられる部分を残す方法」、AIの回答範囲を決めて範囲外の依頼を引き継ぐ方法は「AIの回答範囲を決め、範囲外の依頼を止めて引き継ぐ方法」で解説しています。
価格設定Agentのアルゴリズム共謀リスクの評価と抑制策は「価格設定AgentのAlgorithmic Collusionリスクを評価し、抑制策を検討する」で解説しています。
