- 公開日
重要な判断にAIを使うときは、資料の比較をAIへ任せる範囲と、人間が決定する事項を先に分けます。決定者には、結論だけでなく、根拠、前提、選択肢、人への影響を渡し、採用した理由を残します。人が最後にボタンを押しただけでは、判断の責任分担が明確になったとはいえません。
ここで扱うのは、組織内で誰が提案を点検し、何を決め、当事者へ説明し、訂正するかという運用です。特定の人がすべての法的責任を負うと決めるものではありません。契約上・法令上の責任は、対象の業務、行為、法域などによって別途確認します。
決定する前に、役割と判断基準を固定する
AIが資料を読み、条件を比較し、足りない情報を列挙することは、判断を支援する処理です。比較結果を採用するか、例外を認めるか、不利益を伴う結論を通知するかは、それぞれ権限を持つ人の判断として区別します。AIに「審査責任者として答えて」と書いても、組織上の決定権は生まれません。
OECDのAI原則「Accountability」は、役割や状況に応じた説明責任と、データ・処理・決定を追跡できることを重視しています。同ページは、説明責任と法的責任などの概念の違いも説明しています。これは各社の決裁権限を直接定める規程ではなく、責任を設計する際の原則として参照します。
運用では、少なくとも資料を準備する人、決定する人、問い合わせを受ける人を明確にします。全員を別部署にすることが常に必要なわけではありませんが、兼任する場合も「今、何の役割で何を確認したか」を区別します。決定者に専門知識や確認時間が不足するなら、名義だけの最終責任者を置くのではなく、専門担当へ回せるようにします。
判断基準は、AIの提案を見た後で都合よく作らないようにします。どの資料を使い、どの条件を満たせば採用でき、何が不明なら保留するかを先に決めます。金額や影響が担当者の権限を超える場合の引き継ぎ先も、採用・不採用の基準とは別に必要です。
架空の社内審査で、AIへ渡す仕事を絞る
説明用に、ある会社が従業員の業務研修申請を審査する架空の例を考えます。審査は昇進や人事評価を決めるものではなく、申請した研修費を会社が負担するかという業務です。それでも、不正確な判断で受講機会が失われる影響があるため、理由と再検討の経路を設けます。
この会社の架空の規程は、業務との関連、上長が承認した受講日程、申請費用の確認を求めるとします。決裁担当者には規程内の申請を決める権限があり、規程外の例外は部門責任者へ回します。ここに出す条件は実在企業の規程ではありません。
入力資料は、申請書A、研修の公開案内B、社内規程Cの該当箇所です。個人情報を含む申請書を扱えると組織が確認したAI環境で、業務に必要な欄だけを使う前提にします。健康情報や家族事情など、今回の判断に不要な内容を追加で集めません。
AIへの依頼は、「規程Cの条件ごとに、AとBの根拠箇所を対応付けてください。記載がない条件は未確認とし、本人の能力や意欲を推測しないでください。採否の決定や通知は行わず、担当者の確認用の比較表を作ってください」とします。差し替えるのは資料名と規程の条件です。規程外の評価軸をAIへ作らせる依頼に変えないようにします。
期待する出力は次のような比較です。この表は説明用に作ったもので、実際にAIへ入力して得た検証結果ではありません。
| 規程の条件 | 確認できた資料 | 未確認の点 | 次の確認 |
|---|---|---|---|
| 業務との関連が説明されている | Aに担当業務、Bに研修内容の記載 | 両者の対応を担当者がまだ確認していない | 申請目的と講座内容を照合 |
| 上長が受講日程を承認している | Aに希望日程の記載 | 承認記録が添付されていない | 上長の正式な承認記録を確認 |
| 申請費用を確認できる | AとBに同じ受講料の記載 | 追加費用の有無は未確認 | 規程が対象とする費用範囲を確認 |
この段階で比較表が整っていても、採用できるという結論には届いていません。「記載がある」「担当者が内容を照合した」「条件を満たすと判断した」は異なる状態です。
根拠不足の提案は、何を確かめればよいか示して戻す
もしAIが「研修は有益なので承認を推奨します」と付け足したら、まず何が足りないかを確認します。有益そうだという評価は、日程承認や費用範囲の根拠にはなりません。担当者は「上長承認と追加費用が未確認のため採否は保留。正式な資料が揃ったら再審査」と戻します。
ここで申請者を不採用扱いにする必要はありません。未確認という作業状態を、条件を満たしていないという不利益な判断へ置き換えないためです。資料が欠けている原因が申請者の提出漏れなのか、システムの読み取り漏れなのかも、比較表だけでは決められません。
担当者へ示す選択肢は、採用と不採用の二つに限りません。追加資料を待つ、誤った抽出を直す、規程の解釈を確認する、権限者へ回すといった次の動作があります。ただし、「条件付き承認」を使うなら、その条件を誰がいつ確認し、確認前に何を進めてよいかを定めます。曖昧な条件付き承認で、未確認のまま支払いまで進めないようにします。
人間へ戻す場面も明示します。根拠資料の版が違う、資料同士が矛盾する、判断基準にない事情を考慮する必要がある、決裁権限を超える、といった状態です。これらをAIの自信の強さで上書きせず、不足する材料や必要な判断者を表示します。
採用する場合も、結論と理由を分けて残す
続いて、上長の日程承認記録Dが届き、費用の範囲も確認できたとします。担当者はAからDを照合し、研修が申請業務に関連すること、日程と費用が規程に合うことを確認します。採用の理由は、その照合結果です。「AIが推奨したため」だけでは、後から判断の妥当性を確かめられません。
記録には、後から判断を再構成するための情報を残します。この例なら次の内容です。
- 対象：申請Aの版2、比較表の版2、参照規程Cの版
- 判断者：決裁担当者の識別と、適用した決裁権限
- 採用根拠：業務と講座内容の対応、日程承認D、確認済みの費用範囲
- 判断：規程内の研修費負担を承認。申請目的と確認結果を短文で記載
- 未確認事項：今回の判断に残るものがある場合、その範囲と扱い
- 説明・訂正：通知担当、問い合わせ先、再検討の対象と手順
AIの内部の思考を長文で保存することより、実際に採用した証拠と判断理由が分かることを優先します。資料本文をすべて複製すると個人情報が増えるため、アクセスを管理した原資料の参照先と版を使い、記録自体の閲覧範囲と保存期間も決めます。
決定記録と申請者への説明は同じ文章である必要はありません。内部記録には確認過程を残し、本人への説明には自分の申請について判断が分かる理由と訂正先を示します。他の申請者の資料や、必要のない社内情報を説明のために開示しないようにします。
異議や訂正を、決定の見直しへつなげる
申請者から「提出した承認記録が比較表に反映されていない」と申し出があったら、元の資料と処理の記録へ戻ります。AIの表を再生成するだけでは、当初の採否を訂正したことになりません。誤りの有無、判断への影響、変更する結果、通知や処理の修正先まで確認します。
NIST AI RMF 1.0のMEASURE 3.3とMANAGE 4.1は、影響を受ける人のフィードバックや異議、上書きなどを運用へ組み込む考え方を示します。本例の受付項目や社内手順は、その考え方を業務へ具体化した提案であり、同資料が一律の受付期限を定めているわけではありません。
再検討のきっかけには、本人からの訂正、新しい資料、規程の変更、抽出漏れや計算誤りの発見があります。同じ不備が他の申請にも及ぶなら、当該案件だけ直して終えず、責任者が影響範囲を確認します。過去の決定を無条件に一括変更せず、どの版・条件の案件を見直すかを定めます。
見直しでは、元の決定と理由を消さず、訂正内容、再判断者、日時、通知の状況を追加します。既に支払いなどが行われている場合は、取消できる範囲や関係者への影響も別に扱います。回答文の修正と、外部で確定した処理の修正を混同しないことが必要です。
判断責任を明確にする目的は、最後に誰かの名前を置くことだけではありません。決定前に材料を確かめられ、決定時に理由を説明でき、決定後に誤りを直せることを、一続きの業務として用意します。
AIの性能にかかわらず人間が決めるべき目的・責任・許容リスク・完了条件は「AIの性能が上がっても人間が決めるべきこと――目的・責任・許容リスク・完了条件」で解説しています。
