定義
AI処理の一部に人間の確認・判断・承認を組み込む設計。確認箇所が多すぎると承認疲れを招くため、リスクの高い判断に絞って配置する。
詳しい説明
AIの処理の途中に人の判断を組み込み、人が確認・修正・承認・中止できるようにする設計です。
具体例
AIが作った顧客向けメールを、送信前に担当者が宛先・添付・内容を確かめて承認します。誤りがあれば差し戻します。
業務での判断例
架空の例として、どの操作に人の承認を入れるかを、誤ったときの影響で分けます。
| 操作 | 人の関わり方 | 理由 |
|---|---|---|
| 社内向けメモの要約 | 承認なし（必要に応じて確認） | 誤りの影響が小さく、すぐ直せる |
| 顧客向けメールの下書き | 送信前に担当者が承認 | 送った内容は取り消しにくい |
| 契約条件や料金を含む回答 | 担当者が確認し、必要なら責任者へ回す | 約束や金銭に関わる |
| データの一括更新・削除 | 実行前に、対象件数と内容を人が確認 | 元に戻しにくい |
承認する人が、判断に必要な情報（宛先、対象件数、変更前後の差分など）を見られないと、承認が形だけになります。
似た用語との違い
- Human-on-the-Loop：AIが自動で処理を進め、人は監視して必要なときに介入する形です。
- Human Oversight：人による監督の総称です。EU AI法の第14条は、高リスクAIについて、人が出力を無視・覆したり、停止したりできることを求めています。
実務での注意点
- 確認者に、対象、送る確定版、未確認事項、操作の影響を示します。承認ボタンだけでは判断できません。
- 人がAIを信頼しすぎて確認を怠る「自動化バイアス」に注意します。AI事業者ガイドライン第1.2版（2026年3月31日）にも、自動化バイアスへの言及が加わりました。
- 低リスクの作業まで一律に承認を求めると、確認が形だけになりやすくなります。承認を置く操作を絞ります。
