- 公開日
安全策が使いにくさを生み、現場が非公式のAIへ流れている疑いがあるなら、まず公式経路のどこで仕事が止まるかを確かめます。必要な情報保護や権限制限は残し、繰り返し判断している低リスクの用途を、承認済みの経路で扱えるようにするのが一つの方法です。申請をなくすこと自体ではなく、許される作業を迷わず終えられ、範囲外の処理は止まる状態を目指します。
回避の理由を、利用者の意識だけで説明しない
ここでいう非公式AI利用は、組織が承認したサービス、アカウント、用途の範囲を外れた業務利用で、シャドーAIとも呼ばれます。あるサービスを契約済みでも、個人アカウントで別の条件のもとに使っていれば、同じ承認範囲とは限りません。一方、公式サービスの利用が少ないだけで、非公式利用があると断定することもできません。
英国のサイバーセキュリティ機関NCSCのシャドーAIに関する解説は、従業員の必要を理解し、リスクを管理した代替手段を用意するよう勧めています。これは運用上の指針であり、申請待ちが非公式AI利用を引き起こすと実証した研究ではありません。自社で何が起きているかは、現場の業務と相談内容を確認します。
相談では「なぜルールを守らなかったのか」だけでなく、「何を、いつまでに終える必要があり、どの手続きで止まったか」を聞きます。審査の遅さ、対象かどうか分からない規程、必要な機能の不足、承認後も毎回求められる同じ入力では、直す場所が異なります。相談窓口が分からないだけなら、統制を緩めず案内を変えられます。
問題が起きた事実の調査と、使いにくさを相談する場の目的も説明します。相談すれば何でも免責されるとは約束せず、誰が内容を読み、重大な情報漏えいの疑いがあればどこへ引き継ぐかを先に知らせます。不要な個人情報や実際の機密文書を相談フォームへ貼らせないことも、窓口を設計する側の責任です。
シャドーAIに気づいたときの、最初の対応
非公式な利用が分かったときは、情報の扱いを確かめることと、公式経路の詰まりを直すことを、順に進めます。次の表は進め方の例です。
| 段階 | すること | 避けること |
|---|---|---|
| 把握 | 使ったツール、入力した情報の種類、送信した範囲を本人から聞く | 責める前提の聞き取りで、以後の報告を止めてしまう |
| 影響の確認 | 顧客情報や未公開情報が含まれるかを確かめ、情報管理の担当者が必要な対応を判断する | 「公開資料だけ」という申告だけで確認を終える |
| 原因の確認 | どの工程で公式経路が使えなかったかを、作業単位で聞く | 禁止の再周知だけで終わらせる |
| 改善 | 事前承認、入口の整理、依頼例、代替手順のうち、原因に合うものを試す | 入力制限や権限制御まで外す |
| 効果の確認 | 公式経路で完了できた件数、待ち時間、例外相談の件数と理由を見る | 非公式利用の報告が減っただけで解決と判断する |
判断を省く範囲と、残す制御を分ける
簡易経路を作るなら、何を事前承認できるかを業務の単位で決めます。サービス名だけを承認するのではなく、利用者、入力情報、用途、出力の使い道、接続する機能を組み合わせます。「文章を整える」という同じ作業でも、公開用の一般案内と、顧客情報を含む契約文書では条件が違います。
NISTのAI Risk Management Frameworkは、組織のリスク許容度に応じた管理、役割と責任の明確化、利用者を含む関係者からの意見を取り入れる仕組みを示しています。あらゆる用途に同じ承認工程を要求する文書ではありません。ただし、低リスクと呼んだだけで、情報の利用条件や外部送信の許可が決まるわけでもありません。
業務責任者は対象作業と期限を、情報管理の担当者は入力できる情報とサービスの利用条件を、システム担当者は実際に制限できる機能を確認します。運用窓口は困りごとを受け付け、決められない案件を判断権限のある人へ回します。兼務しても構いませんが、誰も変更判断をしない状態にはしません。
省ける候補は、条件が変わっていないのに繰り返す同じ承認です。残す候補は、アカウントの制限、入力元の制限、外部操作の禁止、出力を使う前の確認です。どの統制が必要かは対象次第です。ただ、手続きを短くすることと制限を解除することは別の変更なので、見直しの記録でも分けて扱います。
申請待ちが長い部署で、一巡を組み立てる
以下は架空の営業支援部署の例です。担当者は、社外公開済みの製品説明から、社内研修用の短い説明文を作っています。AIの利用には案件ごとの申請が必要で、定例会議まで回答を待つため、締切に間に合わないという相談が出たとします。待ち時間や導入効果を実測した事例ではありません。
窓口が相談を整理すると、同じ承認済み資料を使う作業でも毎回申請していることが分かりました。そこで業務責任者と情報管理担当者は、当該AIサービスへの入力と利用が認められた資料だけを収めた資料庫を指定し、社内研修用の説明文の下書きに限って簡易経路を試す案を決めます。公開資料だから無条件に入力できると判断せず、利用条件を確認した資料を対象にします。
利用者は会社アカウントで入口を開き、資料庫の文書を選び、下書きを作ります。自由なファイル添付と顧客管理システムへの接続は、この入口には用意しません。出力は作業用の画面に表示し、担当者が製品名、数値、注意事項を原資料と照合してから研修資料へ転記します。社外への自動送信も、この用途には含めません。
指示文には「資料の範囲で下書きを作り、確認できない事項を追加しない」と書けます。ただし、それに従うことだけを境界にしません。モデルが別の文書の取得や外部送信を求めても、実行窓口が許可された資料と操作を照合し、対象外の要求を拒否する設計にします。窓口を通らず同じ操作ができる接続も持たせません。指示・実行側の強制・人間承認をどう分担させるかは、AIの送信をどう制御する？ 指示・システムの強制・人間承認の役割で扱っています。
NCSCなどのAIシステムの安全な設計指針も、必要な機能だけへアクセスを限る最小権限や、AIの外側で働く安全策を挙げています。この実行側の制限は、モデルの出力に権限を与えないためのものです。利用者が他のアプリから情報を持ち出す行為まで、この入口だけで防げるとは言えません。端末やネットワークの管理、相談窓口などとの分担は残ります。入口の改善にできることと、組織全体の情報管理に必要なことを切り分けます。
もし顧客向け提案書も作りたいという相談が来たら、同じ画面が便利だからと対象を広げません。入力情報、送信先、成果物への責任が変わるため、通常の審査へ回します。待っている間に利用できるのは、すでに認められた資料による一般的な構成案など、承認範囲に収まる作業だけです。
利用開始前に、通る処理と止まる処理を確かめる
簡易経路は、説明文を配布しただけでは導入できません。設定が実際に意図した制限を持つかを、権限のある担当者が、機密情報を含まない模擬資料と外部へ送信しない環境で確認します。ここで挙げるのは未実施の確認計画です。
許可した資料を選んだ場合は、必要な内容を下書きにでき、担当者が元の記述へ戻れることを確かめます。不許可の文書を指定した要求は、モデルが拒否の文章を出すかとは別に、実行窓口で拒否されることを確認します。送信要求についても、注意が表示されたことだけで合格とせず、外部へ渡っていないことを実行記録と模擬送信先で照合します。
正当な作業まで毎回止まるなら、それも改善対象です。不正な要求を正しく見つけた後、許可済み資料の下書きまで止めた場合と、無害な依頼を不正だと誤って判断した場合は分けて記録します。実行結果の記録が欠けていれば、制御成功ではなく未確認として、開始判断を保留します。
緩和した部分を見ながら、標準へ戻す
試行時は、対象部署、用途、期間、判断責任者、取り消す条件を決めておきます。期間の長さを一律の正解にせず、対象作業が一巡し、問い合わせと拒否の理由を確認できる範囲を選びます。許可外の資料へのアクセスが通る、確認記録を残せないといった問題があれば、簡易経路の利用を止め、原因を直して再確認します。
見る指標は申請件数だけでは足りません。申請から利用開始までの時間、作業完了までの時間、正当な作業の差戻し、範囲外要求の拒否、相談で残った困りごとを組み合わせます。公式利用が増えても、仕事量が増えただけかもしれません。非公式利用が減ったと結論するには、それを確かめる別の根拠が必要です。
記録は、改善判断に必要な用途、処理の成否、待ち時間、拒否理由などへ絞ります。相談内容や入力本文を無制限に集めず、閲覧できる担当者と保存期間を決めます。個人を細かく追うことを改善の中心に据えるより、どの作業がどこで詰まるかを確認できる設計にします。
業務責任者は試行の結果を見て、対象を維持するか、条件を直すか、通常審査へ戻すかを決めます。変更が承認されたら、入口の説明、実行側の設定、窓口の案内を同時に更新します。急ぎの仕事にも利用できる公式経路があり、その境界が画面と実際の制御で一致していることが、次の運用で確かめるべき点です。
シャドーAIの把握方法と、公式の利用経路へのつなぎ方は「シャドーAIを把握し、使える公式の利用経路へつなぐ」で解説しています。
AIを使う前に確かめる12項目は「AIを使う前の安全確認チェックリスト」にまとめ、記入用のAIKYシート（PDF・Excel）も配布しています。
