定義
AIを使う前と出力を使う前に危険を予見し、AIに任せる範囲と人が確認すべき事項を明確にする、安全を最優先する思考・行動習慣。現場の危険予知（KY）活動をAI利用に応用した、PAP Researchの提唱する考え方。
詳しい説明
AIKY（エーアイケーワイ、AI利用における危険予知）とは、AIを使う前と出力を使う前に危険を予見し、AIに任せる範囲と人が確認すべき事項を明確にする、安全を最優先する思考・行動習慣です。現場の危険予知（KY）活動をAI利用に応用した、PAP Researchの提唱する考え方です。意図しない誤り（エラー）や、必要な確認・手順の意図的な省略（違反）によるトラブルを未然に防ぐことを目的とします。
インフラや製造、建設などの多くの現場では、「安全はすべてに優先する」という考え方のもと、作業の前に「どんな危険がひそんでいるか」を考え、対策と行動目標を決める危険予知活動が行われています。AIKYは、この考え方を、AIに入力する情報、AIに任せる作業、AIの出力の使い方に当てはめます。
AIKYの3原則
- 危険を予見する：入力する情報や結果の使い方に、どのような危険があるかを考える。
- 任せる範囲を決める：AIに任せること・任せないことと、人が確認すべき事項を明確にする。
- 安全を優先する：「たぶん大丈夫」で必要な確認・手順を省かない。危険を解消できないときは立ち止まり、必要に応じて責任者や専門家に相談する。
具体例
顧客からの問い合わせに、AIで返信案を作る場合です（架空の例）。
| 原則 | この場面で考えること |
|---|---|
| 危険を予見する | 顧客の氏名や契約内容を、このAIサービスに入力してよいか。返信案に、約束していない値引きや納期が入らないか |
| 任せる範囲を決める | AIに任せるのは返信案の作成まで。送信と、料金・納期の確定は担当者が行う |
| 安全を優先する | 入力してよいか分からない情報は入れない。根拠を確認できない記述が残るなら送らず、責任者に相談する |
進め方の例（KYTの4ラウンド法との対応）
チームで行う場合は、危険予知訓練（KYT）の4ラウンド法の流れに沿って進めることができます。右の列は、PAP ResearchがAI利用に当てはめた例です。
| ラウンド | KYTでの問い | AIKYで考えること |
|---|---|---|
| 1R | どんな危険がひそんでいるか | 入力する情報、任せる作業、出力の使い方に、どんな危険があるか |
| 2R | これが危険のポイント | 起きたときの影響が大きく、元に戻しにくい危険はどれか |
| 3R | あなたならどうする | 任せる範囲、入力しない情報、確認する人と項目の案 |
| 4R | 私達はこうする | チームで守る手順として決め、共有する |
チームで記入できるシート（PDF・Excel）は、AIを使う前の安全確認チェックリストからダウンロードできます。
似た用語との違い
- 危険予知訓練（KYT）：作業や職場にひそむ危険要因を発見し、解決する能力を高める手法です（厚生労働省「職場のあんぜんサイト」）。主に現場の作業を対象に、チームで危険を話し合います。AIKYは同じ考え方をAIの利用に当てはめたもので、一人の利用者が作業のたびに行う習慣も含みます。
- Human-in-the-Loop（HITL）：AIの処理の途中に人の判断を組み込み、人が確認・修正・承認・中止できるようにする設計です。HITLが「どこで人が確認するか」というシステムの仕組みであるのに対し、AIKYは「どこに確認が必要か」を使う人が前もって見極める習慣です。AIKYで見つけた確認事項を、HITLの承認点として組み込む関係になります。
- リスクアセスメント：組織として危険を洗い出し、その大きさを見積もり、対策を決める体系的な手続きです。AIKYは、作業の直前に個人やチームで行う、より身近な点検です。用途ごとのリスク分類で決めた条件を、日々の作業で守るための習慣とも言えます。
実務での注意点
- AIKYは確認の習慣で、それだけで安全を保証するものではありません。送信や更新などの重大な操作は、権限や承認の仕組みでも止められるようにします。
- 「前回は大丈夫だった」は、前回の条件での結果です。入力する情報、使うサービス、出力の使い道が変わったら、改めて危険を予見します。
- 確認が形だけにならないよう、確認する人と確認する項目を具体的に決めます。
- 現場の指差し呼称にならい、送信先・数値・宛名など確認する箇所を画面上で指し示し、声に出して確かめる方法もあります。PAP Researchでは、確認を形だけにしないための一つの工夫として勧めています。
参考資料
関連記事
引用用テキスト
この記事を紹介する際の出典表記です。本文や画像の転載許可を示すものではありません。
