さかっぺ｜PAP Research運営／AIガバナンス・アーキテクト／プロンプトデザイナー
ITインフラの現場で培った危険予知の考え方を、AIの利用と運用に応用しています。関心の中心は、AIと人間の双方が誤り得る状況で、便利さを活かしながらリスクをどう抑えるかです。
経歴と安全意識の土台
独立以前は、長年にわたりITインフラ関連のエンジニアとして、安定性、セキュリティ、品質が求められる実務に携わってきました。
安全意識の土台となったのは、現場で繰り返してきたKY（危険予知）活動やKYT（危険予知訓練）です。作業前に危険を洗い出し、必要な確認と対応を整理する。事故や障害が起きたときには、原因を振り返り、再発防止につなげる。こうした経験を通じて、リスクを感覚だけで捉えず、具体的な確認や手順に落とし込む姿勢を培いました。
AIの安全性を考えるきっかけ
生成AIの安全性への問題意識が深まったのは、私の専門分野に関する質問に、AIが事実と異なる内容をもっともらしい根拠とともに回答した経験からです。背景知識があったため誤りに気づけましたが、知らない分野であれば、そのまま信じていたかもしれません。
この経験から、回答をどう確かめるかに加え、誤情報が人の判断を左右し、発信を通じて広がるのをどう防ぐかを考えるようになりました。
AIKY――AI利用における危険予知
人間にも、思い込みや知識不足、確認漏れがあります。AIの回答を人が確認するだけでは、見落としが残ることも想定する必要があります。
そこで、AIに任せる範囲、実際の状況や原資料に照らして確かめる事項、処理を止めたり人へ引き継いだりする条件を、あらかじめ整理します。こうしたAIの利用・運用における危険予知を「AIKY」と呼び、研究と実践に取り入れています。
目指しているのは、誤りを減らすことに加え、誤りが重大な判断や行動に直結しにくい仕組みです。
AIKYの定義と3原則、具体例は、辞典の「AIKY（AI利用における危険予知）」で説明しています。
研究の領域と方法
サイバーセキュリティ、SRE（サイト信頼性工学）、暗号学、監査設計の知見を参照しながら、実行権限の制限、承認、記録の保全、事後検証の仕組みを検討しています。
人の注意力だけに頼らず、見落としや慣れによる確認の省略も想定しています。同時に、確認にかかる時間や費用にも配慮し、誤りの影響や作業の性質に応じた方法を検討しています。誤りが見つかった際の対応まで含め、現場で継続できる手順にまとめることを重視しています。
検討には、複数の生成AIによる相互批判や反証、代替案の比較も活用しています。ただし、AI同士の一致を正しさの証明とは捉えず、原資料との照合や、前提・適用条件の見直しを大切にしています。
発信で大切にしていること
確認できた事実、解釈、仮説、未確認事項を区別し、観測の条件や限界が伝わる説明を心がけています。特定のベンダーやモデルへの評価を固定せず、新しい情報や利用環境の変化に応じて見直していきます。
専門的な仕組みや注意点を、暮らしや仕事で何を確かめ、どう使うかにつながる形で伝えることを目指しています。それぞれの組織が、自らの業務とリスクに合わせてAIの運用を整えられるよう、現場の知見を取り込みながら研究と発信を続けています。