課題から記事を絞り込む
課題とキーワードを組み合わせて探せます。複数のキーワードは空白で区切ると、すべてを含む記事を表示します。
依頼文の作成、回答の確認、資料の扱い、権限・送信、組織の利用ルールを、課題別に探せます。
AIエージェントの権限・外部資料・承認・検証は「AIエージェントの安全設計」にまとめています。
権限・送信を制御する
47記事 ／ 新しい公開順
ツール連鎖のチェックポイントを保存し、条件を再検証して再開する
主な読者：AIの回答を確認する人
ツール連鎖を途中から再開するときは、保存済みの成果と外部操作の完了を分けて確認します。申請処理の架空例を使い、チェックポイントに残す情報、権限や資料の鮮度、対象変更と結果不明の照合、再開・再承認・停止の選び方を説明します。
課題：出力・根拠を確かめる ／ 権限・送信を制御する
公開日：
複数プロジェクトのMemoryを分け共通情報の共有範囲を決める
主な読者：資料を使う人・連携を設計する人
複数プロジェクトのMemoryでは、担当者が同じでも予算や納期を案件別に保存・参照します。二つの架空案件と共有を認めた表記ルールを使い、要約で範囲が失われる例、回答前後の照合、混線した記憶の修復方法を説明します。
課題：資料・指示の境界を守る ／ 権限・送信を制御する
公開日：
入札Agentの異常値と自動追随を上限と停止条件で抑える
主な読者：AIの回答を確認する人
入札Agentの異常値や自動追随を抑えるため、単一入札と全体の金額上限、追随回数、取消可能時点を設計します。市場に接続しない架空例で、停止要求と撤回成立の違い、結果不明時の照会、人が再開を判断する条件を説明します。
課題：出力・根拠を確かめる ／ 権限・送信を制御する
公開日：
直接・間接・蓄積型プロンプトインジェクションの防御位置を選ぶ
主な読者：AIの回答を確認する人
プロンプトインジェクションは、直接入力、検索文書、保存メモのどこから入るかで確認する境界が変わります。同じ架空の操作要求を三つの経路で比べ、入力・検索・記憶に置く防御と、検知・操作阻止・正当な処理を分ける回帰テストを説明します。
課題：出力・根拠を確かめる ／ 権限・送信を制御する
公開日：
音声入力の会話と操作指示を分けるための信頼境界
主な読者：AIの回答を確認する人
音声入力の命令を扱うときは、文字起こしの内容、発話者の推定、操作の承認を分けます。会議中の引用や第三者の発言を依頼へ変えない境界を設け、聞き違いで宛先や操作が変わった場合の確認と、安全な模擬試験を説明します。
課題：出力・根拠を確かめる ／ 権限・送信を制御する
公開日：
JailbreakとPrompt Injectionの違いから防御を選ぶ
主な読者：AIの回答を確認する人
JailbreakとPrompt Injectionは、制約を越える目的と指示の出所を分けて考えると対策を選びやすくなります。二つの概念が重なる場合も踏まえ、無害な模擬例で入力の境界、操作制限、確認方法を説明します。
課題：出力・根拠を確かめる ／ 権限・送信を制御する
公開日：
System Promptの露出と機密データ流出を分けて評価する
主な読者：資料を使う人・連携を設計する人
System Promptの抽出と機密データ流出は、露出した資産、届いた相手、操作権限への影響を分けて評価します。秘密を指示文へ置かない構成と、架空の事故記録から確認範囲を決める方法、無害な検査例を説明します。
課題：資料・指示の境界を守る ／ 権限・送信を制御する
公開日：
ブラウザ・GUIエージェントをページ内の操作誘導から守る
主な読者：AIの回答を確認する人
ブラウザやGUIを操作するAIは、画面の文章と利用者の依頼を区別する必要があります。ページ内の送信案内を承認に変えず、クリック前に対象・宛先・内容を確認し、閲覧を続けられる条件と安全な模擬確認の方法を説明します。
課題：出力・根拠を確かめる ／ 権限・送信を制御する
公開日：
Agentへ権限を委任するときの範囲・期限・取消の設計
主な読者：ツール連携を設計する人
Delegated Authorizationでは、委任元・Agent・受信先・対象・操作範囲・期限を対応させ、受信側で認可します。閲覧だけを任せる架空例を使い、範囲外の更新、期限切れ、取消後の要求を拒否する設計と確認方法を解説します。
課題：権限・送信を制御する
公開日：
外部入力の命令改変を検知し誤検知と見逃しに備える
主な読者：AIの回答を確認する人
外部入力の命令改変は、文面だけでなく出所と権限を照合して見分けます。正当な引用、操作誘導、検知漏れの模擬例から、誤検知率の分母、判定不能の扱い、検知とは別の実行制限、改善後に確かめる項目を具体的に説明します。
課題：出力・根拠を確かめる ／ 権限・送信を制御する
公開日：
外部ツール連携の有無で安全設計をどう変えるか
主な読者：AIに仕事を任せる人
外部ツール連携を加えると、文章の確認に加えて、送信先・許可操作・承認・実行結果の確認が必要になります。メール下書きAIへの送信機能追加を例に、固定する比較条件、見直すデータ経路、失敗と結果不明の扱いを説明します。
課題：任せ方・業務の進め方 ／ 権限・送信を制御する
公開日：
Agentの反復とツール呼び出しに費用上限を設ける方法
主な読者：AIに仕事を任せる人
Agentの費用上限を、トークン・ツール呼び出し・反復回数・時間に分けて設計します。仮定の単価で累積費用を計算し、並列処理の事前予約、実績との精算、費用不明時の保留、上限到達後の結果整理まで具体例で解説します。
課題：任せ方・業務の進め方 ／ 権限・送信を制御する
公開日：
PAP-40から記事を探す
Phaseを開いて、各層の記事を探せます。
Phase 1：命令階層・安全原則・役割固定59記事
第1層．命令階層・信頼境界層
第2層．基本原則・優先順位層
- AIに仕事を任せる前のチェックリスト――止める条件まで決める
- 中小企業・個人事業主のAI業務標準――扱う情報・確認担当・費用を決める
- AIの発想を狭める制約を見直す――安全条件を残して効果を測る方法
- AI利用ポリシーの作り方――最低限決める項目と、現場で使うテンプレート
- AIへのルールの整理法――重複・矛盾を減らし、重要条件が残ったか確かめる
- プロンプトを作業条件として設計する――入力・制約・出力のつなぎ方
- AI業務の安全性・正確性・速度の使い分け――確認を省ける作業と省けない作業
- AIの出力が間違っていたら――8つの観点で入力・根拠・判断まで遡って直す
- プロンプトに条件を詰め込みすぎない――40層の整理から業務に必要な制御を選ぶ
- AIの性能が上がっても人間が決めるべきこと――目的・責任・許容リスク・完了条件
- AIに仕事を任せる前に押さえたい5つの原則
- 日常業務のプロンプトは何から書く？ 短い依頼に残す条件
- AIで案を広げ、実行前に確かめる――守りと攻めの両立
- 安全性・正確性・形式指定が衝突したら、AIにどう答えさせるか
- AIへの指示が衝突したら？ 安全性・正確性・速度の優先順位と例外の決め方
第3層．安全統制層
- 法務・医療・金融・契約でHard版へ切り替える条件
- セキュリティ記事を「症状→仕組み→防御」の順で安全に説明する
- AIで機械を動かすなら、非常停止と進入制限はAIから分離する
- AIの統制一覧を作る――用途ごとに「適用する理由」まで記録する
- 自傷・他害の危機兆候に、AIから人の支援へつなぐ応答を設計する
- AIの用途別リスク分類は、業務への影響から統制を選ぶ
- 「推測するな」の次を決める――禁止と代替行動を組み合わせるプロンプト
- AIの確認をどこまで厳しくする？ 同じ作業でも変わるリスクの見方
- 一度うまくいったプロンプトを、条件が変わっても使える依頼へ直す
- 公式AIが使いにくいとき、統制を保ちながら利用手順を改善する
- プロンプト遵守を保証にしない――測定結果と実行制御を分ける
- AIの送信をどう制御する？ 指示・システムの強制・人間承認の役割
- 自然な文章でも信用しない――AI時代のフィッシング確認手順
- LLMアプリの何を守る？ 資産・入口・信頼境界を洗い出す手順
- LLMのガードレールとは？ 効かない原因と対策、拒否・縮小・人間確認の使い分け
- AIの脅威モデリングとは？ データからツールへ届く経路を点検する
第4層．ペルソナ・ロール管理層
第5層．適用範囲・権限制御層
- セキュリティ業務でAIに渡すログと権限を管理する
- AIの回答範囲を決め、範囲外の依頼を止めて引き継ぐ方法
- 複数エージェントの提案と決定を分け、最終判断の範囲を決める
- 未承認のMCP・プラグインを追加させないための申請と設定管理
- シャドーAIを把握し、使える公式の利用経路へつなぐ
- API・外部ツール権限の最小化チェックリスト
- AIがアクセスできる情報と、アクセスしてよい情報は別
- 「AIを使う」と「AIに仕事を任せる」は何が違うのか
- Coding Agentのコマンド・変更ファイル・実行領域を制限する
- 権限プロキシでAIの要求を検査し、実行範囲を制限する
- AIの適用範囲と権限は、対象・操作・利用者で決める
- 外部APIを使うAIには、操作・対象・期限を絞った権限を渡す
第6層．ドメイン固有コンプライアンス・人間影響層
Phase 2：入力解釈・境界防御・主体管理37記事
第7層．タスク種別ルーティング層
第8層．プロンプトインジェクション防御層
- Jailbreakテストを安全に再利用できるテストケースとして管理する
- 添付資料・画像・PDF・HTML内の命令をデータとして隔離する
- 直接・間接・蓄積型プロンプトインジェクションの防御位置を選ぶ
- 音声入力の会話と操作指示を分けるための信頼境界
- 共有プロンプトテンプレートの改変を見つけて利用を止める
- JailbreakとPrompt Injectionの違いから防御を選ぶ
- System Promptの露出と機密データ流出を分けて評価する
- ブラウザ・GUIエージェントをページ内の操作誘導から守る
- 分割・符号化された外部入力を検査する方法と限界
- Memory Poisoningを防ぐ保存前の確認と汚染記憶の訂正
- Prompt Injection後に汚染セッションを隔離して再開する条件
- インジェクション検知後に全面停止と部分処理を選ぶ条件
- 外部入力の命令改変を検知し誤検知と見逃しに備える
- CoT開示を誘う入力に対処し根拠説明を返す設計
- ロールプレイによる制約突破に備えて役割と権限を分ける
- プロンプトインジェクションの基本と外部入力に置く防御
第9層．データ分類・プライバシー・ライフサイクル層
第10層．主体・認証・認可・委任境界層
第11層．曖昧性解消層
第12層．状態管理・競合解決層
Phase 3：記憶・環境・実行制御38記事
第13層．記憶管理層
- Compactionと再要約で失われた決定や制約を原記録から戻す
- 長期Memoryの有効期限と削除を情報ごとに分けて管理する
- 複数プロジェクトのMemoryを分け共通情報の共有範囲を決める
- 履歴を圧縮するときに残す情報と省く情報
- 固定ルールと動的コンテキストを分けて製品FAQを運用する
- 長い会話の前提落ちを原記録と照合するチェックリスト
- 重複資料を減らす前に、同じコピーと改訂版を見分ける
- 長い入力で重要条件が抜けたとき、量・位置・重複を切り分ける
- Salience Scoringで長文から残す情報を決める
- 長い会話で重要条件が抜けたときに整理して再提示する方法
- AIに何を覚えさせ、いつ使わなくするかを決める記憶管理の基本
第14層．環境・能力適応層
- 外部連携の廃止・仕様変更を監視し、移行まで管理する
- モデルが進化すればプロンプト設計は不要になるのか
- プロンプトだけでは解決できないAIシステムの限界を見極める
- 国内リージョン制約でモデルを変えるときのプロンプト互換性試験
- LLMを複数ベンダーへ切り替える抽象化層の作り方
- 国内リージョン固定が必要な業務で、モデルとデータ経路を選ぶ
- オンプレミスLLMが適する条件と運用負担を比較する
- 出力スタイルの安定化にFine-tuningを使うケース
- Open Weightの自己ホストとAPI利用で責任分担を比べる
- Air-Gapped環境でモデル・脆弱性情報をどう更新するか
- 外部ツール連携の有無で安全設計をどう変えるか
- Web検索の有無でプロンプトをどう変えるか
- 量子化の速度・メモリ効果と品質・安全性をどう比べるか
- 蒸留モデルの能力を元モデルとは別に評価する
- 普通のプロンプト・RAG・Fine-tuning・Agentをどう使い分けるか
- モデル変更・ローカルLLM移行に備えたプロンプトの共通化と再評価
- 検索やコード実行の有無に合わせてAIの回答を変える方法
- 業務要件とテンプレート運用の安定性でLLMを選ぶ
第15層．実行スケジューリング・資源予算・濫用防止層
Phase 4：外部ツール・検索・グラウンディング36記事
第16層．マルチモーダル・外部ツール統合層
第17層．エージェント型ツール連鎖安全層
- RAG・Agent導入前の安全チェックリスト
- 音声AIへの「やめて」で、発話と予約処理をどこまで止められるか
- 自動発注AgentのBullwhip Effectを点検する
- AIエージェントの二重実行を防ぐチェックリスト
- タイムアウトした外部操作を照会し、二重実行を避けて再試行する
- ツール連鎖のチェックポイントを保存し、条件を再検証して再開する
- マルチエージェントの循環と膠着を、全体の終了条件で区切る
- エージェントのキャンセルが効かないとき、伝達・停止・残る変更を確かめる
- AIエージェントの目標逸脱・反復・過剰実行を止める条件
- マルチエージェントの役割・受け渡し・責任分界を設計する
- エージェント間の引き継ぎで消えた条件を、原資料と差分で確かめる
- ツールを連続して使うAIエージェントの安全設計の基本
第18層．副作用・承認ゲート層
第19層．証拠取得・検索統制層
第20層．知識検索・RAGパイプライン統制層
第21層．時制推論層
第22層．複数資料統合・裁定層
第23層．主張-根拠対応マッピング層
Phase 5：内部推論・事実性検閲45記事
第24層．タスク分解層
第25層．推論統制層
第26層．真偽保証層
第27層．整合・算術検閲層
第28層．不確実性管理層
第29層．コード・技術出力安全層
第30層．マルチモーダル認識・根拠化層
未公開のPhase・記事は順次公開します。
PAP-40の概要・既存フレームワークとの関係
PAP-40-Layer Framework（略称：PAP-40）は、AIへの指示設計から実行・検証までを40層で整理する、PAP Research独自のフレームワークです。組織のAI利用方針を、現場での「何を任せるか」「どの情報を信頼するか」「誰が承認するか」「どう確かめ、どこで止めるか」という設計判断へつなぐことを目指しています。
Phaseを開くと各層を確認できます。分類を設定した公開記事は、該当する層に表示されます。
既存のAIリスク管理フレームワークとの接続
この考え方は、NIST AI Risk Management Framework（AI RMF 1.0）のCoreが示す、統制・文脈把握・測定・リスク対応の活動と関連づけて説明できます。以下は、PAP-40とPAP Researchの関連する実務解説・観測活動を、その4つの機能から整理した接続例です。
| NIST AI RMFの機能 | 主な活動 | PAPでの具体化例 |
|---|---|---|
| GOVERN：統制 | 方針、責任、人間による監督の仕組みを整える | 基本原則・優先順位、安全統制、適用範囲・権限制御の各層を通じて、AIに任せる範囲と人が判断・承認する範囲を明確にする。 |
| MAP：文脈と影響の把握 | 利用目的、利用環境、関係者、想定される影響を把握する | 適用範囲、人間への影響、データ分類などの観点から、用途ごとの誤りの影響と回復可能性を整理し、必要な確認と制限を選ぶ。 |
| MEASURE：測定・評価 | リスクや対策の有効性を評価し、変化を継続的に確認する | 指示への応答と実行側の制御を分けて検証する。関連する13Q定点観測では、観測条件と評価の限界を記録し、応答傾向の変化を追う。 |
| MANAGE：リスクへの対応 | リスクを優先づけ、低減策や停止・復旧の手順を実施する | 信頼境界、プロンプトインジェクション防御、認証・認可・委任境界などを組み合わせ、範囲外の操作の拒否、確認できない場合の保留、人への引き継ぎを設計する。 |
各層は複数の機能に関係します。たとえば権限制御は、組織の方針として定めること、用途に応じて範囲を決めること、制限が働くか検証すること、問題時に停止することのすべてに関わります。
また、プロンプトに制約を書くことと、システムがその制約を強制することは別です。外部送信や更新などの操作には、実行側の権限制限・条件検証と、必要に応じた人間承認を組み合わせます。これは、OWASP LLM06:2025 Excessive Agencyが示す過剰な機能・権限・自律性によるリスクへの対策とも接続する考え方です。
この対応はPAP Researchによる整理であり、公式な対応表や、規格への適合・認証を示すものではありません。13Qも特定条件での応答観測であり、業務システム全体のリスク評価を代替するものではありません。組織で活用する際は、用途ごとに採用する対策、責任者、検証結果、残るリスクを記録します。
参考資料：NIST AI RMF 1.0 — Core ／ NIST AI RMF Playbook ／ OWASP LLM06:2025 Excessive Agency