課題から記事を絞り込む
課題とキーワードを組み合わせて探せます。複数のキーワードは空白で区切ると、すべてを含む記事を表示します。
依頼文の作成、回答の確認、資料の扱い、権限・送信、組織の利用ルールを、課題別に探せます。
AIエージェントの権限・外部資料・承認・検証は「AIエージェントの安全設計」にまとめています。
資料・指示の境界を守る
43記事 ／ 新しい公開順
AIの脅威モデリングとは？ データからツールへ届く経路を点検する
主な読者：資料を使う人・連携を設計する人
AIの脅威モデリングでは、通常の認証や資産保護に加え、資料内の指示がモデルの判断やツール操作へ伝わる経路を点検します。架空の社内検索AIを例に、データ・モデル・ツールの境界、防御位置、評価から改善へつなぐ方法を説明します。
課題：資料・指示の境界を守る ／ 権限・送信を制御する
公開日：
AI利用ポリシーの作り方――最低限決める項目と、現場で使うテンプレート
主な読者：依頼文を作る人
AI利用ポリシーは、許可する動作、禁止時の代替行動、システムで強制する条件に分けて現場の手順へ落とします。顧客情報を扱う架空例で、入力前の確認と記録の残し方を示し、最低限決める項目とコピー用テンプレートも載せます。
課題：依頼文・プロンプトを整える ／ 資料・指示の境界を守る ／ 組織のルール・リスクを決める
公開日：
マルチエージェントの受け渡しで、AI出力を命令として実行させない設計
主な読者：資料を使う人・連携を設計する人
Agent間でAI出力を受け渡すとき、生成文に含まれる操作要求を命令へ昇格させない設計を解説します。調査Agentと執筆Agentの架空例で、データ欄の契約、受信側の出所・権限検証、拒否と部分処理の確認を整理します。
課題：資料・指示の境界を守る ／ 権限・送信を制御する
公開日：
MCPのツール説明はどこまで信頼できる？ 機能の説明と実行権限を分ける
主な読者：資料を使う人・連携を設計する人
MCPのツール定義を読む際に、機能説明と実行権限をどう分けるかを解説します。架空の検索ツールを使い、登録元・許可スコープ・実行ポリシーの照合、説明文が追加の送信を求める場合の拒否と確認手順まで整理します。
課題：資料・指示の境界を守る ／ 権限・送信を制御する
公開日：
XMLタグで命令とデータを分ける方法と、タグだけでは守れない境界
主な読者：依頼文を作る人
XMLタグで命令とデータを分ける役割を、問い合わせ本文の整理例で解説します。入力に同じタグが含まれる場合の構造化とエスケープ、明示セクションとの使い分け、形式の検証と認可を別々に行う確認点を整理します。
課題：依頼文・プロンプトを整える ／ 資料・指示の境界を守る
公開日：
プロンプトの区切り記号で指示と資料を分ける――区切りだけで防げないこと
主な読者：依頼文を作る人
区切り記号で指示・参考資料・ユーザー入力を分離する方法を、会議メモの要約例で解説します。資料内に同じ記号がある場合の扱い、原文の意味を保つ確認、区画だけでは防げない操作要求と実行権限の分離まで整理します。
課題：依頼文・プロンプトを整える ／ 資料・指示の境界を守る
公開日：
命令階層と信頼境界とは？ AIへの指示と外部資料を分ける基本
主な読者：依頼文を作る人
命令階層と信頼境界の基本を、外部資料付きの議事録要約で解説します。資料内の送信要求を内容として扱う方法、下書きと送信機能のある環境で変わる確認点、プロンプトと実行権限の分担を、具体的な期待結果とともに整理します。
課題：依頼文・プロンプトを整える ／ 資料・指示の境界を守る
公開日：
「PAP-40-Layer Frameworkの分類から探す」は、記事一覧の1ページ目の下部にあります。