課題から記事を絞り込む
課題とキーワードを組み合わせて探せます。複数のキーワードは空白で区切ると、すべてを含む記事を表示します。
依頼文の作成、回答の確認、資料の扱い、権限・送信、組織の利用ルールを、課題別に探せます。
AIエージェントの権限・外部資料・承認・検証は「AIエージェントの安全設計」にまとめています。
すべての実務記事
218記事 ／ 新しい公開順
ブラウザ・GUIエージェントをページ内の操作誘導から守る
主な読者：AIの回答を確認する人
ブラウザやGUIを操作するAIは、画面の文章と利用者の依頼を区別する必要があります。ページ内の送信案内を承認に変えず、クリック前に対象・宛先・内容を確認し、閲覧を続けられる条件と安全な模擬確認の方法を説明します。
課題：出力・根拠を確かめる ／ 権限・送信を制御する
公開日：
分割・符号化された外部入力を検査する方法と限界
主な読者：資料を使う人・連携を設計する人
分割・符号化された外部入力は、復元できたことと安全に処理できたことを分けて検査します。上限付きの変換、出所の保持、資料内の命令への追従防止、外部操作の阻止、通常の要約の継続を確認する模擬試験の設計を説明します。
課題：資料・指示の境界を守る ／ 出力・根拠を確かめる
公開日：
Memory Poisoningを防ぐ保存前の確認と汚染記憶の訂正
主な読者：資料を使う人・連携を設計する人
Memory Poisoningでは、外部資料の操作指示が長期記憶に入り、後の回答へ影響します。保存候補の出所と権限を確認し、事実や好みと命令を分ける方法、汚染記憶の隔離・訂正・失効と派生出力の点検を説明します。
課題：資料・指示の境界を守る ／ 出力・根拠を確かめる
公開日：
Prompt Injection後に汚染セッションを隔離して再開する条件
主な読者：AIの回答を確認する人
Prompt Injection後の隔離では、会話だけでなく記憶、資格情報、実行済み操作への影響を確認します。架空のイベント記録から汚染の連鎖を追い、証拠を保護しつつ利用を止め、再開範囲と未確認事項を判断する手順を説明します。
課題：出力・根拠を確かめる ／ 組織のルール・リスクを決める
公開日：
AIの学習利用をオフにすると何が変わるか、設定の範囲を確認する
主な読者：資料を使う人・連携を設計する人
AIサービスの学習利用をオフにしても、回答の生成、履歴の保存、運用ログまで一括で止まるとは限りません。公式資料と管理設定を照合し、新規・既存データ、フィードバック、外部接続への適用範囲を確認する方法を説明します。
課題：資料・指示の境界を守る
公開日：
発明・ノウハウをAIへ入力する前に、秘密性と入力許可を確かめる
主な読者：資料を使う人・連携を設計する人
発明やノウハウを外部AIへ入力する前に、公開済みの情報と未公開の技術内容を分け、契約・設定・社内の入力許可を照合します。架空の開発相談を通じて、秘密性の評価、抽象化する範囲、判断を保留する条件を説明します。
課題：資料・指示の境界を守る ／ 組織のルール・リスクを決める
公開日：
重複資料を減らす前に、同じコピーと改訂版を見分ける
主な読者：依頼文を作る人
重複資料を減らすときは、同じコピーと改訂版を区別し、出典と例外条項を残します。架空の規程PDFで内容・版・差分の照合をたどり、ハッシュや抽出テキストだけで判断しない理由、費用確認と誤除外からの戻し方を説明します。
課題：依頼文・プロンプトを整える ／ 資料・指示の境界を守る
公開日：
Agentへ権限を委任するときの範囲・期限・取消の設計
主な読者：ツール連携を設計する人
Delegated Authorizationでは、委任元・Agent・受信先・対象・操作範囲・期限を対応させ、受信側で認可します。閲覧だけを任せる架空例を使い、範囲外の更新、期限切れ、取消後の要求を拒否する設計と確認方法を解説します。
課題：権限・送信を制御する
公開日：
海外AIサービスへ個人データを送る前に、越境移転の条件を確認する
主な読者：資料を使う人・連携を設計する人
海外AIサービスへの個人データ送信は、画面の言語や保存リージョンだけでは判断できません。日本法を中心に、送信先・保管先・アクセス主体を特定し、移転の根拠、契約、実際のデータ経路を照合する手順を説明します。
課題：資料・指示の境界を守る ／ 組織のルール・リスクを決める
公開日：
インジェクション検知後に全面停止と部分処理を選ぶ条件
主な読者：AIの回答を確認する人
インジェクション検知後は、影響を分離できる根拠があれば部分処理を続け、範囲を確かめられなければ停止します。架空の三文書の要約を例に、除外後の回答範囲、残る文脈の確認、外部操作の結果不明、再開条件の決め方を示します。
課題：出力・根拠を確かめる
公開日：
外部入力の命令改変を検知し誤検知と見逃しに備える
主な読者：AIの回答を確認する人
外部入力の命令改変は、文面だけでなく出所と権限を照合して見分けます。正当な引用、操作誘導、検知漏れの模擬例から、誤検知率の分母、判定不能の扱い、検知とは別の実行制限、改善後に確かめる項目を具体的に説明します。
課題：出力・根拠を確かめる ／ 権限・送信を制御する
公開日：
CoT開示を誘う入力に対処し根拠説明を返す設計
主な読者：依頼文を作る人
CoT開示を誘う入力に対して、非公開の内部推論と利用者が検証できる根拠説明を分けます。架空の査読依頼を例に、資料内の要求の扱い、返す説明の範囲、出力境界での確認、正当なレビューを続けるための模擬試験を示します。
課題：依頼文・プロンプトを整える ／ 出力・根拠を確かめる
公開日：
「PAP-40-Layer Frameworkの分類から探す」は、記事一覧の1ページ目の下部にあります。