MENU

Professional LexiconAI・LLM実務辞典

AI・LLMの実務で参照する用語を、分野別に整理して掲載します。

読み仮名未登録などの用語を分野から探す

読み仮名を確認できていない用語は推測で五十音に振り分けず、カテゴリ別に掲載しています。

漢字・その他 の用語

権限プロキシ
AIと外部システムの間で、実行可能な権限を強制的に制限・仲介する仕組み。

権限プロキシの定義を見る · ガードレール・権限・Human-in-the-Loopの全体像

入力ガードレール
AIへ渡す前の入力を検査・制限する仕組み。誤検知で正当な依頼まで拒否すると業務を妨げるため、過剰拒否の率も監視する。

入力ガードレールの定義を見る · ガードレール・権限・Human-in-the-Loopの全体像

出力ガードレール
AIが生成した内容を公開・実行前に検査・制限する仕組み。個人情報・機密情報・有害表現・不正なコードやURLの検出等に用いる。

出力ガードレールの定義を見る · ガードレール・権限・Human-in-the-Loopの全体像

決定論的バリデータ
AIではなく明確なルール・コードで入力値や出力値を検証する仕組み。金額・日付・ID・形式等の確認はLLMに判断させず、決定論的に検証する。

決定論的バリデータの定義を見る · ガードレール・権限・Human-in-the-Loopの全体像

人間承認
AIの提案や実行前に、人間が内容を確認して許可すること。承認者が判断できるよう、対象・内容・影響・根拠を併せて示す。

人間承認の定義を見る · ガードレール・権限・Human-in-the-Loopの全体像

関連する記事を読む（1件）
責任分界
AI・担当者・責任者・システムの責任範囲を明確に分けること。AIが誤った場合の最終責任者を明確にし、「AIが行った」ことを責任回避の理由にしない。

責任分界の定義を見る · ガードレール・権限・Human-in-the-Loopの全体像

関連する記事を読む（4件）
承認疲れ
承認要求が多すぎて確認が形骸化する状態。低リスクの操作は自動化し、承認対象を絞ることで防ぐ。

承認疲れの定義を見る · ガードレール・権限・Human-in-the-Loopの全体像

人間中心性
重要な判断・権利・責任で、人間の関与と利益を中心に置く考え方。

人間中心性の定義を見る · ガードレール・権限・Human-in-the-Loopの全体像

監査ログ
誰が・いつ・何を実行したか後から確認できる記録。改ざん防止と保持期間を定め、AI Agentの操作も人間の操作と同様に記録する。

監査ログの定義を見る · ガードレール・権限・Human-in-the-Loopの全体像

監査証跡
判断・操作・変更の経緯を追跡できる証拠の連鎖。

監査証跡の定義を見る · ガードレール・権限・Human-in-the-Loopの全体像

説明可能性
AIの出力や判断の根拠・前提・限界を人間が理解できる形で示せる性質。

説明可能性の定義を見る · ガードレール・権限・Human-in-the-Loopの全体像

説明責任
AI利用による判断・結果について、根拠や責任主体を説明できること。

説明責任の定義を見る · ガードレール・権限・Human-in-the-Loopの全体像