AIガバナンス・評価・Fairness・UX
47語
AIの利用を組織として管理・評価するための用語です。AI台帳やインパクト評価、残余リスクとリスク受容、統制のテスト、ISO/IEC 42001やNIST AI RMF、公平性やバイアスの評価、利用者体験に関わる概念を扱います。
この分野を読むポイント
ガバナンスは文書を整えることではなく、用途ごとのリスクを評価し、統制を選び、その効果を証拠で確かめる循環です。誤検知と見逃しのように、評価指標の間にあるトレードオフも意識します。
この分野に関連する記事
用語一覧
- AI Inventory
- 組織内で利用・開発・提供しているAIシステム、モデル、用途等を一覧管理する台帳。
- AI Use Case Registry
- AIの利用目的、対象業務、データ、責任者、リスク等をユースケース単位で記録する管理台帳。
- AI Impact Assessment
- AI導入・変更による権利、安全、公平性、プライバシー、業務等への影響を事前・継続的に評価する手続。
- Privacy Impact Assessment
- 個人情報・プライバシーに関するリスクを事前に特定・評価し、対策を検討する手続。
Privacy Impact Assessmentの定義を見る · AIガバナンス・評価・Fairness・UXの全体像
- Initial Risk
- 対策を適用する前の時点で想定されるリスク水準。
Initial Riskの定義を見る · AIガバナンス・評価・Fairness・UXの全体像
関連する記事を読む（2件）
- Residual Risk
- 統制・対策を適用した後にも残るリスク。Risk Acceptanceの対象となるため、受容者と見直し時期を記録する。
Residual Riskの定義を見る · AIガバナンス・評価・Fairness・UXの全体像
関連する記事を読む（3件）
- Risk Acceptance
- 残存リスクを理解したうえで、責任主体が受容する意思決定。
- AI関連保険
- AI利用に伴う損害に備える保険。情報漏えい等を対象とするサイバー保険や専門職賠償責任保険でAI起因の事故が補償対象となるか、AIに関する除外条項がないかを確認する。AIの誤作動等を対象とする専用商品もある。〔時点依存〕
- Material Change
- 再評価・再承認が必要となる程度に、AIシステムのリスクや挙動へ実質的影響を与える変更。
- Model Card
- モデルの用途、性能、評価条件、制約、既知の限界等を整理した説明文書。モデルを選定する際は、想定外の用途や既知の限界の記載を確認する。
- Dataset Card / Datasheets for Datasets
- データセットの作成目的・収集方法・構成・前処理・ライセンス・既知の偏りや制約等を整理した説明文書。学習・評価データの出所確認や権利・バイアスの評価に用いる。
Dataset Card / Datasheets for Datasetsの定義を見る · AIガバナンス・評価・Fairness・UXの全体像
- System Card
- AIシステム全体の設計、能力、安全評価、リスク、制約等を整理した説明文書。
- AI Control Library
- AIリスクへ対応する統制策を標準化し、用途・リスクに応じて選択できるよう整理した統制カタログ。
AI Control Libraryの定義を見る · AIガバナンス・評価・Fairness・UXの全体像
関連する記事を読む（1件）
- Control Testing
- 設計した統制が実際に運用され、意図した効果を出しているかを検証する活動。
Control Testingの定義を見る · AIガバナンス・評価・Fairness・UXの全体像
関連する記事を読む（2件）
- Evidence Pack
- 監査・審査・説明のため、評価結果、ログ、承認記録、設計文書等の証拠をまとめた資料群。
- KRI
- Key Risk Indicatorの略。リスクの増大・変化を早期に把握するための重要リスク指標。
- ISO/IEC 42001
- AI Management Systemの要求事項を定める国際規格。組織的なAIガバナンスと継続的改善に用いられる。
- AI Management System
- AIに関する方針、役割、リスク、統制、監視、改善を組織的に管理するマネジメントシステム。
- NIST AI RMF
- 米国NISTが公開するAI Risk Management Framework。AIリスク管理をGovern、Map、Measure、Manage等で整理する枠組み。
- Govern
- NIST AI RMFで、AIリスク管理の方針、責任、文化、プロセス等を整備する機能。
- Map
- NIST AI RMFで、AIの利用状況、関係者、影響、リスク文脈等を把握する機能。
- Measure
- NIST AI RMFで、AIリスクや信頼性を評価・測定・監視する機能。
- Manage
- NIST AI RMFで、特定したAIリスクへ優先順位を付け、対応・監視する機能。
- Fairness
- AIの出力・判断が特定の集団や属性へ不当に偏らないよう公平性を検討・評価する考え方。
- Bias
- データ、モデル、評価、運用等の要因により、出力や判断が特定方向へ系統的に偏ること。
- Error Rate
- 評価対象のうち誤りとなった割合。属性別に比較すると性能偏りの把握に使える。
- Proxy Variable
- 直接の敏感属性ではないが、他の情報を通じてその属性を強く推定できる代替変数。
- Historical Bias
- 過去のデータや社会的慣行に含まれる既存の偏りがAIへ引き継がれる問題。
- Inter-rater Agreement
- 複数の人間評価者が同じ対象をどの程度一致して評価したかを示す一致度。
- False Positive
- 本来は該当しない対象を、誤って該当すると判定すること。不正検知やコンテンツ判定では、誤検知が多いと正当な利用者の不利益やアラート疲れにつながる。
- False Negative
- 本来は該当する対象を、誤って該当しないと判定すること。安全・不正・医療等の判定では見逃しの損害が大きいため、False Positiveとの兼ね合いを用途に応じて決める。
- Anthropomorphism
- AIへ人間らしい意図、人格、感情、理解能力等を過度に帰属する擬人化。過度の依存や誤った信頼につながるため、AIであることを明示するUX設計が求められる。
- Trust UX
- ユーザーがAIの能力・限界・根拠・状態を適切に理解し、過信も過小評価もしにくくするUX設計。
- Undo
- AIによる変更・操作を取り消し、直前または安全な状態へ戻す機能。外部送信や削除など取り消せない操作はUndoに頼らず、実行前の承認で防ぐ。
- Invisible Prompt
- ユーザーが直接書くのではなく、フォーム入力やUI情報等からシステム側で裏側に組み立てるプロンプト。
- Progressive Disclosure
- 初心者には必要最小限の操作だけを見せ、必要に応じて高度な設定を段階的に提示するUI設計。
- Tabletop Exercise
- 実システムを破壊せず、想定インシデントのシナリオを使って役割・判断・連絡・対応手順を机上で検証する演習。
- 判断の外部化
- 本来人間が担うべき判断や責任を、十分な検討なくAIの出力へ委ねてしまう状態。
判断の外部化の定義を見る · AIガバナンス・評価・Fairness・UXの全体像
関連する記事を読む（1件）
- 従業員監視
- 従業員の行動・通信・業務状況等を組織が記録・分析・評価すること。AI利用ログが監査目的を越えて監視へ転用される場合がある。
- 脆弱な利用者
- 年齢、認知機能、健康状態、経済状況などにより、AIの誤誘導・依存・不当な影響を受けやすく追加保護が必要となり得る利用者。
- 危機エスカレーション
- 自傷・他害など重大な危険兆候を検知した際、通常のAI応答から人間担当者や定められた危機対応手順へ切り替えること。
危機エスカレーションの定義を見る · AIガバナンス・評価・Fairness・UXの全体像
関連する記事を読む（1件）
- Academic Integrity
- 学習・試験・研究等で、不正行為を避け、成果物の作成過程やAI利用を適切に扱う学術上の公正性。
- AI変更管理（Organizational Change Management）
- AI導入に伴う業務、役割、教育、評価、コミュニケーション等の変化を組織的に設計・定着させる活動。技術変更の版管理としての変更管理とは区別する。
AI変更管理（Organizational Change Management）の定義を見る · AIガバナンス・評価・Fairness・UXの全体像
- Three Lines Model（スリーラインモデル）
- Risk ManagementとGovernanceの役割を、第1線の業務・開発、第2線のRisk・Compliance・Security等、第3線のInternal Auditへ分けて整理する組織統制モデル。AI Governanceにも応用される。
Three Lines Model（スリーラインモデル）の定義を見る · AIガバナンス・評価・Fairness・UXの全体像
- AI TRiSM（AI Trust, Risk and Security Management）
- AIのTrust、Risk、Securityを横断して管理するための考え方・Framework。Model Governance、Security、Privacy、Monitoring等を統合的に扱う。
AI TRiSM（AI Trust, Risk and Security Management）の定義を見る · AIガバナンス・評価・Fairness・UXの全体像
- Age Assurance
- 利用者が一定年齢以上・以下であることを確認・推定する仕組みの総称。Age Verification、Age Estimation等を含み、未成年保護とPrivacy・Data Minimizationの両立が重要になる。
- CAIO（Chief AI Officer / AI統括責任者）
- 組織のAI戦略、利活用、Governance、Risk Management等を統括する責任者。日本政府では各府省庁のAI統括責任者として生成AI活用とRisk管理を総括する役割が定められている。
CAIO（Chief AI Officer / AI統括責任者）の定義を見る · AIガバナンス・評価・Fairness・UXの全体像