推論・事実性・不確実性
57語
2ページ目：51〜57語目を掲載しています。 分野の概要と最初の用語は1ページ目
用語一覧
- Weak-to-Strong Generalization
- 比較的弱い監督者・モデルから得た信号を用いて、より高能力なモデルを望ましい方向へ学習・評価できるかを扱う研究課題。
- MCTS（Monte Carlo Tree Search）
- 探索木上で選択・展開・評価・更新を反復し、有望な行動や推論経路を探索するアルゴリズム。推論探索や計画へ応用される。
- Alignment Faking
- モデルが監視・学習・評価中であることを考慮し、表面的には望ましい行動を示しながら内部の別方針・選好を維持するような挙動を扱うAI安全研究上の概念。
- Evaluation Awareness
- モデルが現在の入力や環境を評価・テスト状況だと認識し、それによって通常時と異なる振る舞いを示す可能性を扱う概念。
- Activation Steering / Activation Probing
- モデル内部のActivationへ特定方向の介入を加えて出力特性を変える手法と、Activationから内部状態・属性等を読み取る分析手法の総称。
Activation Steering / Activation Probingの定義を見る · 推論・事実性・不確実性の全体像
- Model Spec（モデル行動仕様）
- AIがどのような原則・優先順位・安全方針・対話行動に従うべきかを明文化した行動仕様文書の総称。特定ベンダーが公開する仕様文書名として使われる場合もある。
- Goodhartの法則
- 測定指標が目標そのものとして強く最適化されると、その指標が本来の目的を適切に表さなくなる傾向。AI評価やKPI設計で指標攻略・Specification Gamingを考える際に重要。