制御アーキテクチャ

用語一覧

評価・フィードバック統合

出力品質や利用者の指摘を次の改善へ反映する仕組み。

評価・フィードバック統合の定義を見る · 制御アーキテクチャの全体像

関連する記事を読む（1件）

• AIの発想を狭める制約を見直す――安全条件を残して効果を測る方法 （実務記事）

最終ゲート

出力直前に安全性・正確性・形式・根拠などを総点検する最終確認。

最終ゲートの定義を見る · 制御アーキテクチャの全体像

関連する記事を読む（4件）

• AIに仕事を任せる前のチェックリスト――止める条件まで決める （実務記事）
• AIで案を広げ、実行前に確かめる――守りと攻めの両立 （実務記事）
• AIの性能が上がっても人間が決めるべきこと――目的・責任・許容リスク・完了条件 （実務記事）
• AI業務の安全性・正確性・速度の使い分け――確認を省ける作業と省けない作業 （実務記事）

Levels of Autonomy（自律度段階）

AIやAgentが、人間の指示・承認・監視なしにどこまで判断・実行できるかを段階で整理する考え方。権限、可逆性、Human Oversight等の設計に用いる。

Levels of Autonomy（自律度段階）の定義を見る · 制御アーキテクチャの全体像

Instruction Hierarchy Training

System、Developer、User、Tool等の指示の優先順位をPrompt上の慣習だけでなく、学習・Alignment段階でモデルへ教え込み、低優先度の命令による上位指示の上書きを減らす手法。

Instruction Hierarchy Trainingの定義を見る · 制御アーキテクチャの全体像