Professional LexiconAI・LLM実務辞典

AI・LLMの実務で参照する用語を、分野別に整理して掲載します。

読み仮名未登録などの用語を分野から探す

読み仮名を確認できていない用語は推測で五十音に振り分けず、カテゴリ別に掲載しています。

漢字・その他 の用語

入力トークン
モデルへ渡すプロンプト・履歴・資料など入力側のトークン。会話履歴・RAG資料・System Promptも毎回の課金対象になるため、長い会話や大量の資料でコストが膨らむ。
出力トークン
モデルが生成する回答側のトークン。多くのAPIで入力トークンより単価が高く、推論モデルでは内部推論の分も出力側として課金される場合がある。
推論コスト
モデルが回答生成・内部推論に要する計算資源・料金。単価だけでなく、再試行・Agentの反復回数・内部推論の量で総額が大きく変わる。
軽量モデル
速度・コストを重視し、比較的小さな計算資源で動くモデル。分類・抽出・定型変換等では高性能モデルと同等の品質が出ることも多く、評価して使い分ける。
高性能モデル
複雑な推論・精度を重視し、一般に計算量やコストが高いモデル。
予算アラート
利用額が設定した閾値に近づいた・超えた時点で通知する仕組み。ハード費用上限と組み合わせ、想定外の費用発生を早期に把握する。