Professional LexiconAI・LLM実務辞典

AI・LLMの実務で参照する用語を、分野別に整理して掲載します。

読み仮名未登録などの用語を分野から探す

読み仮名を確認できていない用語は推測で五十音に振り分けず、カテゴリ別に掲載しています。

漢字・その他 の用語

生成AI
文章・画像・音声・コードなど、新しいコンテンツを生成するAI。出力は学習データに基づくもっともらしさで生成されるため、事実性・権利・機密の確認を前提に業務へ使う。
制御構造
AIの挙動を目的・制約・確認手順・出力条件などで体系的に制御する構成。
標準テンプレート
通常業務で共通利用する基準版のプロンプト。所有者・版・更新日を管理し、部門版・用途版との差分を追跡できるようにする。
関連する記事を読む(2件)
組み込みAI
単独のAIチャットではなく、Office・メール・会議・CRMなど既存の業務アプリやSaaS内部へAI機能を組み込んだ形態。
事前学習
大量のデータを用いて、特定タスクへ適応する前にモデルへ一般的なパターンや表現を学習させる工程。
基盤モデル(Foundation Model)
大規模かつ多様なデータで学習され、追加調整やプロンプトによって多様な用途へ適応できる汎用モデル。
拡散モデル(Diffusion Model)
ノイズから段階的にデータを復元する過程を学習し、画像・音声等を生成するモデル方式。
潜在空間(Latent Space)
モデル内部でデータを圧縮・抽象化して表現する空間。Embeddingや潜在拡散モデルでは、この空間上の距離や操作が意味的な類似・変化に対応する。
機械学習
データからパターンや規則を学習し、予測・分類・生成・意思決定などへ利用するAI技術の総称。
深層学習
多数の層を持つニューラルネットワークを用いて、データから特徴表現や複雑な関係を学習する機械学習の方法。
教師あり学習
入力と正解ラベルの組を用いて、未知の入力に対する予測や分類を学習する方式。
強化学習
環境との相互作用から得られる報酬を手掛かりに、長期的な報酬を高める行動方針を学習する方式。
過学習
学習データには高い性能を示す一方、未知データへの一般化性能が低下した状態。
汎化(Generalization)
学習データに含まれない未知のデータに対しても適切に予測・生成できる能力。過学習はこの汎化性能が低下した状態。
訓練データ・検証データ・テストデータ
モデル学習に使う訓練データ、調整や選択に使う検証データ、最終性能の評価に使うテストデータを分離して扱う考え方。
損失関数
モデルの予測と正解との差を数値化し、学習時に最小化する対象となる関数。
交差エントロピー(Cross-Entropy)
予測確率分布と正解分布の差を測る損失関数。LLMの次トークン予測学習で標準的に用いられ、評価指標のPerplexityは平均交差エントロピーを指数変換した値に相当する。
勾配降下法
損失関数の勾配を使ってパラメータを反復更新し、損失を小さくする代表的な最適化手法。
転移学習
あるデータやタスクで学習したモデルの知識を、別の関連タスクへ再利用する学習方法。
教師なし学習
正解ラベルを与えず、データの構造・分布・類似性などを学習する方式。
位置エンコーディング(Positional Encoding)
Attention自体は語順を区別しないため、トークンの位置情報をモデルへ与える仕組みの総称。正弦波による絶対位置表現、学習型埋め込み、RoPE等の相対位置表現がある。
活性化関数
ニューラルネットワークの各層で非線形変換を加える関数。ReLU、GELU、SwiGLU等があり、非線形性がないと多層化しても複雑な関係を表現できない。
自己回帰(Autoregressive)
過去に生成したトークンを条件として次のトークンを逐次予測・生成するモデル方式。多くのLLMの基本的な生成方法。
次トークン予測
それまでの入力・生成履歴から次に現れるトークンの確率分布を予測する学習・生成の基本タスク。
創発的能力(Emergent Abilities)
モデル規模や学習量の増加に伴い、ある条件を境に新たな能力が目立って現れるように見える現象。評価方法や連続的な性能向上との関係には議論がある。
誤差逆伝播(Backpropagation)
出力側の誤差から勾配を逆向きに計算し、ニューラルネットワークのパラメータ更新に必要な情報を求める学習手法。
学習率(Learning Rate)
勾配に基づいてモデルのパラメータを1回の更新でどの程度変化させるかを決めるハイパーパラメータ。
正則化(Regularization)
過学習を抑え一般化性能を高めるため、重み・学習・データ等へ制約やノイズを加える手法の総称。
破滅的忘却(Catastrophic Forgetting)
追加学習や継続学習によって、新しい知識を獲得する一方で以前に学習した能力・知識が大きく失われる現象。