定義
クラウドへ常時送信せず、PC・スマートフォン等の端末上で推論やAI処理を行う構成。
詳しい説明
入力をクラウドのサーバーへ送らずに、PCやスマートフォンなどの端末の上でAIの推論を行う構成です。入力が端末の外に出ないこと、通信できない場所でも使えること、推論のたびの利用料がかからないことが利点です。一方で、端末に載せられるモデルは小さく、クラウドの大きなモデルより、扱える長さや能力が限られます。AppleとGoogleは、OSに組み込んだ端末内のモデルを、アプリの開発者が使えるようにしています。
具体例
Androidでは、Gemini Nanoが端末内のシステムサービス（AICore）で動き、要約・校正・書き換えなどをネットワークなしで行えます。対応していない端末や機能では、クラウドのモデルに切り替える「ハイブリッド推論」が案内されています。
業務での判断例
架空の例として、営業部門の作業ごとに、端末内とクラウドのどちらで処理するかを決めます。
| 作業 | 処理する場所 | 理由と注意点 |
|---|---|---|
| 顧客名を含む日報の短い要約 | 端末内 | 入力を社外へ出さずに済む。要約の質は、同じ例でクラウドと比べてから決める |
| 長い契約書の比較と、根拠を示した分析 | クラウド | 端末内のモデルでは長さや能力が足りないことがある。送る前に、個人情報を必要な項目へ絞る |
| 電波の届かない現場での点検メモの整理 | 端末内 | 通信なしで動く。端末ごとに対応状況が違うため、実際に使う端末で動作を確かめる |
似た用語との違い
- SLM（Small Language Model）：小さく作った言語モデルそのものです。端末内AIは、モデルをどこで動かすかという構成のことで、SLMがよく使われます。
- プライベートクラウド：自社専用のクラウド環境です。データを端末の外へ送る点で、端末内AIとは異なります。
実務での注意点
- 「端末内で動く」とされる機能でも、一部の処理はクラウドへ送られることがあります。どの処理が端末内で完結するかを、提供元の資料で確かめます。
- 端末内のモデルは、OSやシステムの更新で入れ替わることがあります。同じ入力で結果を比べる試験を、更新のたびに行います。
- 入力や結果が端末に残る場合は、端末の紛失や盗難に備えて、残す期間と消し方を決めます。
公式資料
- Android Developers「Gemini Nano」
- Apple Newsroom「Apple Intelligence gets even more powerful with new capabilities across Apple devices」（2025年6月9日）
