端側AI（オンデバイスAI）

端側AI（オンデバイスAI）って何？

多くのAIアプリはクラウド頼みです。質問を遠くのサーバーへ送り、計算して、答えを送り返してもらう。端側AIは、そのモデルをスマホやパソコン、クルマ、イヤホンに直接入れて、手元で計算します。ネットがなくても動くAIです。

なぜ端末で動かすのか

速い
通信の往復がない分、音声アシスタントやリアルタイム翻訳の反応が明らかに軽快になります。
通信量と電力の節約
データを全部アップロードしないので、通信量もバッテリー消費も減らせます。
プライバシーを守れる
写真・音声・健康データが端末の外へ出ない。センシティブな情報をクラウドに渡さずに済みます。

今、何ができるのか

写真アプリの自動切り抜き、リアルタイム文字起こし、クルマの音声操作、ウェアラブルの健康モニタリング。端側AIはすでに身近な製品の多くに入っています。チップメーカーもNPU（ニューラル処理ユニット）を搭載し、こうしたローカル推論を高速化しています。

限界は何か

端末の計算力とメモリには限りがあり、クラウドのような超大規模モデルは動かせません。そこで主流なのが「端と雲の役割分担」。簡単な処理は端末、難しい処理はクラウドと、それぞれの得意を活かします。

まとめ：端側AIは、AIを手元の端末で動かすこと。ネット不要で、速く、節約でき、プライバシーも守れます。