クラウドに送らず、スマホやPC・カメラなど手元の機器の中でAIを動かすこと。通信不要・低遅延・プライバシー安心が売りで、「AI PC」の正体もこれ。
「エッジ」はネットワークの端っこ、つまり手元のデバイスのこと。写真の被写体認識や通訳モードがオフラインで動くのは、スマホに載った専用チップ(NPU)が小型AIを動かしているからです。データが端末から出ないので、機密や個人情報を扱う現場と相性抜群です。
クラウドAIが「賢いが遠い本社」、エッジAIが「そこそこ賢い現場担当」。往復の時間がないぶん反応が速く、通信費もかかりません。モデルの軽量化(量子化・蒸留)の進歩とともに、「その場で考えるAI」の守備範囲はどんどん広がっています。
用語を覚えるより、ストーリーで体感するほうが早い。