NPU 是什么?
NPU 全称神经网络处理器(Neural Processing Unit),是一块专门为神经网络「推理」(也就是让训练好的模型跑起来、做判断)设计的芯片。它的特点是:算 AI 特别快,耗电特别少,小到能塞进手机、耳机、摄像头这些设备里。它和 CPU、GPU 有什么不同?
CPU:什么都干,但 AI 不算快GPU:算力强,但功耗高、体积大
NPU:只干 AI,功耗低到手机能用一整天
三者各司其职,NPU 补的是「端侧 AI」这块短板。
NPU 都在哪儿?
你手机里的「AI 修图」「语音助手」「实时翻译」「人脸解锁」,很多就是 NPU 在本地完成的——数据不用上传云端,既快又更隐私。笔记本电脑、智能音箱、监控摄像头、汽车座舱里也越来越多。为什么「端侧 AI」需要它?
把 AI 都放到云端,会受制于网络延迟和隐私。NPU 让一部分 AI 在设备本地就跑得动,断网也能用,还省流量、省电、更安全。这被称为「端侧 AI」或「终端智能」,是手机厂商现在卷得最凶的方向之一。一句话记住:NPU 是「藏在设备里的 AI 小马达」,让 AI 离线也能跑,还特别省电。
评论