21世纪经济报道记者骆轶琪深圳报道
随着大模型技术持续推进应用落地,一个明显变化正在发生:人工智能不再只是云端的事,正越来越多地出现在人们身边的设备中——从智能音箱到工业机器人,从可穿戴设备到智能家居。这便是“边缘AI”,它让设备在本地就能完成智能处理,不必把所有数据都传到云端。
尤其在端侧模型小型化的趋势下,边缘AI应用及其相关芯片都在快速发展。
Arm Unlocked 2025 AI技术峰会深圳站期间,Arm物联网事业部硬件产品管理高级总监Lionel Belnet指出,Arm于今年初推出全球首个基于Armv9架构的边缘AI计算平台,以Arm Cortex-A320 CPU和Arm Ethos-U85 NPU为核心,专为物联网应用优化,支持运行超10亿参数的端侧AI模型。该平台也将陆续纳入Arm技术授权订阅模式中的Arm Flexible Access方案,其通常服务于初创企业与OEM厂商,令这类厂商可以以更低成本进行产品开发。
受访时,Lionel Belnet谈到多个看好在中国市场的边缘AI落地案例。他认为,“AI的终点不在边缘,而是始于边缘,从边缘侧推动着下一波智能计算的浪潮。”
边缘AI演进
AI技术正加速渗入边缘侧,推动应用落地的快速演化。
Lionel Belnet表示,在边缘AI迈向通用AI过程中,有五个关键特性:低延迟、隐私安全、高能效、低成本、系统韧性。
“任何人机界面都需要低延迟的体验;但同时必须保护数据隐私,无论是业务数据还是文本数据。这两点正是当前边缘AI的主要应用方向。”他进一步指出,边缘侧设备能在本地完成计算,无需依赖网络或云端,并能通过专用硬件处理特定任务,高能效就是其中关键。由此,不仅降低了成本,更增强了系统韧性。
根据Lionel Belnet分析,在AI技术加持下,边缘侧正逐渐发生改变。目前来看,边缘端的特征包括:感知层面始终在线(Always-on)、低功耗机器学习,交互层面作为智能中心进行设备协同,本地智能方面能将边缘和云端的工作负载进行拆分。
但是在未来,感知层面会实现情境感知的环境智能,交互维度将具备本地推理与决策能力,智能维度将可以完全自主化,成为预测性边缘AI。

“我们正将物联网的性能从传统MCU扩展到更复杂的边缘AI系统。”他指出,新推出的Arm Cortex-A320是面向物联网市场的首款Armv9 CPU。相较于前代产品Arm Cortex-A35,Cortex-A320的ML(机器学习)性能提升了10倍,标量性能提升了30%。
同时,Armv9边缘AI计算平台也纳入了Arm技术授权订阅模式中的Arm Flexible Access方案,该平台包括超高能效的Cortex-A320 CPU和Ethos-U85 NPU,让合作伙伴能够在前期以低成本或免费(适用于符合条件的初创企业)的方式,获取相关资源或支持。
Arm目前的授权订阅模式有具体不同方案,其中,采用Arm Flexible Access方案时,授权许可费仅在设计进入制造阶段时支付,且仅根据最终SoC设计中所采用的IP进行费用计算。
过去5年间,通过Arm Flexible Access方案实现的成功流片约达400次,活跃成员超过300家,其中,中国合作伙伴超70家。
分析机构SHD Group的《边缘AI市场分析报告》指出,到2030年,基于边缘AI的系统级芯片 (SoC) 市场营收规模将达到800亿至1000亿美元。
场景加速落地
这一趋势下,边缘AI的具体应用趋势和落地进程是备受关注的话题。
在接受21世纪经济报道等记者采访时,Lionel Belnet表示,“短期来看,预计更轻量、更高效的语言模型将持续优化,我们看到产业对于这个领域的投资也在不断增加;同时,为特定应用场景设计的专用模型也将不断涌现。多模态系统将成为边缘AI发展的下一重要阶段。”
将AI能力落地边缘端的另一面,是AI技术仍在持续快速迭代。对于如何即时赶上新技术和新框架方面,Lionel Belnet认为,这也是芯片行业面临的普遍挑战。“未来芯片有可能无法完全支持所有的算子,所以对Arm而言,最核心的是提供高度灵活化的平台,确保在CPU上可以高效实现NPU没有办法支持的功能。”
在落地过程中,他指出,“我们会在技术开发的早期阶段就主动与合作伙伴对接,及时分享技术演进路线与发展规划,从而精准把握其芯片需求。同时,合作伙伴也可以据此向产业链提出明确要求,共同推动产品功能创新与市场精准适配。”
在系统性能力方面,Lionel Belnet表示,Arm也在推进相关标准化的工作,如Arm SystemReady项目,可确保软硬件之间良好的互操作性和兼容性。“此外,我们大量投资开源项目,确保解决方案和软件可以实现长期可维护性,因为很多合作伙伴一款产品就要使用7-15年时间——一个长期可维护的解决方案和软件,将确保客户项目的稳健运行。”
对于在中国市场的边缘AI落地趋势研判,Lionel Belnet指出,其中边缘AI在工业自动化方面,有望持续引领应用落地,制造商正将自动化控制、预测性维护以及基于计算机视觉的质检技术部署到工厂生产场景中。智能家居与可穿戴设备(如智能眼镜)场景将紧随其后,目前已展现出强劲发展势头。
“此外,智慧城市领域也将快速成长。因为本地化且注重隐私保护的人工智能处理技术,能优化能源利用和交通管理等。从智能摄像头到机器人等具备场景感知能力的人工智能设备,也将迎来快速增长。”他续称。