边缘AI带来的机遇与挑战

在边缘部署人工智能应用将为我们的生活和工作带来无限可能。

在本次交流会上，马健介绍了边缘AI基于智能家居应用场景带来的新机遇。她表示，在智能家居应用中，人们目前大多使用智能手机上的不同应用程序来手动控制各种电器开关和设置。未来，AI模型将像一个家庭“大脑”，可以集成各种家庭传感器、摄像头，以及外部天气、家庭偏好、自然语言命令等输入，打造更安全、更个性化的家居环境节能。

此外，人工智能和大模型将使零售更加智能、个性化和自动化。通过个性化购物体验、智能库存管理、动态定价策略、线上线下无缝融合以及自动化运营，带来更高的效率和更好的客户体验。人工智能和大模型也有望推动工业4.0向工业5.0的转变，实现智能生产线、精准质量控制、个性化定制生产、供应链优化、自主维护和远程监控、人机协作、节能减排减量化、新材料和工艺的发展给制造业带来了深刻的变化。

马健强调，边缘AI虽然带来很多机遇，但也面临很多挑战。

首先，在设计边缘人工智能芯片和系统时，需要在计算能力和能源效率之间找到适当的平衡。

其次，高性能的处理能力往往伴随着较高的功耗，而边缘设备往往对功耗和成本有严格的限制。

第三，随着越来越多的数据在边缘处理，数据安全和隐私保护变得尤为重要。因此，边缘AI要求芯片设计中必须包含加密和安全功能。

第四，由于边缘AI用例多种多样，为了更好地统一多样化的应用需求并实现规模化效益，适合软件移植的软件定义和标准必不可少。

为了帮助用户解决部署边缘AI的各种挑战，Arm持续投资IP、参考设计和软件标准。入门，帮助用户以最简单的方式应对挑战，推动边缘AI的发展。

重磅发布新一代Ethos-U AI加速器

为了解决边缘AI面临的性能、功耗、安全等各种挑战，Arm发布了新一代Ethos-U AI加速器。

马健介绍，与上一代产品相比，Ethos-U85性能提升了4倍，能效提升了20%。同时，其MAC单元可以从128个扩展到2048个（1GHz下算力达到4TOP）。为需要更高性能的应用提供动力，例如工厂自动化和商业或智能家居相机。 Ethos-U85 提供相同一致的工具链，因此合作伙伴可以利用现有投资来获得无缝的开发人员体验。更重要的是，新的Ethos-U85 NPU支持TensorFlow Lite和PyTorch等AI框架。

马健表示，Ethos-U85不仅提供了卷积神经网络（CNN）所需的权重矩阵乘法运算，还支持矩阵乘法，这是Transformer架构网络的基本组件。基于Transformer 的模型具有出色的泛化能力，将更快地推动新的人工智能应用的开发。 Transformer 在视觉和生成人工智能用例中非常有价值，例如视频理解、图像和文本组合、图像增强和生成、图像分类和目标检测。

“Transformer架构网络的注意力机制很容易使用并行计算来实现，这提高了硬件使用效率，并使这些模型能够部署在计算资源有限的边缘设备上。”马健表示，开发者可以选择通过Design来优化Transformer架构网络，探索边缘AI的新机会，使这些应用程序能够享受更快的推理、更优化的模型性能和可扩展性。

此外，在高性能边缘计算系统中，越来越多地部署应用处理器、标准操作系统和高级开发语言。由于这种模式更有利于云原生开发和云边缘负载调度，因此这种趋势在处理数据量不断增加的AI应用系统中尤为显着。 Ethos-U85旨在与Arm领先的Armv9 Cortex-A CPU相结合，将加速在基于应用处理器的智能物联网平台上运行的AI任务，从而支持工业机器视觉、边缘网关和可穿戴设备中的应用。为消费机器人、消费机器人等应用带来高性能边缘推理能力。

据了解，Arm Ethos NPU系列产品拥有超过20家授权授权合作伙伴，其中Alif半导体和英飞凌已成为新款Arm Ethos-U85 NPU的早期采用者。

Corstone-320全新物联网参考设计平台

除了发布全新Ethos-U85 AI加速器外，Arm还同步推出了Corstone-320全新物联网参考设计平台，以加速语音、音频和视觉系统的部署。

据了解，Arm Corstone-320物联网参考设计平台集成了Arm最高性能的Cortex-M CPU——Cortex-M85、Mali-C55 ISP和全新Ethos-U85 NPU，提供语音、音频和视觉等广泛的边缘AI应用。实现所需的性能，例如实时图像分类和对象识别，或在智能扬声器上启用具有自然语言翻译功能的语音助手。

马健表示，Arm Corstone-320物联网参考设计平台涵盖了软件、工具和支持，包括Arm虚拟硬件。该平台的硬件和软件组合将使开发人员能够在物理芯片准备就绪之前开始软件开发，从而加速产品开发并缩短日益复杂的边缘人工智能设备的上市时间。

“Corstone-320不仅提供芯片计算子系统IP组合，还附带软件、AI模型库和开发工具，实现软件复用。同时，该平台利用Arm强大的生态系统，附带仿真Corstone-320 A完整的Arm虚拟硬件体系，以及CPU和NPU的独立固定虚拟平台（FVP）模型，能够简化开发并加速产品设计，并支持软硬件并行协同开发。”马健表示，这提供了优势。人工智能和智能事物。用于网络计算子系统的一整套软件、硬件和工具链方法使我们的合作伙伴能够在一系列性能点上快速开发，并专注于创造差异化价值。

马健表示，目前全球约90%的AI都运行在基于Arm架构的CPU上。这些持续的投资使Arm成为全球最常见的AI计算平台之一，吸引了越来越多的开发者加入。 Arm 还将与其生态系统合作伙伴共同努力，释放前所未有的人工智能潜力。

“智能必须无处不在，云端和边缘设备缺一不可。Arm推出的Ethos-U85和Corstone-320旨在加速AI系统的快速落地，推动未来多模态智能应用的全面部署”。采访最后，马健说道。