大家好,感谢邀请,今天来为大家分享一下Arm全方位计算平台助力AI智慧终端的问题,以及和的一些困惑,大家要是还不太明白的话,也没有关系,因为接下来将为大家分享,希望可以帮助到大家,解决大家的问题,下面就开始吧!
Steve Raphael,Arm 设备部门智能手机营销高级总监
Steve Raphael强调,AI再次重新定义了智能手机、笔记本电脑、可穿戴设备、数字电视等终端设备的“智能”。 Arm为最大的计算生态系统提供了无处不在的应用程序,并为开发人员提供了友好的指令集。因此,Arm是实现下一代计算性能需求的基石。
在本次活动中,Arm向我们详细介绍了Arm终端计算子系统(CSS)、CPU、GPU以及软件产品的最新技术,并与与会媒体进行了深入的技术交流。
面向消费电子设备的全新计算子系统:Arm 终端 CSS
AI,尤其是生成式AI,正在给消费者带来全新的设备体验,也正在推动芯片的发展。为此,Arm推出了面向消费电子设备的全新计算子系统,即Arm Terminal CSS。作为人工智能体验的计算基础,它可以在最广泛的消费电子设备类别中实现性能、效率和可扩展性的飞跃。
Arm Endpoint CSS 包括最新的Armv9.2 Cortex CPU 集群、Arm Immortalis 和Arm Mali GPU、CoreLink 互连系统IP,以及来自领先代工厂的采用三纳米工艺的可量产CPU 和GPU 物理实现。该平台为Arm的合作伙伴提供了最快的芯片生产方式。通过物理实现,Arm 的合作伙伴可以利用领先的三纳米工艺的各种优势,同时实现高度灵活、可定制的芯片设计。
Steve Hopper,Arm 终端集团产品管理总监
Arm终端事业部产品管理总监Steve Hopper表示,Arm终端CSS专注于实现平台能力的重大跨越,以持续突破高端移动体验的极限。在这一代产品中,Arm 优先考虑四个关键领域:首先,突破性能边界以处理要求严格的现实世界Android 工作负载;其次,提高生成式人工智能以及更广泛的人工智能/机器学习和计算机视觉工作负载的性能;三是继续重点实现系统能效两位数的提升;四是扩展平台以获得更高的性能点,以满足新一代AI PC设备(包括笔记本电脑和平板电脑)的需求。
Arm 终端CSS 将物理实现与Armv9 的AI 优势相结合。 Arm于2021年推出了专为性能和AI而设计的Armv9架构,并在过去几年中提升了矢量加速和机器学习(ML)等领域的计算能力;增强了系统的安全性和健壮性;更重要的是,增加了面向AI的功能。
现场展示的一组数据显示,在游戏峰值图形性能方面,与2023年的Arm综合计算解决方案(TCS23)相比,终端CSS对包括光线追踪在内的各类游戏内容实现了平均30%的性能提升。与去年基于FPGA的Android旗舰配置相比,2+4+2 CPU集群配置使应用程序启动速度加快约33%。通过集群升级(包括额外的Cortex-X 内核并将L3 缓存增加到16MB),性能提高了约10%。根据Speedometer 2.1基准测试的测量结果,得益于新的CPU集群和更新的软件,Speedometer测量分数大幅提升了60%,为用户提供了更好的浏览体验。
Arm Endpoint CSS 还为CPU 和GPU 上的AI 推理工作负载带来显着的性能飞跃。 Steve Hopper 还展示了大型语言模型(LLM) 如何在移动设备上的Arm CPU 上本地运行。借助终端CSS,LLM将能够更好地运行在Arm CPU上,带来更快的响应速度。在运行Llama 3 LLM 和Phi-3 LLM 时,平台可以分别减少42% 和46% 的代币首次响应时间。
此外,Arm终端CSS在AI网络性能、AI计算摄影和AI相机、能耗等方面都取得了巨大的提升。
Steve Hopper表示,Arm终端CSS是Arm最快的Android平台,并不断突破移动设备的界限。 Arm设计从IP到软件的整个平台,以提供卓越的能效,实现更持久、更丰富的移动体验,持续释放高端移动设备的AI性能,并推动AI在低价设备中的应用。
Armv9.2 CPU:加速在移动设备上运行AI的计算集群
作为终端设备的核心大脑,CPU的性能至关重要。为了加速AI应用在移动设备上的运行,给用户带来更好的体验,Armv9.2 CPU计算集群应运而生。
第二代Armv9.2 CPU集群包括具有超强性能的Arm Cortex-X925 CPU和继续提供卓越性能的Arm Cortex-A725 CPU。还包括更新的Arm Cortex-A520 CPU,可为低强度工作负载提供更好的能效。同时,Arm还更新了DynamIQ共享单元(DSU-120),以减少Armv9.2 CPU集群配置中的功耗和面积。以上产品均集成到Arm终端CSS中。 Arm终端CSS带来的Armv9.2的能效优势,将通过物理实现和持续的软件优化彻底革新开发者和消费者的体验。
作为目前Arm最强大的CPU产品,Cortex-X925采用领先的三纳米工艺节点。在3.8GHz的时钟频率和最大缓存大小下,其单核SoC比2023年旗舰智能手机的四纳米SoC更快。线程性能显着提升36%。在AI性能方面,Cortex-X925实现了46%的性能提升,可显着提升大型语言模型(LLM)等设备端生成式AI的响应速度。
Cortex-A725同样采用三纳米工艺。与Cortex-A720相比,Cortex-A725性能效率提升35%,能效提升25%。此外,作为Arm最新的高效CPU,Arm Cortex-A725还实现了性能与效率的最佳平衡。
此外,Cortex-A520和DSU-120也通过Arm终端CSS进行了全面更新。数据显示,与TCS23中的Cortex-A520相比,得益于更新的实现和先进的三纳米物理实现,新一代Cortex-A520的能效提升了15%。 DSU-120 保留了针对高性能用例扩展到最多14 个核心的选项,典型工作负载的功耗显着降低了50%,整个CPU 集群的缓存未命中功耗降低了60%,从而降低了功耗泄漏并延长设备寿命。电池寿命。
Manish Pandey,Arm 终端部门高级产品经理
Arm终端业务部高级产品经理Manish Pandey表示,Arm的目标之一是为Arm技术触及的每一个细分市场提供可行且优秀的解决方案,并确保Arm为此类市场和解决方案做好拥抱AI的准备。准备。 Arm专注于大幅提升AI性能,拥有全面的产品组合解决方案,为即将到来的新一波应用提供面向未来的解决方案,从而帮助解决实际应用的复杂性和多维度问题,持续提升用户体验。
Immortalis-G925:为AI和机器学习提供更强性能
除了Armv9.2 CPU集群外,Immortalis-G925 GPU产品也包含在Arm终端CSS中。除了全面提升游戏性能之外,新一代GPU在AI工作负载方面也取得了巨大的提升。
Arm中国市场总监王刚表示,与前几代产品一样,Arm不断提高GPU上AI工作负载的性能和效率。作为Arm终端CSS的重要组件,Immortalis-G925在多个AI和机器学习(ML)网络上性能提升34%。
王刚,Arm中国市场总监
虽然大多数人工智能处理可以在CPU 上执行,但GPU 为各种人工智能用例提供加速功能,包括图像分类、图像分割、对象检测、自然语言处理和语音转文本。
数据显示,与TCS23 中的Immortalis-G720 相比,Immortalis-G925 作为Arm 终端CSS 的一部分,在关键用例中提供了一系列AI 性能改进。在图像处理(包括分割和分类)方面,Immortalis-G925可以实现41%的性能提升。同时,在超采样任务中,开发者可以利用神经网络来放大图像,性能可以提升近30%。在自然语言处理和语音转文本方面,性能可以提升50%,这也很惊人。
据王刚介绍,Immoratlis-G925也采用了三纳米工艺。 Arm正在与领先的代工合作伙伴合作,充分利用三纳米工艺的功耗、性能和面积(PPA)优势,同时通过可量产的芯片解决问题。缩短芯片开发和部署时间的解决方案。
Kleidi(意为“钥匙”):专为开发者量身定制的软件库
除了Arm终端CSS之外,Arm还从开发者的角度推出了面向开发者的软件库:Arm Kleidi。
“Kleidi”在希腊语中的意思是“钥匙”。 Kleidi 软件库包括用于人工智能工作负载的KleidiAI 和用于在Arm CPU 上运行的出色计算机视觉工作负载的KleidiCV。该软件库可以直接嵌入到流行的AI框架中,让开发人员无需任何操作即可轻松启用Arm CPU的AI功能,从而使他们能够快速构建AI应用程序并在尽可能广泛的设备上实现最佳性能。
李晨录,Arm中国开发者生态系统高级经理
Arm中国开发者生态系统高级经理李晨录介绍,KleidiAI是一套面向AI框架开发者的计算内核,让他们能够轻松在各种设备上获得Arm CPU上的最佳性能,并支持关键的Arm架构特性,例如霓虹灯、SVE2 和SME2。 KleidiAI 与PyTorch、Tensorflow 和MediaPipe 等流行的AI 框架集成,以加速Meta Llama 3 和Phi-3 等关键模型的性能。它还向后和向前兼容,以确保Arm在引入更多技术时仍能适应未来市场。需要。
大家好,关于Arm全方位计算平台助力AI智慧终端很多朋友都还不太明白,不过没关系,因为今天小编就来为大家分享关于的知识点,相信应该可以解决大家的一些困惑和问题,如果碰巧可以解决您的问题,还望关注下本站哦,希望对各位有所帮助!
本文采摘于网络,不代表本站立场,转载联系作者并注明出处:https://www.iotsj.com//kuaixun/6494.html
用户评论
真希望AI越来越普及到我们的日常生活里!
有13位网友表示赞同!
移动端的AI应用一定可以更贴近我们,体验应该会很好。
有15位网友表示赞同!
Arm总能打造出让人惊艳的技术平台。
有17位网友表示赞同!
终端设备上的AI应用有哪些呢?我很感兴趣!
有20位网友表示赞同!
有了更好的计算平台,AI的性能肯定能大幅提升!
有11位网友表示赞同!
期待未来能够看到更多创新型的终端AI应用。
有14位网友表示赞同!
这将为开发人员提供更强大的工具和资源。
有7位网友表示赞同!
全面的计算平台是AI发展的重要基石啊。
有14位网友表示赞同!
智能手机的功能肯定也会升级!
有19位网友表示赞同!
更好地使用体验,是科技发展的最终目标吧。
有15位网友表示赞同!
这使得终端设备更加智能和便捷。
有6位网友表示赞同!
对于用户来说,这无疑是一个积极的改变。
有16位网友表示赞同!
希望AI技术能够应用到更多领域,为人们带来更多便利
有5位网友表示赞同!
现在的人机交互方式也会更人性化了吧?
有7位网友表示赞同!
51CTO.COM的文章总是很及时很有料。
有17位网友表示赞同!
Arm的这套技术平台听起来非常强大!
有20位网友表示赞同!
AI技术的进步给我们的生活带来了很多新的可能性!
有8位网友表示赞同!
智能化越来越成为趋势,未来会更加有趣!
有9位网友表示赞同!
这个新闻让我对AI的发展充满了期待。
有18位网友表示赞同!