1. 首页 > 快讯

Arm全方位计算平台助力AI智慧终端

大家好,感谢邀请,今天来为大家分享一下Arm全方位计算平台助力AI智慧终端的问题,以及和的一些困惑,大家要是还不太明白的话,也没有关系,因为接下来将为大家分享,希望可以帮助到大家,解决大家的问题,下面就开始吧!

Steve Raphael,Arm 设备部门智能手机营销高级总监

Steve Raphael强调,AI再次重新定义了智能手机、笔记本电脑、可穿戴设备、数字电视等终端设备的“智能”。 Arm为最大的计算生态系统提供了无处不在的应用程序,并为开发人员提供了友好的指令集。因此,Arm是实现下一代计算性能需求的基石。

在本次活动中,Arm向我们详细介绍了Arm终端计算子系统(CSS)、CPU、GPU以及软件产品的最新技术,并与与会媒体进行了深入的技术交流。

面向消费电子设备的全新计算子系统:Arm 终端 CSS

AI,尤其是生成式AI,正在给消费者带来全新的设备体验,也正在推动芯片的发展。为此,Arm推出了面向消费电子设备的全新计算子系统,即Arm Terminal CSS。作为人工智能体验的计算基础,它可以在最广泛的消费电子设备类别中实现性能、效率和可扩展性的飞跃。

Arm Endpoint CSS 包括最新的Armv9.2 Cortex CPU 集群、Arm Immortalis 和Arm Mali GPU、CoreLink 互连系统IP,以及来自领先代工厂的采用三纳米工艺的可量产CPU 和GPU 物理实现。该平台为Arm的合作伙伴提供了最快的芯片生产方式。通过物理实现,Arm 的合作伙伴可以利用领先的三纳米工艺的各种优势,同时实现高度灵活、可定制的芯片设计。

Steve Hopper,Arm 终端集团产品管理总监

Arm终端事业部产品管理总监Steve Hopper表示,Arm终端CSS专注于实现平台能力的重大跨越,以持续突破高端移动体验的极限。在这一代产品中,Arm 优先考虑四个关键领域:首先,突破性能边界以处理要求严格的现实世界Android 工作负载;其次,提高生成式人工智能以及更广泛的人工智能/机器学习和计算机视觉工作负载的性能;三是继续重点实现系统能效两位数的提升;四是扩展平台以获得更高的性能点,以满足新一代AI PC设备(包括笔记本电脑和平板电脑)的需求。

Arm 终端CSS 将物理实现与Armv9 的AI 优势相结合。 Arm于2021年推出了专为性能和AI而设计的Armv9架构,并在过去几年中提升了矢量加速和机器学习(ML)等领域的计算能力;增强了系统的安全性和健壮性;更重要的是,增加了面向AI的功能。

现场展示的一组数据显示,在游戏峰值图形性能方面,与2023年的Arm综合计算解决方案(TCS23)相比,终端CSS对包括光线追踪在内的各类游戏内容实现了平均30%的性能提升。与去年基于FPGA的Android旗舰配置相比,2+4+2 CPU集群配置使应用程序启动速度加快约33%。通过集群升级(包括额外的Cortex-X 内核并将L3 缓存增加到16MB),性能提高了约10%。根据Speedometer 2.1基准测试的测量结果,得益于新的CPU集群和更新的软件,Speedometer测量分数大幅提升了60%,为用户提供了更好的浏览体验。

Arm Endpoint CSS 还为CPU 和GPU 上的AI 推理工作负载带来显着的性能飞跃。 Steve Hopper 还展示了大型语言模型(LLM) 如何在移动设备上的Arm CPU 上本地运行。借助终端CSS,LLM将能够更好地运行在Arm CPU上,带来更快的响应速度。在运行Llama 3 LLM 和Phi-3 LLM 时,平台可以分别减少42% 和46% 的代币首次响应时间。

此外,Arm终端CSS在AI网络性能、AI计算摄影和AI相机、能耗等方面都取得了巨大的提升。

Steve Hopper表示,Arm终端CSS是Arm最快的Android平台,并不断突破移动设备的界限。 Arm设计从IP到软件的整个平台,以提供卓越的能效,实现更持久、更丰富的移动体验,持续释放高端移动设备的AI性能,并推动AI在低价设备中的应用。

Armv9.2 CPU:加速在移动设备上运行AI的计算集群

作为终端设备的核心大脑,CPU的性能至关重要。为了加速AI应用在移动设备上的运行,给用户带来更好的体验,Armv9.2 CPU计算集群应运而生。

第二代Armv9.2 CPU集群包括具有超强性能的Arm Cortex-X925 CPU和继续提供卓越性能的Arm Cortex-A725 CPU。还包括更新的Arm Cortex-A520 CPU,可为低强度工作负载提供更好的能效。同时,Arm还更新了DynamIQ共享单元(DSU-120),以减少Armv9.2 CPU集群配置中的功耗和面积。以上产品均集成到Arm终端CSS中。 Arm终端CSS带来的Armv9.2的能效优势,将通过物理实现和持续的软件优化彻底革新开发者和消费者的体验。

作为目前Arm最强大的CPU产品,Cortex-X925采用领先的三纳米工艺节点。在3.8GHz的时钟频率和最大缓存大小下,其单核SoC比2023年旗舰智能手机的四纳米SoC更快。线程性能显着提升36%。在AI性能方面,Cortex-X925实现了46%的性能提升,可显着提升大型语言模型(LLM)等设备端生成式AI的响应速度。

Cortex-A725同样采用三纳米工艺。与Cortex-A720相比,Cortex-A725性能效率提升35%,能效提升25%。此外,作为Arm最新的高效CPU,Arm Cortex-A725还实现了性能与效率的最佳平衡。

此外,Cortex-A520和DSU-120也通过Arm终端CSS进行了全面更新。数据显示,与TCS23中的Cortex-A520相比,得益于更新的实现和先进的三纳米物理实现,新一代Cortex-A520的能效提升了15%。 DSU-120 保留了针对高性能用例扩展到最多14 个核心的选项,典型工作负载的功耗显着降低了50%,整个CPU 集群的缓存未命中功耗降低了60%,从而降低了功耗泄漏并延长设备寿命。电池寿命。

Manish Pandey,Arm 终端部门高级产品经理

Arm终端业务部高级产品经理Manish Pandey表示,Arm的目标之一是为Arm技术触及的每一个细分市场提供可行且优秀的解决方案,并确保Arm为此类市场和解决方案做好拥抱AI的准备。准备。 Arm专注于大幅提升AI性能,拥有全面的产品组合解决方案,为即将到来的新一波应用提供面向未来的解决方案,从而帮助解决实际应用的复杂性和多维度问题,持续提升用户体验。

Immortalis-G925:为AI和机器学习提供更强性能

除了Armv9.2 CPU集群外,Immortalis-G925 GPU产品也包含在Arm终端CSS中。除了全面提升游戏性能之外,新一代GPU在AI工作负载方面也取得了巨大的提升。

Arm中国市场总监王刚表示,与前几代产品一样,Arm不断提高GPU上AI工作负载的性能和效率。作为Arm终端CSS的重要组件,Immortalis-G925在多个AI和机器学习(ML)网络上性能提升34%。

王刚,Arm中国市场总监

虽然大多数人工智能处理可以在CPU 上执行,但GPU 为各种人工智能用例提供加速功能,包括图像分类、图像分割、对象检测、自然语言处理和语音转文本。

数据显示,与TCS23 中的Immortalis-G720 相比,Immortalis-G925 作为Arm 终端CSS 的一部分,在关键用例中提供了一系列AI 性能改进。在图像处理(包括分割和分类)方面,Immortalis-G925可以实现41%的性能提升。同时,在超采样任务中,开发者可以利用神经网络来放大图像,性能可以提升近30%。在自然语言处理和语音转文本方面,性能可以提升50%,这也很惊人。

据王刚介绍,Immoratlis-G925也采用了三纳米工艺。 Arm正在与领先的代工合作伙伴合作,充分利用三纳米工艺的功耗、性能和面积(PPA)优势,同时通过可量产的芯片解决问题。缩短芯片开发和部署时间的解决方案。

Kleidi(意为“钥匙”):专为开发者量身定制的软件库

除了Arm终端CSS之外,Arm还从开发者的角度推出了面向开发者的软件库:Arm Kleidi。

“Kleidi”在希腊语中的意思是“钥匙”。 Kleidi 软件库包括用于人工智能工作负载的KleidiAI 和用于在Arm CPU 上运行的出色计算机视觉工作负载的KleidiCV。该软件库可以直接嵌入到流行的AI框架中,让开发人员无需任何操作即可轻松启用Arm CPU的AI功能,从而使他们能够快速构建AI应用程序并在尽可能广泛的设备上实现最佳性能。

李晨录,Arm中国开发者生态系统高级经理

Arm中国开发者生态系统高级经理李晨录介绍,KleidiAI是一套面向AI框架开发者的计算内核,让他们能够轻松在各种设备上获得Arm CPU上的最佳性能,并支持关键的Arm架构特性,例如霓虹灯、SVE2 和SME2。 KleidiAI 与PyTorch、Tensorflow 和MediaPipe 等流行的AI 框架集成,以加速Meta Llama 3 和Phi-3 等关键模型的性能。它还向后和向前兼容,以确保Arm在引入更多技术时仍能适应未来市场。需要。

大家好,关于Arm全方位计算平台助力AI智慧终端很多朋友都还不太明白,不过没关系,因为今天小编就来为大家分享关于的知识点,相信应该可以解决大家的一些困惑和问题,如果碰巧可以解决您的问题,还望关注下本站哦,希望对各位有所帮助!

用户评论

北染陌人

真希望AI越来越普及到我们的日常生活里!

    有13位网友表示赞同!

巷陌繁花丶

移动端的AI应用一定可以更贴近我们,体验应该会很好。

    有15位网友表示赞同!

那伤。眞美

Arm总能打造出让人惊艳的技术平台。

    有17位网友表示赞同!

不离我

终端设备上的AI应用有哪些呢?我很感兴趣!

    有20位网友表示赞同!

太易動情也是罪名

有了更好的计算平台,AI的性能肯定能大幅提升!

    有11位网友表示赞同!

败类

期待未来能够看到更多创新型的终端AI应用。

    有14位网友表示赞同!

不浪漫罪名

这将为开发人员提供更强大的工具和资源。

    有7位网友表示赞同!

灬一抹丶苍白

全面的计算平台是AI发展的重要基石啊。

    有14位网友表示赞同!

各自安好ぃ

智能手机的功能肯定也会升级!

    有19位网友表示赞同!

笑叹★尘世美

更好地使用体验,是科技发展的最终目标吧。

    有15位网友表示赞同!

哥帅但不是蟋蟀

这使得终端设备更加智能和便捷。

    有6位网友表示赞同!

如你所愿

对于用户来说,这无疑是一个积极的改变。

    有16位网友表示赞同!

拉扯

希望AI技术能够应用到更多领域,为人们带来更多便利

    有5位网友表示赞同!

拽年很骚

现在的人机交互方式也会更人性化了吧?

    有7位网友表示赞同!

巴黎盛开的樱花

51CTO.COM的文章总是很及时很有料。

    有17位网友表示赞同!

孤街浪途

Arm的这套技术平台听起来非常强大!

    有20位网友表示赞同!

别留遗憾

AI技术的进步给我们的生活带来了很多新的可能性!

    有8位网友表示赞同!

来瓶年的冰泉

智能化越来越成为趋势,未来会更加有趣!

    有9位网友表示赞同!

我要变勇敢℅℅

这个新闻让我对AI的发展充满了期待。

    有18位网友表示赞同!

本文采摘于网络,不代表本站立场,转载联系作者并注明出处:https://www.iotsj.com//kuaixun/6494.html

联系我们

在线咨询:点击这里给我发消息

微信号:666666