1. 首页 > 快讯

昇腾AI异构计算架构CANN 6.0全新升级,全面提升AI生产力

大家好,今天来为大家分享昇腾AI异构计算架构CANN 6.0全新升级,全面提升AI生产力的一些知识点,和的问题解析,大家要是都明白,那么可以忽略,如果不太清楚的话可以看看本篇文章,相信很大概率可以解决您的问题,接下来我们就一起来看看吧!

11月9日,华为全联接大会2022期间,华为正式宣布升腾AI异构计算架构CANN 6.0将于年底正式发布。

1 高度完善的生态满足度,满足全方位业务诉求从2018年的最初出现,到2022年发布的最新版本CANN 6.0,CANN在赋能AI开发效率和性能方面持续领先业界。作为升腾生态的主力军,CANN 6.0版本基于全新升级的开发系统2.0的发布,在性能、开放性和易用性方面不断提升,在开源算法支持、自定义算子开发、动态塑造场景支持等,全面满足AI开发者需求,不断提升生态满意度。

作为Ascend AI基础软硬件平台的核心,CANN搭建了从上层深度学习框架到底层AI硬件的桥梁,全面支持Ascend MindSpore、PaddlePaddle、PyTorch、TensorFlow、Caffe、Jittor。等主流AI框架,提供超过900个优化模型,可覆盖众多典型场景应用,兼容多种底层硬件设备,提供强大的异构计算能力。

为了满足开发者多层次的AI业务需求,CANN提供统一的面向应用的编程语言AscendCL(升腾计算语言),屏蔽底层处理器的差异,支持AI应用开发、模型开发和算子开发。版本向上兼容,让开发者零感知版本升级,享受AI开发的便利。

同时,随着人工智能应用渗透到更多场景,对图片大小、语音长度等动态数据输入的需求不断增加。 CANN 6.0版本继续改进对动态形状的支持。在新版本中,我们将有400+计算量,支持动态形状和80%的主流运营商,大大提高了AI场景的生态满意度,以匹配客户更多的AI业务场景。

2 打造极简易用算子开发体验,高效使能AI开发者经过几年的积累和优化,CANN高性能算子库在支持神经网络训练和推理加速方面不断做出贡献。 CANN 6.0版本已发展到1400+高性能算子,覆盖主流AI框架的算子。加速需求。

算子库不仅支持高性能单算子执行加速,还支持图输入技术,通过图上的算子融合减少计算节点和内存副本,进一步提升整个网络的执行性能。以Bert网络为例,通过运营商深度融合技术可以将网络性能提升50%。 CANN 6.0新发布的Transformer高性能加速库,针对典型网络结构,内核数量减少80%,核心内核性能提升50%-150%。可匹配Ascend全系列处理器,支持NLP/CV型全场景Transformer网络,并具有继承开发简单、使用上层框架等诸多优点。

除了继续保持较典型机型的性能优势外,CANN 6.0版本还将重点提升易用性。随着算子定制开发需求的不断增加,为了以更加开放、高效的方式支持用户自主开发,随新版本发布的开发系统2.0在算子开发方面推出了原生支持C/C++的算子开发语言,降低运营商开发成本。开发门槛低,同时提供Ascend硬件友好的数据结构,在保持性能的同时提高用户自定义算子开发效率,使算子开发效率倍增。

CANN 6.0版本将提供11类70个DSL算子编程接口,并增加11种新型算子调度策略,从而使更多的算子能够使用简单的DSL方法进行开发。运营商库中的DSL运营商子覆盖率可达80%。在开发易用性方面,开发者只需要完成计算过程表达式,无需担心后续的Schedule创建、优化、编译问题,因为这些操作都会通过Auto Schedule自动调度接口快速完成。 CANN还支持算子调试、一键生成工程代码、自动编译部署到算子库、简化算子交付等功能。基于全流程解决开发者痛点,最大限度降低运营商开发门槛。

3 持续提升模型开发效率,实现模型下载即用CANN支持模型的自动迁移、调试和智能调优,实现模型真正意义上的下载和使用。在CANN 6.0版本下,主流框架TensorFlow和PyTorch的模型迁移成功率均可达到80%以上,并且兼容主流第三方库Horovod/Keras/DeepSpeed等,在此基础上还可以方便地将算法演化过程中开发的自定义内核或函数保留到框架侧执行,提高算法适配的灵活性。

在模型调优方面,开发者不仅可以借助一系列Ascend Affinity API来提升性能,还可以使用智能调优工具来替代复杂的手动优化操作。 CANN 6.0版本的平均调优效率将比上一代提高1%。不止次数。

4 全系列AI开发辅助工具,扫除AI开发重重障碍作为全面赋能AI开发的软件平台,CANN不仅在AI模型适配、应用开发、算子开发等方面持续为开发者带来便利,还在模型优化、系统分析、模型部署等维度帮助开发者消除许多障碍。

模型压缩工具AMCT可以有效减少模型数据量和计算量,节省模型内存和带宽占用,提高计算性能;智能计算调优工具AOE以其傻瓜式的自动优化能力,让算法工程师免去繁琐的手动调优。解放工作,可以直观地显示调优进度和调优结果; Profiling工具可以自动收集整个网络的性能数据,并通过统计视图识别最耗时的操作员。在CANN 6.0版本中,可以自动生成性能优化建议,指导用户快速解决问题;精度对比工具支持全网或指定层的数据转储。 CANN 6.0版本进一步简化了dump数据量,更有效地协助开发者快速定位异常算子。

智能化浪潮汹涌向前。 CANN继续深入践行初心和使命,以简单的态度打造梦想的AI开发者!随着CANN 6.0版本全新开放升级,必将带动更多的合作伙伴和开发者基于升腾AI和CANN的关键技术,探索人工智能领域的更多可能,点燃智能创新热情,点亮智慧城市。和美好生活,共同筑就远方的梦想。共享行业数字化未来!

如果你还想了解更多这方面的信息,记得收藏关注本站。

用户评论

風景綫つ

这个昇腾AI异构计算架构CANN 6.0听起来很酷!希望它能提高AI的效率

    有20位网友表示赞同!

一笑傾城゛

51CTO总是带来最新的科技资讯,这次CANN 6.0升级也十分令人期待。

    有18位网友表示赞同!

我要变勇敢℅℅

全面释放AI生产力,这可是个大突破吧!

    有14位网友表示赞同!

景忧丶枫涩帘淞幕雨

异构计算架构听起来很复杂,但如果能让人开发更 Powerful 的 AI 模型就值得了。

    有5位网友表示赞同!

封心锁爱

CANN 6.0有什么具体的改进?期待详细的介绍和评测!

    有19位网友表示赞同!

心悸╰つ

对于AI新人来说,这个升级能带来更多学习资源吗?

    有15位网友表示赞同!

满心狼藉

想看看CANN 6.0有没有什么应用案例,方便大家了解它的实际效果。

    有7位网友表示赞同!

〆mè村姑

昇腾科技一直走在AI前沿,这次CANN 6.0肯定又有很多亮点!

    有6位网友表示赞同!

灬一抹丶苍白

开放升级意味着更多人可以参与到CANN 6.0的开发和使用中?

    有12位网友表示赞同!

呆萌

新版本的架构会对现有开发者有哪些影响?需要学习新的知识吗?

    有9位网友表示赞同!

绳情

AI生产力提升,是不是意味着我们可以用更少的资源开发更高效的AI?

    有6位网友表示赞同!

万象皆为过客

CANN 6.0能应用于哪些具体的领域?比如医疗、金融等等?

    有10位网友表示赞同!

秘密

这个升级对传统的计算架构有哪些颠覆性的影响?

    有18位网友表示赞同!

微信名字

昇腾科技这次会提供什么样的技术支持?方便新手上手吗?

    有16位网友表示赞同!

妄灸

学习CANN 6.0需要哪些门槛?建议学习路线是什么?

    有19位网友表示赞同!

拥抱

期待CANN 6.0能够加速AI发展,让它真正惠及人类!

    有7位网友表示赞同!

Edinburgh°南空

相信随着CANN 6.0的推出,AI将会变得更加智能和高效。

    有13位网友表示赞同!

冷眼旁观i

这个新闻真是为我们带来了很多思考!

    有8位网友表示赞同!

巴黎盛开的樱花

希望CANN 6.0能够帮助更多开发者将AI应用于更多的领域!

    有5位网友表示赞同!

本文采摘于网络,不代表本站立场,转载联系作者并注明出处:https://www.iotsj.com//kuaixun/7754.html

联系我们

在线咨询:点击这里给我发消息

微信号:666666