陆涛,Graphcore大中华区总裁兼全球首席营收官
在近期Graphcore举办的线下媒体沟通会上,Graphcore大中华区总裁兼全球首席营收官陆涛详细介绍了新一代产品的各项优势。他表示,与上一代产品相比,Bow IPU不仅有非常明显的性能提升,也给用户带来了更好的产品选择。该产品立即推出,合作伙伴已经可以购买新产品,并将其应用于企业中的各种计算场景。
全球首款基于台积电3D Wafer-on-Wafer的处理器作为全球首款基于台积电3D Wafer-on-Wafer 的处理器,Bow IPU 采用台积电的SoIC-WoW 技术和7nm 工艺将两个芯片堆叠在一起。这种3D封装设计使得单个封装芯片中的晶体管数量超过600亿个,人工智能计算性能达到350 TeraFLOPS。
据陆涛介绍,与上一代MK2 IPU 250 TeraFLOPS相比,Bow IPU的性能提升了40%,并且通过优化供电系统,每瓦性能也得到了更好的提升。片上存储方面,与上一代MK2 IPU相比没有变化。容量仍为0.9 GB,但吞吐量从47.5 TB/s 增加到65 TB/s。此外,处理器核心数量、独立线程数量、接口等与上一代处理器相比没有变化。
以Bow-2000为例,IPU-Machine与上一代IPU Machine:M2000(IPU-M2000)一致,采用4个Bow IPU。不同之处在于,上一代产品可以在1U刀片中提供1 PetaFLOPS的计算能力,而Bow-2000可以提供1.4 PetaFLOPS的计算能力。除此之外,Bow-2000 1U 刀片还具有3.6 GB 处理器内存储(吞吐量为260TB/s)、高达256 GB 的IPU 流存储以及2.8 Tbps IPU-Fabric。
陆涛表示,Bow IPU是Graphcore与台积电联合创新的产品。与上一代产品相比,它可以提供更好的每瓦性能,具有更高的性能比,使其成为AI计算的首选。
丰富的软件栈生态系统是性能提升的关键除了硬件创新之外,丰富的软件栈生态系统也是提升Bow IPU性能的关键因素。
Graphcore中国工程副总裁、AI算法科学家陈进
据Graphcore中国区工程副总裁、AI算法科学家金晨介绍,Poplar SDK不仅包括Graphcore开发的图编译器和驱动程序,还包括上层XLA后端。这些软件的支持使得Bow IPU在不同应用中的性能得到了广泛的提升。
除此之外,Graphcore还提供了相对丰富的生态系统。例如,在AI软件框架上,可以支持PyTorch、TensorFlow、HALO、PaddlePaddle以及高级API Keras等,在用户端,支持Jupyter Notebook、Inference Deployment Toolkit等,帮助客户实现集成推理部署。
此外,Graphcore还正在加速开发者社区的建设,并提供广泛的代码用例,以及各种文档和视频演示。
金晨表示,Graphcore为机器学习应用提供了特别多的模型实例,涵盖了不同的AI垂直领域。模型库包括大模型、语音模型、语言模型等仍在迭代和添加中。此外,在云端,Graphcore还提供广泛的部署、监控和管理软件集成。
Jin Chen还用一些数据展示了Bow IPU的性能优势。例如,在ASR模型和TextToSpeech(文本转语音)模型上,性能提升了约39%。
除了保证高性能的提升外,大部分机型都能实现接近96%的电源效率,更加环保节能。
新一代Bow IPU在性能上实现了显着提升,功耗也更好,但相应的价格没有变化。陆涛在沟通会上回应了这一问题。他表示,“我们为已经订购IPU-M2000的老用户准备了一些优惠计划,以确保这些老客户同样能够获得相似的性价比。”
正式官宣:Good Computer(古德计算机)在本次媒体沟通会上,Graphcore还正式公布了下一代超级计算机:Good Computer。
陆涛表示,人脑中约有860亿个神经元和100万亿个突触。这个突触相当于人工智能中模型的参数数量。他强调,目前最大的人工智能模型和真实人脑的参数相比,可能还存在100倍左右的差距。因此,Graphcore 目前正在开发一种超级智能机器,可以用来超越人脑处理能力。
据介绍,这款名为Good Computer的电脑有两层含义。首先是一台好的电脑,希望电脑能够带来积极的影响;第二也是对前辈的致敬,Good是一位非常著名的计算机科学家。
本文采摘于网络,不代表本站立场,转载联系作者并注明出处:https://www.iotsj.com//kuaixun/6781.html
用户评论
这个 Graphcore 的 BOW IPU 听起来很厉害啊,性能和电效都大大提升了!
有5位网友表示赞同!
不用改代码就能享受升级?这太方便了吧!简直是 AI 开发者的福音!
有12位网友表示赞同!
40% 的性能提升可不是闹着玩的,对做模型训练、推理的工作一定很有帮助。
有12位网友表示赞同!
电源效率提升这么多意味着能省下不少电费吧,环保又经济实惠。
有16位网友表示赞同!
我一直关注 Graphcore,他们推出的这个 BOW IPU 确实很有潜力。
有13位网友表示赞同!
性能和效率同时提高,不知道未来会应用到哪些行业上呢?
有16位网友表示赞同!
这波Graphcore真的抓住 AI 开发者的痛点了吧!
有11位网友表示赞同!
Wonder if there's any information on pricing and availability yet.
有8位网友表示赞同!
It will be interesting to see how this compares to other offerings on the market.
有7位网友表示赞同!
This is exciting news for the field of AI!
有12位网友表示赞同!
I can't wait to hear more about the technical details.
有13位网友表示赞同!
Hopefully, this will make AI technology more accessible to everyone.
有11位网友表示赞同!
Is there a demo or documentation available yet?
有17位网友表示赞同!
This could be a game-changer for many industries.
有18位网友表示赞同!
I'm sure there will be some great applications developed using this technology.
有12位网友表示赞同!
It's amazing how fast AI is evolving!
有16位网友表示赞同!
This brings new possibilities to machine learning research.
有15位网友表示赞同!
I wonder if it can handle large language models?
有12位网友表示赞同!
The future of AI looks bright with these advancements!
有14位网友表示赞同!
I'm eager to explore what else Graphcore has in store!
有19位网友表示赞同!