1. 首页 > 快讯

VMware与NVIDIA强势联袂 推近企业级生成式AI应用

很多朋友对于VMware与NVIDIA强势联袂 推近企业级生成式AI应用和不太懂,今天就由小编来为大家分享,希望可以帮助到大家,下面一起来看看吧!

NVIDIA企业计算副总裁Justin Boitano表示,与NVIDIA合作的VMware Private AI Foundation不仅可以让用户快速获得生成式AI所需的高性能,还可以依托NVIDIA Nemo框架和深度学习虚拟机进行快速开发和部署。 LLM,加速LLM输出交付。

共同推动生成式AI应用落地众所周知,生成式AI对算力提出了更高的要求。为了解决算力挑战,NVIDIA不仅推出了L40S、H100等先进GPU,还发布了NVIDIA BlueField-3数据处理单元(DPU)。同时,为了帮助企业建设现代化数据中心,VMware发布了VMware Cloud Foundation,帮助企业从本地数据中心扩展到混合云。

NVIDIA企业计算副总裁Justin Boitano表示,创建和定制企业生成式AI模型和应用不仅对性能提出更高的要求,还需要解决企业面临的数据保护安全、IP安全和隐私问题。及其他风险。 VMware云基础设施平台副总裁Paul Turner也表示,面对外部环境的不确定性、快速发展的环境和不断变化的工具,企业在创建生成式AI应用时还需要考虑成本和复杂性等因素。

为此,NVIDIA 和VMware 基于企业面临的各种挑战,在VMware Explore 2023 上联合NVIDIA 生成式AI 平台创建了VMware Private AI Foundation。一方面,基于NVIDIA L40S/NVIDIA H100和NVIDIA BlueField-3/NVIDIA ConnectX-7底层硬件提供了强大的算力保障;另一方面,使用NVIDIA AI企业套件,VMware Cloud Foundation用户可以在NVIDIA认证的系统上安全地运行现代、加速的工作负载和现有企业应用程序,以实现快速的LLM开发、部署和输出交付。

据介绍,由于VMware云基础设施支持NVIDIA L40S GPU和NVIDIA BlueField-3智能网卡等硬件产品,因此可以直接加速VMware Cloud Foundation中人工智能工作负载的计算能力。在带有NVIDIA生成式AI平台的VMware Private AI Foundation上,用户只需创建项目、定制模型、构建AI助手、部署AI助手即可完成生成式AI应用的开发和应用。

Justin Boitano表示,采用NVIDIA平台的VMware Private Al Foundation不仅可以为用户提供更加优化的性能,还可以基于双方广泛的生态系统和合作伙伴为用户提供更大的灵活性选择,同时还能降低数据成本。安全风险。此外,还可以大大提高企业的生产力,减少开发流程,缩短开发、部署和应用周期。

据了解,VMware Private Al Foundation将与NVIDIA平台一起使用的NVIDIA NeMo是NVIDIA AI Enterprise(NVIDIA AI平台的操作系统)中包含的端到端云原生框架,可以帮助企业构建、定制并部署几乎在任何地方的生成式AI 模型。 NeMo 结合了自定义框架、护栏工具包、数据整理工具和预训练模型,使企业能够以简单、经济且快速的方式采用生成式人工智能。

此外,为了将生成式AI 部署到生产中,NeMo 使用TensorRT for Large Language Models (TRT-LLM) 来加速和优化最新LLM 在NVIDIA GPU 上的推理性能。通过NeMo,VMware Private AI Foundation 与NVIDIA 将使企业能够导入自己的数据,并在VMware 混合云基础设施上构建和运行自定义生成式AI 模型。

十年合作加速虚拟化计算NVIDIA与VMware自2013年开始合作至今已有10年了。在过去的10年里,双方在虚拟化、人工智能、现代数据中心等领域进行了深入的合作。他们致力于帮助企业用户建设现代化数据中心,加速企业创新和数字化转型。

在AI领域,利用NVIDIA AI Enterprise套件和NVIDIA最先进的GPU和数据处理单元(DPU),VMware和NVIDIA正在合作改造基于VMware Cloud Foundation的现代数据中心,将AI带入每个企业并从-本地数据中心扩展到混合云,从虚拟机到容器。

据介绍,搭载NVIDIA生成式AI平台的VMware Private AI基金会得到了联想、戴尔集团、惠普企业等硬件厂商的大力支持。戴尔科技、HPE和联想即将推出采用NVIDIA L40S GPU和NVIDIA BlueField的服务器,与NVIDIA一起支持VMware Private AI Foundation,共同推动生成式AI平台的应用。

正如Justin Boitano所言,NVIDIA与VMware共同创建的VMware Private AI基金会将显着简化生成式AI的开发和部署,加速生成式AI在各行业的应用,助推行业创新,加速企业数字化转型。

大家好,如果您还对VMware与NVIDIA强势联袂 推近企业级生成式AI应用不太了解,没有关系,今天就由本站为大家分享VMware与NVIDIA强势联袂 推近企业级生成式AI应用的知识,包括的问题都会给大家分析到,还望可以解决大家的问题,下面我们就开始吧!

用户评论

长裙绿衣

这个联动太棒了!终于能把强劲的实力结合起来

    有19位网友表示赞同!

执念,爱

期待看到开源社区对这个平台的反馈和贡献

    有9位网友表示赞同!

罪歌

VMware擅长虚拟化,NVIDIA擅于硬件加速,这次合作前景很好

    有11位网友表示赞同!

不识爱人心

生成式AI落地确实需要更强大的基础支撑,这件套挺有潜力的

    有5位网友表示赞同!

灼痛

希望这个平台能够降低AI门槛,让更多人使用和开发AI

    有6位网友表示赞同!

雨后彩虹

能更好地利用云端资源,加速AI的训练和应用

    有16位网友表示赞同!

铁树不曾开花

听起来像是一个非常全面的解决方案

    有9位网友表示赞同!

你是梦遥不可及

对企业来说,这将是推动数字化转型的好机会

    有9位网友表示赞同!

情深至命

对于研究人员来说,这个平台也会提供强大的工具支持

    有11位网友表示赞同!

别悲哀

未来AI的发展方向大概就是这样了,结合硬件和软件的优势

    有16位网友表示赞同!

風景綫つ

不知道这个平台针对不同行业的应用,会推出哪些特色功能呢?

    有16位网友表示赞同!

惯例

希望以后能看到更多类似的合作,推动AI技术更快速地发展

    有5位网友表示赞同!

无所谓

VMware Private AI Foundation with NVIDIA 这名字听起来就很有科技感

    有18位网友表示赞同!

清羽墨安

这个平台会不会支持主流的AI框架,比如 TensorFlow 和 PyTorch?

    有18位网友表示赞同!

堕落爱人!

对于开发人员来说,使用这个平台会更加方便高效吧?

    有7位网友表示赞同!

龙卷风卷走爱情

真期待看到具体的应用案例

    有13位网友表示赞同!

枫无痕

这是一个非常利好的信号,表明AI行业正迈向更为成熟阶段

    有19位网友表示赞同!

作业是老师的私生子

我觉得未来人工智能将无所不在,这个合作能为这一进程添砖加瓦

    有8位网友表示赞同!

关于道别

希望这个平台能够真正帮助企业解决实际问题,创造更多价值

    有8位网友表示赞同!

本文采摘于网络,不代表本站立场,转载联系作者并注明出处:https://www.iotsj.com//kuaixun/6316.html

联系我们

在线咨询:点击这里给我发消息

微信号:666666