单机1EP能力!英伟达推出GH200超级计算机

COMPUTEX-NVIDIA公司今天宣布推出一款新型大内存AI超级计算机--NVIDIA DGX™超级计算机,该计算机由NVIDIA® GH200 Grace Hopper超级芯片和NVIDIA NVLink®交换机系统提供动力,旨在为生成型AI语言应用、推荐系统和数据分析工作负载开发巨型的下一代模型。

DGX GH200是第一台将Grace Hopper超级芯片与NVIDIA NVLink交换系统配对使用的超级计算机,NVLink交换系统是一种新的互连方式,能够使DGX GH200系统中的所有GPU作为一个整体协同工作。上一代系统只提供八个GPU与NVLink结合为一个GPU,而不影响性能。


(资料图片仅供参考)

DGX GH200架构提供的NVLink带宽是上一代的48倍,以单颗GPU的简单编程提供了大规模AI超级计算机的能力。

为人工智能先驱者提供的新研究工具谷歌云、Meta和微软是首批有望获得DGX GH200的用户,以探索其在生成型AI工作负载方面的能力。英伟达还打算将DGX GH200的设计作为蓝本提供给云服务提供商和其他超大规模企业,以便他们能够为自己的基础设施进一步定制。

"谷歌云计算副总裁Mark Lohmeyer表示:"构建先进的生成模型需要创新的AI基础设施方法。"新的NVLink规模和Grace Hopper超级芯片的共享内存解决了大规模人工智能的关键瓶颈问题,我们期待着为谷歌云和我们的生成性人工智能计划探索其能力。"

"随着人工智能模型越来越大,它们需要强大的基础设施,可以扩展以满足日益增长的需求,"Meta公司基础设施、人工智能系统和加速平台副总裁Alexis Bj?rlin说。"NVIDIA的Grace Hopper设计看起来为研究人员提供了探索新方法的能力,以解决他们最大的挑战。"

"训练大型人工智能模型在传统上是一项资源和时间密集型任务,"微软Azure基础设施公司副总裁Girish Bablani说。"DGX GH200处理TB级数据集的潜力将使开发人员能够以更大的规模和加速的速度进行先进的研究。"

新的NVIDIA Helios超级计算机将推动研究和开发英伟达正在建造自己的基于DGX GH200的人工智能超级计算机,为其研究人员和开发团队的工作提供动力。

这台超级计算机被命名为NVIDIA Helios,它将拥有四个DGX GH200系统。每个系统都将与英伟达Quantum-2 InfiniBand网络互连,为训练大型人工智能模型提高数据吞吐量。Helios将包括1,024个Grace Hopper超级芯片,预计将于今年年底上线。

完全集成,专为巨型模型而生DGX GH200超级计算机包括英伟达软件,为最大的人工智能和数据分析工作负载提供了一个交钥匙的全栈解决方案。NVIDIA Base Command™软件提供了AI工作流程管理、企业级集群管理、加速计算、存储和网络基础设施的库,以及为运行AI工作负载而优化的系统软件。

此外,还包括NVIDIA AI Enterprise,这是NVIDIA AI平台的软件层。它提供了100多个框架、预训练模型和开发工具,以简化生产型AI的开发和部署,包括生成型AI、计算机视觉、语音AI等。

供应情况NVIDIA DGX GH200超级计算机预计将于今年年底上市。

推荐DIY文章
天天新资讯:大学生买什么笔记本好 Honor MagicBook Pro提供了大多数人都在寻找的一切
卡卡是哪个国家的球员:卡卡出生在巴西,父亲是工程师
便携式播放机怎么用 homday便携式cd播放器的使用说明
看日食的工具 用望远镜观察时必须在目镜或探测器前加滤光片 环球热点评
环球新消息丨led调光芯片 明微电子为何能在贺勋SGI指数公司的综合排名上升
世界快资讯:每日一中药青风藤:这也是祛风除湿,疏通经络的药吗
精彩新闻

超前放送