站长之家 - 业界 2023-11-22 10:55

英伟达宣布首批采用面向生成式 AI 的 Spectrum-X 以太网技术的服务器产品线

站长之家(ChinaZ.com) 11 月 22 日消息:英伟达日前宣布,戴尔科技、惠普企业和联想将成为首批将 NVIDIA Spectrum-X™以太网络技术集成到其服务器产品线中的公司,以帮助企业客户加快生成式人工智能工作负载的速度。

nvidia-gh200,英伟达,芯片,人工智能,AI

Spectrum-X 专为生成式人工智能而设计,为企业提供一种新型的以太网络,相对于传统的以太网络产品,它可以实现 1.6 倍更高的人工智能通信性能。

这三家顶级系统制造商推出的新系统将 Spectrum-X 与 NVIDIA Tensor Core GPU、NVIDIA AI Enterprise 软件和 NVIDIA AI Workbench 软件相结合,为企业提供了转变业务的生成式人工智能基础。

加速人工智能的网络功能为了最大限度地提高人工智能工作负载的效率,Spectrum-X 结合了 Spectrum-4 以太交换机的极致性能、NVIDIA BlueField®-3 SuperNIC(一种新型的网络加速器,用于超大规模的人工智能工作负载)以及加速软件。Spectrum-X 与全球最先进的基础设施计算平台 BlueField-3 DPU 相辅相成。

Spectrum-4 是用于人工智能的全球第一款每秒传输速率为 51Tb 的以太交换机,可在大规模负载下以高效数据吞吐量功能运行,并减少多租户人工智能云工作负载的网络拥塞。其智能的精细化路由技术可以始终最大程度地利用网络基础设施。

BlueField-3 SuperNIC 专为网络密集型的大规模并行计算而设计,为 GPU 服务器之间的东西向集群内的人工智能训练和推理流量提供高达 400Gb/s 的 RDMA over Converged Ethernet(RoCE)网络连接。它们还可以在多租户数据中心环境中提供安全、独立的性能,确保租户作业之间的确定性和隔离性能。BlueField-3 SuperNIC 采用高效、半高、半长的 PCIe 尺寸,非常适合企业级服务器。

驱动 Spectrum-X 的加速软件包括 NVIDIA 软件开发工具包,如 Cumulus Linux、Pure SONiC 和 NetQ,它们共同推动了该平台的突破性性能,以及 NVIDIA DOCA™软件框架,它是 BlueField 的核心。

NVIDIA AI Enterprise 提供了框架、预训练模型和开发工具,用于安全、稳定和受支持的生产人工智能。NVIDIA AI Workbench 允许开发人员快速在个人电脑或工作站上创建、测试和自定义预训练的生成式人工智能模型,然后将其扩展到几乎任何数据中心或云环境。

Spectrum-X 还支持 NVIDIA Israel-1 超级计算机,它是下一代人工智能系统的参考架构。Israel-1 是与 Dell Technologies 合作开发的,使用 Dell PowerEdge XE9680 服务器,搭载 NVIDIA HGX™ H100 八个 GPU 平台和 BlueField-3 DPU 以及 SuperNICs 与 Spectrum-4 交换机。

预计戴尔、HPE 和 Lenovo 的新系统将于明年第一季度推出,其中包括完整的 NVIDIA 人工智能堆栈。

相关话题

推荐关键词

24小时热搜

查看更多内容

大家正在看