站长之家 - 业界 2024-08-25 15:41

NVLINK升级至1.4TB/s!NVIDIA Blackwell已在数据中心运行

NVIDIA展示了其Blackwell平台数据中心中的运行情况,有力驳斥了此前关于上市延期的猜测。

同时,NVIDIA NVLINK技术也迎来重大升级,带宽提升一倍,达到1.4TB/s

Blackwell平台整合了Blackwell GPU、Grace CPU、NVLINK Switch Chip、Bluefield-3、ConnectX-7、ConnectX-8、Spectrum-4Quantum-3等多款芯片,提供全面的数据中心解决方案。

Blackwell平台旨在满足现代人工智能需求,特别是超大型语言模型的计算要求。随着AI模型参数的不断增长,数据中心对计算能力和低延迟的需求愈发迫切。

Blackwell平台的多GPU推理架构将计算任务分配至多个GPU,实现低延迟和高吞吐量的处理能力。

NVIDIA推出Blackwell的高速NVLINK交换机,基于台积电4NP节点,提供1.8TB/s双向NVLINK带宽,可连接多达72个GPU,大幅提升数据中心通信效率。

此外,NVIDIA展示了全球首张使用FP4计算生成的人工智能图像,展现了FP4量化模型在速度上的显著优势,同时保持与FP16模型相近的图像质量。

推荐关键词

24小时热搜

查看更多内容

大家正在看