NVIDIA 宣布推出其新一代 GH200 Grace Hopper 平台,搭载 HBM3e 内存,是业内首款将 CPU 和 GPU 整合到单块主板上的产品,旨在满足最复杂的生成式 AI 要求。
最近,一款搭载 GH200 Grace Hopper 的计算机在一家德国商店现身,尺寸约为 19 英寸。这款计算机显然并非针对游戏或传统工作站而设计,而是专注于在本地运行大型语言模型的 AI 工作站。
该主机配备 480GB LPDDR5X 内存,加上 GH200 中的 96GB HBM3 内存(或高达 144GB HBMe),总内存容量高达 576GB-624GB。
96GB HBM3 内存版本售价为 47500 欧元(约合人民币 37 万元),现已开售。144GB HBMe 版本预计于 2024 年第二季度推出,售价为 59500 欧元(约合人民币 46 万元)。
这款 AI 工作站搭载 NVIDIA GH200 Grace Hopper 处理器,拥有 72 个 ARM 内核(还有 144 个内核版本),并配有专用的 NVIDIA H100 加速器。因此,它配备了双 2000W 电源和超大容量存储,并支持各种连接扩展选项(包括 NVIDIA Bluefield/Connect-X)。
该计算机采用猫头鹰风扇散热系统,并可选择附加 Nvidia Bluefield-3 和 ConnectX-7 网卡、8TB SSD、30TB HDD、鼠标和键盘,甚至还有 RTX 4060。
在性能方面,这家德国公司声称这款 AI 工作站可提供 67 teraFLOPS FP64、989 teraFLOPS TF32、1979 teraFLOPS FP16、3958 teraFLOPS FP8、3958 TOPS INT8 的计算性能。
在 Emerald Rapids、Bergamo 等软件的 23 项测试中,GH200 Grace CPU 的性能与 Intel 至强铂金 8592 Emerald Rapids 处理器相当。