站长之家用户 - 传媒 2024-12-03 10:20

裸金属 GPU 上线!DigitalOcean 提供单用户独享H100资源

对于需要直接控制硬件,需要更强性能的 AI 开发者来讲,DigitalOcean 已经为你们准备好了更适合的 GPU 服务器——DigitalOcean 基于 NVIDIA GPU 的裸金属服务器

这些服务器特别设计用来应对最复杂的 AI机器学习任务,无论是大规模的模型训练还是高度定制的基础设施设置,都能轻松胜任。DigitalOcean 的裸金属 GPU 服务器配有 8 个 NVIDIA Hopper GPU 和强大的硬件,这类服务器提供强大的计算能力和专门为高性能需求设计的定制选项。

DigitalOcean H100x8 GPU 服务器的按需定价为5. 95 美元/小时。对于有长期使用需求的企业,H100 GPU 服务器 3 年期合约价格仅需 2.24 美元/小时。逻辑金属机型按合同定价

裸金属 GPU 与 GPU Droplet 有什么不同?

DigitalOcean 在数月前推出了基于 NVIDIA H100 的GPU Droplet 云服务器。现在又再次推出了基于 NVIDIA H100 的裸金属服务器。那么这两者有什么不同呢?

DigitalOcean 的裸金属 GPU 服务器,配备 NVIDIA 加速计算技术,提供了专属于单一用户的基础设施资源,没有共享用户会产生干扰,因此您可以完全访问服务器上所有的 GPU 资源。这些服务器适用于那些需要直接控制硬件以实现理想性能,并需要更进一步保护数据隐私性的项目,非常适合大规模的模型训练、实时推理和复杂编排等应用场景。这些硬件资源将专属于你和你的团队,更有利于项目的研发与落地。

以下是裸金属 GPU 与 GPU Droplet 在参数上的不同:

如图片无法显示,请刷新页面

我们的裸金属 GPU 和 GPU Droplets 是为满足不同工作负载需求而设计的。GPU Droplets 提供了易于扩展和快速配置的能力,非常适合专注于训练、微调或在大语言模型上运行推理任务的团队。相比之下,裸金属 GPU 提供了比较高性能和对硬件的完全控制权,非常适合需要直接访问硬件资源和需要定制化、长期的、高吞吐量的工作负载。

同时,裸金属 GPU 服务器与 GPU Droplet 在定位、资源配置、定价方面也存在不同:

如图片无法显示,请刷新页面

GPU Droplets最适合用于中小规模任务,包括:

  • 微调:使用特定数据集调整模型
  • 推理:为运行中的应用进行推理预测任务,需要高速响应
  • 中等数据处理:轻量级分析或视频处理,这些任务需要GPU加速,但不需要完全专用的硬件

裸金属GPU最适合用于高档和定制的工作负载,它在不同 AI 业务场景下可以提供更突出的优势,包括:

  • 大规模模型训练:轻松处理大型数据集。裸金属 GPU 让您能够全面优化模型训练,提供隐私保护、性能和对整个过程的控制。
  • 模型微调:从预训练模型开始,通过特定数据集进行微调,使其适应您的具体应用场景。裸金属提供的高性能 GPU 和隔离环境使得获取特殊应用所需的准确性和性能成为可能。
  • 高速推理:借助 Hopper GPU 处理推理,您的应用可以实现实时性能,用于实时预测和决策制定——非常适合需要响应速度的面向用户的产品。
  • Web3 与AI结合的场景:裸金属 GPU 服务器的高可用性、高性能以及低延迟网络,可以确保区块链网络的节点间通信快速可靠,支持Web3 与 AI 技术结合的落地场景。
  • 自定义应用场景:裸金属 GPU 非常适合需要高度可配置性和可靠的专用基础设施的自定义工作负载。无论是部署 Kubernetes 集群还是自定义编排设置,这些服务器都提供了构建和扩展复杂架构所需的灵活性。

自DigitalOcean 的 GPU Droplet 推出以来,在全球范围内已经有海量的企业用户开始使用该服务。得益于 NVIDIA 系列 GPU 的计算能力,以及 DigitalOcean 在基础设施方面的长期技术积累,GPU 服务器系列产品得到了用户的广泛好评。

“对我们公司最重要的是持续提供卓越的用户体验,并不断改进。这涉及到模型的研究和开发,这就要求使用 DigitalOcean 提供的强大 GPU 计算能力。”Jacob Jackson,Supermaven 的 CEO 和创始人表示。

裸金属 GPU 服务器将率先于美国纽约和荷兰阿姆斯特丹两个数据中心上线,其它分布于全球的 14 个数据中心也将陆续上线。该产品将会为需要专属 GPU 服务器以及高性能资源的 AI 企业提供强劲助力。

如需预约测试裸金属 GPU 服务器,咨询更多相关信息,可联系 DigitalOcean 中国区全力战略合作伙伴卓普云。

相关话题

特别声明:以上内容(如有图片或视频亦包括在内)均为站长传媒平台用户上传并发布,本平台仅提供信息存储服务,对本页面内容所引致的错误、不确或遗漏,相关信息仅供参考。任何单位或个人认为本页面内容可能涉嫌侵犯其知识产权或存在不实内容时,可及时向站长之家提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明(点击查看反馈联系地址)。本网站在收到上述法律文件后,将会依法依规核实信息,沟通删除相关内容或断开相关链接。

推荐关键词

24小时热搜

查看更多内容

大家正在看