站长之家用户 - 传媒 2024-10-21 13:46

DigitalOcean 发布 NVIDIA H100 GPU Droplets 云服务器

海外知名云服务供应商 DigitalOcean 现已推出了搭载 NVIDIA H100 GPU 的 GPU Droplets 云服务器 。借助 GPU Droplets,AI 创业公司、开发者可以以更低的前期开发成本轻松地进行大语言模型训练、开发 AIGC 项目,以及开展人工智能相关的业务,并且无需面对复杂服务端开发与维护问题。目前,该 GPU 服务器按需实例正在限时优惠促销中,2024 年 12 月 31 日之前较低仅需 2.5 美元/GPU/小时。

为什么说性价比高

现在 GPU Droplet 云服务器已对所有 DigitalOcean 用户开放使用,GPU Droplets 内置了 NVIDIA H100 GPU,这是目前市场上已量产的最前沿的 GPU 之一,它拥有 640 个 Tensor 核心和 128 个光线追踪核心,支持高速数据处理。GPU Droplets 提供了按需实例,支持开发者、初创公司和大型企业轻松地训练人工智能模型、处理大型数据集,以及处理复杂的机器学习神经网络。

灵活配置,自由扩展

某些大型云厂商只提供8 卡的 GPU 机型,这导致很多用户在不需要那么资源的时候无法缩减配置,浪费成本,也让一些需要训练小模型的用户不得不选择过高的配置。而 DigitalOcean GPU Droplet 提供了单卡 GPU 和 8 卡 GPU 两种配置的服务器(具体如下图),用户可以根据项目需求来调整算力配置。虚拟化的硬件堆栈支持无缝扩展,因此你可以按需开启一个或多个 8 卡 GPU 实例,并在不再需要时缩减配置——从而优化性能、节省成本。

每个 GPU Droplet 包含两块高性能本地磁盘:一块启动磁盘用于存储操作系统、应用程序和 AI/ML 框架,以及一块暂存磁盘用于在训练期间暂存数据。这些资源预先集成于 GPU Droplet 中。

计费实惠且透明

在计费方面,DigitalOcean 支持按需计费,在最终关闭实例的时候可按秒结算。在后台开启一台 GPU Droplet 实例之前,用户就可以看到实际最后要支付的费用。而且就算用户使用的出站流量超出套餐额度,DIgitalOcean 也提供了比大多数大型云厂商更便宜出站流量计费。与此同时,GPU Droplet 提供了比较高 10Gbps 的公共网络带宽,可以满足大多数 AI 开发场景的数据传输要求。

简单易用

简单易用性一直都是 DigitalOcean 的一大特点。DigitalOcean 提供了简洁明了的管理配置界面,用户不仅可以在几分钟内就启动一台 GPU Droplet 服务器,还能快速简便地管理存储和网络,能把更多精力专注于自身业务的开发。

支持利用 Kubernetes 管理和调度资源

DigitalOcean 作为行业领先的云服务提供商,能够深刻理解AI、大语言模型开发的复杂性和资源需求问题,特别是在容器化环境中面对的挑战。DigitalOcean Kubernetes 托管服务(DOKS)现已支持 GPU Droplet 作为工作节点,并提供了一系列业界领先的服务来支持 AI、大语言模型训练和推理:

  • Kubernetes 集成:无缝地将支持 GPU 的工作节点添加到您的现有 DOKS 集群中,使您能够充分利用 Kubernetes的全部功能来推进您的 AI、大语言模型项目。
  • 灵活配置:您可以从单卡或八卡 GPU 配置中进行选择,以满足特定工作负载的需求,确保给每项任务都配备合适的计算资源和能力。
  • 可扩展性:随着 AI、大语言模型工作负载的增长,您可以在您的 Kubernetes 环境中轻松扩展 GPU 资源,使您能够跟上数据和业务需求的步伐。
  • 迁移服务:支持从 AWS EKS 或其他 Kubernetes 解决方案迁移到 DigitalOcean Kubernetes。

DigitalOcean 客户的许多客户已经已经在利用 GPU Droplets 来运行密集型工作负载,例如 Story.com 。

“Story.com 的 GenAI 流程需要大量的计算能力,而 DigitalOcean 的 H100 节点对我们来说是一个改变游戏规则的存在。作为一个初创企业,我们需要一个能够处理我们密集型工作负载的可靠解决方案,而 DO 以卓越的稳定性和性能满足了我们的需求。从简单易用的配置,到稳定可靠的的基础架构,整个部署过程都非常顺畅。技术支持团队也反应迅速,能够快速满足我们的要求,这成为了我们成长中不可或缺的一部分。” ——Deep Mehta,Story.com联合创始人&CTO

立即享受限时优惠

目前,该 GPU 服务器按需实例正在限时优惠促销中,2024 年 12 月 31 日之前较低仅需 2.5 美元/GPU/小时。

无论您是希望增强 AI/ML 能力还是为现有项目扩展 GPU 资源,DigitalOcean 的 GPU 服务都将助您一臂之力。同时,为了更好地服务中国区的企业,DigitalOcean 中国区全力战略合作伙伴卓普云 AI Droplet 将为中国区的企业提供商务咨询、技术支持等服务。

相关话题

特别声明:以上内容(如有图片或视频亦包括在内)均为站长传媒平台用户上传并发布,本平台仅提供信息存储服务,对本页面内容所引致的错误、不确或遗漏,相关信息仅供参考。任何单位或个人认为本页面内容可能涉嫌侵犯其知识产权或存在不实内容时,可及时向站长之家提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明(点击查看反馈联系地址)。本网站在收到上述法律文件后,将会依法依规核实信息,沟通删除相关内容或断开相关链接。

推荐关键词

24小时热搜

查看更多内容

大家正在看

阿里云的野心,转让给了AI