站长之家 - 业界 2023-07-07 15:14

英伟达中国区首席技术官:将任务负载从 CPU 移至 GPU 能支撑更多的用户 并节省更多能耗

站长之家(ChinaZ.com) 7月7日消息:在今天的 2023 世界人工智能大会上,英伟达中国区首席技术官赖俊杰指出,全球数据中心计算问题存在两个重要趋势。

nvidia-culitho,英伟达,芯片

首先,人们对人机交互的期望提高,引发了全球第二波关于大模型的投入浪潮。其次,许多互联网公司面临用户需求增长和功耗增加的问题,尤其是人工智能的大模型访问比例增加,需要更多的能耗投入。因此,英伟达提出将任务负载从CPU移至GPU,以支撑更多的用户请求,并节省更多的能耗。

据了解,目前,AI GPU 市场主要由英伟达和 AMD 主导,但在用于推动像 ChatGPT 这样的大型语言模型(LLM)的 AI GPU 方面,英伟达占据了 90% 以上的市场份额。

ChatGPT源码推荐:小狐狸ChatGPT付费创作系统完全开源源码

相关话题

推荐关键词

24小时热搜

查看更多内容

大家正在看

英伟达在印度招聘 AI 工程师