站长之家用户 - 传媒 2025-10-28 14:43

百度智能云这项开源,让 DeepSeek-V3.2 推理服务吞吐提升 2 倍

10月28日,百度智能云宣布携手SGLang 社区,将一套针对DeepSeek-V3.2推理性能优化的 MTP(Multi-Token Prediction,多token预测)技术代码正式开源。SGLang 社区实测显示,采用这套技术, DeepSeek-V3.2模型解码吞吐量能提升超过2倍。据了解,这套技术代码来自于百度智能云内部百

......

本文由站长之家用户投稿发布于站长之家平台,本平台仅提供信息索引服务。为了保证文章信息的及时性,内容观点的准确性,平台将不提供完全的内容展现,本页面内容仅为平台搜索索引使用。需阅读完整内容的用户,请查看原文,获取内容详情。

推荐关键词

24小时热搜

查看更多内容

大家正在看