在全球AI算力竞争白热化的今天，存储瓶颈正严重制约大模型的实际性能。绿算技术公司推出了一款基于自主IP的NVMe-oF桥接芯片原型“擎翼”，旨在将GPU显存中容量巨大的KV Cache卸载到由标准NVMe SSD构建的存储池中，并保证访问延迟低于20微秒。该芯片通过全硬件卸载和零拷贝传输，实现了高达489万IOPS和21.8GB/s的顺序读取带宽，功耗低于10瓦。这不仅大幅降低了扩展KV Cache至TB级的成本，也为AI大模型的规模化部署提供了关键的经济性保障。此次尝试标志着AI算力竞争正从单一的“算力芯片竞赛”演进到“系统级效率竞赛”。...
特别声明：本页面标签名称与页面内容，系网站系统为资讯内容分类自动生成，仅提供资讯内容索引使用，旨在方便用户索引相关资讯报道。如标签名称涉及商标信息，请访问商标品牌官方了解详情，请勿以本站标签页面内容为参考信息，本站与可能出现的商标名称信息不存在任何关联关系，对本页面内容所引致的错误、不确或遗漏，概不负任何法律责任。（反馈错误)