今天上午,小米创办人雷军通过社交平台公布了自研芯片玄戒O100。该产品拥有1.22TB/s的高带宽,属于加速计算芯片,依托玄戒创新的高带宽矩阵总线,其端侧运算能力大幅超越市面主流旗舰系统级芯片。
雷军特别指出,玄戒O100后续将覆盖手机、汽车、机器人等多个产品类别,服务小米全生态。

该芯片专为大模型计算打造,同时也是全球第一款采用6纳米3D晶圆级堆叠工艺的加速计算产品。
借助3D堆叠技术,玄戒O100达成了1.22TB/s的超高数据吞吐量,相当于当前主流旗舰手机带宽的16倍,为移动设备的计算能力带来跨越式提升。
玄戒O100与玄戒O3组成了智能终端领域的理想搭档,两者协同下,本地大模型推理速度最高可达每秒330个令牌。

小米方面解释,传统计算架构中,运算单元与存储单元彼此独立,数据需要在二者之间频繁传输。然而内存通道受到物理引脚数量的制约,扩展空间已经十分有限。
当计算能力以指数级速度攀升,内存访问速率与算力之间的差距不断拉大,成为制约性能的核心瓶颈,业内将其称为“内存墙”。

玄戒O100正是小米打破“内存墙”的关键方案。与此前将晶圆切割成裸片再逐一封装互连的做法不同,该芯片采用晶圆对晶圆(Wafer on Wafer)封装技术,即把多片完整晶圆直接高精度对准并键合,之后才切割成独立的三维芯片。
这一方式从根本上摆脱了引脚数量对带宽的物理束缚,数据通路由平面布线转为垂直穿透,从而实现了真正的近存计算。

玄戒O100还应用了混合键合(Hybrid Bonding)工艺,舍弃传统微凸点结构,将物理通路间距压缩至1.4微米,显著提高了数据通路的集成度。
同时,芯片引入面对面(Face to Face,F2F)金属层直连结构,进一步拉近动态随机存储器与计算层之间的物理距离,使两者的金属走线形成面面相对布局,缩短互连距离,加快信号传递速度。

另外,玄戒O100内置14颗高算力神经网络处理单元,借助玄戒高带宽矩阵总线,数据可在各计算核心与内存之间高速流通。
