全球首个6nm晶圆级垂直堆叠芯片一看到3d堆叠大家都忍不住会心一笑，但为什么要做3d堆叠还是要聊一聊的。以往手机soc就是将独立的已经封装好的SoC芯片和lpddr芯片通过焊球堆叠在一起。

这个模式其实放在手机上是绰绰有余的，小米这次用了LPDDR6，带宽高达113.8gb/s，日常运行什么APP都足够用了。

但是呢，你米需要的可不只是跑个app，它需要的是跑本地端侧大模型。那么这个速度就不够用了。旗舰手机内存带宽约60-80GB/s，对于3B+参数模型来说，推理速度被严重限制。实际体验时就是生成文字时"一个字一个字蹦"，长文本总结需要等待数秒

传统芯片封装是在切割后的裸片（Die） 上进行堆叠或并排封装。而小米玄戒O100采用的是晶圆级垂直堆叠，在晶圆尚未切割时，就将两层DRAM晶圆和一层NPU计算晶圆直接键合在一起，然后再切割成单个芯片。

这样的好处就是通过3D堆叠将DRAM与NPU的物理距离压缩到极致，1.22TB/s的带宽是传统方案的16倍

这个速度跑3B级模型，意味着用户几乎感受不到生成延迟，接近"实时流式输出"。

简单点说小米正在从"硬件组装商"向"AI基础设施提供商"转型。

端侧大模型是AI落地的关键战场，谁掌握了端侧算力，谁就掌握了用户交互的入口，小米已经跑在最前面了