云霞资讯网

#DeepSeek组件与英伟达对应#DeepSeek今天开源了一套面向华为昇腾的“工具箱”,最狠的是,里面每个组件都跟英伟达那边一一对应。TileLang对标CUDA,用更简单的方式写代码还能跑到硬件极限;DeepGEMM负责矩阵运算,相当于cuBLAS;DeepEP管跨设备通信,干的是NCCL的活;FlashMLA做稀疏注意力,让长文本推 ​

DeepSeek组件与英伟达对应DeepSeek今天开源了一套面向华为昇腾的“工具箱”,最狠的是,里面每个组件都跟英伟达那边一一对应。TileLang对标CUDA,用更简单的方式写代码还能跑到硬件极限;DeepGEMM负责矩阵运算,相当于cuBLAS;DeepEP管跨设备通信,干的是NCCL的活;FlashMLA做稀疏注意力,让长文本推理更省显存;还有DeepSelect做数据筛选。说白了,DeepSeek在昇腾上复刻了一套英伟达的软件栈,而且实测性能已经接近硬件上限。