金百达DDR5 6800MHz,星刃白24GBx2内存,助力中端显卡,玩转DEEPSEEK 70B大模型!
是买50系、40系,还是AMD的高端大显存卡,这可能是当下玩大模型小伙伴们心中最纠结的了。入手40系,可能是49年入了国军,入手50系或是AMD的,可溢价又~。其实,还有个折中的办法,就是先扩充一下内存。不过12G的B580真的可以吗?答案是,只要内存够大,就会大力出奇迹!
一、先来看一眼本次上场的金百达24GBx2内存!这是金百达24GBx2 DDR5 6800 C32星刃白内存,它的外箱依旧是传统的家族范。金百达的内存支持终身质保、全国联保和个人送保,售后到位。
包装的背面有一个小窗,从中可以看到内存的标签部分。它支持XMP、EXPO的6800MHz,有着CL32-45-45-108的不错时序。
打开包装,我们就可以看到这对内存的本体啦!虽然是一对没有RGB的素色内存条,但它上手的感觉还是蛮不错的呢。特别是金属烤漆的工艺及蜂巢星星元素的丝印,更是精致。
厚厚的铝制散热马甲,通过凹槽来扩大了整体的散热面积。也会给内存颗粒带来良好的散热效果。非常适合超频或在相对密闭的机箱内极限使用。
金百达星刃白DDR5 6800C32 48GB,配备的是海力士3G M-die颗粒。它的单条内存容量达到了24GB,共48GB的总容量,也足够我们日常使用了。
二、在跑DEEPSEEK之前,我们先来看下性能吧!这是金百达星刃白DDR5 6800C32 24GBx2内存的上机状态,总体的视觉观感上还是挺协调的。
本次测试的主机使用了Intel 14700K处理器,技嘉Z790的主板,蓝戟的B580 12GB的显卡。其中红框的部分就是本次测试的金百达星刃白DDR5 6800C32 24GBx2。
(一)我们先来看一眼默频4800MHz跑分我们使用鲁大师跑了一下分,从中可以看出,这对内存的得分为271303,在它的加持下,整机的得分为2292029。
在AIDA64的测试之中,我们可以看到这对内存的读取为73320MB/s、写入为67368MB/s,复制为68359MB/s,延迟为89.9ns。
在PerformanceTest的测试之中,它的得分为3455位列全球前17%的序列之中。
(二)XMP 6800MHz跑分测试当然了没有人会默频使用DDR5的内存,因此,我们也进行了XMP超频测试。让这对内存直接在6800MHz之下运行。我们再次使用鲁大师进行跑分,从中可以看出,内存的得分为406498,在它的加持之下,整机的得分为2493315。
另外,在AIDA64的测试之中,我们可以看出这对内存的性能同样有了不小的提升。其中读取达到了106.71GB/s、写入达到了100.75GB/s、复制达到了101162MB/s,延迟达到了约64.1ns。
同样表现不错的,还有PerformanceTest的测试,它的得分为4547,直接飙到了全球的前1%。
三、说了半天DEEPSEEK 70B如何部署呢?我们一步步来看,首先需要我们在https://lmstudio.ai/中,下载LMSTUDIO,用它来做为平台部署DEEPSEEK。它支持多个版本,我们选择Windows的即可。
安装之后,我们点击放大镜这里,来看大模型的列表。
这里面有超多的模型,我们只需要在红框处输入DEEPSEEK,之后它会列出不同的版本,我们选择70b的下载即可。
下载之后,我们就可以加载红框之中的70B版本。
在加载之前,我们需要在这里做进一步的设置,第一个红框之中改为10000,第二个框中改为8,第三个框中直接拉满,第四个框中开启“保持模型在内存中”。这样设置的意思就是让GPU协同,让CPU借助大内存来发挥全部功效。
我们使用70B的模型,让它跑一个任务,总体的感觉也要比32GB的内存顺溜得多。我们也调用了任务管理器,从内存签中可以看出,这个时候的内存占用已达到了40.5GB。可见,我们运行DEEPSEEK的时候,如果显卡并不高端,完全是可以用内存找补回来的。
而在32GB内存的模式下,70B在加载的过程中就会发出警告。
购买建议:通过上述一系列的测试,我们可以看出,这款来自金百达的内存,有着超越寻常32GB的大容量,还可以直接XMP到6800MHz,完全可以应对生产力及游戏的需求。特别是在跑诸如DEEPSEEK这类的推理大模型时,更大的内存,也可以让我们使用维度更高的蒸馏版本,获得更快捷及有效的越级问答体验。也许,在显卡价格乱战的时刻,我们苟一下显卡,升级一下内存可能是个更好的选择。
好了,本期的体验分享就到这里,我是潮玩,8小时内努力搬砖,8小时外热烈码字,这里持续分享数码新体验,承蒙欢喜,予我厚爱,我们下期再见!
发表评论:
◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。