2026
05-25
05-25
废弃硬件变身AI神器：768GB英特尔傲腾内存成功运行万亿参数大模型！ NEW
快科技5月24日消息，据报道，Reddit用户APFrisco近日通过一套极客方案，利用6根二手英特尔傲腾DCPMM持久内存模块，在单GPU工作站上成功运行了拥有1万亿参数的Kimi K2.5大模型，推理速度约为每秒4个Token。该系统基于英特尔至强金牌6246处理器与泰安S5630GMRE-CGN主板构建。内存系统总容量为768GB，由6根32GB三星DDR4-2666 ECC内存条与6根128GB英特尔傲腾DCPMM持久内存模块组成。图形算力由两张华硕GeForce R...
Read More >