2024
09-13
09-13
AI推理 CPU的拿手好戏！细说AMD EPYC 9004的三大优势 NEW
近几年，生成式AI一浪高过一浪，对于各种AI大模型的训练、推理也提出了越来越苛刻的要求。一般而言，推理工作不需要庞大的GPU加速器集群，更适合交给CPU处理器，尤其专门面向服务器和数据中心的CPU产品。所谓推理(Inference)，就是将训练好的AI模型应用于新的数据和场景。模型利学习到的规律进行预测、分类或生成新内容，也就是让AI在实际应用中落地的过程(是骡子是马拉出来遛遛)，比如医疗诊断、自动驾驶、自然语言理解等领域。推理并不需要超强的算力，但因为涉及各种各样的场景和应...
Read More >