近期,浪潮信息正式推出元腦R1推理服務(wù)器,搭載自研NVMe SSD,通過系統(tǒng)創(chuàng)新和軟硬協(xié)同優(yōu)化,單機即可部署運行DeepSeek R1 671B模型。元腦R1推理服務(wù)器NF5688G7是高算效AI計算平臺,原生搭載FP8計算引擎,針對DeepSeek R1 671B模型部署速度快且無精度損失。元腦R1推理服務(wù)器NF5868G8則是專為大推理模型設(shè)計的高吞吐推理服務(wù)器,可將DeepSeek 671B模型推理性能提升近40%。(美通社)