浪潮信息推出元腦CPU推理服務器，能夠高效運行DeepSeek和千問QwQ等新一代大推理模型。NF8260G7和NF8480G7采用4顆高性能通用CPU和多通道內(nèi)存系統(tǒng)，結(jié)合先進的張量并行策略和AMX加速技術(shù)，單機即可高效運行DeepSeek-R1 32B和QwQ-32B推理模型，支持20個并發(fā)用戶請求。這些服務器通過軟硬協(xié)同優(yōu)化，為32B模型推理與云計算、數(shù)據(jù)庫等通用關(guān)鍵業(yè)務場景提供高效、靈活、穩(wěn)定的AI通用算力支撐。（美通社）
