元腦企智DeepSeek一體機(jī)NF5698A7原生支持FP8計(jì)算引擎,以1536GB HBM3顯存、5.3 TB/s 內(nèi)存帶寬實(shí)現(xiàn)了顯存容量與通信效率的黃金組合,適配 DeepSeek R1模型“短輸入長輸出、顯存帶寬敏感”的技術(shù)特性,單機(jī)支持全量DeepSeek R1與V3模型推理情況下,仍保留充足的KV緩存空間。
了解詳細(xì)>>基于AI創(chuàng)新培養(yǎng)綜合服務(wù)平臺(tái)所構(gòu)建的“教-學(xué)-訓(xùn)-賽-評(píng)”閉環(huán)體系已在全國多所高校上線,日均處理實(shí)訓(xùn)數(shù)據(jù)超過百萬條,使人才與崗位的匹配度提升了40%以上,推動(dòng)了戰(zhàn)略新興產(chǎn)業(yè)的高質(zhì)量人才輸送。
了解詳細(xì)>>浪潮推出元腦CPU推理服務(wù)器,可運(yùn)行DeepSeek和千問QwQ等新一代大推理模型。元腦CPU推理服務(wù)器NF8260G7和NF8480G7設(shè)計(jì)采用4顆高性能通用CPU和多通道內(nèi)存系統(tǒng),通過張量并行策略和AMX加速技術(shù),單機(jī)即可運(yùn)行DeepSeek-R1 32B和QwQ-32B推理模型,單用戶性能超20 tokens/s
了解詳細(xì)>>浪潮NF3290G8服務(wù)器采用模塊化解耦設(shè)計(jì),可根據(jù)客戶應(yīng)用場景和業(yè)務(wù)規(guī)模,靈活配置1~2顆CPU,可支持兩個(gè)單路節(jié)點(diǎn),計(jì)算密度翻番,成為多元算力時(shí)代,企業(yè)應(yīng)用算力的性能之選。
了解詳細(xì)>>NF5468G7是浪潮信息暢銷的NF5468系列的新產(chǎn)品,是具備多元算力性能、彈性架構(gòu)擴(kuò)展的全新一代人工智能服務(wù)器,4U空間內(nèi)部署8顆性能GPU,可根據(jù)應(yīng)用場景實(shí)現(xiàn)拓?fù)淝袚Q。搭載2顆Intel第四代/第五代至強(qiáng)可擴(kuò)展處理器。
了解詳細(xì)>>浪潮信息元腦R1推理服務(wù)器已完成對(duì)開源框架SGLang新版本的深度適配,成功實(shí)現(xiàn)在單機(jī)高性能運(yùn)行DeepSeek R1 671B模型時(shí)可支持超過1000路的用戶并發(fā)訪問。
了解詳細(xì)>>日月更迭,華彩煥新。2024年對(duì)于我們而言拼搏是貫穿全年工作的主旋律,我們用汗水澆灌希望,以實(shí)干鑄就輝煌。面對(duì)挑戰(zhàn),我們一路披荊斬棘毫不退縮。2025年開啟新征程,讓我們?cè)谶@一年繼續(xù)以夢(mèng)為馬,不負(fù)韶華,續(xù)寫更加璀璨的篇章。
了解詳細(xì)>>