-
日期: 2025-03-10 | 來源: IT之家 | 有0人參與評論 | 專欄: 北京 | 字體: 小 中 大
IT之家 3 月 10 日消息，據華為(专题)技術有限公司和北京大學高性能計算校級公共平台消息，2025 年 3 月 9 日，北京大學聯合華為發布 DeepSeek 全棧開源推理方案。
據介紹，該方案基於北大(专题)自研 SCOW 算力平台系統、鶴思調度系統，並整合 DeepSeek、openEuler、MindSpore 與 vLLM / RAY 等社區開源組件，實現華為昇騰上的 DeepSeek 高效推理，並支持大規模算力集群訓推壹體化部署。所有開發者均可獲取源碼並根據需求贰次開發，性能接近閉源方案。
目前，此方案在未名卓越壹號集群部署成功。該集群由北京大學計算中心負責研制與運維管理，為北大鯤鵬昇騰科教創新卓越中心提供算力支持。IT之家查詢獲悉，作為國內首個基於高校自研基礎軟件的國產智算平台，該集群於 2024 年 11 月 18 日上線運行，首期集成 20 台昇騰 AI 服務器與 10 台鯤鵬通用服務器，AI 算力規模為 30.64PFlops（半精度）。
此次發布的 DeepSeek 推理方案依托全棧開源組件構建，在 openEuler 開源操作系統層面進行了深度優化；通過異構調度負載感知 MoE 冷熱專家，從而更細粒度調度任務；通過異構融合來高效管理內存，減小系統內存碎片；利用畢昇編譯器進壹步優化，減少算子下發耗時，提升推理整體性能。
算力集群全棧開源推理方案架構圖- 新聞來源於其它媒體，內容不代表本站立場！
-
原文鏈接
原文鏈接:
目前還沒有人發表評論, 大家都在期待您的高見