9月17日,華為全聯接大會在上海啟幕。會上,華為發布了新一代AI算力基礎設施昇騰960超節點。這款算力設施最多搭載的算力卡數量從上一代的1024卡升級到4096卡,并且首次采用一項名為“NPO(近封裝光學)”的關鍵技術,可用于匹配10萬億參數模型訓練和推理的需求。
如果說數據是AI的燃料,那么算力就是AI的引擎。近年來,算力集群從萬卡向10萬卡乃至更大規模邁進,卡與卡之間的通信代價越來越高,超節點成為超大規模AI基礎設施建設的必然選擇。據介紹,華為超節點的核心思路,是通過靈衢高速互聯協議將成百上千張算力卡融為一體,實現“像一臺計算機一樣協同工作”的效果。
“我們聚焦在算力這個領域,將持續通過系統架構創新,滿足國內AI訓練和推理上的爆發式增長需求。”華為副董事長、輪值董事長汪濤說,昇騰960芯片研發超預期,昇騰960風冷超節點和液冷超節點分別將于明年第二季度和第三季度上市。
汪濤表示,華為AI戰略的核心是算力,堅持硬件變現,圍繞“超節點+集群”,通過系統架構創新構建競爭力,堅持構建開源開放的算力生態,支持主流大模型基于昇騰原生訓練、積極擁抱“百模千態”。截至目前,昇騰910C超節點累計部署超1000套,昇騰950超節點也已實現商用。
NPO是昇騰960超節點的一項關鍵技術。傳統的大規模算力系統內部主要依賴銅纜進行電互聯,近封裝光學技術可在算力卡邊緣幾厘米的距離實現電轉光,突破銅纜傳輸距離與帶寬的物理極限,降低互聯功耗與延遲,并解決高密度算力系統下的布線與散熱難題。
據了解,華為研發了新一代NPO形態的光互聯產品——Hi-ONE,這是業界首個量產的NPO產品,是目前行業最大傳輸能力的NPO產品,容量高達7.2T,也是唯一實現內置光源的NPO產品。昇騰960超節點用5500個Hi-ONE模塊,替代原本需要的4.8萬顆800G光模塊,功耗降低超550千瓦,系統無故障運行時間提升一倍,系統可用度達到99.8%。這款產品把“高帶寬、高可靠”與“低時延、低功耗”融為一體,與靈衢高速互聯協議一起構建可規模擴展的超節點互聯系統。
“人工智能帶來的變革之深、之廣、之快,遠超想象,沒有任何一家公司能獨自支撐整個智能世界。”汪濤表示,華為聚焦AI基礎設施,堅持打造硅基黑土地,讓算力觸手可及;堅持軟件開源開放,讓開發者釋放潛能;堅持擁抱百模千態,讓價值多元釋放;堅持合作共贏,讓客戶成功、伙伴成長。
國研新經濟研究院創始院長、智能經濟首席專家朱克力表示,算力的競爭,不只是芯片的競爭,更是系統架構、軟件生態和產業統籌的綜合較量。昇騰960超節點的發布,標志著國產算力競爭從單純比拼單芯片性能,轉向芯片-互聯-存儲-整機一體化的系統級創新。它通過近封裝光學互聯技術,實現數千卡規模的高效協同,解決大規模AI集群通信時延高、成本高、可靠性不足的痛點。
“華為發布新一代AI算力基礎設施,一方面為國內大模型訓練提供可落地的國產化底座,帶動光通信、液冷等上下游配套產業升級;另一方面,通過開放互聯規范,有利于減少國內算力生態碎片化,推動國產算力集群工程化落地。”朱克力表示。
全球計算聯盟秘書處首席技術官苗福友表示,中國在人工智能基礎設施方面最大的優勢是全產業鏈能力,從芯片、部件到整機再到供電、散熱等機電產品全面覆蓋,并且每個領域的發展都非常快,這和中國制造業的優勢和強大的工程能力是分不開的。從技術的角度看,連接技術是中國比較突出的優勢領域,這對于超節點和算力集群的可擴展性和整體效率提升起著關鍵作用。