4月26日下午,全球首個商用智算昇騰超節點在中國電信粵港澳大灣區(韶關)算力集群正式發布,現已商用上線,標志著新一代智能算力注入粵港澳大灣區國家級算力樞紐節點,中國電信在AI算力基礎設施領域取得重大進展,為人工智能產業高質量發展注入新動能。廣東省委常委、副省長張國智,中國電信董事長柯瑞文,韶關市委書記陳少榮,華為公司董事陶景文出席并致辭。
目前,大模型的Scaling Law仍然生效,國內外主流基礎大模型參數量持續增加,算力需求不斷增加;大模型從稠密架構向混合專家模型(MoE)稀疏架構演進。基于以上特點,業界主流智算服務器在提升單卡算力的同時,正在從單節點向超節點架構演進。智算昇騰超節點采用新型高速總線架構,天然適配混合專家模型(MoE)架構,使得大模型訓練效率和推理性能大幅提升。
中國電信此前在京津冀、長三角建成的國內首批全液冷萬卡池,保障了智能算力的供給量,在粵港澳大灣區樞紐節點建設首個超節點形態集群,標志著中國電信智能算力供給實現質與量的雙重跨越。
智算昇騰超節點憑借四大核心優勢,引領智算新潮流。
通過架構升級和軟件優化,大幅提升訓練和推理性能。相比910B,NPU(神經網絡處理器)間高速互聯帶寬提升14倍,模型切分并行域提升48倍,訓練場景效率提升2.7倍,推理場景單卡吞吐提升20倍以上(疊加大規模專家并行和PD分離技術)。
云網融合所帶來的運力優勢。中國電信提供超低時延、超高安全、超快傳輸的運力保障,通過全光400G運力網絡打造華南地區10毫秒、廣東地區5毫秒、大灣區3毫秒的超低時延運力底座,實現智能算力的高速互聯。通過量子技術,保障數據安全傳輸。利用超算快線打造高達百G的敏捷彈性、任務式服務的算力傳輸能力。
依托“息壤”一體化智算服務平臺能力優勢。中國電信將智算昇騰超節點納入全國算力體系,為全國提供服務,同時結合大灣區通算、智算、超算層次化布局,面向用戶提供訓推一體、云智一體、超智一體能力,服務千行百業。
彈性、綠色、智慧的AIDC。作為粵港澳大灣區首個大規模全液冷智能算力數據中心,中國電信全面應用綠色低碳技術,100%使用綠電,PUE小于1.15,采用數字孿生、AI等先進技術,打造全程數字化智慧運營管理能力,構建智慧的AIDC。