联系我们
主办单位

浙江省人工智能学会

浙江省计算机信息系统集成行业协会

高登会展集团


承办单位

五方戈展览(江苏)有限公司


联系我们
快速连接
超节点架构主导 AI 基建新周期,液冷技术乘势打开增量空间
发布时间:2026-08-04        浏览次数:1019        返回列表


随着大模型参数量持续规模化扩张,传统单机架横向扩容的算力部署模式已触及物理硬件天花板,当前算力基础设施遭遇难以逾越的三重核心瓶颈。

第一,单机架功耗持续攀升,逐步逼近数据中心配电容量承载上限,电力供给成为硬性约束;第二,高密度机柜对应的液冷散热系统架构日趋复杂,散热能耗占比持续走高,散热能效比不断走低,能耗投入性价比持续下滑;第三,超高集成度机柜内部硬件排布极度紧凑,设备故障定位、零部件拆机替换操作难度大幅增加,整体运维可维护性显著弱化。



行业痛点倒逼底层架构迭代,在此背景下,算力部署从单机架向标准化、模块化单元演进,由多机架聚合构成的超节点 PoD 架构,正式成为 AI 算力基础设施升级迭代的主流技术路线。

当前海内外科技头部企业均已落地成熟可商用的超节点解决方案:英伟达 Vera Rubin PoD 集群共计配置 40 个机架,内含 16 台 Vera Rubin NVL72 GPU 计算机架,并配套专属 Vera CPU 机架与存储互联机柜;谷歌 TPU 8t Super PoD 搭载 9600 颗 TPU 8t 算力芯片,依托 OCS 光交换机柜实现大规模高速光互联组网;华为 Atlas 900 A3 Super PoD 由 12 组计算机柜加 4 组总线设备机柜组合搭建,是国产超节点算力集群的标杆性产品。

超节点不再依靠单一机柜堆叠算力,而是整合计算、网络、存储多类型机柜协同工作,系统性破解单机架的功耗、散热与运维难题,为液冷产业打开全新增长空间。

光互联持续升级催生光模块液冷全新赛道,AI集群内部通信带宽需求猛涨,光模块的速率从800G往1.6T、3.2T快速更新换代,功耗也跟着大幅上升,3.2T光模块功耗会超过40W,风冷的方案完全没法满足散热需求了,液冷成了必须。

当前行业并存两条主流光模块液冷技术路线。热管方案把热量从光模块传导到铜块、热管,最后输送到液冷板,英伟达、HPE选的是这条路线,好处是稳定性比较强,不过导热链路比较长,在超高功耗场景能效有不足;连接器方案能让光模块和液冷板直接导热,散热比较高效,方案落地的核心挑战在于连接器长时间运行的可靠性。

除网络硬件之外,智能体(AgenticAI)规模化落地,带来高密度CPU机架液冷新增需求。AI产业重心,正慢慢从大模型训练转向推理和智能体应用,算力瓶颈也慢慢从GPU转移到调度执行单元CPU,2026年,英伟达GTC大会发布了VeraRubinPoD集群,与此同时,配套推出纯VeraCPU机架。

该机架全域采用全液冷散热方案,单机架高密度集成 256 颗 Vera CPU 处理器,单颗芯片功耗浮动区间为 250W-450W,仅 CPU 部分理论峰值功耗便高达 115.2kW,已然大幅逾越风冷散热技术的承载极限。

单机架规模化聚合海量 CPU 算力单元后,集群协同调度性能远优于碎片化分散部署模式。整套 Vera CPU 机架内置共计 22528 颗 Olympus 算力核心,最大内存配置可达 400TB,整机聚合总带宽峰值最高 315TB/s,可完美承载智能体任务调度、强化学习训练、超长上下文大模型推理等新一代 AI 高算力负载。伴随 Vera CPU 机架随 AI 超节点集群规模化批量交付,液冷行业市场需求将迎来新一轮强劲扩容。

纵观行业发展大势,AI 算力基础设施正经历底层架构范式的根本性迭代:部署模式从过去单机架独立运行,全面转向多机柜联动协同的超节点集群架构。散热需求边界也同步拓宽,不再仅聚焦于 GPU 算力服务器,进一步向上覆盖高速光互联器件、高密度推理型 CPU 机柜等全链路硬件。

在此趋势下,光模块液冷、高密度 CPU 机架液冷两大增量赛道同步进入高速爆发期。液冷技术自此不再仅是高端 GPU 的配套散热手段,已然成为新一代 AI 超节点集群必备的底层核心基础设施,整条产业链的中长期成长空间被持续打开。