7 月 9 日下午，OCP 峰会现场，字节跳动正式发布第三代 AI 整机柜液冷系统 AI Rack 3.0，全新硬件方案采用 800V 高压直流搭配整机柜浸没式液冷设计，单柜功率上限达到 500kW，双柜组成小型集群即可实现 1 兆瓦算力承载能力，面向万亿参数大模型持续训练场景针对性优化。
从硬件配置来看，这套机柜单集群最多可搭载 576 颗自研 XPU 算力芯片，硬件互联带宽、集群整体算力密度较上一代产品实现翻倍提升。当前行业普遍存在一大痛点：超大模型长时间训练会产生海量热量，传统风冷设备散热效率不足，不得不限制单机柜芯片部署数量，间接拉高数据中心土地、机房建设成本。液冷方案能够直接接触芯片带走热量，允许机房大幅提升硬件堆叠密度，同等占地面积下可承载更多算力单元。
此次发布的产品并非单纯硬件升级，而是一套完整交付的智算解决方案，包含温控调度软件、供电管理系统、集群运维平台一体化组件。企业部署后无需单独搭建散热配套设施，缩短数据中心建设周期。放眼国内算力产业发展现状，各大云厂商、AI 企业都在加速布局高密度液冷机房，伴随大模型迭代速度加快，算力需求持续爆发，风冷架构已难以匹配长期发展需求，兆瓦级液冷机柜有望成为新建智算中心标准配置。
市场层面，国产算力硬件产业链正在形成闭环，从芯片、服务器整机到液冷散热配套设备，本土供应商供货占比持续提升。字节自研整机柜落地，也为中小型 AI 企业提供低成本高密度算力建设参考路径，不用完全依赖海外服务器方案。长期来看，液冷技术普及将持续降低大模型训练单位算力成本，推动通用人工智能、具身机器人、自动驾驶仿真等多领域研发进度提速。
