普通机柜单柜供电大多在 5–10kW,采用常规开放式风冷,搭配普通以太网交换机,适合功耗不高的 CPU 服务器、双卡以内的 GPU 机器,向量数据库、Redis 缓存、负载均衡、备份服务器这类业务都可以放在里面。如果只是跑单机 Embedding 推理、轻量 RAG 问答,单卡或者双卡 A10、4090,负载不会持续拉满,普通机柜完全够用,成本更低,上架调整也灵活,但是不能放入 8 卡高功耗整机,长时间满载会出现供电不足、热风回流,触发 GPU 降频甚至宕机。
智算机柜是高密度机型,单柜供电从 15kW 起配,配套封闭冷通道,部分高配型号支持液冷,内部搭载支持 RoCE 无损的高速交换机,专门承载 4 卡、8 卡 GPU 整机,适合 LoRA 微调、分布式训练、批量 AI 生成这类需要长时间满负载运行的业务。多机之间梯度、数据集同步走 RoCE 高速内网,通信延迟低,不会因为网络拥堵拖慢训练进度,机柜电力是独立配额,不会和其他机柜争抢资源,空闲位置要加装盲板..风道正常。
落地的时候可以采用混合部署的方式,普通机柜承载数据库、缓存、备份、业务前端节点,智算机柜单独放置 GPU 算力节点,两类机柜之间打通机房万兆内网,算力任务和数据读写分开,算力满载的时候,订单检索、接口访问不会受到散热和电力波动影响。起步阶段业务量小,可以先用普通机柜部署少量推理卡,后续需要做模型微调、扩充卡数量,再新增智算机柜,原有存储和业务机器不用迁移。
核验的时候要确认给到的是持续可用电力,不是瞬时峰值功率;同时区分交换机能力,普通机柜交换机不支持 PFC 流控,无法跑稳定的 RoCE 集群。如果项目有等保需求,整套机柜组还可以安置在封闭机笼内,满足物理隔离管控要求。
(声明:本文来源于网络,仅供参考阅读,涉及侵权请联系我们删除、不代表任何立场以及观点。)
标签: