优先选择贵阳 / 贵安 T3 + 标准 IDC 机房，两类场景区分选型：

• 大规模 GPU 训练集群：贵安智算机房，高密度机柜（15kW~40kW），支持液冷 / 冷通道封闭，PUE≤1.2，绿电占比高，适合长期大算力训练任务贵州省大数...。

• 在线推理 + 对外 API 服务：贵阳市区 BGP 机房，多运营商骨干直连，本地运维响应更快，适合低时延对外访问，部署推理节点、Web 网关、高防 IP。

推荐架构：贵安训练算力集群 + 贵阳 BGP 推理接入节点，分级部署。训练在贵安低成本算力，推理业务放在贵阳 BGP 机房对外提供 API，通过骨干专线打通两地集群。

1、算力硬件与机柜规划

算力资源采用混合架构：物理 GPU 服务器 + 弹性云算力 + 分布式存储，按业务负载划分算力 POD。

1. GPU 服务器：按 8 卡 / 4 卡机型分组组建算力 POD，单机配置冗余电源；高密度机型必须核验机柜供电、制冷上限，避免上架后过热降频。

2. 存储分层：全闪存储存放模型权重、向量库；大容量机械盘存储原始数据集；冷热数据分层，冷数据归档低成本存储。

3. 机柜规划：独立机柜组隔离算力集群，预留扩容机位；管理网、业务网、IB 高速网、IPMI 带外管理物理四网分离，杜绝流量互相干扰。

整套网络分为南北向 BGP 外网（对外）和东西向无损算力内网（集群内 GPU 通信），两套网络独立，不可混用。

2、南北向：贵阳多线 BGP 出口设计

1. 多运营商 BGP（电信 / 移动 / 联通），BGP 路由 ECMP 等价多路径，自动选路，西南地区用户就近接入，跨运营商访问时延稳定。

2. 出口安全架构：BGP 入口前置 DDoS 高防清洗集群，区分流量型 DDoS 与 CC 应用层防护，单独设置清洗阈值、弹性防护、黑洞策略。API 推理接口必须叠加 WAF 防护，抵御 HTTP CC 攻击。

3. IP 规划：公网 IP 池独立划分，推理服务、管理后台、监控系统 IP 隔离；对外域名统一在贵州管局完成 ICP 备案。

4. 骨干专线：贵安训练集群 ↔ 贵阳 BGP 推理节点，部署裸光纤 / 专线，用于模型权重同步

5. 数据集传输，不占用公网 BGP 带宽。

3、东西向：集群内部 Spine-Leaf 无损网络

AI 训练集群 GPU 之间通信量大，是性能瓶颈，采用 IB 或 RoCE 无损网络：

1. Spine-Leaf 架构，Leaf 交换机下联 GPU 服务器，Spine 做核心转发，BGP EVPN 作为控制平面，实现大集群路由快速收敛、故障域隔离Cisco。

2. 训练任务走 IB/RoCE 无损网络，保障多卡集合通信带宽，避免丢包造成训练中断、算力利用率下降；存储流量单独划分存储平面。

3. 带外管理网络独立 IPMI，远程硬件开关机、监控硬件状态，管理流量不占用算力业务带宽。

（声明：本文来源于网络，仅供参考阅读，涉及侵权请联系我们删除、不代表任何立场以及观点。）