【字节跳动】杭州余杭·长三角互联网大模型在线调度算力中心全案档案 杭州余杭·长三角互联网大模型在线调度算力中心全案档案坐标北纬30.4126°东经120.2973°定位华东大区调度枢纽、大模型在线服务微调集群、江浙沪用户低时延接入主节点对接延庆前置推理庆阳本源灾备双节点日常增量模型每日异步归档三副本至庆阳封存。一、项目基础档案选址杭州余杭未来科技城算力产业园独栋T3IDC机房紧邻电信/移动/联通华东省级骨干机房裸纤直达上海、南京、宁波、北京延庆、甘肃庆阳。核心指标汇总|项目|参数|| ---- | ---- ||机柜总数|360柜42U高密液冷机柜||业务服务器|360台GPU微调在线推理一体机1:1配柜||加速卡|A800 80GB ×2320张||网络架构|Spine-Leaf 400G全互联IB高速集群内网||机房满载功耗|4162kW||PUE|1.12||江浙沪用户平均往返延迟|27.86ms||峰值在线并发|108.72万会话||运行模式|7×24h在线大模型SFT微调、在线对话、多模态生成、API商用调度|区位优势亚热带湿润季风余杭全年温和冬季短依托江水侧冷间接蒸发冷却控温地处长三角算力几何中心江浙沪皖终端就近接入是整套算力体系华东调度中枢所有训练迭代权重每日夜间专线异地备份庆阳三副本。二、算力硬件资产台账全型号数量1、液冷AI机柜360台型号威图TS8865-ZJ定制余杭液冷版600×1200×2050mm单柜承重2100kg额定单机柜19kW单柜标配APC AP8992双路24口智能PDU×2、CDU水冷分配单元、柜级温湿度/漏水/烟感采集组件、接地铜排全套排布12列×30柜全封闭冷热通道玻璃隔断。2、业务微调推理服务器360台型号浪潮NF5488M7 4U液冷定制机型CPU双路至强铂金8380 40核80线程内存512GB DDR4 ECC本地存储4×3.84TB U.2 NVMe12×18TB SATAGPU槽位8槽SXM4均分2320张A800 80G单台平均6.44张卡兼顾小批量微调在线推理复用。3、加速卡A800 80GB SXM4 2320张国产定制数据中心水冷版FP16/INT8推理、FP32微调双适配支撑千亿参数模型分片微调上线。4、配套运维中转服务器集群调度管理服务器华为2288H V7 10台算力资源编排、负载均衡调度异地备份中转服务器曙光I620-G30 8台每日增量数据打包专线发往庆阳灾备三、全链路网络系统1.Spine核心交换机12台华为CE16808全400G QSFP-DD端口整机48T背板所有Leaf全交叉上联BGP EVPNVXLAN组网三大运营商BGP多线出口、跨省专线延庆/庆阳/沪宁全部汇聚核心。2.Leaf接入交换机45台H3C S9860-64H48×100G光口16×400G上行单台下联8台业务服务器富余端口预留扩容。3.边界安全设备下一代防火墙深信服AF-15000-G 4台DDoS流量清洗网关天融信DDOS-G1500 3台出口主备冗余等保三级合规。4.辅材康宁G.654.E超低损耗单模光缆、400G/100G华为原厂光模块860支、康普ODF配线架62套、罗森伯格屏蔽布线全套。四、制冷系统间接蒸发冷精密空调复合PUE1.12实现核心机房精密恒温恒湿空调维谛PEX140-ZJ 22台单台140kW算力区18台、配电室4台N2冗余闭式冷却塔金日200RT 5台楼顶侧水冷依托余杭河道补水辅助降温变频循环水泵格兰富15台、三级过滤新风机组7套、全机房冷凝排水系统、密闭风道隔断44套运行模式春秋冬季启用间接蒸发免费制冷夏季空调低负载辅冷。机房恒温21℃±2℃、湿度42%~55%。五、五级供配电系统满载4162kW1.高压系统4台施耐德KYN28-12高压柜进线/计量/PT/联络配套干式变压器SCB14-2500kVA正泰4台10kV转0.4kV。2.低压配电柜ABB MNS3.025台算力支路14台、空调支路6台、UPS/消防监控5台回路完全独立分隔。3.UPS系统18台 科士达YHK9300-500KVA工频在线UPS配套圣阳SP12-200AH蓄电池5760节满载可支撑全机房20min续航。4.备用柴油机组2台750KW玉柴YC6MK630-G3单机750kW并联1500kW地下储油罐23立方机载油箱950L本地有线PLC控制、无远程无线。供电链路双路10kV市政专线→高压→变压→低压分路→终端负载断电UPS瞬时切换→60s柴油自启并网。六、消防·安防·动环七氟丙烷管网气体灭火齐安QMP150共14套算力机房8套、配电/电池3套、柴油房2套、网络机房1套海湾烟温复合探测器全套。安防园区3.2m防爆围墙艾礼富周界红外震动光缆海康400万防爆摄像头76台、本地NVR5台存90天录像大华三级人脸识别门禁20套。动环平台迈世MDC企业版全点位温湿度、漏水、配电支路功耗、UPS内阻、设备流量实时采集本地短信声光三重告警。七、参数解析业务风控1.核心参数总功耗4162kWIT负载3707kW、制冷322kW、附属设备133kWPUE1.12优于国标1.2限值长三角同规模机房平均PUE1.4~1.5电费常年节约27.86ms低时延紧靠省级骨干扁平化组网江浙沪用户体验最优并发108.72万华东区域头部承载能力可承接头部AI大厂API服务海量小微客户算力租用。2.三类盈利1.整柜托管租赁政企/云厂商稳定月租2.A800算力分片虚拟化出租中小AI创业主力3.定制大模型微调私有化项目高毛利自营业务3.九层风控1.密闭冷热通道控温防GPU高温宕机2.低压分回路独立供电故障隔离3.18台UPS集群防电网闪断4.双柴油机组兜底长时间停电5.Spine-Leaf全冗余网络杜绝全网断联6.出口防火墙清洗网关抵御DDoS攻击7.分区独立气体消防防火灾全损8.全点位动环提前预警故障9.每日自动全量增量模型异地同步庆阳三副本极端损毁可凭本源数据重建集群八、整体定位总结余杭作为华东大区调度中枢承接江浙沪全量终端访问、大模型在线微调迭代延庆负责北方实时推理落地庆阳永久封存全量本源权重三副本三地形成「余杭生产迭代→延庆前端商用→庆阳永久保底存档」完整闭环算力架构。附精简资产台账表可直接录入Excel系统分类设备名称型号数量算力硬件液冷AI机柜威图TS8865-ZJ360算力硬件微调推理服务器浪潮NF5488M7360算力硬件A800 80G SXM4NVIDIA工业水冷版2320算力硬件调度服务器华为2288H V710算力硬件备份中转服务器曙光I620-G308网络Spine交换机华为CE1680812网络Leaf交换机H3C S9860-64H45网络下一代防火墙深信服AF-15000-G4网络DDoS清洗网关天融信DDOS-G15003制冷精密空调维谛PEX140-ZJ22制冷闭式冷却塔金日200RT5配电高压柜施耐德KYN28-124配电低压柜ABB MNS3.025配电UPS科士达YHK9300-500KVA18配电柴油发电机玉柴YC6MK630-G3 750kW2