![[从零训练一个200B大语言模型] 11/25:训练开始以前,怎样给这些GPU准备好机房?](/_next/image?url=%2Fblog%2Ftraining-200b-part-11-cover.webp&w=3840&q=75&dpl=dpl_3iBqycMUp2kJBW876mpcL4eqqWYp)
[从零训练一个200B大语言模型] 11/25:训练开始以前,怎样给这些GPU准备好机房?
第三篇的采购规划里有264台服务器。现在,我们给这264台机器安排一个具体的家:选一座机房,每个柜子装两台,把它们分成两批搬进去,再证明这些机器能一起持续工作。
这一篇沿着这份规划样例走完。场地采用Flexential位于佐治亚州的Atlanta-Douglasville 2作为设计和询价对象;机柜先选APC的42U型号;264台服务器放进132个计算机柜;整厅仍按前文的4.5兆瓦IT容量安排。下面逐项说明这些选择为什么放在一起,以及一批服务器到货后怎样走到可以训练。
先选一个能接住整套机器的厅
我们需要让2,048张训练GPU频繁交换结果,因此把主训练集群集中在同一机房厅里。这样,设备之间的距离、安装过程和日后的维护都比较容易统一安排。
Flexential Douglasville 2的官方资料列出每厅4.5兆瓦容量、约24,000平方英尺面积,也就是约2,230平方米。这个容量与第三篇的规划相符,所以这份样例就围绕它展开:向运营商提出租用一个厅,承接计算、网络和存储设备,并提供相应的供电和冷却服务。
IT容量:机房能够供给服务器、网络和存储等计算设备的电力。机房自身的制冷等设施另外用电。
这里选中的是一个具体对接对象。2026年7月8日的官方公告仍将Douglasville 2列为按计划待完成的项目。截至2026年10月27日,我们尚未取得针对本方案的空闲容量和交付日期。正式安排发货时,把厅号、可进场日期、供电和冷却条件写进交付约定,设备就有了明确的目的地。
先看整座机房:黄色线路把电送到机柜,蓝色与红色箭头分别表示冷风进入和热量排出,金色框出的Rack A将在下一张图放大。

为什么先把整个厅放进方案?因为第一批机器安装以后,第二批还要接进同一个集群。提前保留整套设备的位置和容量,后面就可以按既定位置扩容。接下来,我们从这个厅里最小的安装单位开始:一个柜子。
一个柜子放两台,剩下的空间怎样用
第三篇选用的Exxact TS4-142487900是一台八卡B200服务器。它高8U,机身深930毫米。U是机架设备的高度单位,8U约为35.6厘米。
U:机架设备的高度单位,1U约4.45厘米。
我们为它选择APC NetShelter AR3350B2作为候选机柜。这个型号高42U,柜体宽750毫米、深1,200毫米。方案把两台服务器装在下部,占16U,其余未使用的位置安装封板;柜后布置供电和线缆。较重的设备放低,也更便于安装和维护。
为什么42U只放16U的服务器?限制来自电和热。沿用第三篇的单机预算值14.25千瓦,两台就是28.5千瓦。这个柜子运行一小时,若一直维持这个功率,仅服务器就用约28.5度电,同时产生需要持续排走的热量。每柜先放两台,是我们这份方案选择的密度,让单柜供电、散热和维护的安排更容易展开。
千瓦(kW):表示用电功率。
千瓦时(kWh):表示消耗的电量,也就是电费里的“度”。以28.5千瓦运行1小时,消耗28.5度电。
这次采用的冷却样例是风冷设备配合封闭热通道:冷风从机柜正面进入,穿过服务器后带着热量从背面出来;背后的热空气集中进入回风通道,由机房冷却系统带走。未装设备的位置用封板挡住,减少热空气绕回机器前方。机房再为每个双机柜设计至少能够承接这28.5千瓦规划热负荷的冷却条件,并按最终设备要求留出工程余量。
热通道:机柜背后集中排出热空气的通道。把它与冷风侧分开,可以减少冷热空气混合。
这套风冷方案以设备商确认该整机支持相应冷却条件为落地条件。Exxact当前公开页面没有列全风量、整机重量和导轨要求,因此采购文件要把这些参数补齐,再与柜型和冷却设计一起锁定。
沿着Rack A继续往里看:一个柜子放两台服务器,再打开其中一台,就能找到里面的8个GPU模块。

机房与硬件层级的规划示意;设备内部布局简化绘制。
2026年10月27日,Exxact配置页显示的功率估值已是约14.15千瓦;这里继续用第三篇的14.25千瓦做同一份规划。最终接电设计采用订购配置的确认值。机柜尺寸也要这样核对:柜体深1,200毫米,并不意味着里面的导轨和电缆空间都能直接使用。先由集成商完成一柜样装,再复制到其余机柜。
这一个样柜,具体核对哪几个数?
APC AR3350B2的厂家资料列出柜体高1,991毫米、宽750毫米、深1,200毫米,最大安装深度1,048毫米,静态承重1,814.4公斤。Exxact机身深930毫米,但导轨位置、插头和线缆弯曲空间仍要按实际安装核对。整柜重量要把柜体、两台服务器、配电和线缆合计,再对应地板与搬运路线的承载要求。
Exxact配置器列出12个电源、6+6冗余。方案要求设备商给出与机房A/B两路供电匹配的接线图,列清每路所需的插座、额定电流,以及一路故障时整机的运行状态。各电源的额定能力用于设计供电路径,不相加当作正常耗电。
把这个样柜复制132次,放进同一张平面图
每柜两台,264台就是132个计算机柜。其中128柜放256台训练主机,4柜放8台备用机。为了配合两批到货,我们把计算区分成A、B两个区,每区66柜,各放128台训练主机加4台备用机,也就是64个训练柜和2个备用柜。
这里按每区3排、每排22柜安排布局样例。网络和存储放在旁边的独立区域,留出操作通道和接入第二批设备的空间。实际机房的柱位、门和设施接口会决定施工图怎样落下去。
先做一个面积核算,帮助判断规模。132个柜子的柜体占地是:
132 × 0.75米 × 1.2米 = 118.8平方米。
人要走进去,热风要排出去,机器还要能够从柜子里抽出来。另做一张6排顺排的占地草图,给通道留出空间后,计算区约345平方米。这个面积测算帮助我们先判断需要多大的空间。
约345平方米是怎样算出来的?
6排前后顺排,每排22柜。柜体一排长22 × 0.75 = 16.5米;两端各留1.5米,合计19.5米。6排柜体共深6 × 1.2 = 7.2米;排间与前后共7条通道,各按1.5米画,合计17.7米。于是这一版草图占地19.5 × 17.7 = 345.15平方米。
1.5米是这份教学草图的取值,正式通道宽度由机房按维护、消防和冷却设计确定。它不是上方示意图的比例尺寸,也不是运营商的实际厅图。
计算区以外,还要安排网络、存储、安装周转和机房设施。2,230平方米的厅提供了面积参考,下一步把这些区域套进运营商实际的厅图,逐一落实柱位、入口、维修通道和设施接口。
设备的位置排出来以后,再把电力分到同一份方案里:
| 用途 | 这份方案安排的IT功率 |
|---|---|
| 132个双机计算柜 | 132 × 28.5千瓦 = 3.762兆瓦 |
| 网络与存储 | 0.300兆瓦规划额度 |
| 全场剩余设计余量 | 0.438兆瓦 |
| 合计 | 4.500兆瓦 |
兆瓦(MW):功率单位,1兆瓦等于1,000千瓦。
网络和存储的0.300兆瓦是本方案先分配的额度,后续用具体设备清单核算。若实际清单超过它,就调整分配与场地方案。这样,每一部分都有位置,也有电力额度,而不是等设备装完才发现某一排供电不够。
散热也跟着这张表安排。计算柜合计按3.762兆瓦的规划热负荷交给冷却设计;网络和存储产生的热也一并纳入。机房自身的冷却设备还要用电,这部分由设施侧安排。第三篇算电费时采用的3.3兆瓦,则是运行负载预算,用来估算账单。场地容量、设备规划功率和运行电费,分别回答不同的问题。
先装A区,再把B区接进来
到这里,第一批机器可以有一个明确的去处:进入A区的66个柜子。每柜两台,共132台;其中128台训练、4台备用。B区保留相同的66柜布局,接收第二批。
第一批进场前,先交付A区的机柜、配电和冷却,并让两区共用的基础设施具备接入条件。第三篇方案中的网络骨干和共享存储,也要按两批机器最终连接到一起的需求安排。第二批来时,主要工作是把设备接到已经留好的位置,而不是重新移动第一批。
时间上沿用第三篇的目标顺序:第4个月接第一批,第6个月接第二批,第7个月完成全规模验收。这个顺序发给设备商和机房共同排期;当运营商给出实际可进场日期以后,交付表把每批发货、安装和验收的日期一起固定下来。
搬运按同样的顺序演练。先用一台机器完成卸货、通过门和电梯、进入A区、上架、接电的全过程,确认工具、导轨和操作空间合适,再批量安装。整柜装好以后,也要有清楚的编号。例如A区第1排第1柜写作A-R1-C01,柜中两台分别记录设备序列号和安装位置。维护人员以后收到告警,就能找到具体机器。
冗余:为故障准备额外的能力或路径,例如A路供电失效时,由B路接住约定的负载。
每个柜子的两路供电按设备商确认的接法安装,整厅按运营商的故障方案运行。验收时验证一路故障后设备是否达到约定的运行目标。两路供电的作用是提供故障时的另一条路径,正常用电仍按实际设备负载计算。
用一份验收样例,把“装好了”变成“能用了”
这一套设备最终交给训练团队时,最有用的是一份能逐项判断的验收记录。下面给出这份方案采用的样例:
| 验收到哪一步 | 具体怎样判定 |
|---|---|
| 一台服务器 | 型号和序列号与清单一致,8张B200均能识别,内存与存储配置相符,设备商健康检查通过 |
| 一个双机柜 | 两台同时运行约定负载;供电回路保持在设计限值内;进风与部件温度满足设备商要求,记录无热保护降速或异常告警 |
| A区首批设备 | 128台训练主机共1,024张GPU全部参与测试;网络与存储性能达到合同验收基线,备用机完成替换验证 |
| A、B两区完整设备 | 256台主机共2,048张GPU参与联调;通信与供数达到约定基线;测试期间监控与告警记录完整 |
| 故障和恢复 | 机房按批准方案执行供电切换;训练试跑保存进度后能够恢复,恢复结果与测试方案相符 |
温度和性能的具体通过值,在采购和集成合同里按这套设备确定,并在到货前写进测试表。这样,现场人员面对的是明确的合格标准。某一项没有通过,就能定位到对应设备、回路或服务,修复以后重新测试。
NVIDIA的DGX B200指南也将健康检查和负载测试放在投入使用前。我们的验收工具由Exxact设备商提供,测试记录则沿着单机、单柜、首批和整集群逐级汇总。
这份方案最后交出的结果很具体:Douglasville 2的一个4.5兆瓦厅作为对接场地,132个双机计算柜,A、B两区分批安装,网络存储独立布置,供电和排热按同一张设备表设计,验收按同一套记录执行。拿这份样例去对接运营商和设备商,双方就能够围绕设备摆放、容量、日期和通过标准,把它变成可交付的工程方案。
新文章,直接发到你的邮箱。
AI、工程与实验,每月 1–2 封。
无垃圾邮件,随时取消。