AI InfrastructureAI 基礎設施AI 基础设施Teardown拆解拆解Schematic示意示意002 / 114

AI 服务器计算托盘

一层托盘装着 GPU、CPU、内存条、网卡和风扇;GPU 和 CPU 盖着冷板,冷却液从后端快接头进出,把热带走。

AI 服务器计算托盘拆解示意
AI 服务器计算托盘·拆解示意:GPU 和 CPU 盖着冷板走液冷,其余部件靠风扇吹Figure labels and notes on this page are in Simplified Chinese.圖中標籤和本頁圖說均為簡體中文。View full size查看原尺寸圖查看原尺寸图 ↗

Labels in the figure圖中標籤图中标签

11 labels11 個標籤11 个标签

  1. 01智能网卡(DPU)网口朝前,插光模块
  2. 02风扇吹走冷板顾不到的热
  3. 03导风罩把风集中吹过内存条
  4. 04液冷冷板(抬起来画)贴住芯片,冷却液把热带走
  5. 05电源接口从机柜接电,再分给各部件
  6. 06背板连接器GPU 高速互连信号走这里
  7. 07CPU 与内存条CPU 调度数据,内存条是主内存
  8. 08GPU 模组做 AI 计算,发热最多
  9. 09主板连起各部件
  10. 10冷却液软管连起冷板和快接头
  11. 11快接头冷却液进出,拔下自动封住

Parts and what they do部件與作用部件与作用

14 parts14 個部件14 个部件

  • 01托盘机箱托住主板和所有部件,整层推进机柜。
  • 02前面板进风,露出网口。
  • 03主板把 CPU、GPU 模组、内存条、网卡和电源连成一个系统,走电源和高速信号。
  • 04智能网卡(DPU)托盘对外的网络出口;DPU 还把网络、存储和安全处理从 CPU 上卸下来。
  • 05风扇吹走冷板顾不到的热,例如内存条、网卡和板上的供电器件。
  • 06导风罩把风集中引过内存条一类的发热部件,不让风从空处跑掉。
  • 07CPU跑操作系统,调度数据,把数据喂给 GPU。
  • 08内存条CPU 的主内存。
  • 09GPU 模组做 AI 计算,是整层托盘发热最多的部件。
  • 10液冷冷板贴住 GPU 和 CPU 的顶面,让流过的冷却液把热带走。
  • 11冷却液软管把冷却液送到各块冷板,再收回来。
  • 12快接头(进液、出液)托盘推进机柜时与机柜的液冷分歧管对插接通;拔出时两头自动封住,不漏液。
  • 13电源接口从机柜接进电(机柜汇流排或电源模块送来的直流电),再分配、降压给各部件。
  • 14背板连接器托盘推进机柜时插进机柜背板,GPU 之间的高速互连信号走这里出托盘。

Simplifications示意簡化示意简化

9 items9 條9 条

Where the drawing deliberately departs from the real object, to keep the structure readable.為了看清結構,圖上刻意做的簡化。为了看清结构,图上刻意做的简化。

  1. 01

    上盖拿掉没画。

  2. 02

    布局按「前网卡、中风扇与 CPU、后 GPU 与接口」画;各家实际布局不同。

  3. 03

    GPU 画 4 个、CPU 画 2 个;实际数量因机型而异。

  4. 04

    每个 CPU 只画了一侧一排内存条(每排约 4 条);实物多在 CPU 两侧都有,数量更多。部分机型 CPU 的内存直接焊在板上或做进封装,没有内存条。

  5. 05

    冷却液管路画成冷板之间相连、再通到后端两个快接头的软管;管路走法因设计而异。

  6. 06

    一块 GPU 冷板抬起来画(爆炸视图);实物冷板压在 GPU 上,中间夹导热材料。

  7. 07

    导风罩只盖远侧一个 CPU 和它旁边的内存条;实物一般整片盖住 CPU 与内存区。

  8. 08

    背板连接器画 2 排;实物数量因设计而异。

  9. 09

    硬盘、管理芯片、供电模块(VRM)、上盖与导轨等没画。

Known deviations in this figure本圖已知偏差本图已知偏差

7 items7 條7 条

Where this drawing differs from the real object, or is easy to misread.這張圖和實物不一致、或容易看錯的地方。这张图和实物不一致、或容易看错的地方。

  1. 01

    每个 CPU 只画了一侧一排内存条,数量少于实物。

  2. 02

    四条虚线里有一条停在露出模组的上缘外面,没碰到模组。

  3. 03

    露出的 GPU 模组四周画了一圈小黑方块,只是示意,不代表实物元件。

  4. 04

    软管画成浅灰白色;冷板之间的连接方式只是示意。

  5. 05

    电源接口画在板上,没画成夹住机柜汇流排的夹片。

  6. 06

    导风罩只盖住远侧 CPU 的一角。

  7. 07

    主板上网卡附近有三处浅灰色小涂痕,像电路板上的丝印字样,但不成字。

Related companies (examples only; not a recommendation of any kind):相關公司(示例,不構成任何推薦):相关公司(示例,不构成任何推荐):工业富联、广达、纬创、超微电脑。

Before you use these figures使用須知使用须知

  1. 01

    Schematic illustrations only. They are not engineering drawings, and not a basis for procurement, investment or medical decisions. Layers, counts, sizes and proportions are simplified: do not measure or count from them.這些是示意圖:不能當工程圖紙用,也不能作為採購、投資或醫療的依據。層數、個數、尺寸和比例都做過簡化,不要用圖量尺寸、數數量。这些是示意图:不能当工程图纸用,也不能作为采购、投资或医疗的依据。层数、个数、尺寸和比例都做过简化,不要用图量尺寸、数数量。

  2. 02

    Each base image is AI-generated; titles, labels, leader lines and arrows are vector overlays added afterwards. Structures follow general public knowledge and show a generic design, not any company's product.每張圖的底圖由 AI 生成;標題、標籤、指引線和箭頭是後加的矢量疊加。結構依據公開的通用知識,畫的是一類器件的通用結構,不對應任何一家公司的具體產品。每张图的底图由 AI 生成;标题、标签、指引线和箭头是后加的矢量叠加。结构依据公开的通用知识,画的是一类器件的通用结构,不对应任何一家公司的具体产品。

  3. 03

    Companies named on figure pages are examples only and do not constitute a recommendation of any kind. We do not give buy or sell recommendations on any particular security or investment product, and we do not publish investment opinions or recommendations.圖頁上列出的相關公司只是示例,不構成任何推薦。本公司不就任何特定證券或投資產品提供買賣建議,不發佈投資意見或推薦。图页上列出的相关公司只是示例,不构成任何推荐。本公司不就任何特定证券或投资产品提供买卖建议,不发布投资意见或推荐。

  4. 04

    Labels inside the figures, and the figure notes on these pages, are in Simplified Chinese.圖中標籤和各圖頁的圖說均為簡體中文。