GPU服务器中的CPU Socket

  • Admin
  • 2026-03-12
  • 0

       本文转载于《CPU那些事儿》公众号

GPU 服务器的 CPU Socket 是连接 CPU 与主板、构建整个计算与 I/O 拓扑的核心物理与电气枢纽,直接决定了 CPU 数量、内存 / PCIe 通道分配、NUMA 架构与 GPU 互联性能。

  主要内容:

  1. CPU Socket核心定义与作用

  2. 主流封装类型(LGA/PGA/BGA)

  3. Intel主流CPU Socket

  3.1. LGA4677(Eagle Stream)

  3.2. LGA4710 / LGA7529(Xeon 6 系列)

  4. AMD 主流 CPU Socket

  4.1. SP5(LGA 6096)

  4.2. SP3(LGA 4094)

  5. 主流CPU Socket规格对比(Intel vs AMD)

  6. GPU 服务器核心:Socket 决定 NUMA 与 PCIe 拓扑

  6.1. 双路 CPU Socket 架构(主流 GPU 服务器标配)

  6.2. PCIe 通道分配与 GPU 挂载

  6.3. Socket 与 GPU 互联技术演进

  7. Socket 对 GPU 服务器性能的关键影响

  8. 选型与优化要点

  8.1. Socket 选型

  8.2. 性能优化

  1. CPU Socket核心定义与作用

  CPU Socket(CPU 插槽)是主板上用于安装 CPU 的机械与电气接口,承担三大核心功能:

  1)物理固定:提供零插拔力(ZIF)结构,稳定承载 CPU 并保障散热接触。

  2)电气连接:通过触点 / 针脚实现 CPU 与主板间的电源、时钟、控制信号、高速数据链路(UPI/xGMI、PCIe、内存总线) 传输。

  3)拓扑定义:决定服务器支持的 CPU 路数(单路 / 双路 / 四路)、内存通道数、PCIe 根节点(Root Complex)数量,是 GPU 服务器 NUMA 与 I/O 架构的基础。

  2. 主流封装类型(LGA/PGA/BGA)

  服务器 CPU 几乎全部采用LGA,仅嵌入式场景用 BGA:
GPU服务器中的CPU Socket

 
   3. Intel主流CPU Socket

  3.1. LGA4677(Eagle Stream)
GPU服务器中的CPU Socket

  SUPERMICRO X13DAI-T 主板 E-ATX - LGA4677 Socket-E
GPU服务器中的CPU Socket

  Intel LGA4677 Socket

  1)适用 CPU:Sapphire Rapids、Emerald Rapids(Xeon 4/5 代)

  2)针脚数:4677

  3)核心规格:

  内存:8 通道 DDR5-4800

  PCIe:PCIe 5.0 + CXL 1.1

  互联:双路 UPI 3.0(11.2GT/s)

  功耗:最高 350W+

  3)定位:当前主流双路 AI / 云 / HPC 服务器标配,支持多 GPU 与 NVSwitch

  3.2. LGA4710 / LGA7529(Xeon 6 系列)

GPU服务器中的CPU Socket

  Intel Super-Massive LGA 7529 Socket(针脚数7529,差不多是4677的1.6倍,果然密布了很多!)

  1)适用 CPU:Sierra Forest(能效核)、Granite Rapids(性能核)

  2)针脚数:4710 / 7529

  3)核心规格:

  内存:12 通道 DDR5

  PCIe:PCIe 5.0 + CXL 2.0

  互联:更高带宽 UPI

  4)定位:下一代旗舰,面向超大规模数据中心与高密度 AI 训练

  4. AMD 主流 CPU Socket

  4.1. SP5(LGA 6096)
GPU服务器中的CPU Socket

  AMD Socket SP5

GPU服务器中的CPU Socket
    AMD Socket SP5

  1)适用 CPU:EPYC 9004(Genoa/Bergamo)、9005(Zen5)

  2)针脚数:6096

  3)核心规格:

  内存:12 通道 DDR5-5200

  PCIe:128 条 PCIe 5.0 + CXL 1.1+

  互联:xGMI 3.0

  功耗:最高 400W+

  4)定位:当前最强服务器 Socket,AI 训练 / 多 GPU 首选

  4.2. SP3(LGA 4094)
GPU服务器中的CPU Socket
  AMD Socket SP3

GPU服务器中的CPU Socket

 AMD Socket SP3
     1)适用 CPU:EPYC 7001/7002/7003(Naples/Rome/Milan)

  2)针脚数:4094

  3)规格:PCIe 4.0、DDR4

  4)定位:存量主流,性价比高

  5. 主流CPU Socket规格对比(Intel vs AMD)
GPU服务器中的CPU Socket

  6. GPU 服务器核心:Socket 决定 NUMA 与 PCIe 拓扑

  6.1. 双路 CPU Socket 架构(主流 GPU 服务器标配)
GPU服务器中的CPU Socket

  双路 CPU 通过UPI(Intel)/xGMI(AMD) 高速互联,形成NUMA(非一致内存访问) 架构:

  1)每个 Socket 拥有独立的本地内存控制器与PCIe Root Complex(RC)。

  2)GPU、网卡、NVMe 等设备物理归属于某一 Socket 的 PCIe RC。

  3)数据路径:

  本地访问(最优):GPU → 归属 Socket → 本地内存(低延迟、高带宽)。

  跨 Socket 访问(次优):GPU → 归属 Socket → UPI/xGMI → 远端 Socket → 远端内存(延迟增加 30%–100%,带宽受互联限制)。

  6.2. PCIe 通道分配与 GPU 挂载

  1)单 Intel LGA4677:约80 条 PCIe 5.0 通道;单 AMD SP5:128 条 PCIe 5.0 通道。

  2)典型 8 卡 GPU 服务器拓扑(双路 CPU):

  CPU0:挂载 4 张 GPU(PCIe 5.0 x16)+ NVSwitch/PCIe Switch。

  CPU1:挂载 4 张 GPU + 高速网卡(IB / 以太网)。

  所有 GPU 通过 NVLink/NVSwitch 直连,CPU 仅负责调度与控制。

  6.3. Socket 与 GPU 互联技术演进

  1)传统 PCIe 拓扑:CPU Socket → PCIe Switch → GPU(多 GPU 共享 PCIe 带宽,易瓶颈)。

  2)NVLink + NVSwitch 架构:CPU Socket → PCIe → NVSwitch → GPU(GPU 间全互联,带宽达 900GB/s,消除 PCIe 瓶颈)。

  3)CXL(Compute Express Link):新一代 Socket 扩展协议,实现 CPU、GPU、内存池的统一地址空间与缓存一致性,大幅简化异构计算调度。

  7. Socket 对 GPU 服务器性能的关键影响

  1)内存带宽与容量:Socket 决定内存通道数(如 SP5 为 12 通道 DDR5),直接影响大模型训练 / 推理的内存吞吐。

  2)PCIe 带宽与扩展性:Socket 的 PCIe 版本(5.0 vs 4.0)与通道数决定单服务器可挂载 GPU 数量与单卡带宽。

  3)NUMA 亲和性:GPU 与计算进程必须绑定到同一 Socket,否则跨 Socket 访问会导致性能显著下降(常见损失 20%–50%)。

  4)供电与散热:高端 Socket(如 SP5、LGA4677)支持600W+ CPU 功耗,为多核 CPU 与多 GPU 系统提供稳定供电。

  5)维护与升级:Socket 化设计支持 CPU/GPU 热插拔(对,没看错!就是CPU支持插拔)与快速更换,降低数据中心运维成本。

  8. 选型与优化要点

  8.1. Socket 选型

  1)AI 训练(大模型):优先AMD SP5(12 通道 DDR5、128 条 PCIe 5.0)或Intel LGA4677(CXL 支持)。

  2)AI 推理 / 通用计算:LGA4677/SP3 性价比更高。

  3)多 GPU 高密度:选择支持双路 CPU + 多 PCIe Switch/NVSwitch的主板与 Socket。

  8.2. 性能优化

  1)NUMA 绑定:使用numactl将 GPU 任务绑定到其归属的 CPU Socket 与本地内存。

  2)PCIe 拓扑规划:GPU、网卡、存储均衡分布在两个 Socket,避免单 Socket I/O 拥堵。

  3)散热与供电:确保 Socket 供电模块(VRM)满足 CPU+GPU 总功耗,采用液冷优化高密度场景。