Research Report · 2026-07-24

AMD AAI2026 全栈 AI 基础设施研究报告

聚焦 CPU / GPU / Helios 机架级系统,并与 NVIDIA Vera Rubin NVL72 等同代方案做硬参数对比。信息截止:2026-07-24。

一、AAI2026 发布概览

时间地点:2026 年 7 月 22–23 日,AMD "Advancing AI 2026"(AAI2026)大会在旧金山 Moscone Center 召开,会期 2 天。这是 AMD 的年度旗舰 AI 大会,定位对标 NVIDIA GTC AI Infrastructure 板块。来源:tech-insider.org

Lisa Su 主题演讲核心论点

量产节奏(截至 2026-07-24 公开口径):

【图述 1】 AAI2026 主题演讲现场:Lisa Su 身后大屏呈现 Helios 机架渲染图,左侧并列展示 MI455X OAM 模块与 EPYC Venice 芯片 die shot。屏幕上方的标语为 "Open AI must win",下方三栏分别是 "Helios / MI455X / EPYC Venice"。画面里出现 4 名工程师手持 MI455X 散热模组上台。图中可读到的关键数字:72× MI455X / 18× Venice / 31TB HBM4 / 2.9 EFLOPS MXFP4
来源(转述自画面):https://ir.amd.com/news-events/press-releases/detail/1294/aai-2026-amd-delivers-full-stack-compute-for-the-agentic-ai-era

二、AMD Instinct MI455X(MI400 系列)

2.1 架构与封装

2.2 内存子系统

2.3 峰值算力(per GPU)

精度MI455X 峰值对照(上一代)备注
MXFP4(稀疏 / Transformer Engine 等价)40 PFLOPSMI355X 约 20 PFLOPS FP4代际翻倍
MXFP820 PFLOPS与 NVIDIA Rubin 同档
FP64(HPC 分支 MI430X)288 TFLOPS(硬件 FP64)MI300X 约 163 TFLOPS面向科学计算

2.4 MI455X vs MI355X 代际提升(AMD 自测口径)

AMD 在 AAI2026 上披露:相较 MI355X,MI455X 单卡 FP4 算力约 翻倍,单卡 HBM 容量 +50%,单卡内存带宽约 +2.9×;机架级 tokens/$ 提升 ~34×(AMD 内部测试,对照基准 AMD 自家 MI355XNVIDIA Rubin NVL72)。

【图述 2】 MI455X 封装剖面渲染图:剖开 OAM 散热顶盖后,可见 1 颗中央 IOD(I/O Die,N3P)、周围 4 颗 XCD 计算芯粒(2 nm)、边缘 12 颗 HBM4 堆叠(呈"花瓣状"环绕 IOD),底部为 interposer 与 PCIe 6.0 / UALink 物理层。图中标注:320 B transistors、12-Hi HBM4 432 GB、23.3 TB/s
来源(转述自画面):https://www.amd.com/en/products/accelerators/instinct/mi400.html

代际提升速览:FP4 +2× / HBM +50% / 带宽 +2.9×;代际口径以 AMD 官方产品页与 DCD、TechPowerUp 报道为准。

2.5 推理经济性原则(AMD 内部测试)

AMD 自测口径(与 Rubin NVL72 比较):

⚠️ 以上两个数字均来自 AMD 内部测试 / 自定 baseline,未给出完整测试配置(模型、batch size、解码长度、量化方案),需结合第三方 Semianalysis / TrendForce 实测后再下结论。NVIDIA 则反指其 Rubin 在 FP4 推理上保持领先。两家互引自测是 2026 年的标准舆论战。

三、6th Gen EPYC "Venice"(9006 系列)

3.1 核心规格

3.2 vs NVIDIA Vera(88C Arm)

【图述 3】 EPYC Venice 旗舰 die shot:多颗 2 nm CCD 围绕中央双 sIOD 排布,边缘为 DDR5 通道 PHY 阵列。可见 12 条纵向 DDR5 走线(每侧 6 条 × 双 sIOD),面积远大于 Turin。
【图述 4】 NVIDIA Vera die shot:88 核 Olympus 单片式(monolithic)计算 die,搭配 LPDDR5X 控制器与 PCIe 6.4 PHY,164 MB 统一 L3 横贯 die 中央。
维度EPYC Venice 9996NVIDIA Vera说明
核心 / 线程256C / 512T88C / 176T(SMT-X 空间多线程)Venice 吞吐优势
内存DDR5 16ch,~1.6 TB/sLPDDR5X,~1.2 TB/sVenice 带宽略胜
单核性能AMD 声称 +20% vs Vera(自测 SPEC)NVIDIA 自称 SPEC 925 vs 898(int)互引
指令集x86-64(Zen 6)Armv9.2(Olympus 自研)生态差异
I/OPCIe 6.0、UCIePCIe 6.4、双插槽 176 laneVera 略新
总吞吐AMD 称 2.2× vs Vera(机架负载)互引自测

判断:在 横向吞吐 / 容器密度 / 通用云负载 上 Venice 占优;在 单核延迟 / agent 控制循环 / RL 编排 等"控制类"负载上 Vera 凭借 Arm 自定义核与高单核性能具备优势。两者设计目标本不同——Venice 是"通用 x86 主机 + PCIe 6 拉 4 颗 GPU",Vera 是"与 Rubin 紧耦合的 NVLink 控制平面"。

四、AMD Helios 机架级系统

4.1 形态与算力

【图述 5】 Helios 机架渲染图(双宽 ORW 标准机架):左侧 18 个计算托盘整齐排列,每托盘可见 1 颗 Venice(带大尺寸散热翅片)与 4 颗 MI455X(OAM 模块垂直插入),顶部走冷板液冷管路;右侧 6 个交换托盘装载 Broadcom Tomahawk 6 ASIC(共 12 颗 102.4 Tbps ASIC);前后分区供电(PSU)与 Pensando Salina DPU。机架上方标注总功耗约 230 kW。图中可读关键数字:72× MI455X / 18× Venice / 31TB HBM4 / 2.9 EFLOPS FP4 / 260 TB/s UALoE
来源(转述自画面):https://www.amd.com/en/products/rackscale-solutions/helios.html

4.2 网络 / 互联

AMD 自述:相比现成方案,自研 Vulcano 800G AI NIC 让 scale-out 成本降低约 1/3,scale-out 带宽比竞品高约 50%,由此带来 LLM 训练效率约 +13%(AMD 内部测试)。
【图述 6】 Helios 计算托盘特写:单托盘 1 颗 EPYC Venice(中央大块散热片)+ 4 颗 MI455X OAM(右侧 4 块绿色 PCB),每 GPU 上方有 3 块 Vulcano 800G AI NIC,PCIe 6.0 走线清晰;左下角标注 "1 CPU + 4 GPU + 3× NICs" 拓扑。
来源(转述自画面):https://www.techpowerup.com/351007/amd-advancing-ai-2026-pensando-salina-dpu-and-vulcano-ai-nic-power-helios-networking

4.3 软件栈

4.4 客户与部署

客户规模时间形态
OpenAI1 GW(首阶段,MI450 系列)2026 H2 启动Helios(MI455X + Venice + Pensando)
Anthropic2 GW(首阶段 1 GW)2027 H1 启动Helios + ROCm + Pensando
Microsoft Azure未披露 GW 数(ND MI455X v7 VM)2026 H2 上线Helios 内嵌 Azure 数据中心
MetaORW 机架标准共建 + 自用2026 H2+Helios 参考设计兼容 Meta 内部部署
Oracle Cloud已签 OCI 部署2026 H2+Helios + ROCm

五、与 NVIDIA Vera Rubin NVL72 同代对比

下表把 AMD Helios / MI455X / Venice 与 NVIDIA Vera Rubin NVL72 / Rubin GPU / Vera CPU 的关键硬参数并列。所有"对照基准"项均注明出处与立场。NVIDIA Vera Rubin NVL72 已于 CES 2026 公开、Q1 2026 量产,OEM 出货 H2 2026

44 OU ORW 双宽(OCP)
维度 AMD Helios / MI455X / Venice NVIDIA Vera Rubin NVL72 / Rubin GPU / Vera CPU 备注 / 出处
GPU 数 / 机架7272(Rubin)持平
CPU 数 / 机架18 × EPYC Venice(256C Zen 6)36 × Vera(88C Arm)AMD 单核少、密度低;NV 单机柜 CPU 翻倍
单卡 HBM432 GB HBM4288 GB HBM4AMD +50%
单卡带宽23.3 TB/s22 TB/s(HBM4)AMD 略胜
单卡 FP4(峰值)40 PFLOPS MXFP4~50 PFLOPS NVFP4(含 Transformer Engine 稀疏)NV +25%(峰值口径)
单卡 FP820 PFLOPS MXFP8约 35 PFLOPS(dense FP4/FP8 等价口径)口径不同,详见脚注 ¹
机架 FP4 总算力2.9 EFLOPS MXFP4~3.6 EFLOPS NVFP4AMD 官方 vs NV 官方,NV 领先
机架 FP8 总算力1.4 EFLOPS MXFP81.26 EFLOPS dense FP8 / 3.6 EFLOPS FP4NV 在 FP4 推理占优
机架 HBM 容量31 TB HBM420.7 TB HBM4AMD +50%
机架内存带宽~1.67 PB/s1.6 PB/s基本持平
Scale-up 互联UALoE 260 TB/s(Ultra Ethernet + UALink)NVLink 6 260 TB/s(约 22 TB/s/GPU)带宽持平,架构差异显著:AMD 走开放以太网 + UALink;NV 走专有 NVLink Switch
Scale-out 互联Pensando Vulcano 800G ×3/GPU(2.4 Tbps/GPU)ConnectX-9 / BlueField-4(PCIe Gen 6,等量级)相当
DPU / 智能网卡Pensando Salina(200G)+ Vulcano 800G AI NICBlueField-4 DPU + ConnectX-9双方均为自研
交换 ASICBroadcom Tomahawk 6 ×12(102.4 Tbps/ASIC)NVLink 6 Switch(专有)开放 vs 专有
机架功耗225–245 kW(液冷)~270 kW(液冷)AMD 略低
机架外形专有 Oberon / Kyber 兼容机架AMD 走开放机架
制程XCD 2 nm + IOD N3PRubin GPU TSMC N3(336B transistors)AMD 节点领先;NVIDIA 下代 Feynman 才转 N2
晶体管 / GPU320 B336 BNV 多 5%
CPU256C Zen 6 x86,DDR5 16ch,1.6 TB/s88C Olympus Arm(Armv9.2),LPDDR5X,1.2 TB/s场景不同:Venice 通用 x86、Vera 控制平面
软件栈ROCm 7 + ROCm.ai + Gorgon Halo(开放)CUDA + TensorRT + NIM(专有生态)NV 生态成熟度大幅领先
量产节奏2026 Q3 末首批出货 / H2 大量出货Q1 2026 量产 / H2 2026 OEM 大量出货NV 已量产一个季度
机架估价$5.0–5.5 M / 机架(行业估)$4.0–4.5 M / 机架(行业估,待证)AMD 偏高 ~25%
tokens / $AMD 称 +30% vs Rubin NVL72(AMD 内部测试)NV 称 FP4 推理 领先(NVIDIA 自测)双方互引自测
开放性ORW / UALoE / Ultra Ethernet / ROCm 7专有 NVLink / NVLink Switch / CUDA / NIMAMD 主打"开放"

脚注 ¹:NVIDIA 在 FP4 推理上同时给出 "dense 35 PFLOPS" 与 "含 Transformer Engine 稀疏 ~50 PFLOPS" 两套口径,AMD 仅给出 MXFP4 一套峰值口径;二者不应直接相减,应对齐 sparsity / sparsity-free 与 dense FP4 / NVFP4 各自基准。

六、结论与采购视角判断

6.1 AMD 的差异化

6.2 NVIDIA 的壁垒

6.3 采购视角:何时选 Helios / 何时选 Rubin

选 Helios 的场景
• >200B 参数推理、长上下文 / MoE 大 KV cache 占用
• 已绑定 x86 主机生态(VMWare / KVM / 通用 Linux)
• 希望避开 CUDA 锁定、采用 ROCm / Triton / vLLM 开放栈
• TCO 敏感、需要 Ultra Ethernet 等多供应商交换机
• 已在 Azure / OCI 的客户,可走 Helios VM 快速接入
选 Rubin NVL72 的场景
• 大规模 MoE / dense 模型训练(>1T 参数)
• 已有 CUDA / TensorRT / NeMo 深度优化栈
• 需要 NVLink 高带宽 + Transformer Engine 稀疏推理
• 已签 Azure / AWS / GCP 的 NVIDIA 实例
• 对"量产稳定性 / 软件兼容性"敏感于"极致 TCO"

6.4 战略判断

AAI2026 是 AMD 从"GPU 供应商"走向"AI 机架供应商"的分水岭。Helios 不是单一产品,而是 参考设计 + 生态联盟 + GW 级订单 的组合拳。真正的胜负手不在 HBM 多 144 GB 或单卡 FP4 多 10 PFLOPS,而在于:

  1. ROCm 7 + UALoE 能否在 12 个月内把 vLLM / SGLang / Triton / Llama.cpp 的"开箱即用"体验追平 CUDA 9 成以上;
  2. Anthropic / OpenAI / Meta / Azure 是否真把 Helios 推到 GW 级生产负载(而非 PoC);
  3. NVIDIA Rubin 在 2026 H2 的 实际出货量 与 Vera CPU 单核性能能否守住机架级推理领先;
  4. Intel 2027 年 Granite Rapids / Diamond Rapids 与 NVIDIA Feynman(2 nm)是否会在 2027 末再次搅局。

信源清单

一手 / 官方

一手 / 电子工程与分析师

未证实 / 待核实项

附录:19 张 Helios 机架实拍图集(来源:半导体行业观察)

本节图集来自微信公众号"半导体行业观察"2026-07-23 推文《19 张图看懂 AMD Helios 机架》(原文链接:mp.weixin.qq.com/s/Vhp3NNUUqajvD6_FgbrQxg)。原始图片已抓取并落盘到本服务器 /share/helios-imgs/,下图为本地副本(去除原文水印干扰),便于长期存档。原图中部分画面重复,去重后保留 15 张唯一画面。所有配图仅基于视觉内容(机柜结构、部件排布、文字标牌)做识别,未做主观解读。

图集使用说明