2026 年 5 月，英伟达在投资人会议上正式公布 Rubin CPX。这不是一颗普通 GPU，而是一颗专门为长上下文推理的预填充（Prefill）阶段设计的专用芯片。

为什么是预填充？因为大模型推理分两步：Prefill 处理整段输入生成 KV Cache，Decode 阶段逐 Token 生成输出。Prefill 阶段是计算密集型（吃 FLOPS），Decode 阶段是带宽密集型（吃 HBM 容量和带宽）。Rubin CPX 只做 Prefill。

这不是临时起意。长上下文推理正在成为 2026 年 AI 应用的主战场——100 万 Token 起步的代码仓库分析、整本 PDF 的合规审查、几小时音视频的内容总结，这些场景的 Prefill 阶段能吃掉整张 GPU 90% 的算力。

一、Rubin CPX 在解决什么问题

传统 GPU 设计追求「通吃」：训练、推理、Prefill、Decode 全部一把梭。代价是每项都不极致。

Rubin CPX 的设计哲学是「专精」：把 Prefill 阶段吃满，剩下的交给其他芯片。具体看几个关键参数：

• FP4 算力：预计比 B200 提升一个数量级
• HBM 容量：单卡 128GB 以上（专为大上下文 KV Cache 设计）
• NVLink 互联：6 颗 Rubin CPX 加 1 颗 Rubin GPU 组成一个 Rack Scale 单元

英伟达把这种架构叫 Context Memory Compute Architecture——把 Prefill 拆出来做专用芯片，Decode 留给通用 GPU，中间用 NVLink Switch 互联。

二、推理市场为什么突然变天

2025 年底到 2026 年，AI 算力市场出现一个明显的拐点：训练算力增长放缓，推理算力爆发。

驱动这个拐点的是三件事：

第一，模型训练收敛。GPT-5、Claude 4、Gemini 3 这些旗舰模型的预训练阶段，参数规模和数据量已经接近边际收益拐点。继续堆参数不如精修推理。

第二，Agent 应用爆发。一个 Agent 任务可能调用 50 个工具、跑 10 轮对话、消耗 100 万 Token。Agent 应用的 Token 消耗是聊天场景的几十倍甚至上百倍。

第三，长上下文成为标配。100 万 Token 已经是基础门槛，500 万 Token 正在实验。上下文越长，Prefill 阶段的算力消耗呈超线性增长——传统 GPU 的瓶颈就在这里。

三、Rubin CPX 的对手是谁

英伟达不是唯一看到推理市场机会的厂商。

AMD MI455X：2026 年 CES 发布，432GB HBM4、2nm 工艺，主打机架级互联。它走的是通用路线，不是专用 Prefill 路线。MI455X 试图用单芯片大容量的方式解决长上下文问题。

Groq LPU：纯推理专用芯片，推理延迟是 GPU 的 1/10。但 LPU 生态封闭，模型移植成本高。2026 年初 Groq 拿到 6.4 亿美元融资，估值 46 亿美元，主攻超低延迟推理。

Cerebras、Tenstorrent、SambaNova：这三家都在做 wafer-scale chip，单芯片集成更多算力。但生态兼容性和软件成熟度是短板。

英伟达的策略很清楚：不做单芯片颠覆，做系统级整合。Rubin CPX + Rubin GPU + NVLink Switch + BlueField DPU，整套打包卖。单卡竞争打不过，那就卖机架。

四、对开发者的影响

Rubin CPX 这种专用芯片，对一线 AI 开发者来说意味着什么？

第一，推理部署成本结构变化。以前按 Token 计费，未来可能按 Prefill 步数 + Decode 步数分开计费。对长上下文应用来说，单 Token 成本可能下降 50% 以上。

第二，框架适配工作量增加。vLLM、TGI、SGLang 这些推理框架要适配新硬件，NVLink 互联、混合调度、KV Cache 共享都是新课题。

第三，硬件选型成为新技能。AI 工程师不再只关心「用哪家的 GPU」，还要关心「训练用什么、Prefill 什么、Decode 什么、KV Cache 缓存什么」。全栈视角成为标配。

五、机架级军备竞赛的开始

Rubin CPX 的真正信号不是单芯片，而是机架级架构的全面普及。

2026 年 6 月，Vera Rubin 平台正式量产后，英伟达会卖的不是 GPU，是集成机柜。一个标准机柜集成 6 颗 Rubin CPX + 1 颗 Rubin GPU + NVLink Switch 矩阵 + BlueField DPU，功耗超过 100kW。

AMD 的 MI455X 走的是同样路线，单个 MI455X Rack Scale 单元集成 72 颗 GPU。

AI 算力竞争从单卡性能转向机架级吞吐，从 FLOPS 转向 HBM 容量、互联带宽、整机功耗。每一项都是几十亿美元级别的赌注。

这就是 2026 年 AI 硬件的真相：芯片公司变成系统公司，算力买卖从零售变批发。

---

关键数字：

• Rubin CPX：长上下文 Prefill 专用 GPU
• 单卡 HBM 容量：128GB+（专注 KV Cache）
• 配套架构：6 颗 CPX + 1 颗 Rubin GPU 组成 Rack
• 友商对照：AMD MI455X 432GB HBM4 / Groq LPU 延迟 1/10
• 拐点信号：训练算力放缓，推理算力爆发

---

← Back to blog