2026年3月16日，英伟达GTC 2026大会正式开幕，英伟达(NVDA.US)创始人兼CEO黄仁勋发表了主题演讲。

在这场被视为“AI行业年度朝圣”的大会上，黄仁勋阐述了英伟达从一家“芯片公司”向“AI基础设施和工厂公司”的蜕变。面对市场最关心的业绩持续性与增长空间问题，黄仁勋详细拆解了驱动未来增长的底层商业逻辑——“Token工厂经济学”。

业绩指引极度乐观，“2027年至少1万亿美元的需求”

过去两年，全球AI计算需求呈指数级爆炸。随着大模型从“感知”、“生成”进化到“推理”与“行动(执行任务)”，算力的消耗量急剧攀升。针对市场高度关注的订单与营收天花板，黄仁勋给出了极为强劲的预期。

黄仁勋在演讲中直言：

去年这个时候，我说过，我们看到了5000亿美元的高确信度需求，覆盖Blackwell和Rubin直到2026年。现在，就在此时此地，我看到到2027年至少有1万亿美元的需求(at least $1 trillion)。

黄仁勋的万亿预期一度推动英伟达股价涨超4.3%。

不仅如此，他更是对这一数字做出了补充：

这合理吗?这就是我接下来要讲的。事实上，我们甚至会供不应求。我确定，实际的计算需求会比这高得多。

黄仁勋指出，如今的英伟达系统已经证明了自己是全球“成本最低的基础设施”。由于英伟达能运行几乎所有领域的AI模型，这种通用性使得客户投入的这1万亿美元能够被充分利用并保持长久的生命周期。

目前，英伟达60%的业务来自排名前五的超大型云服务商，而另外40%的业务则广泛分布于主权云、企业、工业、机器人和边缘计算等各个领域。

Token工厂经济学，每瓦性能决定商业命脉

为了解释这1万亿需求的合理性，黄仁勋向全球企业CEO展示了一套全新的商业思维。他指出，未来的数据中心不再是存储文件的仓库，而是生产Token(AI生成的基本单位)的“工厂”。

黄仁勋强调：

每一座数据中心、每一座工厂，从定义上来说都是受电力限制的。一座1GW(吉瓦)的工厂永远不会变成2GW，这是物理和原子的定律。在固定的功率下，谁的每瓦Token吞吐量最高，谁的生产成本就最低。

黄仁勋将未来的AI服务分为四个商业层级：

免费层(高吞吐、低速度)

中级层(~每百万token 3美元)

高级层(~每百万token 6美元)

高速层(~每百万token 45美元)

超高速层(~每百万token 150美元)

他指出，随着模型越来越大、上下文越来越长，AI会变得更聪明，但Token的生成速率会降低。黄仁勋表示：

在这个Token工厂里，你的吞吐量和Token生成速度，将直接转化为你明年的精确收入。

黄仁勋强调英伟达的架构能够让客户在免费层实现极高的吞吐量，同时在最高价值的推理层级上，将性能提升惊人的35倍。

Vera Rubin两年实现350倍加速，Groq填补极速推理

在这个物理极限的约束下，英伟达介绍其有史以来最复杂的AI计算系统，Vera Rubin。黄仁勋表示：

过去提到Hopper，我会举起一块芯片，那很可爱。但提到Vera Rubin，大家想到的是整个系统。在这个100%液冷、完全消灭了传统线缆的系统中，过去需要两天安装的机架，现在只需两小时。

黄仁勋指出，通过极致的端到端软硬件协同设计，Vera Rubin在同一座1GW数据中心里创造了惊人的数据跨越：

在短短两年时间内，我们将Token的生成速率从2200万提升到了7亿，实现了350倍的增长。摩尔定律在同时期仅能带来约1.5倍的提升。

为了解决极速推理(如1000 Tokens/秒)条件下的带宽瓶颈，英伟达给出了整合被收购公司Groq的最终方案：非对称式的分离推理。黄仁勋解释：

这两款处理器的特点截然不同。Groq芯片拥有500MB的SRAM，而一颗Rubin芯片拥有288GB的内存。

黄仁勋指出，英伟达通过Dynamo软件系统，将需要海量计算和显存的“预填充(Pre-fill)”阶段交给Vera Rubin，将对延迟极度敏感的“解码”阶段交给Groq。黄仁勋还对企业算力配置给出了建议：

如果你的工作主要是高吞吐，100%使用Vera Rubin;如果你有大量高价值的编程级别的Token生成需求，拿出25%的数据中心规模给Groq。

据透露，由三星代工的Groq LP30芯片已在量产，预计第三季度出货，而首个Vera Rubin机架已在微软Azure云上运行。

此外，针对光互联技术，黄仁勋展示了全球首款量产的共封装光学(CPO)交换机Spectrum X，并平息了市场对于“铜退光进”的路线之争：

我们需要更多的铜缆产能，更多的光芯片产能，更多的CPO产能。

Agent终结传统SaaS，“年薪+Token”成硅谷标配

除了硬件壁垒，黄仁勋把大量篇幅留给了AI软件和生态的革命，特别是Agent(智能体)的爆发。

他将开源项目OpenClaw形容为“人类历史上最受欢迎的开源项目”，称其仅用几周时间就超越了Linux在过去30年取得的成就。黄仁勋直言，OpenClaw本质上就是Agent计算机的“操作系统”。

黄仁勋断言：

每一个SaaS(软件即服务)公司都将变成AaaS(Agent-as-a-Service，智能体即服务)公司。毫无疑问，为了让这种具备访问敏感数据和执行代码能力的智能体安全落地，英伟达推出了企业级的NeMo Claw参考设计，增加了策略引擎和隐私路由器。

对于普通职场人，这场变革同样近在咫尺。黄仁勋描绘了未来的职场新形态：

在未来，我们公司的每一位工程师都需要一个年度Token预算。他们的基础年薪可能是几十万美元，我会在此基础上再拿出大约一半的金额作为Token额度给他们，让他们实现10x的效率提升。这已经是硅谷的新招聘筹码了：你的offer里带多少Token?

演讲最后，黄仁勋还“剧透”了下一代计算架构Feynman，它将首次实现铜线与CPO的共同水平扩展。更引人遐想的是，英伟达正在研发部署在太空的数据中心计算机“Vera Rubin Space-1”，彻底打开了AI算力向地球之外延伸的想象空间。

黄仁勋GTC 2026演讲全文，全文翻译如下：

主持人： 欢迎英伟达创始人兼首席执行官黄仁勋上台。

黄仁勋，创始人兼首席执行官：

欢迎来到GTC。我想提醒大家，这是一场技术大会。能看到这么多人一大早排队入场，能看到在座的各位，我感到非常高兴。

在GTC，我们将聚焦三大主题：技术、平台和生态系统。英伟达目前拥有三大平台：CUDA-X平台、系统平台，以及我们最新推出的AI工厂平台。

在正式开始之前，我要感谢我们的预热环节主持人——Conviction的Sarah Guo、红杉资本的Alfred Lin(英伟达的第一位风险投资人)，以及英伟达的第一位主要机构投资人Gavin Baker。这三位对技术有深刻的洞见，在整个技术生态系统中拥有极广的影响力。当然，我还要感谢今天所有我亲自邀请出席的贵宾们。感谢这支全明星团队。

我同样要感谢今天到场的所有企业。英伟达是一家平台公司，我们拥有技术、平台和丰富的生态系统。今天到场的企业代表了价值100万亿美元行业中几乎全部的参与者，共有450家公司赞助了本次活动，在此深表感谢。

本次大会共设有1,000场技术论坛、2,000位演讲嘉宾，将覆盖人工智能"五层蛋糕"架构的每一个层级——从土地、电力与机房等基础设施，到芯片、平台、模型，以及最终推动整个行业腾飞的各类应用。

CUDA：二十年的技术积淀

一切的起点，就在这里。今年是CUDA诞生二十周年。

二十年来，我们始终致力于这一架构的研发。CUDA是一项革命性的发明——SIMT(单指令多线程)技术允许开发者以标量代码编写程序，并将其扩展为多线程应用，其编程难度远低于此前的SIMD架构。我们最近还新增了Tiles功能，帮助开发者更便捷地编程张量核心(Tensor Core)，以及当今人工智能所依赖的各类数学运算结构。目前，CUDA已拥有数千种工具、编译器、框架和库，在开源社区中存在数十万个公开项目，并已深度集成到每一个技术生态系统之中。

这张图表揭示了英伟达100%的战略逻辑，我从最初就一直在讲这张幻灯片。其中最难实现、也是最核心的要素，是图表底部的"装机量"。历经二十年，我们已在全球范围内积累了数亿块运行CUDA的GPU和计算系统。

我们的GPU覆盖所有云平台，服务于几乎所有计算机厂商和行业。CUDA庞大的装机量，正是这个飞轮不断加速的根本原因。装机量吸引开发者，开发者创造新算法并取得突破，突破催生全新市场，新市场形成新生态并吸引更多企业加入，进而扩大装机量——这个飞轮正在持续加速。

英伟达库的下载量正以惊人的速度增长，规模庞大且增速不断提升。这个飞轮使我们的计算平台能够支撑海量应用和层出不穷的新突破。

更重要的是，它还赋予了这些基础设施极长的使用寿命。原因显而易见：NVIDIA CUDA上可运行的应用极为丰富，涵盖AI生命周期的每个阶段、各类数据处理平台，以及各种科学原理求解器。因此，一旦安装了英伟达GPU，其实际使用价值极高。这也是为何我们六年前发布的Ampere架构GPU，其云端价格反而在上涨。

这一切的根本原因在于：装机量庞大，飞轮强劲，开发者生态广泛。当这些因素共同发挥作用，加之我们持续更新软件，计算成本便会不断下降。加速计算在大幅提升应用性能的同时，随着我们长期维护和迭代软件，用户不仅能在初期获得性能跃升，还能持续享受计算成本的下降。我们愿意为全球每一块GPU提供长期支持，因为它们在架构上完全兼容。

我们之所以愿意这样做，是因为装机量如此庞大——每发布一次新的优化，便能惠及数百万用户。这种动态组合，使得英伟达架构在持续扩大覆盖范围、加速自身成长的同时，不断压低计算成本，最终刺激新的增长。CUDA是这一切的核心。

从GeForce到CUDA：二十五年的演进之路

而我们与CUDA的旅程，实际上早在二十五年前就已开始。

GeForce——相信在座有很多人是伴随着GeForce长大的。GeForce是英伟达最成功的市场推广项目。我们从你们还买不起产品的时候就开始培养未来的客户——是你们的父母代替你们成为了英伟达最早的用户，年复一年地购买我们的产品，直到有一天，你们成长为优秀的计算机科学家，成为真正意义上的客户和开发者。

这是二十五年前GeForce奠定的基业。二十五年前，我们发明了可编程着色器——这是让加速器实现可编程化的一项显而易见却意义深远的发明，也是世界上第一款可编程加速器，即像素着色器。这五年后，我们创造了CUDA——这是我们有史以来最重要的投资之一。当时公司财力有限，但我们将绝大部分利润押注于此，致力于将CUDA从GeForce延伸到每一台计算机。我们之所以如此坚定，是因为我们深信其潜力。尽管初期历经艰辛，公司坚守这一信念长达13代、整整二十年，如今CUDA已无处不在。

正是像素着色器推动了GeForce的革命。而大约八年前，我们推出了RTX——为现代计算机图形时代对架构进行了全面革新。GeForce将CUDA带给了全世界，也正因如此，让Alex Krizhevsky、Ilya Sutskever、Geoffrey Hinton、Andrew Ng等众多学者发现，GPU可以成为加速深度学习的利器，由此点燃了十年前人工智能的大爆炸。

十年前，我们决定将可编程着色与两个全新理念相融合：一是硬件光线追踪(Ray Tracing)，这在技术上极具挑战;二是一个当时颇具前瞻性的想法——大约十年前，我们就预见到AI将彻底变革计算机图形。正如GeForce将AI带给了全世界，AI如今也将反过来重塑整个计算机图形的实现方式。

今天，我要向大家展示未来。这是我们的下一代图形技术，我们称之为神经渲染(Neural Rendering)——3D图形与人工智能的深度融合。这就是DLSS 5，请看。

神经渲染：结构化数据与生成式AI的融合

这是不是令人叹为观止?计算机图形就此焕发生机。

我们做了什么?我们将可控的3D图形(虚拟世界的真实基础)与其结构化数据相结合，再融入生成式AI和概率计算。一个完全确定性，另一个概率性却高度逼真——我们将这两种理念融为一体，通过结构化数据实现精准可控，同时进行实时生成。最终，内容既美观惊艳，又完全可控。

结构化信息与生成式AI融合这一理念，将在一个又一个行业中不断复现。结构化数据是可信AI的基石。

结构化数据与非结构化数据的加速平台

现在我要带大家看一张技术架构图。

结构化数据——大家熟悉的SQL、Spark、Pandas、Velox，以及Snowflake、Databricks、Amazon EMR、Azure Fabric、Google BigQuery等重要平台，都在处理数据框(Data Frame)。这些数据框就像巨型电子表格，承载着商业世界的全部信息，是企业计算的基本事实(Ground Truth)。

在AI时代，我们需要让AI来使用结构化数据，并对其实现极致加速。过去，加速结构化数据处理是为了让企业更高效地运转。而未来，AI将以远超人类的速度使用这些数据结构，AI智能体也将大量调用结构化数据库。

非结构化数据方面，向量数据库、PDF、视频、音频等构成了世界上绝大多数的数据形态——每年生成的数据中，约90%是非结构化数据。过去，这些数据几乎完全无法被利用：我们读取它们，存入文件系统，仅此而已。我们无法查询，也难以检索，原因在于非结构化数据缺乏简单的索引方式，必须理解其含义与语境。而现在，AI可以做到这一点——借助多模态感知与理解技术，AI能够读取PDF文档、理解其含义，并将其嵌入可供查询的更大结构之中。

英伟达为此创建了两个基础库：

cuDF：用于数据框、结构化数据的加速处理

cuVS：用于向量存储、语义数据和非结构化AI数据的处理这两个平台将成为未来最重要的基础平台之一。

今天，我们宣布与多家企业达成合作。IBM——SQL语言的发明者，将使用cuDF加速其WatsonX Data平台。Dell与我们联合打造了Dell AI数据平台，整合cuDF与cuVS，并在NTT Data的实际项目中实现了大幅性能提升。Google Cloud方面，我们现在不仅加速Vertex AI，还加速BigQuery，并与Snapchat合作将其计算成本降低了近80%。

加速计算带来的好处是三位一体的：速度、规模、成本。这与摩尔定律的逻辑一脉相承——通过加速计算实现性能飞跃，同时持续优化算法，让所有人都能享受到持续下降的计算成本。

英伟达构建了加速计算平台，其上汇聚了众多库：RTX、cuDF、cuVS等等。这些库整合进全球云服务和OEM体系，共同触达全球用户。

与云服务商的深度合作

与主要云服务商的合作

Google Cloud：我们加速Vertex AI和BigQuery，与JAX/XLA深度集成，同时在PyTorch上表现卓越——英伟达是全球唯一一家在PyTorch和JAX/XLA上均表现出色的加速器。我们将Base10、CrowdStrike、Puma、Salesforce等客户引入Google Cloud生态。

AWS：我们加速EMR、SageMaker和Bedrock，与AWS有着深度集成。今年令我格外兴奋的是，我们将把OpenAI引入AWS，这将大幅推动AWS云计算的消耗增长，帮助OpenAI扩展区域部署和计算规模。

Microsoft Azure：英伟达100 PFLOPS超算是我们构建的第一台超级计算机，也是第一台部署在Azure上的超算，这奠定了与OpenAI合作的重要基础。我们加速Azure云服务和AI Foundry，合作推进Azure区域扩展，并在Bing搜索上深度协作。值得一提的是，我们的**保密计算(Confidential Computing)**能力——确保即便是运营商也无法查看用户数据和模型——英伟达GPU是全球首批支持保密计算的GPU，可支持OpenAI和Anthropic模型在全球各地区云环境中的保密部署。以Synopsys为例，我们加速其全部EDA和CAD工作流，并部署于Microsoft Azure。

Oracle：我们是Oracle的第一个AI客户，我为能够第一次向Oracle解释AI云的概念感到自豪。此后他们发展迅猛，我们也为其引入了Cohere、Fireworks、OpenAI等众多合作伙伴。

CoreWeave：全球第一家AI原生云，专为GPU托管和AI云服务而生，拥有出色的客户群，增长势头强劲。

Palantir + Dell：三方联合打造了全新的AI平台，基于Palantir的本体论平台(Ontology Platform)和AI平台，可在任何国家、任何气隙隔离环境下、完全本地化地部署AI——从数据处理(向量化或结构化)到AI的完整加速计算栈，无所不包。

英伟达与全球云服务商建立了这种特殊的合作关系——我们将客户引入云端，这是一种互利共赢的生态。

垂直整合，横向开放：英伟达的核心战略

英伟达是全球第一家垂直整合、横向开放的公司。

这一模式的必要性非常简单：加速计算不是芯片问题，也不是系统问题，其完整表述应为应用加速。CPU可以让计算机整体运行得更快，但这条路已走到瓶颈。未来，唯有通过应用或领域特定的加速，才能持续带来性能飞跃和成本下降。

这正是英伟达必须深耕一个又一个库、一个又一个领域、一个又一个垂直行业的原因。我们是一家垂直整合的计算公司，没有其他路可走。我们必须理解应用，理解领域，深刻理解算法，并能够将其部署在任何场景下——数据中心、云端、本地、边缘乃至机器人系统。

同时，英伟达保持横向开放，愿意将技术整合进任何合作伙伴的平台，让全世界都能享受到加速计算的红利。

本届GTC的参会者结构充分体现了这一点。本次参会者中，金融服务行业的比例最高——希望来的是开发者，不是交易员。我们的生态系统覆盖了上游和下游供应链。无论是成立50年、70年还是150年的企业，去年都迎来了历史最佳年份。我们正处于某件非常、非常重大的事情的起点。

CUDA-X：各行业的加速计算引擎

在各个垂直领域，英伟达均已深度布局：

自动驾驶：覆盖范围广泛，影响深远

金融服务：量化投资正从人工特征工程转向超级计算机驱动的深度学习，迎来其"Transformer时刻"

医疗健康：正在迎来属于自己的"ChatGPT时刻"，涵盖AI辅助药物发现、AI智能体支持诊断、医疗客服等方向

工业：全球规模最大的建设浪潮正在展开，AI工厂、芯片厂、数据中心厂纷纷落地

娱乐与游戏：实时AI平台支持翻译、直播、游戏互动，以及智能购物代理

机器人：深耕十余年，三大计算机架构(训练计算机、仿真计算机、机载计算机)齐备，本次展会共有110款机器人亮相

电信：约2万亿美元规模的行业，基站将从单一通信功能演进为AI基础设施平台，相关平台名为Aerial，与诺基亚、T-Mobile等企业均有深度合作以上所有领域的核心，正是我们的CUDA-X库——这是英伟达作为算法公司的根本所在。这些库是公司最核心的资产，让计算平台得以在各个行业发挥实际价值。

其中最重要的库之一，是cuDNN(CUDA深度神经网络库)，它彻底革新了人工智能，引发了现代AI的大爆炸。

(播放CUDA-X演示视频)

大家刚才看到的一切都是仿真——包括基于物理原理的求解器、AI代理物理模型，以及物理AI机器人模型。一切均为仿真，没有任何手工动画或关节绑定。这正是英伟达的核心能力所在：通过对算法的深刻理解与计算平台的有机结合，解锁这些机遇。

AI原生企业与新计算时代

你们刚才看到了沃尔玛、欧莱雅、摩根大通、罗氏、丰田等定义当今社会的行业巨头，也有一大批大家从未听说过的公司——我们称之为AI原生企业。这份名单极为庞大，里面有OpenAI、Anthropic，以及众多服务于不同垂直领域的新兴企业。

过去两年，这一行业经历了惊人的腾飞。风险投资流入初创企业的资金规模达到1,500亿美元，创人类历史之最。更重要的是，单笔投资规模首次从数百万美元跃升至数亿乃至数十亿美元。原因只有一个：这是史上第一次，每一家此类公司都需要大量计算资源和大量token。这个行业正在创造、生成token，或者为来自Anthropic、OpenAI等机构的token增值。

正如PC革命、互联网革命、移动云革命各自孕育出一批划时代的企业，这一代计算平台变革同样将诞生一批极具影响力的公司，成为未来世界的重要力量。

推动这一切的三大历史性突破

过去两年究竟发生了什么?三件大事。

第一：ChatGPT，开启生成式AI时代(2022年底至2023年)

它不仅能感知和理解，还能生成独特内容。我展示了生成式AI与计算机图形的融合。生成式AI从根本上改变了计算的方式——计算从检索式转变为生成式，这深刻影响着计算机架构、部署方式和整体意义。

第二：推理AI(Reasoning AI)，以o1为代表

推理能力使AI能够自我反思、规划、分解问题——将它无法直接理解的问题拆解为可处理的步骤。o1让生成式AI变得可信，能够依据真实信息进行推理。为此，输入context的token量和用于思考的输出token量大幅增加，计算量随之显著提升。

第三：Claude Code，首个智能体模型

它能读取文件、编写代码、编译、测试、评估并迭代。Claude Code彻底革新了软件工程——英伟达100%的工程师都在使用Claude Code、Codex和Cursor中的一种或多种，没有一位软件工程师不借助AI助力。

这是一个全新的拐点——你不再是询问AI"是什么、在哪里、怎么做"，而是让它"创建、执行、构建"，让它主动使用工具、读取文件、分解问题、付诸行动。AI从感知，到生成，到推理，再到如今真正能够完成工作。

过去两年，推理所需的计算量增长了约10,000倍，使用量增长了约100倍。我一直认为，过去两年计算需求增长了100万倍——这是所有人的共同感受，是OpenAI的感受，是Anthropic的感受。如果能获得更多算力，就能生成更多token，收入就会提升，AI就会变得更智能。推理拐点已然到来。

万亿美元的AI基础设施时代

去年此时，我在这里表示，我们对Blackwell和Rubin在2026年之前的需求和采购订单有高度信心，规模约为5,000亿美元。今天，在GTC一年之后，我站在这里告诉大家：展望到2027年，我看到的数字至少是1万亿美元。而且我确信，实际的计算需求将远不止于此。

2025：英伟达推理年

2025年是英伟达的推理年(Year of Inference)。我们希望确保，在训练和后训练之外，也能在AI生命周期的每个阶段都保持卓越，使已投资的基础设施能够持续高效运转，且有效使用寿命越长，单位成本越低。

与此同时，Anthropic和Meta正式加入NVIDIA平台，与此共同代表了全球三分之一的AI算力需求。开源模型已接近前沿水平，无处不在。

英伟达是目前全球唯一一个能够运行所有AI领域——语言、生物学、计算机图形、计算机视觉、语音、蛋白质与化学、机器人等——所有AI模型的平台，无论边缘还是云端，无论何种语言。英伟达架构对所有这些场景均具备通用性，这使我们成为成本最低、置信度最高的平台。

目前，英伟达60%的业务来自全球前五大超大规模云服务商，剩余40%遍布区域云、主权云、企业、工业、机器人、边缘计算等各个领域。AI的覆盖广度本身就是其韧性所在——这毫无疑问是一次全新的计算平台变革。

Grace Blackwell与NVLink 72：大胆的架构革新

在Hopper架构还处于鼎盛时期，我们就决定彻底重新架构系统，将NVLink从8路扩展为NVLink 72，对计算系统进行全面分解重构。Grace Blackwell NVLink 72是一次巨大的技术押注，对所有合作伙伴而言都不容易，在此向所有人表示诚挚感谢。

同时，我们推出了NVFP4——不只是普通的FP4，而是一种全新类型的张量核心和计算单元。我们已经证明，NVFP4可以在无精度损失的情况下实现推理，同时带来巨大的性能提升和能效提升，并且同样适用于训练。此外，Dynamo和TensorRT-LLM等一系列新算法相继问世，我们甚至为优化内核而专门投入数十亿美元建造了一台超级计算机，称之为DGX Cloud。

结果证明，我们的推理性能令人瞩目。来自Semi Analysis的数据——这是迄今为止最全面的AI推理性能评测——显示英伟达在每瓦token数和每token成本两个维度上均遥遥领先。原本摩尔定律可能给H200带来1.5倍的性能提升，但我们做到了35倍。Semi Analysis的Dylan Patel甚至说："黄仁勋保守了，实际上是50倍。"他说得没错。

我在此援引他的话："Jensen sandbagged(黄仁勋保守报数)。"

英伟达的每token成本是全球最低，目前无人能及。原因正在于极致协同设计(Extreme Co-design)。

以Fireworks为例，在英伟达更新全套软件和算法之前，其平均token速度约为每秒700个;更新后接近每秒5,000个，提升约7倍。这就是极致协同设计的力量。

AI工厂：从数据中心到token工厂

数据中心过去是存储文件的地方，现在它是生产token的工厂。每一家云服务商、每一家AI公司，未来都将以"token工厂效率"作为核心经营指标。

这是我的核心论点：

纵轴：吞吐量(Throughput)——在固定功率下每秒生成的token数

横轴：交互速度(Token Speed)——每次推理的响应速度，速度越快，可使用的模型越大、context越长，AI越智能token是新的大宗商品，一旦成熟，将分层定价：

免费层(高吞吐、低速度)

中级层(~每百万token 3美元)

高级层(~每百万token 6美元)

高速层(~每百万token 45美元)

超高速层(~每百万token 150美元)与Hopper相比，Grace Blackwell在最高价值层提升了35倍吞吐量，并引入全新层级。以简化模型估算，将25%功率分别分配给四个层级，Grace Blackwell可比Hopper多产生5倍的收入。

Vera Rubin：下一代AI计算系统

(播放Vera Rubin系统介绍视频)

Vera Rubin是一个完整的、端到端优化的系统，专为智能体(Agentic)工作负载设计：

大型语言模型计算核心：NVLink 72 GPU集群，处理前填充(Prefill)和KV Cache

全新Vera CPU：专为极高单线程性能设计，采用LPDDR5内存，兼具卓越能效，是全球唯一使用LPDDR5的数据中心CPU，适合AI智能体工具调用

存储系统：BlueField 4 + CX 9，面向AI时代的全新存储平台，全球存储行业100%加入

CPO Spectrum X交换机：全球首款共封装光学以太网交换机，已全面量产

Kyber机架：全新机架系统，支持144块GPU组成单一NVLink域，前端计算、后端NVLink交换，形成一台巨型计算机

Rubin Ultra：下一代超算节点，竖插式设计，配合Kyber机架，支持更大规模NVLink互联Vera Rubin已100%液冷，安装时间从两天缩短至两小时，采用45°C热水冷却，大幅降低数据中心冷却压力。这次Satya(纳德拉)已发文确认，首台Vera Rubin机架已在微软Azure上线运行，我为此深感振奋。

Groq整合：推理性能的极致延伸

我们收购了Groq团队并获得其技术授权。Groq是一种确定性数据流处理器(Deterministic Dataflow Processor)，采用静态编译和编译器调度，拥有大量SRAM，专为推理单一工作负载优化，具备极低延迟和极高token生成速度。

然而，Groq的内存容量有限(500MB片上SRAM)，难以独立承载大模型的参数和KV Cache，限制了其大规模应用。

解决方案正是Dynamo——一套推理调度软件。我们通过Dynamo将推理管线解聚(Disaggregate)：

**前填充(Prefill)及注意力机制的解码(Decode)**在Vera Rubin上完成(需要大量算力和KV Cache存储)

**前馈网络解码(Feed-Forward Network Decode)**即token生成部分，在Groq上完成(需要极高带宽和低延迟)两者通过以太网紧密耦合，借助特殊模式将延迟减少约一半。在Dynamo这一"AI工厂操作系统"的统一调度下，整体性能提升35倍，并开辟了NVLink 72此前无法触及的全新推理性能层级。

Groq与Vera Rubin的组合建议：

若工作负载以高吞吐为主，使用100% Vera Rubin

若大量工作负载为代码生成等高价值token生成，可引入Groq，建议比例约为25% Groq + 75% Vera RubinGroq LP30由三星代工，目前已进入量产，预计Q3开始出货。感谢三星的全力配合。

推理性能的历史性飞跃

将此前技术进步量化：在2年时间内，1吉瓦AI工厂的token生成速率将从2,200万token/秒提升至7亿token/秒，提升350倍。这就是极致协同设计的力量。

技术路线图

Blackwell：当前在产，Oberon标准机架系统，铜缆扩展至NVLink 72，可选光学扩展至NVLink 576

Vera Rubin(当前)：Kyber机架，NVLink 144(铜缆);Oberon机架，NVLink 72 + 光学，扩展至NVLink 576;Spectrum 6，全球首款CPO交换机

Vera Rubin Ultra(即将推出)：新一代Rubin Ultra GPU，LP35芯片(首次集成NVFP4)，进一步提升数倍性能

Feynman(下一代)：全新GPU，LP40芯片(由英伟达与Groq团队联合打造，集成NVFP4);全新CPU——Rosa(Rosalyn);BlueField 5;CX 10;同时支持铜缆和CPO两种扩展方式的Kyber机架路线图明确：铜缆扩展、光学扩展(Scale-Up)、光学扩展(Scale-Out)三条路线并行推进，我们需要所有合作伙伴在铜缆、光纤和CPO方面持续扩产。

NVIDIA DSX：AI工厂的数字孪生平台

AI工厂越来越复杂，但组成它的各类技术供应商过去从未在设计阶段相互协作，直到在数据中心才"相遇"——这显然不够。

为此，我们创建了Omniverse，以及基于其上的NVIDIA DSX平台——一个供所有合作伙伴在虚拟世界中共同设计和运营吉瓦级AI工厂的平台。DSX提供：

机架级机械、热学、电气、网络仿真系统

与电网的连接，实现协同节能调度

数据中心内基于Max-Q的动态功耗和冷却优化保守估计，这套系统可将能源利用效率提升约2倍，在我们谈论的规模上，这是非常可观的收益。Omniverse从数字地球开始，将承载各种规模的数字孪生，我们正与全球合作伙伴共同构建人类历史上最大的计算机。

此外，英伟达正在进军太空。Thor芯片已通过辐射认证，正在卫星中运行。我们正与合作伙伴开发Vera Rubin Space-1，用于建设太空数据中心。在太空中只能依靠辐射散热，热管理是核心挑战，我们正集结顶尖工程师攻关。

OpenClaw：智能体时代的操作系统

Peter Steinberger开发了一款名为OpenClaw的软件。这是人类历史上最受欢迎的开源项目，在短短几周内便超越了Linux三十年的成就。

OpenClaw本质上是一个智能体系统(Agentic System)，能够：

管理资源，访问工具、文件系统和大型语言模型

执行调度、定时任务

将问题逐步分解，并调用子智能体

支持任意模态的输入输出(语音、视频、文字、邮件等)用操作系统的语法来描述，它确实就是一个操作系统——智能体计算机的操作系统。Windows让个人计算机成为可能，OpenClaw让个人智能体成为可能。

每一家企业都需要制定自己的OpenClaw战略，正如我们都需要Linux策略、HTML策略、Kubernetes策略一样。

企业IT的全面重塑

OpenClaw之前的企业IT：数据和文件进入系统，流经工具和工作流，最终变成供人类使用的工具。软件公司创建工具，系统集成商(GSI)和咨询公司帮助企业使用这些工具。

OpenClaw之后的企业IT：每一家SaaS公司都将转变为AaaS(Agentic as a Service，智能体即服务)公司——不只是提供工具，而是提供专精特定领域的AI智能体。

但这里有一个关键挑战：企业内部的智能体可以访问敏感数据、执行代码、与外部通信。这在企业环境中必须得到严格管控。

为此，我们与Peter合作，将安全性融入企业级版本，推出了：

NeMo Claw(参考设计)：基于OpenClaw的企业级参考框架，集成NVIDIA的全套智能体AI工具包

Open Shield(安全层)：已集成至OpenClaw，提供策略引擎、网络护栏、隐私路由，确保企业数据安全

NeMo Cloud：可下载使用，并与所有SaaS企业的策略引擎对接这是企业IT的文艺复兴，一个原本2万亿美元规模的产业，即将成长为数万亿美元规模，从提供工具转向提供专业化的AI智能体服务。

我完全可以预见：未来，公司里的每一位工程师都将拥有年度token预算。他们年薪可能是几十万美元，我会额外给他们相当于薪资一半的token配额，让他们的产出放大10倍。"入职附带多少token配额"已经成为硅谷的新晋招聘话题。

每一家企业未来都将既是token的使用者(供工程师使用)，也是token的生产者(为其客户提供服务)。OpenClaw的意义不可低估，它和HTML、Linux一样重要。

NVIDIA开放模型倡议

在自定义智能体(Custom Claw)方面，我们提供了NVIDIA自研的前沿模型：

模型领域Nemotron大型语言模型Cosmos世界基础模型(World Foundation Model)GROOT通用人形机器人模型Alpamayo自动驾驶BioNeMo数字生物学Phys-AIAI物理

我们在每一个领域都处于技术前沿，并承诺持续迭代——Nemotron 3之后有Nemotron 4，Cosmos 1之后有Cosmos 2，Groq也将迭代到第二代。

Nemotron 3在OpenClaw中名列全球三大最佳模型之列，处于前沿水平。Nemotron 3 Ultra将成为有史以来最强的基础模型，支持各国构建主权AI。

今天，我们宣布成立Nemotron联盟，投资数十亿美元推进AI基础模型研发。联盟成员包括：BlackForest Labs、Cursor、LangChain、Mistral、Perplexity、Reflection、Sarvam(印度)、Thinking Machines(Mira Murati的实验室)等。一个又一个企业软件公司加入，将NeMo Claw参考设计和NVIDIA智能体AI工具包整合到自身产品中。

物理AI与机器人

数字智能体在数字世界中行动——撰写代码、分析数据;而物理AI则是具身化的智能体，也就是机器人。

本次GTC共有110款机器人亮相，几乎囊括了全球所有机器人研发企业。英伟达提供三台计算机(训练计算机、仿真计算机、机载计算机)和完整的软件栈及AI模型。

自动驾驶方面，自动驾驶的"ChatGPT时刻"已经到来。今天，我们宣布四家新合作伙伴加入英伟达RoboTaxi Ready平台：比亚迪、现代、日产、吉利，合计年产量1,800万辆。加上此前的奔驰、丰田、通用，阵容进一步壮大。我们同时宣布与Uber达成重大合作，将在多个城市部署并接入RoboTaxi Ready车辆。

工业机器人方面，ABB、Universal Robotics、KUKA等众多机器人企业与我们合作，将物理AI模型与仿真系统相结合，推动机器人在全球制造产线的落地。

电信方面，卡特彼勒(Caterpillar)和T-Mobile也在其列。未来，无线基站将不再只是一个通信节点，而是一个NVIDIA Aerial AI RAN——能够实时感知流量、调整波束成形，实现节能增效的智能化边缘计算平台。

特别环节：Olaf机器人亮相

(播放Disney Olaf机器人演示视频)

黄仁勋： 雪人登场!Newton运行正常!Omniverse也运行正常!Olaf，你好吗?

Olaf： 见到你我真的太开心了。

黄仁勋： 是的，因为是我给了你计算机——Jetson!

Olaf： 那是什么?

黄仁勋： 就在你的肚子里。

Olaf： 太神奇了。

黄仁勋： 你是在Omniverse里学会走路的。

Olaf： 我喜欢走路。这比骑驯鹿仰望美丽的天空好多了。

黄仁勋： 这正是因为物理仿真——基于NVIDIA Warp运行的Newton求解器，这是我们与Disney和DeepMind联合开发的，让你能够适应真实的物理世界。

Olaf： 我正想说这个。

黄仁勋： 这就是你聪明的地方。我是雪人，不是雪球。

黄仁勋： 你能想象吗?未来的迪士尼乐园——所有这些机器人角色在园区里自由漫步。不过说实话，我以为你会更高一些。我从没见过这么矮的雪人。

Olaf： (不置可否)

黄仁勋： 来帮我结束今天的演讲好吗?

Olaf：太棒啦!

主题演讲总结

黄仁勋：今天，我们共同探讨了以下核心主题：

推理拐点的到来：推理已成为AI最核心的工作负载，token是新的大宗商品，推理性能直接决定收入

AI工厂时代：数据中心已从文件存储设施演变为token生产工厂，未来每家公司都将以"AI工厂效率"来衡量自身竞争力

OpenClaw智能体革命：OpenClaw开启了智能体计算时代，企业IT正在从工具时代走向智能体时代，每家企业都需要制定OpenClaw战略

物理AI与机器人：具身智能正在规模化落地，自动驾驶、工业机器人、人形机器人共同构成物理AI的下一个重大机遇感谢大家，GTC愉快!

本文转载自“华尔街见闻”，智通财经编辑：蒋远华。