过去几年,AI 行业谈得最多的是模型参数、训练成本和 GPU 供给。到了 2025 年之后,黄仁勋越来越多地把焦点移到另一个单位上:Token。按他的说法,AI 进入推理时代后,真正决定商业效率的,不再只是“买了多少卡”,而是“每单位电力、每单位资本,最终能产出多少可计费的 Token”。[1][2][3]
这套说法之所以引发关注,不是因为它换了个新名词,而是因为它试图把 AI 基础设施重新翻译成企业能直接理解的语言。训练是前期投入,推理才是持续发生、可以反复收费的业务。数据中心也因此不再只是训练模型的场地,而被描述成持续产出 Token 的“工厂”。[1][3][4]
本文依据黄仁勋公开演讲、采访,以及多家媒体对 GTC 2026 和相关访谈的整理交叉撰写。凡是黄仁勋直接谈到的判断,文中按“他提出”或“他认为”表述;凡是媒体根据产品参数、营收模型或产业逻辑做的延伸,文中会明确写成“媒体测算”或“业内解读”。这样处理,是为了把观点、事实和推论分开,避免把所有说法都写成已经被验证的结论。[1][2][4][5]
一、为什么是 Token,而不是 FLOPS
在技术层面,Token 是大模型处理文本时的基本计量单位。用户提问、模型思考、工具调用、代码生成,最后都会落到 Token 的输入和输出上。过去行业更习惯讨论 FLOPS、显存、参数量,因为那是训练时代最关键的约束;但在推理业务里,企业真正关心的是成本、时延和吞吐,而这三者最后都能折算到 Token 上。[3][4]
黄仁勋多次强调,未来 AI 基础设施的核心指标会越来越接近“每百万 Token 的成本”而不是“单卡峰值性能”。这背后的逻辑并不复杂。客户不会为一块 GPU 的理论能力付费,客户会为代码生成、客服问答、文档分析、Agent 执行这些实际结果付费。既然业务结果最终对应的是 Token 消耗,那么 Token 就会自然变成管理层、财务团队和基础设施团队共同使用的语言。[1][4]
这也是他提出“Tokens are the new commodity”这句话的背景。这里的“commodity”更接近“大宗商品”或“标准化交易单位”的意思,不是说 Token 会像石油那样进入完全成熟的期货市场,而是说它会从纯技术术语变成一种可以分层、定价、比较效率的经济单位。[2][3]
二、推理时代,为什么让 Token 变得更重要
黄仁勋把需求变化概括为三个连续阶段。第一阶段是生成式 AI 普及。ChatGPT 把“生成文本”带到大众市场,用户量一上来,Token 消耗就开始快速放大。第二阶段是推理模型出现,模型不再只是吐出答案,还会在内部生成更多中间 Token 来完成思考、反思和多步判断。第三阶段是 Agent 和代码工具兴起,像 Claude Code 这类产品会读取文件、修改代码、运行测试、反复调用工具,一个任务消耗的 Token 往往远高于普通聊天。[1]
这几个阶段叠加后,行业重心自然从“把模型训出来”转向“让模型稳定干活”。训练仍然重要,但它更像一次性资本开支;推理则更接近日复一日的运营活动。按照黄仁勋在公开场合的说法,服务器采购中用于推理的占比已经显著上升,推理业务正在成为数据中心的主要价值出口。[1][4]
需要注意的是,关于“推理已占服务器出货金额 60% 以上”这类数字,媒体转述时口径并不完全一致,部分说法更接近演讲中的趋势判断,而不是英伟达披露过的审计口径数据。因此更稳妥的理解方式是:黄仁勋想表达的是,推理已经不是训练之后的附属环节,而是在很多采购决策里变成了主角。[1][3]
三、黄仁勋所说的“五档 Token 定价”是什么意思
为了让外界理解推理市场未来可能如何分层,黄仁勋给出过一个很有代表性的框架:Token 不会只有一个统一价格,而会根据模型能力、响应速度、上下文长度和交互体验拉开差距。[1][2]
按媒体对演讲内容的整理,这套分层大致分成五档。最低一档是免费的通用模型,主要覆盖低成本、低门槛需求;往上是中档和高档模型,适合多数常规问答、内容生成和办公场景;再往上则是高上下文、低时延、复杂推理任务,对应更高单价。[1][2]
这个框架最值得注意的地方,不是具体价格数字,而是它把 AI 服务讲成了一种分层供给。也就是说,未来企业采购 AI,不太可能只问“要不要上大模型”,而会更像采购云资源一样,按任务类型选不同档位。能容忍慢一点、便宜一点的任务,用低价 Token;要求即时交互、长上下文、复杂推理的任务,用高价 Token。这和今天云计算里按存储、带宽、算力等级分层,本质上是同一套商业逻辑。[2][4]
至于公开流传的“0 美元、3 美元、6 美元、45 美元、150 美元/百万 Token”这些数字,现阶段更适合看作黄仁勋用来解释市场结构的示意,而不是已经形成统一共识的市场牌价。因为不同模型厂商、不同上下文长度、不同推理链长度下,真实成本和报价差异都很大。[1][2]
四、数据中心为什么会被重新定义成“Token 工厂”
“Token 工厂”是黄仁勋这套叙事里最核心、也最容易被传播的一部分。它的重点不是修辞,而是计量口径的变化。过去大家会问,一座数据中心有多少张卡、多少 PFLOPS、能做多大规模训练;现在他更希望行业去问,在固定电力、固定散热和固定资本支出的条件下,这座设施一年到底能产出多少可销售的 Token。[1][3]
这个变化背后的约束非常现实。土地、电网接入、供电容量、冷却系统,这些都不是软件层面可以无限扩张的变量。一座 1GW 级数据中心不会因为市场需求上升,就轻易变成 2GW。既然物理边界很硬,那么系统设计的价值就会集中体现在另一件事上:同样一度电,到底能变成多少 Token,又能卖出什么价格。[2][3]
也因为这个原因,黄仁勋越来越少单独强调某一颗芯片的理论峰值,而更强调整机柜、整系统、整网络的协同效率。所谓“工厂”视角,本质上是在提醒客户:AI 基础设施不该只按部件采购,而要按产出能力来设计。[1][5]
一些媒体据此给出了很激进的营收测算,比如同样是 1GW 数据中心,不同架构下年营收可能相差数倍。[5][6] 这些数字能说明问题,但更像商业模型演算,不应直接当作行业已经验证过的普遍事实。它们真正说明的是,AI 基础设施的竞争,正在从“有没有算力”转向“算力能不能高效变现”。
五、Vera Rubin、Groq LPU 和“解耦推理”的现实含义
黄仁勋在 GTC 2026 上继续推进一个思路:推理性能不应只靠单一芯片改进,而应通过系统级组合去优化。媒体整理中提到,Vera Rubin 平台把 CPU、GPU、互连和机架设计放在一个统一方案里考虑,目标就是在推理场景下提高吞吐、压低单 Token 成本。[5][7]
与此同时,围绕 Groq LPU 的讨论也越来越多。相关报道常把它描述成适合低时延、确定性输出的推理芯片,用来补足 GPU 在特定推理链路上的短板。[5] 业内因此出现了一个常见解读:长上下文理解、复杂推理和通用计算交给 GPU,更强调固定流水线和极低时延的输出阶段,则由专用推理芯片承担。这种分工,就是外界所说的“解耦推理”。
这部分需要保持一点克制。第一,Groq 并不是英伟达自有产品线,媒体在描述“深度整合”时,更多是在谈生态协同和部署组合,而不是英伟达已经把它并入自己的完整硬件版图。第二,公开报道中的倍数提升,通常依赖特定工作负载、特定上下文长度和特定系统配置,不能简单外推到所有场景。[5][7]
即便如此,这条路线的方向仍然很清楚。推理业务一旦按 Token 定价,基础设施就会自然而然地走向专门化。谁能在目标任务上把时延压低、把吞吐拉高、把单位成本打下来,谁就更容易拿到高价订单。
六、Token 成本,为什么会进入 CEO 和工程经理的预算表
黄仁勋最近频繁谈到一个管理层会特别敏感的话题:Token 不只是技术指标,很快也会变成预算指标。[4][8][9] 这听上去像一句口号,但背后有很强的现实性。今天企业采购 SaaS、云主机和带宽时,财务部门已经能理解这些成本项。等到 AI Agent 大规模进入研发、客服、法务、销售和运营流程后,Token 成本也会变成同样需要单列、审核和优化的支出。
对研发团队来说,这会带来一个很直接的变化。过去工程师的生产工具主要是电脑、IDE、代码仓库和云环境;以后还会多出一项持续消耗型资源,也就是 Token 配额。模型越强、上下文越长、工具调用越频繁,配额消耗就越快。团队不仅要决定“是否用 AI”,还得决定“什么任务值得用贵 Token,什么任务用便宜 Token 就够了”。
黄仁勋在采访里甚至给出过一个带有明显个人风格的说法:如果一个高薪工程师一年只消耗很少 Token,说明企业并没有真正把 AI 生产力用起来。[8][9] 这当然是一种非常激进的表达,不应按财务制度原样理解,但它点出了一个趋势:在他看来,未来管理 AI 成本的方式不会是“尽量少用”,而是“判断这些 Token 是否换回了更高产出”。
从企业管理的角度看,这种思路其实和云成本治理很像。问题从来不是资源本身贵不贵,而是资源是否花在高回报环节上。便宜但无效的 Token,不一定比昂贵但高产出的 Token 更划算。
七、AI Token 与加密 Token,看起来相似,实质并不一样
不少文章喜欢把黄仁勋的“Token 经济学”和中本聪时代的 crypto token 放在一起比较。[2][10][11] 这种比较有启发性,但也容易被写得过头。两者确实都和算力有关,也都可以被当作一种可计量单位,但它们服务的经济活动并不相同。
比特币式 token 的核心,是通过共识机制确认稀缺性和所有权,它首先是可持有、可转移、可交易的资产。AI Token 则更像一种消耗型生产资料。用户购买它,不是为了长期持有,而是为了立刻把它烧掉,换取回答、代码、分析、自动化执行和业务结果。[2][10]
所以,把两者放在一起时,最稳妥的说法是:它们都建立了“算力投入可以换来某种有价值单位”的机制,但前者更接近资产逻辑,后者更接近生产逻辑。一个强调持有和流通,一个强调消耗和产出。这也是为什么业内常把 AI Token 比作电力,而不是黄金。[2][11]
八、真正稀缺的,不只是芯片,而是电力、土地和系统能力
如果顺着黄仁勋的框架继续往下看,会发现他其实想强调另一层更硬的约束:AI 产业的瓶颈并不只在芯片制造,还在数据中心建设本身。[1][2] 电网容量、园区土地、冷却条件、建设周期、资本成本,这些因素决定了不是谁想扩产就能马上扩产。
这也是为什么“AI Token 的稀缺性来自物理世界”这类说法能迅速传播。和比特币不同,比特币的参数可以在代码层改写,AI 基础设施却无法绕过热力学、电力工程和城市级基础设施的限制。你可以升级架构、换更高效的系统,但你不能凭空创造供电能力。[1][2]
从产业竞争角度看,这会把竞争拉向两个方向。上游是硬件和系统设计,谁能把单位电力的产出做高;下游是业务定价,谁能把这些产出卖给最愿意付费的任务场景。两端一起作用,才会形成所谓的 Token 经济学闭环。
九、对企业和开发者来说,这套框架真正有用的地方
黄仁勋的“Token 经济学”并不是一套已经定型的经济学理论,更像是一种产业语言的重写。它把原本偏工程化的 GPU、互连、机柜、电力和散热,翻译成了 CEO、CFO 和业务负责人也能直接参与讨论的指标体系。[1][4]
对企业而言,这套框架最有价值的地方有三点。第一,AI 投资可以从“买设备”转成“算产出”,管理层更容易评估回报。第二,不同业务场景可以按 Token 档位分层,不必所有任务都堆到最贵模型上。第三,基础设施团队、应用团队和财务团队终于有了一个相对统一的成本语言。[1][2][4]
对开发者而言,变化同样很实际。以后比拼的不只是“会不会写提示词”或者“会不会用 Agent”,而是能不能在有限 Token 预算下,把问题拆得更合理,把高价模型留给最需要的环节,把上下文、工具调用和推理深度用在刀刃上。会花 Token,某种程度上会变成和会写代码一样重要的基本功。[9][11]
如果一定要给黄仁勋这套说法下一个尽量克制的结论,那大概是这样:AI 产业正在从“训练一次、展示能力”转向“持续推理、持续收费”。在这个转变里,Token 很可能会成为最重要的计量单位之一,而“Token 工厂”会成为理解下一代数据中心商业模式的一个高频概念。至于这套分层定价、系统解耦和营收模型最终会不会按他描绘的样子全面落地,还要看未来几年模型能力、企业需求、电力供给和硬件竞争的真实演化。[1][2][4][5]
参考链接
[1] https://news.pedaily.cn/202603/561807.shtml
[2] https://www.techflowpost.com/zh-CN/article/30750
[3] https://www.guancha.cn/JensenHuang/2026_03_17_810402.shtml
[4] https://www.businessinsider.com/nvidia-ceo-jensen-huang-cant-stop-talking-about-tokens-2026-3
[5] https://finance.sina.cn/stock/jdts/2026-03-18/detail-inhrizny1738427.d.html?vt=4&wm=1224%3Fpagetag
[6] https://www.youtube.com/watch?v=fXMHWZU7pAI
[7] https://www.21jingji.com/article/20260317/herald/b4ab7bc6f26ffa3f48e9f1e7ea924a6b.html
[10] https://finance.sina.com.cn/tech/csj/2026-03-19/doc-inhrnvix8824450.shtml
