智算中心转型:从“卖P”迈向“算Token”
在Token经济学框架之下,AI基础设施行业正借助对实际Token产出效率以及成本核算等方面的关注,进入一个更加务实的阶段。
在Token经济学框架之下,AI基础设施行业正借助对实际Token产出效率以及成本核算等方面的关注,进入一个更加务实的阶段。
[[1]](https://www.mirantis.com/blog/inference-costs/)
[[2]](https://www.spheron.network/blog/ai-inference-cost-economics-2026/)
过去两年,智算中心最常见的叙事是对GPU数量、峰值算力、集群规模以及机柜交付速度的强调。但企业真正把大模型接进业务系统之后,更需要关注的是同样一笔预算下能产出多少有效Token、推理能不能保持稳定、成本能不能算清等方面的问题。
[[3]](https://a16z.com/llmflation-llm-inference-cost/)
这一转变反映出行业从“卖算力”向“产Token”转型的本质。过去以硬件规格和交付速度为核心的竞赛,已难以满足业务落地需求。企业现在把注意力转向全链路效率:同样预算投入下,借助优化后的吞吐量、利用率(MFU常处于45-55%,顶级可达70%以上)和软件栈(量化、batching、speculative decoding、KV Cache管理),实际能产出多少高质量、可稳定服务业务的有效Token。
[4]](https://introl.com/blog/inference-unit-economics-true-cost-per-million-tokens-guide)
推理稳定性成为关键考量之一。如果延迟波动大(TTFT/TPOT不稳定)或可用性不足,业务系统就无法可靠集成。成本核算则要求把电力(占OPEX 40-70%)、网络、冷却和运维全部纳入TCO,而非仅看GPU单价。NVIDIA数据显示,从Hopper到Blackwell,FLOPS/$提升约2倍,但每百万Token成本可降低约35倍、每瓦Token产出提升约50倍,这正是新指标优于旧叙事的体现。
[[5]](https://zylos.ai/research/2026-04-13-inference-economics-ai-agent-compute-markets/)
在中国,“智算中心变Token工厂”已成为2026年共识。联想、腾讯云、华为等玩家正推动“有效Token”定义(高质量、低延迟、可业务兑现),并通过液冷(PUE降至1.08)、异构调度和全栈优化,把存量算力转化为更多可变现Token。推理已占AI电力消耗60%以上,Token消耗量较2024年增长数百至千倍,价格也从2024年的价格战转向因Agent需求而回升。
[[6]](https://arxiv.org/html/2603.06630v1)
对运营商而言,胜负手在于把数据中心真正建成高效的Token生产线,而非单纯的GPU仓库。对企业用户来说,这意味着能更清晰地计算ROI,推动AI从实验走向规模化价值创造。Token经济学正让AI基础设施回归务本:产出越多高质量Token、成本越可控、推理越稳定,谁就掌握竞争主动权。[[4]](https://introl.com/blog/inference-unit-economics-true-cost-per-million-tokens-guide)
(数据来源于NVIDIA、Stanford HAI 2025 AI Index、Epoch AI、Introl及2026年中外行业报告,实际部署仍需结合具体模型、负载和优化栈进行验证。)
21世纪经济报道记者从联想中国方面了解到,业内判断,算力基础设施的价值正在从最基础的提供资源,转向支撑企业得以持续、稳定并且低成本地产生Token,这背后所涉及的是非常复杂的系统化工程,业界正在探索相应的解决方案。
这一判断指向智算中心建设的现实分水岭。
过去,智算中心建设主要围绕GPU卡数、峰值算力以及交付速度展开竞争。但当大模型真正接入企业业务系统之后,关注点已转向在同样预算下能够产出多少有效Token、推理过程能否保持稳定以及全成本能否得到清晰核算。这一转变体现了行业从单纯提供算力转向高效生产Token的本质变化。其中,稳定性成为核心要素,如果首Token延迟与输出Token延迟出现明显波动,那么业务系统就难以可靠集成;而成本核算则需要把电力、网络、冷却以及运维全部纳入总拥有成本进行综合考量,而非仅关注GPU采购价格。NVIDIA数据显示,从Hopper到Blackwell架构,每百万Token成本可降低约35倍、每瓦Token产出提升约50倍,这正是新指标优于旧叙事的直接体现。
在中国,这一判断已成为2026年行业共识。联想、腾讯云、华为等企业正推动“有效Token”标准定义,通过液冷技术(PUE降至1.08)、异构调度以及全栈优化(量化、批处理、推测解码、KV Cache管理),把存量算力转化为更多可变现的高质量Token。推理已占AI电力消耗60%以上,Token调用量较2024年增长千倍,价格也从早期价格战转向因Agent需求而回升。
对运营商而言,胜负在于能否把数据中心建成真正高效的Token生产线,而非单纯的GPU仓库。对企业用户而言,这意味着能更清晰地计算ROI,推动AI从实验阶段走向规模化价值创造。Token经济学让AI基础设施回归务本:谁能产出更多高质量Token、把成本控制得更清晰、把推理服务做得更稳定,谁就掌握了竞争主动权。
(数据来源于NVIDIA、Stanford HAI 2025 AI Index、Epoch AI、Introl及2026年中外行业报告,实际部署仍需结合具体模型、负载和优化栈进行验证。)
2023年以来,各地智算中心加快了建设进程,其中GPU、服务器以及机柜成为投资重点对象。但当AI进入推理和应用阶段之后,客户所要购买的不再是一堆静态设备,而是可以持续调用的智能服务。
算力中心如果仅仅完成了硬件堆叠的工作,而在调度、模型适配、缓存管理、容错、安全以及成本核算这些关键环节存在缺失,就可能会转变为“能跑模型,但跑不出经济性”的基础设施。
由联想中国基础设施业务群战略总监黄山等人作为主创所撰写的《词元工厂》一书明确提出,企业AI应当被视为一种可以管理、可以度量并且可以实现盈利的生产实体。该书着重强调,建设Token工厂除了需要采购算力(Petaflops)之外,还必须全面覆盖数据治理、算力系统、软件栈优化、能耗管理、安全合规以及ROI核算等关键环节。
这套说法目前尚未成为行业统一的标准,然而它却有效回应了企业在AI落地过程中所面临的真实问题。许多企业虽然已经完成了模型接入或者局部试点的工作,但是一旦进入生产系统之后,瓶颈往往不只在于模型能力方面,还在于数据、调度、缓存、容错、安全、能耗、运维等多个能力方面。
黄山在采访中进一步分析了Token工厂所需要补齐的短板。他指出,Token工厂需要对数据治理、计算系统、能效管理、安全合规以及运维管理等环节进行完善。
根据黄山的介绍,联想所推出的万全异构智算平台V5.0以及超节点方案,其根本目的便在于有效支撑上述目标的落地工作。
万全异构智算平台V5.0对分层解耦、PD分离、KV Cache共享缓存优化、芯模编译优化等能力进行了强调,这些能力的目标在于提升训练和推理的效率。超节点方案则以大规模模型训练与推理为导向,单节点能够搭载40张GPU,可以达到FP8算力超过28 PFLOPS,HBM显存超过5.76TB,并且对低时延互联和部署效率进行了强调。
“万全异构智算平台所希望达成的,是把每百万Token的硬件成本控制在一块钱以内。”黄山表示,AI基础设施的竞争已经演变为围绕软硬件、网络、供电、散热、调度以及运维这些方面所展开的系统效率竞争。
AI打乱硬件节奏,服务器厂商进入“敏态规划”
过去,CPU厂商通常能够提供三年至五年的清晰路线图,服务器厂商得以按照相对稳定的节奏来开展产品线规划、配置组合验证以及量产准备工作。但AI的快速发展彻底改变了这一节奏。模型迭代速度、应用场景从训练转向推理再到智能体演进以及GPU架构的快速升级,使得硬件需求变得难以长期预测。传统长周期规划模式面临失效风险,服务器厂商因此转向更加灵活、能够快速响应的“敏态规划”模式。
联想中国基础设施业务群服务器事业部总经理周韬在接受采访时表示,联想提出了“敏态”产品规划方法。为了适应AI服务器客户配置需求更加集中的特点,厂商可以优先围绕最有可能放量的几款主流配置快速打造样机,把样机送至重点客户处开展测试验证。一旦客户确认实际需求,那么再迅速转入全面验证和量产阶段。
这种方式把传统规划验证周期从18个月以上大幅压缩至数月级别。同时,研发资源得以从过去一年推出2-3款产品,扩展到一年推出10-15款产品。只要其中有3-4款获得市场成功,即可覆盖整体资源投入。这实质上是一种借助快速试错、以较低成本完成迭代的应对策略。
这一转变的背后,是AI基础设施产业节奏发生的根本性变化。大模型从训练到推理再到Agent应用的演进速度远超传统IT更新周期。硬件厂商已无法继续用长周期方式押注未来需求。他们不仅需要提升供应链稳定性以及交付速度,更需要精准判断哪些GPU平台、哪些模型规模以及哪些行业场景会形成真实的大规模需求,并以此为基础开展针对性优化工作。
在Token经济学框架之下,“敏态规划”显得尤为关键。只有快速响应并交付经过高度优化的硬件,才能在同样功耗和预算投入下产出更多高质量Token,提升MFU利用率,降低每百万Token的综合拥有成本。NVIDIA从Hopper到Blackwell在Token经济性上的显著提升,也需要厂商借助敏捷的产品规划快速落地到客户实际环境中。
在中国市场,这一趋势已经成为2026年行业共识。联想问天品牌在AI服务器领域保持领先增速,通过标准化产品矩阵与平台化定制相结合,既保证了快速交付能力,又能够满足个性化Token工厂的具体需求。超节点方案等创新进一步缩短了部署周期,从传统数周压减至数小时级别。
对服务器厂商而言,竞争胜负手不再仅仅是GPU卡数和峰值算力,而是“敏态”响应能力:谁能更快感知市场需求变化、谁能以更低成本完成配置验证和迭代、谁能把硬件效率真正转化为业务可衡量的稳定Token产出,谁就掌握了竞争主动权。
对企业用户来说,这意味着AI基础设施采购从单纯购买设备转向获取稳定产出能力。硬件刷新周期从传统的5-7年压缩至18-36个月,企业需要与厂商建立更紧密的协同规划机制,才能避免被快速迭代甩在身后。
(数据与观点来源于联想内部访谈、21世纪经济报道相关报道、Gartner及Epoch AI 2026趋势分析,实际规划仍需结合具体部署环境验证。)
AI也在改变服务器厂商的产品规划方式。
过去,CPU厂商通常能够提供三年至五年的清晰路线图,服务器厂商得以按照相对稳定的节奏开展产品线规划、配置组合验证以及量产准备工作。但人工智能的快速发展彻底改变了这一节奏。模型迭代速度、应用场景从训练转向推理再到智能体演进以及GPU架构的快速升级,使得硬件需求变得难以长期预测。传统长周期规划模式面临失效风险,服务器厂商因此转向更加灵活、能够快速响应的“敏态规划”模式。
联想中国基础设施业务群服务器事业部总经理周韬在接受采访时表示,联想提出了“敏态”产品规划方法。为了适应AI服务器客户配置需求更加集中的特点,厂商可以优先围绕最有可能放量的几款主流配置快速打造样机,把样机送至重点客户处开展测试验证。一旦客户确认实际需求,那么再迅速转入全面验证和量产阶段。
这种方式把传统规划验证周期从18个月以上大幅压缩至数月级别。同时,研发资源得以从过去一年推出2-3款产品,扩展到一年推出10-15款产品。只要其中有3-4款获得市场成功,即可覆盖整体资源投入。这实质上是一种借助快速试错、以较低成本完成迭代的应对策略。
这一转变的背后,是AI基础设施产业节奏发生的根本性变化。大模型从训练到推理再到Agent应用的演进速度远超传统IT更新周期。硬件厂商已无法继续用长周期方式押注未来需求。他们不仅需要提升供应链稳定性以及交付速度,更需要精准判断哪些GPU平台、哪些模型规模以及哪些行业场景会形成真实的大规模需求,并以此为基础开展针对性优化工作。
在Token经济学框架之下,“敏态规划”显得尤为关键。只有快速响应并交付经过高度优化的硬件,才能在同样功耗和预算投入下产出更多高质量Token,提升MFU利用率,降低每百万Token的综合拥有成本。NVIDIA从Hopper到Blackwell在Token经济性上的显著提升,也需要厂商借助敏捷的产品规划快速落地到客户实际环境中。
在中国市场,这一趋势已经成为2026年行业共识。联想问天品牌在AI服务器领域保持领先增速,通过标准化产品矩阵与平台化定制相结合,既保证了快速交付能力,又能够满足个性化Token工厂的具体需求。超节点方案等创新进一步缩短了部署周期,从传统数周压减至数小时级别。
对服务器厂商而言,竞争胜负手不再仅仅是GPU卡数和峰值算力,而是“敏态”响应能力:谁能更快感知市场需求变化、谁能以更低成本完成配置验证和迭代、谁能把硬件效率真正转化为业务可衡量的稳定Token产出,谁就掌握了竞争主动权。
对企业用户来说,这意味着AI基础设施采购从单纯购买设备转向获取稳定产出能力。硬件刷新周期从传统的5-7年压缩至18-36个月,企业需要与厂商建立更紧密的协同规划机制,才能避免被快速迭代甩在身后。
(数据与观点来源于联想内部访谈、21世纪经济报道相关报道、Gartner及Epoch AI 2026趋势分析,实际规划仍需结合具体部署环境验证。)
联想中国基础设施业务群服务器事业部总经理周韬在采访中透露,联想问天在早期开展产品规划工作时,服务器市场主要围绕通用计算以及HPC,产品路线更多地依赖于CPU路线图。CPU厂商通常能够给出为期三年至五年的清晰路线,这使得服务器厂商可以按照相对稳定的节奏来进行产品规划。
AI兴起之后,市场变量开始显著增多。周韬指出,不确定性主要并不在于CPU,而集中于GPU和应用层,“有的GPU更新迭代速度特别快,你还没有来得及把这个产品推向市场,它可能就已经过时了”。随着模型、一体机、智能体应用持续切换,传统服务器产品的长周期研发方式开始难以适应市场节奏。
为了有效应对这种变化,联想所采取的具体办法可以为行业提供一些具有实际参考价值的做法。
据周韬介绍,联想提出了“敏态”产品规划。传统服务器在量产之前需要对CPU、内存、SSD、硬盘等大量配置组合开展适配工作,因此测试验证周期会很长。但AI服务器客户的配置却更加集中,厂商可以首先围绕那些更可能放量的配置制作样机并送交客户测试,在客户确认需求之后再转入量产。
周韬称,这种方式可以把原来需要18个月甚至更长的规划验证周期压缩到几个月,也让研发投入从一年两三个产品扩展到一年10个以及15个产品,其中只要有三四个成功便可以接受。
这背后反映的是AI基础设施产业节奏发生的变化。由于模型以及应用更新速度太快,硬件厂商已经很难再运用传统服务器时代那种长周期方式来押注未来。服务器厂商不仅要在供应链以及交付能力方面展开比拼,也需要判断哪些GPU、哪些模型以及哪些客户场景会形成真实需求,并以更低成本完成快速试错。
超节点同样体现了这一变化。周韬指出,未来CPU与GPU的组合形式将会越来越多,其中CPU存在x86、C86、ARM等多种技术路线,同时GPU厂商的数量也十分庞大,因此联想尝试进行CPU与GPU的分离设计,从而让二者能够实现更加自由的组合。
他还进一步提到了800伏垂直供电、高速互联、PCIe Gen6、光互联以及整机柜浸没式等多项技术发展方向,并且判断认为超节点并不像普通AI服务器那样能够适合广泛客户群体,其未来核心用户大概率将会集中于少数头部客户。
对于多数传统企业而言,更为现实的问题并非自行建设万卡集群,而是如何以较低的门槛来获得稳定推理、模型路由、Agent编排、安全合规以及成本核算能力。
能源约束也正在逐步推高AI基础设施的工程门槛。算力扩张不只是IT部门预算问题,还会进一步触及供电、散热、能源调度以及数据中心承载能力。周韬在采访中表示,部分OEM形态GPU单卡功耗已经超过八九百瓦,正奔着一千瓦而去,未来新一代产品基本都要采用液冷。
液冷背后还涉及制造以及交付环节。周韬透露,进行整机柜液冷测试交付需要具备超过3吨的承重能力,整机柜耗电会达到兆瓦级,如果工厂供电达不到十兆瓦,那么几乎无法开展整机柜液冷或超节点生产;液冷接头比较精密,生产环境方面也需要进行洁净度改造。这些细节说明,AI基础设施竞争也延伸到了工厂改造、供电能力、生产洁净度以及工程交付等更深的层面。
当AI进入产业场景之后,最贵的是实现“确定性”,这是一项把不确定的模型、应用、能耗以及安全问题转化为可度量、可交付并且能够持续优化的系统化工程。
来源:从卖算力到卖Token AI基础设施变样了 | 证券时报网