同一颗芯片，为什么训练和推理是两笔完全不同的采购？

本文属于「算力账本」系列。

以DeepSeek拟部署16万颗昇腾950DT的传闻为例。

16万颗训练级芯片，第一份工作却是推理

9月4日，彭博社援引知情人士报道称，DeepSeek计划在内蒙古乌兰察布一座在建的大型数据中心部署至少16万颗华为下一代昇腾950DT芯片。

这条消息里有两处细节——这批芯片将用来运行DeepSeek的模型；DeepSeek目前没有把它们用于模型训练的计划。报道还提到，具体安装时间取决于华为的供应能力，全部交付可能需要一年以上。DeepSeek和华为均未公开回应。

往下看之前，先把限定条件列清楚，后面所有分析都建立在这几条上：

• “16万颗”是匿名信源披露的计划数量，不是双方公告的成交量或已交付量；
• “目前没有训练计划”不等于永远不训练，也不代表这座数据中心没有其他训练芯片；
• 报道明确说，16万颗只对应这座吉瓦级数据中心的一部分容量，其余容量采用什么芯片，公开资料没有说明；
• 网上流传的25.6亿美元来自第三方单价估算，不是公开的合同金额，不能据此确认订单已经签署；
• 本文讨论的是这批卡当前的用途规划，不排除DeepSeek正在进行适配、微调、后训练或小规模实验。

这些限定合起来意味着一件事：这笔采购最终可能变小、推迟，甚至根本不发生。

所以这篇文章要拆的不是这笔订单，而是它暴露出来的一个更稳定的问题——同一颗芯片，训练和推理为什么对应两套完全不同的采购判断。这个问题的答案，不取决于这16万颗最后有没有落地。订单是引子，机制才是正文。

说回这条消息最反常的地方。它不在16万这个数字，而在950DT的产品定位。

昇腾950DT不是一颗只能跑推理的芯片。 华为给它安排的目标场景，正是推理的Decode阶段和训练。既然训练本来就写在产品路线图里，为什么这批卡一颗都没有被规划进训练链路？

950DT原本就带着训练任务

这不是买了张弱卡、只能退而求其次跑推理的故事。

华为公布的昇腾950系列分为950PR和950DT。两款产品共用同一颗Ascend 950 Die，通过搭配不同的自研高带宽内存，面向不同负载。

同一颗Die搭配不同的内存方案，产品定位就变了。Prefill一次处理整段输入，长上下文会带来大量并行计算；Decode逐Token生成输出，需要持续读取模型权重和KV Cache，对容量和访存带宽更敏感。之前拆KV Cache那篇讲过它为什么会成为显存和带宽上的主要负担，这里不重复。

训练也需要高带宽，但它和Decode不是同一种工作负载。训练要保存并处理参数、梯度、优化器状态和激活值，还要在大量设备之间完成集合通信。具体任务可能受计算、显存容量、访存或通信限制，不能简单概括成和Decode一样的KV Cache问题。

产品时间表也要分清“预告”和“已经发生”。华为2025年公布的路线图写的是，950DT将在2026年第四季度推出。2026年6月，华为公司副总裁、华为中国云业务部部长陈林公开表示，950DT将在8月正式上线华为云。

这是一项提前上线的预告。 截至发稿，本文尚未找到华为云的正式上线公告或可核验的950DT产品页面，因此不能据此得出“芯片已经可用，当前只缺产能”。现阶段能确认的是，950DT已经进入明确的产品与云服务计划，而16万颗的部署时间仍受供应能力约束。

华为还计划用950DT构建Atlas 950超节点，设计上限为8192卡。官方产品定位包含训练，头部模型公司却把一笔超大规模部署优先放在推理侧。芯片参数是一张表，采购判断看的是另一套账。

训练和推理，是两种基础设施生意

训练卡里装的也不只是一份模型权重。NVIDIA的Megatron Core文档给过一组理论口径：不启用分布式优化器时，fp16参数搭配fp16梯度需要20字节/参数，bf16参数搭配fp32主梯度需要18字节/参数。这里算的是参数、梯度和优化器状态，不含激活值、临时缓冲和其他框架开销；启用分布式优化器后，这些状态还可以沿数据并行维度切分，实际占用取决于配置。

推理不用保存训练所需的梯度和优化器状态，但它要为模型权重、KV Cache和请求状态留出空间。长上下文与高并发叠加后，显存和带宽压力同样很大。

两边都要买硬件、付电费、做运维，也都可能长期占用算力。区别在于资源如何组织，以及结果何时能进入业务系统：训练通常集中消耗一批算力，目标是得到新的模型版本；推理面对持续流量，每扩一批稳定容量，服务端都可能少一些排队、多接一些请求。

这张表已经给出了第一层答案——芯片参数可以同时满足两种任务，采购决策还要看故障范围、交付方式、软件成熟度和结果什么时候能兑现。

训练最怕整项任务失去连续性

一次大规模训练同时依赖张量并行、流水线并行和数据并行组成的拓扑，也依赖节点间集合通信、算子正确性、数值稳定性、编译器、通信库、调度系统、检查点保存与故障恢复。

单卡峰值性能只是其中一个条件。任务开跑以后，整个集群要长时间维持一致的执行状态。部分节点掉线、通信异常或数值出错，都可能让大量设备一起等待，严重时还要从上一个检查点重启。

Meta在Llama 3技术报告里披露过一段54天的预训练记录：集群共发生466次任务中断，其中47次是计划中断，419次属于非计划中断，约78%的非计划中断被归因于已确认或疑似的硬件问题。报告还指出，大规模同步训练里，一颗GPU故障就可能要求整个任务重启；Meta通过自动化维护、故障诊断和恢复工具，把有效训练时间维持在90%以上。

这组数据来自英伟达集群，与昇腾无关。它提供的是训练规模扩大后的可靠性参照：设备越多，故障发现、节点隔离和任务恢复越影响集群的有效利用率。

DeepSeek自己的训练报告也能说明系统工程的分量。DeepSeek-V3报告按2048卡H800集群核算，总训练消耗约278.8万H800 GPU小时；报告花了大量篇幅介绍FP8训练、DualPipe流水线、通信与计算重叠，而不只是列出芯片数量。

更换训练平台，会同时触及通信库、算子实现、并行策略、精度验证、检查点和排障手段。950DT在参数和官方定位上支持训练，不代表前沿模型的大规模训练可以立即迁移，也不代表迁移成本为零。

《金融时报》2025年8月曾援引三位知情人士报道，DeepSeek尝试用昇腾训练R2时遇到稳定性、芯片互联和软件问题，后来将训练切回英伟达，把昇腾用于推理。DeepSeek和华为当时都没有回应。这是一则匿名信源报道，不能当作官方确认的失败史，也不能把上一代产品和软件环境的问题直接套到950DT上。它只是一条历史线索，说明训练平台迁移曾经是DeepSeek需要处理的现实问题。

按现有公开资料，DeepSeek当前没有把950DT放进训练规划，可能是在控制训练关键链路的迁移风险。公开报道没有披露它的内部测试结果和采购决策过程，这仍是机制层面的推断。

推理更适合成为第一站

推理本身并不轻。大模型服务也会用到张量并行、专家并行、连续批处理和Prefill-Decode分离，一个请求未必能在单卡上独立完成。

推理真正的优势，是可以从一部分模型和流量开始。一批设备完成服务器集成、组网、软件适配和生产验证后，可以先承接有限流量，观察吞吐、首Token时延、逐Token时延、错误率、能耗和单位Token成本，再决定下一批容量怎么扩。

这就带出了这篇文章里我认为最关键的一条。“全部交付可能需要一年以上”这句话，放在两类任务里，含义完全不同。

对一项固定规模的训练任务来说，正式开跑前要先准备好满足拓扑要求的可用集群。任务运行期间增加设备，通常意味着重新安排并行策略，并在任务重启或下一轮作业时才能纳入。你没法说先拿两万颗开训，剩下的明年到货再补进去。

推理容量则更容易分批建设。新到的设备当然不能到货即上线，但一旦完成适配和验证，就可以按服务副本或并行组逐步进入生产环境。硬件交付要一年，不必等最后一批到齐才开始提供服务。

所以这不见得是“能力不够所以只跑推理”，更像是“交付周期长，所以先选一种能边到货边验证、边扩容的业务”。 大额部署和漫长交付周期可以同时成立，靠的就是这一点。

推理的另一个好处是，优化目标可以逐项量化。线上最常盯的就那么几个指标：首Token时延、逐Token生成速度、并发承载量、服务可用性和单位Token成本。它们可以在真实流量中持续测量，改动效果也能逐步验证。

PagedAttention论文显示，减少KV Cache碎片和重复存储后，vLLM在论文所测模型与负载下，可以在相近时延条件下把吞吐提高2到4倍；DistServe把Prefill和Decode分开部署，在论文测试中最高提升7.4倍请求承载量。这些数字不能套算到DeepSeek的集群上，它们说明的是另一件事：推理优化可以拆到缓存管理、调度、资源分配这些具体环节，每次改动都能测出吞吐和时延。训练过程虽然也有损失曲线和阶段性评测，但模型价值通常要经过更长的训练与评测周期才能确认。

长上下文也不能全部归到Decode。输入越长，Prefill处理的Token越多，首次响应时间和计算压力随之上升；输出越长、并发越高，Decode越需要反复读取权重和KV Cache，对容量、访存带宽和互联的要求也越高。950PR和950DT更像是对推理前后两个阶段的资源分工，而950DT同时保留了训练能力。

报道没有披露乌兰察布项目最终的950PR与950DT配比、服务器配置和网络拓扑，所以也不能假定16万颗950DT会独自承担完整推理链路。

昇腾运行DeepSeek推理已经有公开样本。华为相关团队发表的CloudMatrix384论文，展示了DeepSeek-R1在384颗昇腾910C组成的系统上进行Prefill与Decode的结果。但论文来自实现方，属于厂商侧系统数据，不是独立第三方横向评测；芯片代际、集群规模和测试条件也与本次项目不同，不能把它当成16万颗950DT的效果预告。

推理产能更快进入业务系统

推理算力每天都在面对API和产品请求。设备稳定上线后，增加的吞吐会影响高峰期的排队和限流、Pro级模型能开放多大并发，以及每百万Token的成本。

今年4月，多家媒体根据DeepSeek当时的官方页面记录称，Pro服务吞吐受到高端算力限制，页面还提到昇腾950超节点批量上市后，Pro价格可能大幅下调。这是2026年4月页面上的阶段性表述，不是截至今天仍然有效的价格承诺。

这条记录至少说明，当时的DeepSeek已经把高端推理算力供给与服务吞吐、预期价格联系在了一起。峰谷定价和缓存命中折扣解决的是计费方式，底层还是要看单位Token的实际服务成本能不能降下来。

至于网上广泛流传的25.6亿美元，只适合放在传闻边界里说明。这个金额是第三方用估算单价乘以16万颗得出的，华为没有公布单颗报价，双方也没有公布合同。即使芯片金额成立，它也不等于数据中心总投资——服务器、CPU、交换设备、光模块、存储、供配电、液冷、建筑和长期用电都要单独计算。

“吉瓦级”说的也是数据中心的功率规模，不是AI算力指标，不能直接换算成模型训练能力。

为什么不从16万颗里分一部分训练

从16万颗里拨出几千颗，看上去已经足够组成一套很大的训练集群。问题在于，正式训练需要的是一套通过验证的系统，包括拓扑、通信、算子、精度、容错、检查点和工程工具。

拿一小批卡做训练测试，和把下一代基础模型的正式预训练交给这套平台，风险量级完全不同。 前者可以限定模型、卡数和运行时间，出了问题重来一次；后者影响的是模型发布时间、研发节奏和整项训练预算。

公开信息没有排除DeepSeek正在做适配、微调、后训练或小规模实验，彭博社的表述只说明，这批950DT目前没有被规划用于模型训练。

这座数据中心也可能部署其他训练算力。16万颗只占吉瓦级容量的一部分，其余部分使用什么芯片并不清楚。所以这条新闻既不能扩大成“DeepSeek整个乌兰察布数据中心不做训练”，也不足以证明DeepSeek未来的训练会长期依赖某一种硬件。

这不是“国产芯片只能做推理”

目前可以确认的，是国产AI芯片进入了头部模型公司超大规模推理容量的规划。若项目按报道落地，验证对象将不只是一颗芯片——CANN、推理引擎、调度系统、Prefill-Decode分离、专家并行、量化、容错和运维工具，都要一起经受真实流量的考验。

反过来，这条新闻也无法证明950DT不能训练，华为的官方定位恰恰包含训练；它同样不能证明16万颗已经完成采购和交付，更不能用CloudMatrix384的推理结果代替950DT实测，或者用峰值算力推导真实训练效率。

推理也不是低价值的过渡市场。 长上下文、推理模型、Agent和高并发服务，都在推高Token生成量和KV Cache压力。先在能分批扩容的场景里积累利用率、稳定性和成本数据，是一种更容易分阶段控制迁移风险的落地路径。训练会不会成为下一站，要看后续的公开数据。

接下来盯什么

接下来可以看六个信号。

这笔采购会不会兑现。 这是排在第一位的问题。目前它只有单一匿名信源，DeepSeek和华为都没有回应。如果接下来几个月里，没有任何一方确认，也没有出现设备到场、机房动工或产能分配的可核验证据，那么合理的处理方式就是把它当作没发生过。但本文关于训练与推理的那部分结论不受影响，因为它们本来就不建立在这笔订单上。

交付节奏。 如果采购属实，16万颗要多久完成交付，首批设备何时投产，供应能力会不会继续限制项目进度。

实际拓扑。 Atlas 950的官方设计上限是8192卡，华为在2026世界人工智能大会展示的真机采用1024卡配置。16万颗约等于20个满配8192卡超节点的芯片数量，但这只是理论除法，不能当成真实组网方案。

生产环境的推理数据。 首Token时延、逐Token时延、单卡吞吐、集群利用率、稳定运行时长、故障恢复和单位Token成本，而不只是离线峰值。

950DT的训练报告。 万卡规模、长时间稳定运行、模型浮点运算利用率（MFU）、故障频率、恢复时间和收敛曲线——有了这些，才能说它从“产品定位支持训练”走到了“承担前沿模型训练”。

DeepSeek下一代模型的训练硬件。 这项信息要等技术报告或公司公开披露，采购传闻代替不了答案。

写在最后

按现有报道，DeepSeek没有否定950DT的训练能力，只是目前没打算让这批卡承担模型训练。

推理容量可以随设备交付逐步适配和扩展，故障通常能限制在较小的服务范围，新增吞吐也更容易进入API和产品。前沿训练对集群连续性、通信效率、软件成熟度和数值稳定性更敏感，平台切换影响的是整个模型迭代周期。

所以这16万颗，更像DeepSeek为国产算力选定的第一块超大规模生产场景。第一站是推理。会不会有第二站，要看交付、软件和万卡级运行数据能不能继续把路铺下去。

当然，这笔采购最后也可能缩水、推迟或者不了了之。真到那一天，需要作废的只是这条新闻本身——训练和推理为什么是两笔不同的采购，这件事不会因为一笔订单没签成就不成立了。

到那时，新闻里最值得看的数字就不只是买了多少颗，而是下一份模型技术报告的训练硬件那一栏里，第一次出现了谁的名字。

参考资料

• Bloomberg：DeepSeek plans big Huawei AI chip order to power new data centre，2026年9月4日
• 格隆汇：DeepSeek被曝将采购16万颗华为昇腾950DT，2026年9月5日
• 华为：徐直军主题演讲《以开创的超节点互联技术，引领AI基础设施新范式》，2025年9月18日
• 华为：昇腾950超节点真机亮相2026世界人工智能大会，2026年7月
• 观察者网：华为云陈林称昇腾950DT将在8月上线华为云，2026年6月5日
• Meta：The Llama 3 Herd of Models，2024年
• DeepSeek-AI：DeepSeek-V3 Technical Report，2024年
• NVIDIA Megatron Core：Distributed Optimizer
• Kwon et al.：Efficient Memory Management for Large Language Model Serving with PagedAttention，2023年
• Zhong et al.：DistServe，OSDI 2024
• Pengfei Zuo et al.：Serving Large Language Models on Huawei CloudMatrix384，2025年
• Financial Times：DeepSeek’s next AI model delayed by attempt to use Chinese chips，2025年8月14日
• 21财经：DeepSeek-V4官宣时的这行小字，藏着关键细节，2026年4月26日

资料边界说明：

一手／官方来源： 950PR与950DT共用Ascend 950 Die、950DT面向Decode和训练、144GB／4TB/s／2TB/s规格，以及Atlas 950最高支持8192卡，均来自华为公开披露；华为2025年公布的950DT推出时间为2026年第四季度。产品规格和路线图不等于第三方性能测试。

公开讲话的媒体记录： “950DT将在2026年8月上线华为云”来自媒体对陈林公开讲话的记录。本文将其作为上线预告，不据此认定产品已正式上线或已具备大规模供应能力。

实现方与论文数据： CloudMatrix384的推理结果来自华为相关团队，属于实现方系统数据；PagedAttention与DistServe的提升倍数来自各自论文的特定模型和负载，不能套算到DeepSeek集群；Llama 3的中断统计来自Meta的英伟达集群，与昇腾无关；Megatron的显存口径是指定训练配置下的理论值。

第三方媒体报道： 16万颗部署计划、乌兰察布选址、当前无训练用途规划、交付时间和供应限制，均来自彭博社援引的匿名信源，DeepSeek与华为没有公开确认；R2训练受阻来自《金融时报》援引匿名信源的报道，本文不将其视为已证实事实，也不把上一代昇腾的情况外推到950DT。

市场估算： 25.6亿美元是第三方用估算单价乘以计划数量得到的结果，不是双方公布的合同金额；约20个满配Atlas 950超节点只是按8192卡设计上限所做的芯片数量换算，不代表实际组网。

作者分析： 推理更适合作为新硬件规模落地的第一站、DeepSeek可能在控制训练关键链路的迁移风险、推理容量更容易随交付分批上线，均为基于公开信息的机制分析，不是DeepSeek公开解释的采购原因。

当前无法确认： 是否已签署最终采购合同、实际成交价格和总投资、950DT是否已经正式上线华为云、首批交付数量与投产时间、服务器和网络配置、PR与DT的最终配比、下一代基础模型使用什么芯片训练，以及未来是否会将部分950DT转入训练。