106篇文章 · 370719字 · 1235分钟阅读

《纽约时报》21世纪最佳剧集100部:我的观剧打卡清单

《纽约时报》评选的21世纪最佳剧集100部,附中英文剧名和播出年份,顺手做成观剧打卡表:目前看过17部,剩下的慢慢补。

Jev取消排队:所谓“零幻觉”,究竟消掉了哪一种错误?

9 月 21 日,Jev 取消等待名单并向所有人开放,新账号赠送 5 美元额度,约合 1.19 亿输入 token。讨论也从“它是什么”转向“怎么接进生产”。可在把业务判断交给它之前,还有一个问题得先讲清楚:Jev 所谓的“不会幻觉”,究竟消掉了哪一种错误? 「术语解构」系列·后篇 Jev 全员开放当天,网络上流传的截图显示,部分登录请求返回 400 和 oauth_state_mismatch。从错误类型看,问题发生在鉴权流程附近,不属于 Jev 的模型推理错误。TypeSafe 尚未发布相关事故说明,目前无法确认影响范围和具体责任环节。 这件事倒是提醒了一个容易被忽略的事实——可靠是整条链路的属性。即使模型永远不会输出非法结果,前面的登录、后面的执行、旁边的重试仍然可能出错。模型自己这一环,也没有“零幻觉”三个字听上去那么稳。 放开的速度本身也值得记一笔。TypeSafe 称,Jev 上线后的 36 小时内处理了约 14 万个注册,6 天后取消等待名单,任何人都能直接注册。新账号赠送 5 美元额度,按当前每百万输入 token 0.042 美元计算,大约对应 1.19 亿输入 token。 上一篇介绍 Jev 时,讨论中出现频率最高的是“零幻觉”和“快数百倍”。现在热度还没退,话题已经变成如何把它接进真实系统。 这些标签里,最容易被误解的是“不会幻觉”。它很容易让人联想到一个不会胡说、判断可靠的模型。Jev 真正保证的范围要窄得多:它不会生成预定义类型之外的结果,却仍可能在合法答案里选错。 这一区别决定了它应该放在系统的什么位置,也决定了哪些业务适合交给它。 67.8%不是错误率,却足以说明它并不总是正确 TypeSafe 公布了一套 Workflow Evals,用四个结构化工作流比较 Jev 和多款前沿模型。 公开评测板显示,Jev 的聚合得分约为 67.8%,同一套评测中表现最高的对比模型约为 74.1%。Jev 没有拿到准确率第一,它的优势主要落在成本和速度上。 这两个百分比需要谨慎理解。评测中的参照答案并非来自人工标注的客观真值,而是取 GPT-6 Astra 和 Fable 5.1 在高推理档位下的预测平均值。TypeSafe 先假定工作流和参照标签成立,再比较各模型与参照结果的接近程度。因此,67.8%不能直接翻译成“Jev 答错了 32.2%”。更准确的说法是: 在 TypeSafe 自己设计的 System One 工作流中,Jev 与两个前沿模型所形成的参考共识仍有明显差距。 ...

ChatGPT发明人之一的新模型Jev火了:它为什么不生成自由文本?

ChatGPT发明人之一Diogo Almeida,做了个不生成自由文本、只返回判断的新模型Jev。它到底是什么、能干什么、又不该干什么。

只有输出变快,为什么连输入和缓存也涨2.5倍?GLM-5.3-FlashX的“速度价签”拆解

GLM-5.3-FlashX最高输出速度200 tokens/s,但涨价的不止输出:输入、缓存命中、输出三条价格线几乎一起乘了2.5。这篇从’为什么连输入和缓存也涨’切入,判断这2.5倍到底在给什么定价,以及哪些任务值得为高速档付费。

10万张卡,为什么通信代价会超过四成?大模型绕不开的通信墙

华为披露的一组架构仿真中,传统8卡服务器组成的10万卡集群,芯片间通信代价超过训练时间的40%。这篇从集合通信、四种并行方式和同步等待出发,解释通信墙怎样吞掉新增算力。

4096张卡凭什么算一台计算机?昇腾960的NPO解决了什么?

9月17日的华为HC全联接大会2026上,大屏打出昇腾960超节点的参数——单个超节点最多4096张昇腾卡,峰值算力8 EFLOPS FP8、16 EFLOPS FP4,HBM总容量1PB。华为把它描述成一套“物理上由多台机器组成、逻辑上却像一台计算机”的系统,业界首个用上NPO近封装光学的超节点。 有人可能问了:这不就是4096张卡凑一块儿吗?说得再直白点——华为是不是造出了一张由4096颗芯片拼成的巨型算力卡? 这篇想拆的,正是那个“凑”字,和那张并不存在的“巨卡”。之前几篇聊过“卡数×单卡算力≠有效算力”,这次往下再追一层——4096张卡分布在不同服务器、不同机柜里,凭什么能被叫做“一台计算机”?答案不在某一个漂亮数字上,而在于它要一层一层地搭:NPO只是最底下那一层,接上光纤,只是把路修通了。 8 EFLOPS,是一台机器,还是4096台机器的总和? 解释NPO之前,先看清楚“一台计算机”这个说法要跨过多少道坎。把4096张卡真放到一起,默认状态其实是这样的: 它们不在同一块主板上,卡与卡之间的数据传输,天生就比芯片内部计算慢得多; 任意一张卡、一个光引擎、一条链路,都可能出故障; 不同卡拿到的数据、分到的任务、通信的先后顺序,还得保持一致。 只把这4096张卡接上一张高速网络,它更像4096台联网的计算机,而不是一台。要让它在逻辑上收敛成“一台”,至少要解决四层问题,自下而上叠起来: 4096卡→一台计算机:要自下而上叠四层 第一层,物理传输:信号怎么又快又省地跨过机柜——这一层是Hi-ONE/NPO。 第二层,协议总线:这些设备按什么规则识别、寻址、访问彼此——这一层是灵衢UnifiedBus。 第三层,内存语义:分散在各卡上的内存,能不能被软件当成同一片空间——这一层是统一内存编址。 第四层,调度与容错:模型任务怎么切、数据放哪张卡、坏了怎么恢复——这一层是拓扑、并行策略、集合通信和故障恢复。 NPO是“近封装光学”(Near-Packaged Optics)的一种物理封装形态,不是一种协议。它常被拿来和CPO(共封装光学)比——区别只在光引擎放哪儿:NPO放在主芯片封装的旁边几厘米,CPO直接塞进同一个封装里。这是位置之争,不是谁比谁高级——OIF的共封装技术框架也是按器件位置来界定近封装与共封装,而非排成一条由低到高的技术等级。所以,凡是把这次的新闻写成“昇腾960用上光协议”的,第一步就说岔了。 下面一层一层看,每一层都分三件事讲清楚:华为说了什么、能从中推出什么、又不能推出什么。 第一层 · 物理传输:NPO解决“信号怎么走”,不负责让卡理解彼此 Hi-ONE和NPO待在整套系统的最底层——物理传输层。卡的数量从几百堆到几千,卡间的高速电信号要走的距离越来越远,铜缆的损耗、补偿电路、功耗、端口密度、布线散热就一起顶上来。NPO的思路是把“电转光”这一步挪到主芯片边缘几厘米处,短距离仍走电、长距离交给光,绕开铜缆的物理天花板。用一个类比:这相当于把市区里越修越堵的电线,改成从家门口就接上的光纤专线。 华为这次给出的数字是新一代NPO光引擎Hi-ONE单引擎传输容量7.2T、内置36个通道、单通道200Gbps,华为称其为业界首个具备量产能力、传输能力最大、唯一实现内置光源的NPO产品;技术上把DSP功能集成进交换机ASIC、移除了光引擎里的独立DSP,链路时延从100纳秒压到10纳秒,互连功耗降低约60%。最直观的一组对比是昇腾960超节点用约5500个Hi-ONE,替代了原本需要的约4.8万颗800G可插拔光模块,功耗降低超过550千瓦。 可插拔光模块 / NPO / CPO:只看芯片到光引擎的位置差 能推出的判断:当卡数进入几千这个量级,互联已经不是配角,而是决定超节点能建多大的天花板本身。缩短高频电连接、把长距离交给光,为“把更多卡组织进一个域”创造了物理条件。这一步做不好,后面三层都无从谈起。 不能顺手推出的结论,得拦住几个: “降550千瓦”是两套互联方案之间的功率差,不是整座数据中心省了550千瓦,更不能据此算“每个Token省了多少电”; 7.2T是单引擎容量,不能直接当成每张昇腾卡可以独占的带宽; “业界首个量产”“传输能力最大”“唯一内置光源”都是华为的厂商声明,正文得保留归属,不能改写成经过独立验证的行业结论; 最要紧的一条:“具备量产能力”不等于“4096卡的昇腾960超节点已经大规模交付”。华为另一份材料的口径里,基于NPO的Atlas 960系统仍处于测试阶段。 不过话说回来,该给的敬意得给足。在单芯片制程被卡脖子的前提下,还能把“业界首个量产NPO”这条最硬的路先趟通,是真功夫。内置光源、把DSP从光引擎搬进交换机ASIC、用5500个Hi-ONE把原本上万颗光模块的活计收进近封装——这些都不是PPT上的漂亮词,而是要在良率、散热、可靠性上一颗一颗啃下来的工程硬骨头。当很多人还在争论“要不要上光、上CPO还是NPO”,华为已经把它做成了能装进超节点、敢标“量产”的实物。更难得的是那份把竞争维度从“单卡强不强”整体挪到“系统连得好不好”的判断力和定力——这一步棋,无论最终成绩单如何,都配得上一句漂亮。也正因为它下得这么重,才更值得我们把它拆开看清楚:这份漂亮,究竟兑现在了哪一层。 光进铜退不是华为独家的故事。英伟达在2025年就发布了Quantum-X(InfiniBand,2026年上半年)和Spectrum-X(以太网,2026年下半年)两款共封装光学(CPO)交换机,用微环调制器把互连功耗压下来,博通、AMD、IBM也各自在推光互联。有意思的是,这恰好把前面那句“NPO是位置之争”落到了实处:华为押的是NPO(近封装),英伟达在交换机上押的是CPO(共封装)——两家龙头在“光引擎放哪儿”上做了相反的选择。所以这篇要讲的不是“华为发明了光互联”,而是“华为把光互联用在了超节点互联这一层,赌的是这条路线”。 第二层 · 协议总线:灵衢UnifiedBus解决“大家按什么规则通信” 物理链路只负责把信号送到,协议才决定设备怎么识别、寻址、访问彼此。灵衢UnifiedBus干的不是“把电换成光”,而是把NPU、CPU、内存、SSD、网卡、交换设备纳进同一套互联体系。华为把它概括成协议归一、内存语义、平等互联。 一个克制的类比。NPO铺好了高速公路,UnifiedBus规定车辆身份、目的地址和通行规则。只有路、没有规则,4096张卡照样无法协同完成一次模型计算。 为什么这层不可省?传统AI集群里,卡内互联、机间网络、存储网络、CPU访问,可能各用各的链路和协议,一次数据搬运要经过多次转发和协议转换——路径越长、层级越多,通信时延和软件协调成本就越难压。统一协议减少的,正是这些转换与协调。而它和第一层的关系可以一句话收住:NPO负责信号怎么传,UnifiedBus负责这些信号表达什么,两者合起来,就是华为说的“近铜远光+统一互联”。 华为这次也给灵衢配了成套的分层设备,覆盖柜内、跨柜、集群三级。柜内用灵衢互联刀片做到“零电缆”,华为称一个4096超节点因此省下约196公里铜缆;跨柜的灵衢交换设备有176个端口、每端口1.6T、单机280T全光互联,两层CLOS组网撑起4096卡,RTT时延低至2微秒;再往集群外扩,UBG交换机以1024的大Radix扇出去够百万卡规模。这套“从单柜到百万卡”的分层体系,也顺带回答了第一层的Hi-ONE最终插在哪儿——光引擎是这条总线的物理载体,而不是它的替代品。 所谓“4096卡像一台计算机”,不能全记在NPO头上。华为自己的口径也是“灵衢+统一内存编址+Hi-ONE”三者共同构成超节点——把功劳单独派给光互联,是最常见的误读。 不同设备间是否采用完全一致的内存语义、一次跨节点访问要过几级交换、拥塞与重传怎么处理、真实大模型负载下协议开销占多大比例——公开资料不足,以官方演讲稿为准。还有一条绕不开的线:统一协议的另一面是生态绑定,灵衢的核心IP握在华为手里,而目前多家云厂商在互联上更倾向以太网路线——“统一”到什么范围、由谁来定义,本身就是接下来值得盯的地方。 第三层 · 内存语义:统一编址让卡看到同一片空间,但1PB不是一张卡的本地显存 “一台计算机”最关键的一步变化,是软件不必再把每台服务器都当成完全独立的孤岛。统一内存编址,让分散在不同卡上的HBM进入同一套地址体系。 但这句话极容易被误读。昇腾960超节点“1PB HBM”,指的是4096张卡的HBM总容量,它不等于任意一张卡都能以本地HBM的速度访问全部1PB空间。 概念 它回答的问题 总容量 整套系统一共有多少HBM 统一编址 不同设备能否用同一套地址体系找到数据 访问带宽 单卡或一组卡每秒能读多少数据 访问时延 本地访问 vs 跨节点访问,各要等多久 统一地址空间降低的是“软件管理分布式内存”的复杂度,但数据放在哪儿依然要紧:访问本地HBM、访问同机柜里邻卡的HBM、跨多级交换访问远端HBM,成本不可能天然一样。 ...

5吉瓦到底是多少张卡?为什么大模型公司开始按“吉瓦”规划算力

博通预计Anthropic将在2027年部署5吉瓦TPU。这篇把吉瓦换算成GPU功率占位、建设成本和年用电量,再拆开合同容量、建设容量、通电容量与可用算力之间的差别。

AI语音客服0.05美元一分钟,为什么这还不是最终价格?

GPT-Live-1的语音层每分钟0.05美元,但一通AI客服电话还会产生后端模型、工具和电话线路费用。本文用同一通5分钟电话分别连接Luna、Terra和Astra,算清语音层什么时候是大头,以及缓存和模型路由怎样改变最终账单。

200美元的新会员被挡在门外,20美元的还能买:OpenAI为什么先关最贵的门?

GPT-6 Astra发布7天后,OpenAI暂停了ChatGPT Pro 200美元套餐的新购和升级,20美元的Plus和100美元的Pro却继续销售。最贵的套餐为什么最先关门?答案藏在Pro 20x的用量承诺里。

同一颗芯片,为什么训练和推理是两笔完全不同的采购?

一颗官方定位同时覆盖Decode和训练的芯片,为什么头部模型公司规划大规模部署时,却先把它放在推理侧?答案不只在芯片参数,还在集群连续性、交付节奏、软件迁移风险和产能兑现方式。