DeepSeek新出的DSpark,不是让模型更聪明,而是让它说话更快
这两天看到 DeepSeek 又冒出来一个新词:DSpark。 第一眼看上去,很容易以为它又发布了一个新模型。毕竟现在大模型圈子里,只要名字后面多几个字母,大家就会本能地想:是不是能力又上去了?是不是推理更强了?是不是又要重新排榜了? 但 DSpark 这事,最好不要这么理解,它不是一个新大脑,它更像是 DeepSeek 给模型换了一种更快的说话方式。 简单说,DSpark 解决的不是“DeepSeek 会不会回答”,而是“DeepSeek 能不能更快把答案吐出来”。 这两个问题不一样:一个是能力问题,一个是效率问题。 大模型为什么总是一点点往外蹦字? 我们平时用大模型,最直观的感觉就是:它不是一下子把整篇回答发给你,而是一行一行慢慢出来。 有时候看着还挺像一个人在打字。 但这不是界面故意做出来的打字机效果,而是大模型本来就这么工作。 大模型生成内容,不是先在脑子里写好一整篇文章,然后复制粘贴出来。它更像是在不断猜下一个字、下一个词、下一个 token。 前面说了什么,决定后面最可能说什么。 大模型如何一个 token 一个 token 生成文本 所以它的工作方式大概是:先预测下一个 token,再根据这个 token,预测再下一个 token,再继续往后预测。 一路这么走下去,最后才变成我们看到的一段回答。 这里的 token 不需要理解得太复杂。可以粗略当成 AI 处理文字的基本颗粒。中文里可能接近一个字,也可能是一个词的一部分;英文里可能是一个单词,也可能是单词的一部分。 关键不在 token 的精确定义,而在它的生成方式: 大模型原来基本是一个颗粒一个颗粒往外吐。 这就像一个人说话,每说一个字都要停下来想一下。 能说,但慢。 DSpark 在中间加了一个“小助手” DSpark 的思路,可以用一个很土但很容易懂的比喻来讲。 原来的大模型,像一个很谨慎的老师。 每写一个字,都要自己想、自己判断、自己落笔。 DSpark 相当于给这个老师配了一个学生。 学生写草稿,老师快速批改 学生先写一小段草稿,老师再快速批改: 这几个字对,保留。 这个词不对,改掉。 后面这一小段可以直接用。 这里猜错了,退回来重新写。 如果学生猜得准,老师就省事了。 老师不用从空白纸开始一个字一个字写,而是可以在草稿上快速确认。 这就是所谓的“推测解码”。 听起来挺技术,其实就是四个字: 先猜,再验。 小模型或者草稿模块先把后面可能出现的 token 猜出来,主模型再来验证。猜对了,就一口气通过;猜错了,再回头修正。 所以 DSpark 不是让小模型代替大模型,也不是降低标准凑速度。 ...