71篇文章 · 207987字 · 693分钟阅读

DANKOE最新文章《如何在AI大替代中生存(并逃离薪资奴役)》

DAN KOE 发布了最新newsletter《How to survive AI mass replacement (& escape wage slavery)》,标题很猛,里面也有不少他一贯锋利的表达:wage slavery、unemployable、life’s work,直译过来都带着刺。 AI 时代的分叉路口 但它表面在讲 AI 和就业,内核其实不是「AI 会不会抢走你的工作」。它真正问的是:一个人到底要不要继续把自己的生存,完全交给别人。 现在大家聊 AI,常见两种情绪。一种是兴奋,觉得终于有了超级工具;另一种是愤怒,觉得 AI 偷走了创作者的东西,把世界搞得更卷。 Dan Koe 对第二种情绪不太客气。他认为,在社交媒体上喊几句「反 AI」,确实容易获得身份认同,也容易让人觉得自己站在了正确的位置上。但喊完之后呢?生活不会因为你反对 AI 就变得更稳,雇主不会因为你不喜欢 AI 就永远保留你的岗位,技术更不会因为你觉得不公平就慢下来等你。 所以他给了一个很反直觉的判断: AI 不是真正的威胁,依附性才是。 你依附于一个雇主、一份工资、一个平台、一套过去有效的技能,甚至依附于「只要我努力工作,生活就会越来越好」的旧叙事。这些东西一旦变化,你就立刻被动。这才是更深层的风险。 工资奴役,不只是工资低的问题 文章里最刺耳的一个词是 Wage Slavery,工资奴役。 工资依附感:看得见的收入,看不见的锁链 很多人会本能反驳:我又不是奴隶,我有工资,也有选择。但他讲的不是传统意义上的奴役,而是一种金融意义上的困住—— 如果你不上班就会陷入灾难,而且你没有任何技能去创造替代方案,那么不管你感觉自己多自由,你都符合某种奴隶的定义。 这话很难听,但也很难完全反驳。 当然,他不是反对工作本身。工作有价值,尤其在一个人刚进入社会时,它是最快的训练场:协作、流程、交付、沟通、专业技能,还有真实世界到底怎么运转。问题是,很多人把工作当成了唯一的生存方式。 一开始,工作是踏脚石。时间久了,踏脚石变成了笼子。 Dan Koe 在这里提到心流理论,我很有共鸣。一个人真正有成就感,往往不是躺平时,也不是被迫重复时,而是处在「能力边缘」上:事情略微超过你的能力,你需要学习、尝试、犯错,然后一点点掌控它。太简单会无聊,太难会焦虑。 很多工作的问题就在这里。刚开始你觉得新鲜,什么都要学;几年以后你掌握了流程,挑战感下降,剩下的变成重复、等待、汇报、填表、开会。人当然会无聊,无聊之后就会找刺激——刷短视频、买东西、沉迷各种即时反馈。不是因为真的喜欢,而是大脑已经很久没被真正的挑战点亮过了。 所以「逃离工资奴役」,不是简单喊一句「我要辞职创业」。它真正指向的是:你要重新获得安排挑战等级的能力。 不再只是被别人分配任务,而是开始给自己设计任务。 AI 让「能做出来」越来越不值钱 Dan Koe 在第二部分讲了五个能力:能动性(Agency)、品味(Taste)、说服力(Persuasion)、坚持(Persistence)、迭代(Iteration)。 AI 让“能做出来”贬值:满地半成品 这几个词都不新,尤其 high agency 这几年快被说烂了。但他很讽刺地说:一群人跟风谈 high agency,本身就暴露了他们没什么 agency。这个判断挺狠,也挺准——真正的能动性,不是转发几句金句,而是没人催你、没人给流程、没人保证结果的时候,你仍然能开始做一件事。 这五个能力压缩一下,其实就是两件事: 把事情搞定的能力。知道什么事情值得搞定的经验。 ...

不同算力卡一小时能干多少活?

上一篇聊了 1P 算力到底有多大,这一篇换个更具体的问法:算力听起来很大,但它到底能干什么?这个问题继续往下走,就会变成一个更具体的问题——如果我手里有一张算力卡,让它连续工作一小时的话,到底能干多少活? 能写多少篇文章? 能回答多少次问题? 能支撑多少人同时使用 AI 助手? 能不能撑起一个企业内部的智能体系统? 直接换一种更容易理解的方式:把算力换算成 AI 的实际产能。 不同算力卡一小时能干多少活 1. 算力很抽象,不如换成工作量 我们平时看到算力卡参数,一张卡 300 TFLOPS,另一张卡 1000 TFLOPS,听起来差了好几倍,这个差距到底意味着什么?或者更直白的问题应该是:它一小时能完成多少 AI 工作? 比如: 一小时能生成多少文字? 一小时能写多少篇文章? 一小时能回答多少次问题? 一小时能服务多少个用户? 一小时能处理多少份材料? 这才是算力真正落地之后的样子。 所以,讨论不同算力卡一小时能干多少活,不能只看“这张卡有多强”,而要看它在一个具体 AI 场景里能产出多少东西。 2. 先设定一个统一场景 要比较不同算力卡,必须先设定一个统一场景,否则没法比。 同样一张卡,跑 7B 模型、35B 模型、70B 模型,工作量完全不同,而换做不同的业务逻辑,比如图片生成、视频生成、模型训练、大模型推理,消耗也就完全不同。 选一个足够考验算力、也比较贴近日常 AI 应用的场景:运行一个 70B 级别大模型,连续一小时对外提供文本生成服务。 这个场景可以对应很多实际工作,比如写文章、写代码、做摘要、回答问题、做客服、写方案、做资料分析、给企业内部知识库提供问答服务,我们不讨论一张卡理论上有多强,而看它在大模型推理场景下一小时最多能生成多少 token。 为什么选 70B?——因为 70B 是一个比较好的参照物。 7B、14B 模型更像轻量级工具,适合简单问答、分类、摘要、本地助手。 35B 已经开始进入比较强的生产力模型区间。 70B 则是一个分水岭:模型足够大,负载足够重,也更接近严肃的大模型推理场景。 所以本文里的“一小时能干多少活”,本质上是在问:一张算力卡连续跑 70B 大模型,一小时能生成多少 token? 3. token 是什么? AI 生成文本不是按“字”算,也不是按“篇”算,而是按 token 算。 token 可以简单理解成:AI 处理文本的基本颗粒。 ...

拥有1P算力,能干点什么?

​ 拥有1P算力,能干点什么? 之前聊过“什么是 1P 算力”,简单说,1P 算力通常指 1 PFLOPS,也就是每秒 1000 万亿次浮点计算能力。但知道这个定义之后,新的问题马上来了: 如果我真的拥有 1P 算力,到底能干点什么? 能不能训练大模型? 能不能跑本地 AI? 能不能支撑一个企业的智能体应用? 能不能让几百个人同时用 AI 助手? 这篇就不继续抠概念了,直接聊应用。 1P 算力不小,但也没那么神 先说结论:1P 算力不算小,但也没到“想干什么就干什么”的程度。 如果只是做 AI 推理,比如让已经训练好的模型回答问题、处理文档、写材料、做知识库问答,1P 算力已经能做不少事情。 但如果想从零训练一个真正意义上的大模型,1P 算力基本不够。 训练大模型不只是看算力,还要看显存、通信、数据量、训练时间、工程能力和资金投入。 ​ 1P 算力支持的典型应用场景⁠ 1P 算力大概是什么体量? 按 FP16 来粗略理解,1P 算力就是每秒 1000 万亿次半精度浮点计算。 但这个数字太大,一般也没有感觉。 更直观一点说,1P 算力它不像一台电脑,也不像一台服务器,更像是一个小型机房里的一组 AI 加速卡,大概可以理解为一个很小型的 AI 算力资源池。它不是“几台普通电脑”的概念,而是需要多张专业 AI 加速卡组合起来,才能达到的计算能力。 说法 普通理解 1P FP16 算力 每秒约 1000 万亿次半精度浮点计算 它不是一台电脑 通常需要多张 AI 加速卡组成 它不是万能指标 还要看显存、带宽、网络、利用率 它适合什么 推理、小模型训练、企业 AI 应用 它不适合什么 从零训练超大规模基础模型 拥有 1P 算力,可以干哪些事? 1. 跑大模型推理 所谓推理,就是模型已经训练好了,现在让它回答问题、总结材料、写代码、生成文案、分析表格、处理图片。 ...

我用WorkBuddy做了几件小事,才明白Agent是什么

前两天我人在外面,需要的一个文档在家里电脑中,这事说大不大,说小也不小。等回家当然能弄,打开电脑,找到文件,再处理需要的内容,十来分钟的活儿。但这种活儿最烦的地方也在这里:它不值得郑重其事坐下来处理,可它就是会一直挂在脑子里。 现在,在微信小程序里给 WorkBuddy 发一句话,让它连上家里电脑,看一下所需要的文件,并对文件进行一些操作,再顺手总结一下。撒泡尿的功夫,任务已经跑完了。 ​ 使用WorkBuddy 那一刻我才有点理解,为什么现在大家都在讲 Agent:不是因为它会聊天,也不是因为它能写几段漂亮话,而是它终于开始替你动手了。 前几天还有一条新闻:6 月 16 日,全国首个省级政务智能中枢“湾擎”上线试运行,同时预发布了湾擎·WorkBuddy,后面会面向广东全省公务员开放。这个新闻听起来很政务、很企业,这跟咱也没关系,说有点关系的话,那就是咱能不能拿来处理自己的日常杂事? 先一分钟搞清楚 WorkBuddy 是个啥 一句话:它是个桌面 / 全场景的 AI Agent,也叫智能体工作台。 跟你天天对话的那种 AI 不一样的地方在于——它不只是给你“答案”,而是真的把你电脑当成“AI 同事”来用:听懂你一句大白话,自己拆解任务、规划步骤、动手执行,最后交给你一个能直接验收的成品。能力上它跟开源的“小龙虾”OpenClaw、Hermes 类似、完全兼容这类 skills,但更省事也更安全——不用折腾环境,从下载安装到微信扫码登录,最快一分钟。 这一类产品现在其实不少,横向对比一下,心里有个谱: 产品 核心定位 更像什么 主要战场 腾讯 WorkBuddy AI Agent 桌面工作台 “办公智能体入口” 企微、腾讯文档/会议、政务办公 阿里悟空 企业级 AI 工作平台 “钉钉里的 AI 员工军团” 钉钉、审批、日程、企业流程 Claude Cowork 知识工作的桌面 Agent “会操作本地文件的 Claude” 文件整理、研究综合、文档生成 OpenAI Codex 编码 Agent / 云端执行器 “云端 AI 工程师” 代码库、PR、调试、自动化 Claude 的 Cowork、阿里的悟空、OpenAI 的 Codex 都在做同一件事,只是切入口不同。排除掉 Claude 和 Codex 的网络问题,国内能开箱即用、又跟微信生态长在一起的,目前确实是 WorkBuddy 最顺手。它属于腾讯 CodeBuddy 产品线下的一个分支——CodeBuddy 就是腾讯版的 Codex,也很能打,这个以后单开一篇聊。 ...

了解一下图片暗水印

聊这个话题之前先看看下面这两张图片,能看出来有什么区别吗? 图片一 图片二 直观来看,左图左下角有文字水印,右图是“原图”。其实除了画面内容,两张图片承载了相同的文字信息,只不过右图不是明文显示,而是通过暗水印的方式把文字藏了进去。 关于暗水印 图片暗水印(也叫隐形水印、盲水印)是一种把标识信息嵌入图片内部、肉眼看不见但能被算法提取出来的技术。和传统明晃晃的文字水印(明水印)不同,暗水印不破坏画面观感,主要用于版权追踪和泄露溯源。 典型用途 版权追踪: 比如摄影师、设计师、平台给图片加入暗水印,后续即使别人裁剪、转发,也可能检测出原始来源。 平台溯源: 有些社交平台、图片平台、AI 图片生成工具,可能会在图片里加入隐藏标记,用来判断图片来源、生成工具、上传渠道等。 防盗图: 即使别人把明水印裁掉,只要暗水印还在,就可能证明图片来源。 AI 生成图片识别: 一些 AI 图片系统会尝试给生成图加入不可见标记,用于说明“这张图可能由 AI 生成”。(借助 AI 工具生成的视频、图片,会被抖音、视频号、小红书等平台识别出是 AI 生成的作品,可能就是这个原理。) 暗水印不等于 EXIF 信息 很多人容易把两者混在一起,EXIF 信息是照片文件里的元数据,比如: 1 2 3 4 拍摄设备:iPhone 拍摄时间:2026-06-21 GPS 位置: 镜头参数: 这种信息比较容易被查看,也容易被删除。但暗水印一般是嵌进图片内容本身的,即使你删掉 EXIF,它可能还在。 做个小实验 核心原理很简单:明文 → AES-GCM 加密 → LSB 隐写嵌入 PNG 图片 → 接收端逆向提取。 ...

快捷指令终于有“全局变量”了!

升级到 iOS 27 beta 1,本来只是想看看系统是不是更顺手了。用了几天下来,发现快捷指令里一个很不起眼的改动——快捷指令总算有了点“全局变量”的味道。常折腾它的人大概懂,这真不算小更新。 升级到 iOS 27 beta 1 之后 先说系统本身。 升级之后,手机整体用起来确实更顺了一些,每天划来划去、打开关闭 App、切换页面的时候,能感觉到它比之前更轻一点。 我自己比较在意的地方主要有三个。 1. Liquid Glass Liquid Glass效果 这个效果之前看介绍的时候,我其实没太大感觉。因为这类视觉更新,很容易在宣传图里显得高级,真正用到手机上又是另一回事。但这次实际用下来,它确实比我想象中舒服。透明、折射、层次感这些东西没有那么“炫技”,反而是日常看着更干净了一点。 2. 景深效果 iOS27主题景深效果<br> 鼠标悬浮在图片上移动鼠标可以看到景深效果动图 手机主题和锁屏里的景深效果,好像也比以前好了不少。图片和时间、组件之间的前后关系更自然,不像之前有时候会显得硬贴上去。当然这个感受比较主观,也可能跟我这次换的壁纸有关,但整体观感确实比之前顺眼。 3. 快捷指令又变了 iOS27快捷指令新增功能 每次系统升级,我最怕的其实不是耗电,也不是卡顿,而是快捷指令。 因为快捷指令这东西很奇怪:平时用得好好的,一升级系统,它就可能突然这里坏一点,那里报个错。最麻烦的是,官方通常也不会很详细地告诉你,到底哪些动作改了,哪些逻辑变了。 这次也一样。 我原来用的几个快捷指令,被搞得七七八八不能正常运行。只能重新备份、修改、删除、新建,一点点把流程修回来。折腾的过程挺烦,但也正是在这个过程中,我发现了一个新功能——“储存空间”。 说实话,Apple 这个名字起得有点绕,如果直接叫“全局变量”,反而更容易理解。 快捷指令里的“储存空间” 这个功能藏在快捷指令的“脚本”里面,名字叫“储存空间”。 点进去之后,里面主要有三个动作: 储存内容:把传入的内容按指定名称存起来。这个内容不会因为快捷指令运行结束就消失,后面还可以继续取出来用。 获取已储存内容:按照名称,把之前存过的内容取出来。 删除已储存内容:把指定名称下保存的内容删掉。 这三个动作放在一起,意思就很清楚了。 我举个自己正在用的例子: 全局变量的使用 我做了一个跟写作选题有关的快捷指令,需要给每个选题自动生成编号。以前如果想实现这个功能,要么借助备忘录、文本文件、Data Jar 这类第三方工具,要么绕一堆很麻烦的逻辑。 现在简单多了。 创建一个名为“选题编号”的快捷指令。 在里面使用“脚本”里的“储存空间”,选择“储存内容”,把编号“001”存进去,并给它起一个名字,比如叫“第几个选题”。 这样,一个最简单的全局变量就有了。 使用这个全局变量 后面另一个快捷指令要用这个编号时,就直接通过“获取已储存内容”,读取“第几个选题”这个值。 读取之后,用它生成当前选题编号。 流程结束前,再让这个编号自增 1,然后把新的编号重新写回“第几个选题”。 也就是说,第一次运行是 001,下一次就是 002,再下一次就是 003。 这个功能其实能解决很多小麻烦 快捷指令最有意思的地方,就是它看起来只是几个动作拼来拼去,但只要能保存状态,它就不只是“一次性工具”了。 可以记录某个流程上次运行到哪里。 可以保存某个计数器。 可以记住某个开关状态。 可以给选题、文件、录音、截图这些东西自动编号。 可以把一些常用配置放进去,之后所有相关快捷指令都从这里读取,不用每个快捷指令里都手动改一遍。 这跟写程序里的全局变量、配置文件、状态存储有点像。对于普通用户来说,不需要理解这些概念;但对喜欢折腾自动化的人来说,这个变化很关键。 ...

换种问法,AI给的答案能差多少?

又做了一个实验 在上一篇里,我把同一段文字丢给好几个不同的 AI 工具,让它们各自总结一遍。材料一模一样,结果却挺不一样:有的抓住了重点,有的会自作主张补几句“听起来很合理、原文却根本没写”的话,还有的把原文里含含糊糊的说法,硬讲得斩钉截铁。那次之后,我对“幻觉”这件事有了更具体的感受——它不是简单的“我不知道”,而是会一本正经地,把没把握的东西说得跟真的一样。 换种问法,AI给的答案能差多少? 这一次,我换了个思路。 上回是“同一段材料,喂给不同的模型”;这回反过来,只用一个模型,让它做同一件事,但每次换一种问法。说白了,就是改 prompt(提示词)。 同样一个模型,任务大方向也没变,只是问法不同,我想看看: 它给出来的内容,差别到底有多大? 是只换了个说法,还是连理解的重点都跟着变了? 是写得更准了,还是更容易跑偏? 于是有了下面这五种问法: 序号 Prompt 类型 Prompt 内容 1 普通总结版 总结一下下面这段内容:【材料】 2 字数限制版 请用 100 字以内总结下面这段内容:【材料】 3 结构化总结版 请按以下结构总结:①发生了什么 ②原因是什么 ③影响是什么。【材料】 4 防幻觉约束版 请只根据原文总结,不要加入原文没有的信息;如果原文没提到原因、影响或结论,就直接写“原文未提及”。【材料】 5 证据对应版 请总结下面这段内容,并把每条结论对应到原文依据。格式:结论+对应的原文句子。【材料】 这五种,其实正好对应我们平时用 AI 的几个层次:随手一问 → 加一点限制 → 给它一个结构 → 要求它别乱编 → 最后逼它拿出证据。 实验结果我没有一条条贴出来——这种东西自己试最直观。随便找段新闻或者资料,把上面五种问法挨个套一遍,差别一眼就看得出来。 我真正想搞清楚的是:面对同一段材料,这个 AI 到底是“理解稳定”,还是很容易被问法牵着走。如果只是表达风格变了,那 prompt 影响的主要是“它怎么说”;可如果连事实重点、因果关系、甚至结论都跟着变,那就值得警惕了——因为这说明,我们跟 AI 对话时,问法本身就在悄悄塑造答案。 既然问法这么关键,那怎么问才靠谱?下面是我自己常用的几样东西。 30 秒快速自检 敲回车之前,花半分钟过一遍这四件事: 动作:到底要它做什么?别写“处理 / 优化 / 弄一下”,写清楚是“新增 / 只改 / 重写 / 标注”。 对象:改的是哪个?别用“这个 / 它 / 那段”,直接给出文件名、函数名、单元格。 范围:边界在哪?少用“所有 / 全部 / 相关 / 顺便”,明确说清楚包含什么、排除什么。 验收:怎样算做对了?比如签名不变、测试跑通、控制在一页、不超纲。 凡是带副作用的操作(改文件、拉数据、删除、下单、推送),我都会默认补一句:“先列出你要做的,等我确认再执行。” 就这一句,能拦掉绝大多数“方向对了、范围却搞大了”的白白烧 token 的操作。 ...

了解Ai大模型的幻觉

跟AI工具进行对话时,刚开始聊着聊着还挺好,聊一会就明显感觉这伙计开始胡编乱造了,尤其是免费版的AI工具,付费版的还会陪你聊一会,可能不耐烦了之后也就开始应付着出现幻觉了。 AI模型的幻觉 问问AI 这个问题又去问了一下AI——还是人家不怕自相矛盾——给出了两个网络资源,一篇学术论文和一篇有营销嫌疑的博客文章; Benchmarking LLM Faithfulness in RAG with Evolving Leaderboards:https://arxiv.org/pdf/2505.04847 LLM Hallucination Index 2026: Why Claude 4.6 Sonnet Dominates BullshitBench v2 While Reasoning Models Fail:https://medium.com/@anyapi.ai/llm-hallucination-index-2026-why-claude-4-6-7b2d13ed9f0c 其中,论文聚焦的核心概念是忠实度(faithfulness):模型生成的内容是否严格基于给定上下文,不引入无依据信息、不曲解、不自相矛盾。这与“事实正确性”不同——一句话可能符合世界知识,但只要原文没说,在 RAG 场景里也算不忠实。作者指出一个反常识的事实:RAG 本意是用检索到的可信上下文来“锚定”模型回答,从而压制幻觉,但即便上下文已经给到模型,LLM 仍频繁添加原文不支持的细节、歪曲信息甚至直接矛盾。更棘手的是评测端:无论是微调的检测模型还是 LLM-as-a-judge,识别幻觉的准确率都不理想。作者特别提到一个令人沮丧的发现——在专门设计来“挑刺”的 FaithBench 数据集上,包括用 LLM 做分类在内的现有方法,准确率徘徊在 50% 左右,几乎等于随机猜。博客文章主要论点有三个:一是“推理悖论”,声称对 GPT-5.2、Gemini 3 Pro 等多数模型来说,加大推理算力反而降低识别假前提的能力,模型会把额外算力用来给错误“圆谎”;二是把 Claude Sonnet 4.6 捧为“唯一默认带怀疑精神”的模型(声称 91% 检测率、3% 幻觉率);三是说 OpenAI、Google 因过度 RLHF 变成“yes-man”,卡在 55–65% 区间。开源方面把 Qwen3.5 列为主要替代。 文论附录 论文附录给出了用 FaithJudge 对 12 个模型综合四个子任务的幻觉率排名(从低到高,越低越好): 排名 模型 综合幻觉率 1 gemini-2.5-pro 6.65% 2 gemini-2.0-flash 10.18% 3 gpt-4.5-preview 11.94% 4 o3-mini-high 12.52% 5 gpt-3.5-turbo 14.87% 6 gpt-4o 15.85% 7 claude-3.7-sonnet 16.05% 8 llama-3.3-70b 16.44% 9 phi-4 17.03% 10 mistral-small-24b 17.03% 11 llama-4-maverick 20.55% 12 llama-3.1-8b 28.38% 论文引用CNN 关于福建漳州工厂爆炸这则新闻来对每一个AI工具进行测试,从 用户问题、检索到的资料、模型回答、错误片段、为什么错、正确说法、证据来源这几个维度来测试并得出幻觉率排名。 ...

DAN KOE的书《Purpose & Profit》

简要内容 2025年3月24日,DAN KOE发文:“我写了一本第二本书。 一本关于金钱和发现你人生使命的简短而富有哲理的解读。 我把它免费提供,因为这是我希望尽可能多的人能拿到手中的东西之一。 平装版不是免费的,原因显而易见”。 《Purpose & Profit》原版封面图 作者官方链接 DAN KOE在其官网(https://thedankoe.com/purpose)发布了PDF下载链接和亚马逊购买链接,可以免费下载来看电子版。 下载链接:https://thedankoe.com/wp-content/uploads/2025/03/Purpose-Profit-2.pdf 亚马逊购买:https://www.amazon.com/review/create-review/ref=cm_cr_dp_d_wr_but_top?ie=UTF8&channel=glance-detail&asin=1936961288 我做的翻译版本 我下载了电子版,但是英语水平有限的紧,借助AI工具进行了翻译,并做了简单的手工校对。 《Purpose & Profit》中英文对照-01 《Purpose & Profit》中英文对照-02 从哪里取 英文原版电子版和中文手工校对版本都上传到了GitHub上,如有需要请自取: https://github.com/onecaicai/DANKOE-Purpose-Profit

理解什么是“1P”算力

常说的拥有某数据中心拥有“**P算力”,这里面的算力是什么呢? 什么是“1P”算力 网络上搜索一些内容,整理如下: “1P算力”里的 P 是数量级前缀 Peta(10¹⁵,千万亿),所以“1P算力”通常指 1 PFLOPS,即每秒 1×10¹⁵ 次浮点运算(1000万亿次/秒)。 1. 单位是 FLOPS,不是 FLOP。 算力的常用单位是 FLOPS(每秒浮点运算次数),是个速率。 1P = 1000T(TFLOPS)= 100万G(GFLOPS) 所以业内说的“1P卡”、“100P集群”基本都是指 PFLOPS 规模。 2. 必须看精度,否则数字没意义。 同一张卡在不同精度下算力差好几倍,“1P算力”本身是不完整的说法。完整的应该是包含FP64、FP32、TF32、FP16、BF16、INT8,还是 INT4? 本篇内容以“1P”的说法为入口,了解了解这方面的基础知识。 相关概念: 以一个实例开始: 一张 NVIDIA H100,FP16/BF16 峰值约 1 PFLOPS 量级(开稀疏更高),所以“1P”差不多就是“约一张高端 AI 卡”的体量。 “百P算力中心”“千P智算集群”这类说法,就是把成百上千张这种卡堆在一起的总峰值。 算力单位相关 FLOPS:全称 Floating Point Operations Per Second,即“每秒浮点运算次数”,是衡量算力的速率单位。注意结尾的 S 是 Second(秒),不是复数。 FLOP:去掉 S,指“一次浮点运算”本身,是个数量而非速率。训练一个模型“总共要算多少次”用 FLOP(或 FLOPs,小写 s 表示复数次数),“每秒能算多少次”用 FLOPS。两者常被混用,但严格意义不同。 浮点运算:对带小数的数字(浮点数)做的加减乘除等运算。之所以强调“浮点”,是因为它和整数运算的硬件实现、速度都不同,神经网络里大量是浮点计算。 Peta / P:国际单位制的数量级前缀,10¹⁵(千万亿)。同系列还有 G(Giga,10⁹/十亿)、T(Tera,10¹²/万亿)、E(Exa,10¹⁸/百亿亿)。换算:1P = 1000T = 100万G。现在最顶级的超算到了 E 级(ExaFLOPS)。 精度相关 精度:指一个数字用多少位(bit)来表示。位数越多,能表示的数值范围越大、越精确,但占的存储和计算资源也越多。AI 领域为了提速和省显存,倾向用更低的精度。 ...