本文是「术语解构」系列第。在之前的文章中拆解过算力的标称、上下文窗口的标称、跑分的标称,这一篇拆的是“本地大模型”这五个字里的“本地”两个字。

一句话的指令,背后要看多少东西

先想一个场景。

你对手机说:“找一下老婆昨天发给我的航班号,看看晚点没有。晚了的话,把我下午三点的会往后挪半小时,然后回她一句我晚点去接。”

这句话听起来很日常。但你把它拆开,AI要做的事情是这样的:先知道谁是你老婆,再进你的聊天记录找到那条消息,从里面认出航班号,联网查航班状态,打开你的日历找到那个会,改时间,最后调用消息App把回复发出去。

每一步都要看一样东西:通讯录、聊天记录、日历、消息权限。

问题来了:这些数据,是在你手机里被AI看见的,还是先传到了某个服务器上?

我以前看AI手机,基本只盯一件事——模型够不够强。最近把Apple这套新架构翻完,又对照着看了国内的豆包手机和三星的做法,我越来越觉得,未来AI手机真正的分水岭不在模型能力,而在数据在哪里被处理。

所以这篇想先立一个判断:以后再看到“本地AI”“端侧大模型”这几个字,得追问一句——到底什么留在了本地? 模型在本地跑,和你的数据不出本地,是两件事。它们可以同时成立,也可以只成立一半。

一、手机里有AI,不等于AI在手机里

现在市面上的“AI手机”,粗看都差不多,拆开大概是三代。

第一代是AI App。手机上装个ChatGPT、豆包、Claude,打开、输入、等回答。本质是手机上跑了一个AI应用,跟手机本身没什么关系。

第二代是Agent手机。AI开始能看屏幕、理解当前App、模拟点击、跨App把一件事办完。体验上是质变。但为了替你办事,它必须看到越来越多的东西——你在哪个App、屏幕上是什么、你的联系人是谁。

第三代,我姑且叫它Local-first手机:模型在设备上跑,个人数据也尽量留在设备上,实在算不动的才去云端。

前面写Agent的时候,我反复强调“会说”和“会做”的差别。但一旦AI真的开始“做事”,另一个问题就绕不过去了:它需要多少权限,这些权限打开之后,数据流向了哪里?

这一节先把三代分开,不下判断。判断在后面。

二、20B不是重点,重点是它怎么“不”一次装进内存

先把时间线捋直,因为这几天的讨论很容易把两件事叠在一起。

20B这个数字不是iPhone 18发布会才公布的。今年6月WWDC上,Apple就发了第三代基础模型AFM 3,一共五个:两个端侧,三个云端。端侧的AFM 3 Core是3B稠密模型,AFM 3 Core Advanced是20B稀疏模型,Apple自己的表述是每次根据请求只激活10亿到40亿参数。硬件门槛,Apple原文只说“在最强的Apple Silicon上解锁”,媒体报道的门槛是iPhone 17 Pro。

9月9日的iPhone 18 Pro发布稿里,Apple讲的是A20 Pro:2纳米工艺,内存带宽比A19 Pro高50%,双16核神经网络引擎共32核,AI算力翻倍,再加上Siri AI。发布稿里没有出现“20B”三个字。所以准确的说法是:6月Apple公布了20B/1~4B的架构,9月iPhone 18把端侧AI的硬件和Siri AI推到了更显眼的位置。

回到那个20B。如果你在Mac上跑过本地模型,第一反应大概和我一样:这得十几GB权重吧,手机怎么装?

Apple的做法是不把完整的20B同时装进DRAM。完整模型存在NAND闪存里,每次只把当前需要的共享权重和那一组专家装进内存。原因很实在:NAND到DRAM的带宽,撑不住像数据中心那种MoE模型逐token换专家的做法。所以AFM 3 Core Advanced改成按prompt做路由——收到请求时,一个轻量的稠密模块先判断这次要用哪一组专家,把它们装进DRAM,然后开始生成;生成过程中会周期性地重新选一次。为了少搬数据,模型里有相当比例的“共享专家”是常驻的,只有和输入相关的“路由专家”才按需换入。

Apple还提了一个我觉得挺关键的设计:激活参数量不是固定的,而是按用途预设。比如做语音合成和听写这类任务,它只用1B激活参数。所以“1~4B”不是一个模糊范围,是不同任务用不同档位。

把这套机制压缩成一句话:20B是能力池,1~4B是工作集。

20B能力池与1~4B工作集
20B能力池与1~4B工作集

所以以后看端侧模型,至少要把三个数字分开看:

AFM 3 Core Advanced普通20B稠密模型
总参数20B20B
每次参与计算1~4B,按任务预设接近全部
常驻DRAM当前那组专家+共享权重全部权重
专家切换按prompt,生成中周期性重选不适用(或逐token)
设计目标手机系统AI通用推理

这和我们在Mac上跑Qwen的经验是两套逻辑。过去的经验公式是模型大小≤内存,24GB能跑27B 4-bit,16GB就得退到14B。Apple在试的是把公式改成激活参数≤内存,总参数可以远大于内存。

这时候NAND就不只是存照片和App的地方了,它可以理解为AI模型的一种“二级内存”。这是我的类比,不是Apple的说法,但我觉得它比“20B塞进手机”更接近实际发生的事。也正因为权重要在NAND和DRAM之间来回搬,A20 Pro那个“内存带宽提高50%”,对这套架构来说可能比“AI算力翻倍”更实在。

顺便纠正一个我自己之前的误解:我一度以为它是“按任务加载一组专家然后不动”,看了原文才知道生成过程中还会重选。所以它既不是数据中心那种逐token的MoE,也不是死板的按任务分组,是介于两者之间的一种折中。

三、一个3B模型,为什么可能比27B更像“智能手机”

现在回到开头那个航班场景。

假设你手里有一个很强的27B模型,纯本地跑,推理能力远超Apple这个3B或者20B稀疏模型。你把那句话丢给它,它能做什么?

它不知道你老婆是谁。它看不到你的聊天记录。它没有你的日历。它没有权限调用消息App。它连航班状态都查不了,因为它不联网。

它很聪明,但它什么都办不了。

换一个只有3B参数的系统模型,如果它接着通讯录、日历、邮件、Spotlight索引、App Intents和网络,反而能把这件事从头到尾办完。

所以我现在更愿意这样写这个公式:

AI实际能力 = 模型能力 + 个人上下文 + 工具 + 系统权限 + App能力 + 云端补充

模型能力决定AI能不能想明白,系统能力决定AI能不能知道你的事、并把事情办完。

前面写Agent时,我把聊天机器人和Agent的区别归结为“谁决定下一步、谁执行下一步”。到手机上,还得再加一问:谁有资格看到下一步需要的数据?

这个问题,三家厂商给出了三种不同的回答。

四、三个样本:它们各证明了一件事

先说清楚,这一节不比谁好谁差。我把三家放在一起,是想说明模型、系统控制权、硬件、数据边界是四个不同的层次,一家可能只拥有其中几层。

豆包手机:有系统权限,不等于有规则制定权。

去年12月1日,字节和中兴努比亚推出了搭载豆包手机助手的工程样机M153。它的做法是系统级GUI Agent:AI看屏幕、模拟人的点击和滑动、跨App办事,技术上依赖Android的INJECT_EVENTS这类系统级权限,由用户授权后开启。

然后就出事了。微信识别到“非典型用户行为”,触发登录环境异常、强制退出;淘宝、支付宝和多家银行App陆续出现访问或操作限制,豆包随后下线了部分敏感应用的操作能力。有安全专家的解释我觉得说到了点上:操作系统靠沙箱隔离应用,AI助手要跨应用执行任务就必须请求额外权限;如果不在服务端代理登录,就是在客户端触碰了不同应用的数据边界,应用开发者自然敏感。

豆包方面的回应是:屏幕内容不在云端存储、不用于训练。这些承诺我没有理由不信。但豆包的问题也不是“拿不到系统权限”——M153恰恰已经和中兴做到了OS层的集成。真正的问题是,字节既不掌握Android平台的规则,也不掌握微信、支付宝、银行App的数据边界。 它可以拿到中兴给它的权限,却不能单方面决定其他App是否接受这种调用方式。

有意思的是二代的走向。二代NaviX Ultra定档9月16日发布,已经拿到入网许可。据晚点LatePost报道,二代调整了和阿里、腾讯等超级应用的合作方式,不再走读屏加模拟点击的路。这条是二手信息,我没找到官方口径,但如果属实,它等于承认了一代的路走不通:不和系统厂商、App厂商坐到一张桌子上,Agent就只能在别人的边界上打擦边球。

三星:Local-first不要求所有模型都自己造。

三星没有坚持“一个模型包打天下”。Galaxy S26上,设备控制交给Bixby,个人化数据由个人数据引擎在设备上处理,更复杂的搜索、推理和跨App的Agent能力则大量依赖Gemini和Perplexity,用户选一个就能一键或语音把多步任务交出去。三星拥有的不是Android本身,而是One UI、Knox、硬件和深度系统集成。

它在隐私上做了三层:个人数据引擎在设备上学习你的偏好,KEEP对每个App的数据单独加密,Knox Vault把密码、密钥、生物特征关进独立的安全硬件。用户还可以在隐私设置里选择“仅在设备上处理”,代价是部分功能受限——三星自己就是这么写的。

这个开关是真的,但开关打开以后能做多少事,取决于哪些能力本来就在本地。凡是要联网搜索、要Gemini或Perplexity出手的任务,上下文自然要上云。所以三星证明的是:做Local-first不一定要模型全自研,但你得清楚哪一层是自己的。

Apple:即使全栈自有,也绕不开端云协同。

模型、芯片、操作系统、权限模型、安全硬件,Apple这几样都在自己手里。理论上它是三家里最有条件做纯本地的。但它仍然设计了一套完整的端云分工——这个留到第六节说。

一个铺垫。 7月15日网信办公告了新一批手机端侧生成式AI服务的备案信息:Apple智能、华为小艺、vivo蓝心、小米澎湃、OPPO、三星、努比亚豆包大模型,七款的备案时间都是7月8日。这份名单本身就说明一件事:“端侧”正在从一家的架构选择,变成一个品类。 这个先记着,文末会回来。

五、“不保存数据”和“数据没离开设备”,不是一回事

为了方便说清楚,我把隐私保护暂且分成两类。这不是标准术语,是我自己的分法。

一类是治理层的:数据会上传,但厂商通过制度、加密、删除策略、“不用于训练”的承诺来控制风险。豆包“屏幕内容不在云端存储”是这一类,三星的Gemini和Perplexity管道也是这一类。

另一类是架构层的:尽可能让数据根本不离开设备。Apple的端侧模型、三星的个人数据引擎属于这一类。

两类都可以做得很安全,但安全边界不在一个位置。前者更依赖制度、协议、加密和外部审计;后者通过架构本身减少数据离开设备的机会和暴露面。数据上传后不保存,和数据从未上传,不是同一种隐私边界。

我并不是说所有事都得离线。那是另一个容易走偏的方向。更合理的原则是:私人世界Local-first,公共世界Cloud-first。

你是谁、你的家人是谁、通讯录、聊天记录、邮件、照片、日历、文件、健康数据、行为习惯——这些尽量留在本地。天气、航班、新闻、股价、地图、百科、网页——这些本来就是公共的,上云没什么可纠结的。本地AI不是拒绝互联网,是Local加Cloud,不是Local对Cloud。

按这个原则,“良性厂商”的标准也得从“有本地模型”往上抬。有本地模型,不代表大量数据不上传,不代表Agent权限透明,不代表云端记录不长期保存,不代表你能看到AI访问了什么。真正该看的是一整套架构:能在本地做的默认本地做;必须上云的只传完成当前任务需要的最小信息;上云的数据尽量不留;AI权限受操作系统约束;用户知道AI看了什么,最好还能验证什么被传走了;云端是能力补充,不是整个系统的大脑。

私人世界Local-first,公共世界Cloud-first
私人世界Local-first,公共世界Cloud-first

六、最私密的任务,恰恰可能是最需要上云的任务

这一节我得先泼自己一盆冷水。

我在Mac上跑本地模型有一段时间了,有个很直接的体感:润色一句话、改个措辞,3B、4B的模型完全够用;但“结合我过去一个月的邮件、日历、聊天记录,判断下周哪几件事最重要,帮我重排日程”这种事,本地模型要么算不动,要么算得很慢很差。

这里有一个天然的矛盾:任务越复杂,越需要个人上下文,也越需要云端算力;而这恰恰是最不希望数据离开设备的那类任务。 简单任务本地能办但不怎么涉及隐私,复杂任务涉及隐私但本地办不了。

Apple的回答是分层:AFM 3 Core和Core Advanced在设备上,AFM 3 Cloud在Private Cloud Compute上,最复杂的推理和Agent工具调用交给AFM 3 Cloud Pro。连最强调端侧的Apple,也没有选“一切本机完成”。Local-first不等于Local-only。

然后是我认为这篇文章里最值得拆的一层。

一开始我想写“Apple也在租Google的大脑”,后来发现这句话不准确,因为它把几件不同的事混在了一起。拆开看至少是四层:

模型由谁定义、发布和部署。AFM 3的五个模型由Apple发布,跑在Apple的设备和Apple定义的云上,这一层Apple守住了。

模型的技术基础来自哪里。Apple原文说AFM 3家族是“与Google合作定制构建”的,预训练用的是云端TPU。再往前,1月12日Apple和Google的联合声明写得更直白:下一代Apple Foundation Models将基于Google的Gemini模型和云技术。彭博报道的价码是每年约10亿美元,Apple没有确认这个数字。口语一点说,血统在Google那边。

推理基础设施跑在谁那里。Cloud Pro跑在Google Cloud的NVIDIA GPU上。Apple的说法是把Private Cloud Compute扩展到了那里,隐私保证不变。

应用层是否另外调用第三方云模型。这一层要分开说。Siri里接ChatGPT处理需要世界知识的复杂问题,是iOS 18就有的事。iOS 27又把另一扇门打开了:Foundation Models框架允许开发者在同一套接口下接入Gemini、Claude等第三方云模型。这说明Apple并不打算让自己的模型承担所有AI需求,但这属于平台层的开放能力,不能简单等同于“Siri遇到难题就去调用Gemini”。

所以准确的说法是:Apple把“模型由自己定义和部署”这一层守住了,但技术基础、推理算力、第三方调用三层,都和Google深度绑定。这不是批评。数据中心那边我之前写过一句“芯片比较最终会变成系统工程比较”,个人设备这边其实是同一件事:能不能一起设计模型、芯片、内存、系统、权限和云端,比单个模型强不强重要得多。Apple的优势在这里,Apple的妥协也在这里。

说实话,有一件事我现在没有把握。PCC的“可验证”,指的是外部安全研究者可以验证它运行的软件和隐私承诺,用户数据不保存、也不对Apple开放。当PCC从Apple自有的Apple Silicon扩展到Google Cloud加NVIDIA GPU之后,外部研究者还能不能拿到同等级的端到端可验证性?Apple说保证不变,我倾向于信,但这已经从一个可以自己推导的架构事实,变成了一个需要持续核验的承诺。

回头看,AI手机最大的工程难题其实就一个:同时解决“算力不够”和“数据不能乱跑”。 Apple的PCC、三星的个人数据引擎、豆包从模拟点击转向和App厂商谈合作,都是对这道题的不同答案。没有一个是完整的。

七、国行真正要看的,不是什么时候上线,而是什么留在本地

这一节我只写已经确认的事。

7月15日,网信办公布了新一批手机端侧生成式AI服务备案信息,其中“Apple智能”已于7月8日完成备案,主体是苹果技术开发(上海)有限公司。阿里向路透和CNBC确认,Qwen模型会整合进国行版Apple Intelligence,覆盖iOS、iPadOS、macOS和visionOS,能力包括文本和图像的理解与生成。百度向TechCrunch确认参与开发国行版功能,但具体角色没有披露。截至备案公告后的那几天,Apple自己没有公开表态,也没有给上线时间。

三星国行已经完成备案,其Galaxy AI也公开提供“仅在设备上处理”的开关。

至于国行版的端侧层会不会和全球版一样、云端层会长什么样,我看到不少推演,但没有一条来自Apple。所以我只留一个问题,不收口:国行版Apple Intelligence里,哪一层是Apple的,哪一层是合作方的,数据在哪一层离开手机? 这才是国行用户真正该关心的,比“什么时候上线”重要。

八、以后买AI手机,我会先问这7个问题

  1. 我的哪些数据会离开手机?
  2. Agent能看到什么?屏幕、通讯录、聊天,还是全部?
  3. 这些权限由谁控制?系统、App厂商,还是AI厂商?
  4. 模型分别在哪里运行?端侧、厂商云,还是第三方云?
  5. 必须上云时,传的是原始数据,还是完成任务的最小必要上下文?
  6. 上传的数据会不会保存?我能不能审计?
  7. 断网以后,它还能办多少事?

至于“模型多少B”——放第八个。

顺着这七条看三家:第1条三星做成了用户可见的开关,这一点它走在前面;第6条在PCC扩展到第三方基础设施以后,反而更值得持续核验;第2、3条豆包一代根本没有回答权,二代能不能拿到,取决于它和系统厂商、App厂商谈得怎么样。

买AI手机先问七个问题
买AI手机先问七个问题

写在最后

过去我们比手机,看CPU、GPU、摄像头、屏幕、续航。现在开始比模型多少B、NPU多少TOPS、Agent能操作多少App。

但如果AI最终会变成一个知道你的家庭、工作、照片、消息、日历和习惯,并且能代表你行动的系统,那更重要的问题可能是:这个AI到底属于谁? 是运行在别人服务器上的智能,还是运行在你自己设备上的智能。

三家样本各给了我一个判断。豆包让我看到,没有底层平台和App生态的规则制定权,Agent连自己的权限边界都很难定义。三星让我看到,Local-first并不要求所有模型都自己造,但开关之后能做多少,取决于哪一层是自己的。Apple给出了最完整的端云架构,可它同样要回答一个问题:当最复杂、最私密的任务不得不上云时,“本地”还能守住多少?

最后说一个我的揣测,不是判断。

AFM 3把20B端侧模型公开,iPhone 18又把神经网络引擎、内存带宽和Siri AI推到台前,我猜手机厂商的竞争维度很快会在配置、做工、摄像头之外再加一行:本地能跑多大的模型。总参数、激活参数、常驻内存,会像屏幕刷新率和传感器尺寸一样出现在参数表上。7月那份备案名单里七家全在,说明起跑线已经画好了。

真到那一天,“本地20B”会像“一亿像素”一样印在海报上。这篇文章想提前留一句话:参数表上的“本地”,只回答了模型在哪算,没回答数据在哪看。到时候,记得把上面那七个问题拿出来。

如果这篇对你有用,点个“在看”;想不错过后面几篇,给公众号加个星标;你手里的AI手机在这七个问题上表现如何,欢迎评论区聊。


资料边界说明

一手来源(厂商官方)

  • Apple Machine Learning Research,《Introducing the Third Generation of Apple’s Foundation Models》,2026年6月8日(9月9日更新)。AFM 3五模型构成、20B/1~4B、按prompt路由与周期性重选、共享专家、按用途预设激活参数、与Google合作构建、云端TPU预训练、Cloud Pro运行于Google Cloud的NVIDIA GPU,均出自此文。https://machinelearning.apple.com/research/introducing-third-generation-of-apple-foundation-models
  • Apple Newsroom,《Apple debuts iPhone 18 Pro and iPhone 18 Pro Max》,2026年9月9日。A20 Pro内存带宽+50%、双16核神经网络引擎、Siri AI。发布稿未提及20B或AFM 3 Core Advanced。https://www.apple.com/newsroom/2026/09/apple-debuts-iphone-18-pro-and-iphone-18-pro-max/
  • Apple Developer,WWDC26 Apple Intelligence guide:Foundation Models框架支持Apple模型及Claude、Gemini等符合LanguageModel协议的云端模型。https://developer.apple.com/wwdc26/guides/apple-intelligence/
  • Google/Apple联合声明,2026年1月12日:“下一代Apple Foundation Models将基于Google的Gemini模型和云技术。” https://blog.google/company-news/inside-google/company-announcements/joint-statement-google-apple/
  • 国家互联网信息办公室,《关于发布7款提供手机端侧生成式人工智能服务已备案信息的公告》,2026年7月15日(备案时间7月8日)。https://www.cac.gov.cn/2026-07/15/c_1785861480767004.htm
  • Samsung Global Newsroom,《Samsung Unveils Galaxy S26 Series》及Galaxy Unpacked 2026 Highlights,2026年2~3月。PDE、KEEP、Knox Vault、Bixby/Gemini/Perplexity多Agent。
  • 三星电子中国官网Galaxy AI页面:本地/云端处理可选、本地时部分功能受限、网信算备编号。
  • 努比亚官方,2026年9月7日:NaviX Ultra定档9月16日发布,已取得入网许可。

二手来源(媒体转述厂商或当事方)

  • 路透、CNBC、TechCrunch、Engadget,2026年7月15~16日:阿里确认Qwen整合进国行版;百度确认参与开发。
  • CNBC,2026年1月:Apple确认现有ChatGPT接入Siri的合作不变;彭博报道Apple-Google协议约10亿美元/年——Apple未确认此数字。
  • 科创板日报、封面新闻、21世纪经济报道、新浪财经,2025年12月:豆包手机助手INJECT_EVENTS争议、微信及金融类App限制、豆包方回应与下线部分操作能力。
  • IT之家转述晚点LatePost,2026年9月:二代豆包手机调整与超级应用的合作方式、不再读屏模拟点击——未见官方口径。
  • 多家媒体:AFM 3 Core Advanced硬件门槛为iPhone 17 Pro——Apple原文仅称“最强的Apple Silicon”。

本文自行提出、非厂商定义的表述:“20B能力池+1~4B工作集”、“NAND可以理解为AI二级内存”、“治理层/架构层隐私”、“四层控制权”、“Local-first≠Local-only”。