最近把2024到2026年这三年里，AI直接面对客户的新闻放在一起看，发现了一个很有意思的矛盾。
一边，AI已经在真实商业场景里大规模直接服务客户了。Klarna的AI客服上线30天处理了230万次对话，相当于700名全职客服的工作量；到2025年三季度，这个数字涨到了853人，每年节省约6000万美元。京东的数据显示，2026年一季度数字人累计服务商家突破7万家，头部商家的数字人开播率达到80%。
另一边，监管在同一时间段里连续画出硬红线。国家卫健委明确规定，严禁使用人工智能自动生成处方；2026年5月，国家药监局发布《处方药网络零售合规指南》，严禁AI替代药师审方；2026年2月1日施行的《直播电商监督管理办法》规定，AI数字人直播如果出现违法违规行为，由直播间运营者承担全部责任。
同样是AI，为什么一边可以直接面对几百万客户，另一边连一张处方单都不能碰？
这三年的案例和法规拼在一起，答案已经很清楚了：决定AI能不能直接商用的，从来不是它的能力够不够强，而是它出错之后，责任能不能找到人。
而“签字”，就是责任找到人的那个动作。
一、签字的本质：不是流程，是责任的锚点 AI说错话，责任仍然回到公司和签字人 商业合同、审计报告、诊断书、处方单，这些东西的本质是确定性承诺——签字的那个人在声明：“我为此负责，出了错你可以来找我。”换句话说，签字从来不是在声明“这是我亲手做的”，而是在声明“我审过，我认可，我愿意承担后果”。
而大语言模型是一个概率系统。它的每一次输出都是概率采样的结果，哪怕做到99%的准确率，放到日均一万次调用的场景里，就是每天100次错误。错误率可以用工程手段压低，但永远不会归零。
所以真正的问题从来不是“如何消灭错误”，而是“错误发生的时候，责任流向哪里”。
来看三个案例：
案例一：加拿大航空，812加元。2024年2月，加航官网的聊天机器人向一位乘客错误承诺了丧亲票价可以事后退款。乘客索赔，加航的辩护理由堪称经典：聊天机器人是一个“独立实体”，应该为自己的话负责。不列颠哥伦比亚省民事仲裁庭直接驳回，判加航赔偿约812加元。金额很小，但它确立了一个原则：AI说的话，在法律上就是公司说的话。
案例二：纽约律师，5000美元。2023年，两名律师用ChatGPT写诉状，引用了6个不存在的判例，被纽约南区法院罚款5000美元。注意被罚的是谁——是签字提交诉状的律师，不是OpenAI。签字的人兜底，这正是签字制度在正常运转。
案例三：德勤澳大利亚，44万澳元。2025年7月，德勤给澳大利亚就业与劳资关系部交付了一份约44万澳元的报告；8月，悉尼大学学者发现其中含有AI编造的学术引用和一段虚构的联邦法院判词；德勤在修订版中承认制作过程使用了AzureOpenAIGPT-4o，并在10月确认退还尾款。这个案例最有价值的地方在于：连四大会计师事务所的多层审核体系都会失守，而失守之后，承担金钱和商誉损失的，仍然是德勤这个法人——不是模型。
三个案例，三个不同的行业，同一个结论：AI可以生成99%的工作量，但那1%出错时的责任，无法转移给一个没有法律人格、没有资产、无法被惩罚的系统。
二、Klarna的完整弧线：AI直接面客的天花板在哪里 Klarna是最值得完整讲的案例，因为它在两年半里，把“激进上线”和“翻车回调”两章都演完了。
上半场，效率神话。2024年2月，Klarna上线与OpenAI合作开发的AI客服。30天内处理230万次对话，自动化了67%的客户对话，问题解决时长从11分钟降到2分钟以内，客户满意度与真人客服持平。效率数字后来还在涨：到2025年三季度，AI承担的工作量相当于853名客服，年节省约6000万美元，NPS达到73。
下半场，公开回调。2025年5月，Klarna宣布重新招聘真人客服。CEO公开承认，成本驱动的自动化带来了“更低的质量”，并承诺客户“想找真人时，永远能找到真人”。原因有三条：复杂争议、欺诈申诉、困难客户案例上，AI的解决质量明显下降；模型偶尔会对费率、政策、付款条款给出自信但错误的回答——在金融行业，关于钱的错误回答是合规问题，不只是满意度问题；而当初“替代700人”的说法本身也有水分——那是增长期避免新招的人数，不是裁掉的人数。
行业事后复盘时指出了一个关键点：Klarna的场景几乎是AI最容易吃下的客服负载——结构化数据、已认证的用户、有限且高频的意图集合。把它的成功直接推广到复杂B2B支持、医疗服务或保险理赔，是范畴错误。
Klarna不是孤例。Gartner预测，到2027年，50%原本计划大幅削减客服人力的组织将放弃该计划。2026年的行业标准已经收敛成一个混合模型：AI处理70%到85%的量，人处理最难的15%到30%。Klarna自己也承认，约30%的工单仍然要转到人工。换个说法：成熟的AI商用，不是把人拿掉，而是把人挪到更关键的位置——AI处理高频，人处理例外、争议和判断。
从这些案例里，可以提炼出适合AI直接面客的五个特征：高频低风险、意图有限、数据结构化、错误可逆、有人工兜底。订单查询错了可以重查，退款发错了可以撤销——错误可逆，所以AI可以直接上。
还有一条反直觉但重要的工程结论：在受监管的场景里，50%自动化率配98%准确率，好过75%自动化率配90%准确率。正确的做法是按风险给问题分层，只对低风险层全自动，而不是追求一个漂亮的总自动化率。
但请注意，即使在Klarna这种“成功”场景里，责任一秒钟都没有转移给AI。AI说错了费率，赔钱的是Klarna；直播新规写得更直白——AI数字人违规，运营者担全责。
所以严格来说，“AI直接商用”这个说法本身就不成立——真实存在的是：AI直接交付，法人直接担责。
三、一条光谱：什么决定AI能站多靠前 AI面客的风险光谱 把所有场景排在一条光谱上，规律就出来了。
光谱左端，完全放开：订单查询、物流跟踪、夜间数字人直播讲解。特征是单次错误的责任成本接近零——说错了重说，发错了重发。
光谱中间，混合模式：Klarna式的分层路由。AI吃下高频简单问题，低置信度和高风险问题带着上下文转人工。这是2026年绝大多数商业场景的现实形态。
光谱右端，绝对禁区：处方、审方、诊疗决策、高风险金融决策。中国的监管在这一端写得非常具体——医师本人接诊、处方由接诊医师本人开具、审方必须由药师完成。欧盟AIAct也把生物识别、关键基础设施、教育、就业、信贷评分等列为高风险，核心义务就是人工监督（humanoversight）。
《处方药网络零售合规指南》里还有一个容易被忽略的细节：除了严禁AI替代审方，它还要求“审方数量控制在合理范围”。这半句话堵住了最后一个漏洞——名义上人签字、实际上人只是橡皮图章。一个药师一天“审核”一万张处方，那个签字就是假的。监管要的不是签字这个动作，是签字背后真实发生的审查。
决定一个场景落在光谱哪个位置的变量，只有一个：单次错误的责任成本。查错一个订单，成本是几分钟；审错一张处方，成本可能是一条命。责任成本越高的场景，人的签字就越不可替代。
落到操作层面，这条光谱可以压缩成一个三分法：低风险任务，AI自动做；中风险任务，AI先做、人来确认；高风险任务，AI只能辅助，最终决定必须由人做出。再具体一点：凡是咨询、查询、解释、预约、状态更新，可以大胆交给AI；凡是诊断、裁决、承诺、授权、处罚、拒赔、拒贷、录取、解雇，最后都必须有一个人签字负责。
四、两种造假：当署名和能力对不上号 两种AI造假：遥控与包壳 理解了“能力、署名、责任必须对齐”这个框架，就能看穿当下AI行业的两种典型造假——它们正好是同一枚硬币的两面。
在讲造假之前，先说一种更普遍、更隐蔽的姿态：不愿讲清楚边界。很多AI产品的问题不是能力不够，而是宣传和免责各说一套——宣传时是“智能体、无人值守、端到端解决问题”，真出了问题又变成“AI只是辅助工具，最终责任在用户”。这套说法的危险在于它想同时占住两头：拿走自动化的估值，只留下辅助工具的责任。诚实的做法只有两种：如果AI只是辅助，就明确标注哪些内容由AI生成、哪些经过人工确认、什么时候转人工；如果AI能自动执行，就说明它能调用哪些接口、权限和金额上限是多少、风险动作要不要二次确认、日志能不能追溯。一个既不敢开放能力、又不愿承认自己只是辅助的系统，大概率不是产品成熟，而是包装过度。
而下面这两种，就是包装过度的极端形态。
第一种：能力在人，署名给AI——遥控机器人。
1770年，肯佩伦的下棋机器人“土耳其人”轰动欧洲宫廷，秘密是柜子里藏着一个真人棋手。今天一些发布会上的“AI机器人”在结构上一模一样：观众看到的是具身智能，柜子里藏的是一个握手柄的操作员，区别只是柜子从木头变成了无线电。最著名的例子是特斯拉2024年10月的“We,Robot”发布会——Optimus现场调酒、聊天、猜拳，事后彭博社援引知情人士证实：行走是AI自主完成的，但与来宾的对话和大量互动由远程员工操控，起因是发布会前三周才决定让Optimus参展、软件来不及准备。特斯拉全程未主动说明这一点，摩根士丹利分析师在研报中直接写明机器人“依赖遥操作”。自主的行走和遥控的对话混在一起、不加区分地展示——这正是问题所在。
这种表演在经济上是负生产力：AI商用的全部价值在于监督比——一个人能看住几台机器。而遥控机器人的监督比是1:1，一台机器背后站着一个操作员，成本结构比直接雇人更贵、更慢、更不可靠。需要澄清的是，遥操作本身是正当的技术环节——采集训练数据、做安全兜底、明示的娱乐竞技都没有问题。遥控不可耻，隐瞒遥控才可耻。判断标准只有一条：观众是否被明确告知“此刻是人在操作”。还有一种更恶劣的变体：宣传时说这是AI机器人，出了事故又说“当时是人工操作”——宣传时让AI署名，出事时让操作员担责，把署名和担责硬生生拆开。而商业社会全部制度设计的目的，恰恰是防止这两样东西被拆开。
第二种：能力不存在，署名给AI——包壳蹭概念。
这个现象有个现成的英文词，AI-washing，仿照“漂绿”（greenwashing）造的。产品没变，文案变了：关键词匹配改叫“AI客服”，传感器加阈值判断的电饭煲改叫“AI电饭煲”，价格翻倍。最极端的案例是Builder.ai——号称用AI让开发应用“像点披萨一样简单”，拿到微软投资、累计融资超过4.5亿美元、估值一度超过10亿美元，2025年5月进入破产程序。其实早在2019年《华尔街日报》就报道过，它的大部分编码工作由人类工程师而非AI完成；而压垮它的最后一击，是彭博曝出的循环交易虚增收入——2024年销售额向债权人夸大了约300%。它是包壳和遥控的合体：既蹭壳，壳里藏着人，账上还藏着假数字。
监管的处罚已经落地。美国SEC在2024年3月开出首批AI-washing罚单，两家投资顾问公司因虚假宣称使用AI合计被罚40万美元。注意处罚的落点——罚的仍然是在宣传材料上签字的法人和高管。监管的逻辑一以贯之：谁署名，谁担责。
四个拆穿包壳的问题：
第一，关掉AI它还能用吗？真AI产品的AI是承重墙，假AI产品的AI是贴纸。
第二，它的输出会随输入变化吗？让“AI客服”回答一个话术库里没有的问题，三秒现原形。
第三，它敢开放什么权限、留下什么日志？真正跑在生产环境里的AI产品，说得清自己能调用哪些接口、失败时怎么复盘、高风险时怎么转人工；只活在演示视频里的产品，这几个问题一问就哑。
第四，也是终极检验：公司愿意为AI的输出承担什么责任？真把AI当核心能力的公司，会在服务协议里认真定义AI输出的责任边界；蹭壳的公司，宣传页上全是AI，合同里一个字都不敢提。
宣传里的AI浓度和合同里的AI浓度之差，就是包壳的厚度。
五、结论：签字环节不是遗留物，是前提条件 把全文的逻辑收拢成一张图：
签字制度解决的是“AI有能力、没责任”的空洞——能力在AI，责任必须锚在人身上； 遥控造假制造的是“AI没能力、有署名”的幻觉——能力在人，功劳记给了AI； 包壳蹭概念更进一步——能力根本不存在，署名照给AI。 市场和监管这三年做的其实是同一件事：强制“能力、署名、责任”三者对齐。
直播新规的“显著标识”管的是署名，SEC的罚单管的是能力造假，处方审方的禁令管的是责任。
最后说一个经济学视角。律师、审计师、医生的高收费里，很大一块买的不是他们的产出，而是他们的执照、他们的职业保险、他们可以被追责的资产。AI把产出的边际成本打到接近零，但责任的价格一分钱都没降。
所以“最后需要人签字”不是AI时代的过渡状态，更不是即将被淘汰的遗留物——它是AI商用的前提条件。AI商用的真实形态从来不是“AI直接交付”，而是“AI生产，人签收”。而那个签字的位置，正在成为AI时代价值上升最快的岗位。
参考来源 监管文件（中国）
国家卫生健康委《互联网诊疗监管细则（试行）》（国卫医发〔2022〕2号）：其他人员、人工智能软件等不得冒用、替代医师本人提供诊疗服务；处方应由接诊医师本人开具，严禁使用人工智能等自动生成处方。相关解读见科技日报《AI不能替代医生直接进行诊疗决策》：https://www.ncsti.gov.cn/kjdt/kjrd/yyjk_kjrd/202502/t20250227_196974.html 国家药监局《处方药网络零售合规指南》（2026年5月发布）：“严禁AI替代审方、重复使用处方，审方数量控制在合理范围”。报道见光明网：https://m.gmw.cn/2026-05/25/content_1304470337.htm；新浪财经：https://finance.sina.com.cn/jjxw/2026-05-27/doc-inhzhxzw9376834.shtml 国家市场监督管理总局、国家互联网信息办公室《直播电商监督管理办法》（2026年2月1日施行）：AI生成的人物图像、视频从事直播电商须显著标识并持续提示；AI直播违法违规由直播间运营者承担全部责任。解读见：https://zhuanlan.zhihu.com/p/2038221585249784127 监管文件（欧盟/美国）
欧盟《人工智能法案》（Regulation（EU）2024/1689）：禁止性条款自2025年2月2日起适用；生物识别、关键基础设施、教育、就业等高风险领域规则经2026年5月“AIOmnibus”政治协议调整后，将自2027年12月2日起适用。欧盟委员会官方页面：https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai 美国SEC首批AI-washing处罚（2024年3月18日）：投资顾问公司Delphia与GlobalPredictions因虚假宣称使用AI合计被罚40万美元。见SEC新闻稿2024-36。 司法案例
...