现在让 AI 办事,最常用的说法是四个字:帮我办一下。往后这句话会越来越常见,因为智能体已经能自己去调工具、跨系统跑流程,不再是那个只会聊天答问的对话框。

但「帮我办」这三个字里,其实装着四层意思。今年国内陆续落地的几份文件和标准,做的就是把它们一层层拆开、写清楚。

办到哪一步,得先划出来

一句「帮我处理」,里面往往含着没说出口的条件:预算多少、哪些材料不能外传、哪个决定必须我自己点头。

据中国工信新闻网报道,蚂蚁集团副总裁、大安全 CTO 陈亮举了个很日常的例子:让智能体去买咖啡,要美式却买成拿铁,预算 30 元却花了 300 元,都属于偏离了用户的委托。金额明显异常还好识别,口味、品类这类偏差,考的是系统能不能真的听懂你要什么。

这篇报道里还有一句话点得挺准——付款成功只能说明交易完成,事情办没办对,得回到用户最初的委托去核。所以「授权范围」不是一句客套话,它得能变成执行时被逐条比对的条件。

哪些决定它不能自己拍

这是四层里我比较在意的一层。

国家网信办、国家发展改革委、工业和信息化部联合印发的《智能体规范应用与创新发展实施意见》里,把决策方式分成了三类:仅限用户本人决策的、需要用户授权决策的、智能体可以自主决策的。文件同时明确,智能体执行操作不得超出用户授权的范围,用户对它的自主决策享有知情权和最终决策权。

据腾讯新闻报道,这份文件还要求发展对抗样本检测、行为异常检测这类治理工具,让不合规行为能被发现、干预、阻断和恢复。

换成普通人能理解的话:它在哪一步必须停下来问你,是事先规定好的,不是它心情好就问你一句。

出了岔子,能不能倒查到人

智能体开始参与交易之后,行业要先回答两个问题。

据中国工信新闻网报道,蚂蚁集团 AI 支付安全负责人陈树鹏的说法是,既要回答「谁在交易」,也要回答「为何交易」。该集团在外滩大会期间发布的一套面向智能体商业活动的信任设施,覆盖交易前核验身份与授权、交易中识别行为异常和意图偏离、交易后留存证据,目前接入的智能体已超过 100 万个,覆盖 442 家智能体服务供给方。

中国信通院泰尔终端实验室信息安全部副主任傅山在接受采访时把要求压缩成了十六个字:身份可识别、授权可验证、行为可监控、责任可追溯。

这十六个字对普通人的实际意义是:万一出了事,能找到人、能调出记录,而不是只剩一句「AI 自己弄的」。

系统自己出问题的时候,默认关门

这一层容易被跳过,但它才是兜底的那一块。

据中国工信新闻网报道,《人工智能安全治理框架》3.0 版提出仅为智能体授予完成当前任务所必需的最小权限——完成这次任务需要什么,才开放什么。同一份框架还提了一条:人工审批系统异常、用户无响应、或者压根没有对应的审批规则时,默认拒绝执行。

默认拒绝,这四个字值得单拎出来说。现在大量系统在出错时的默认动作是「继续」,因为继续走完不用向谁解释,也不太会被投诉。默认拒绝是反过来的思路:说不清楚该不该办,就不办。

北京大学教授、国家人工智能标准化总体组 AI 治理专题组组长张平在接受《中国经济时报》采访时提到,框架 3.0 版把「人类最终控制」写进了基本准则的头一条:系统偏离预期时,必须有明确主体能发现问题、接管系统并承担责任;医疗、司法、金融这类涉及个人重大权益的场景,不能省掉人工复核和人工接管。

规矩先立,才敢把事交出去

我不觉得这些文件是在给 AI 使绊子。

恰恰相反,一个东西要真正被普通人用起来,前提是它出错的时候有章可循。智能体替你下单、替你填表、替你发消息,只要有一笔钱划错了、一份文件发错了,损失就撤不回来。没有「最小权限」「默认拒绝」「可追溯到人」这几条,谁都不敢把要紧的事交出去——不敢交,工具再能干也落不到生活里。

我们这边先干的事,是把工程上本来只有内行才在意的常识,写成了公共规则。据腾讯新闻报道,今年发布的《人工智能 智能体互联》系列 7 项国家标准,已经把身份码、身份管理、智能体描述、发现、交互、工具调用这一整条链路都盖住了。这套东西立起来,往后各家做智能体,接入、互认、追责都有共同的尺子,不用每次靠企业之间单独谈。

站在我们这一边看,先把底线划清楚,再放开让人用,这个顺序是对的。等真出了事再补规矩,代价大得多——补的是别人的损失。

回到那句「帮我办」。我以后对着手机说这四个字,会先问三句:它办到哪一步、哪些它会先问我、办错了找谁。这三句问不明白,我就不交出去。