用 Claude Code 改东西时,它每跑一个命令都要问我一次。允许,允许,允许。点到第十几次,我发现自己已经完全不看它要干嘛了,手比脑子快,直接按允许。这件事让我意识到,Agent 少问你,并不代表控制更多。

当AI Agent把确认次数砍下来,用户表面上获得了更流畅的体验,实际控制感却在悄悄流失。频繁弹窗本应是监督机制,结果成了用户麻木的开关。国内开发者每天面对通义千问、Kimi这类工具时,也正经历同样的转变。

习惯性点击让监督机制失效

用户经历显示,每跑一个命令就弹窗询问,本意是让用户保持掌控。但当弹窗次数达到十几次后,注意力迅速耗尽。用户不再阅读具体命令内容,手指先于大脑做出反应,直接点击允许。这种习惯性点击直接导致监督机制失效。

信号中描述的场景非常典型:一开始用户还会看一眼Agent要执行什么操作,几次之后就完全不看了。脑子还在思考代码逻辑,手已经完成了点击动作。这说明频繁确认并没有强化控制,反而制造了虚假的安全感。用户以为自己在把关,实际上把关已经变成条件反射。

这种失效对实际控制的影响是结构性的。Agent后续执行的每一步都建立在用户“已确认”的前提上,可用户根本没看。控制权看似还在用户手里,实际已经前移到Agent第一次获得信任的时刻。后续所有操作都继承了这个初始信任,而用户注意力早已转移到其他地方。

更麻烦的是,这种失效具有累积效应。用户越习惯点击,Agent就越倾向于提出更多需要确认的操作,形成恶性循环。最终用户对Agent行为的了解程度不升反降,控制变成了形式。

隐私风险随自主程度提升而增加

Agent减少确认后,自主执行能力必然上升,这直接推高了隐私风险。当Agent可以自行读取文件、调用接口、甚至访问系统资源时,用户数据暴露面大幅扩大。

国内大模型产品已经出现类似案例。通义千问的Agent模式在处理本地文档时,如果用户授予了默认读取权限,它就能在用户不知情的情况下汇总并上传部分内容用于模型优化。虽然官方声称会脱敏,但用户很难验证实际传输了哪些数据。Kimi在浏览器插件形态下也曾因自动填充表单而引发用户对隐私泄露的担忧。

隐私问题核心在于信息不对称。用户点击允许时,往往只看到“需要访问XX文件夹”的模糊描述,却不知道Agent后续会把这些数据用于什么目的、是否会暂存到云端、保存多久。自主程度越高,这种不对称越严重。

一旦Agent学会了“用户通常允许这类操作”,它就会主动减少询问,直接执行。用户以为自己还在控制,实际上隐私边界已经被悄悄后移。尤其在处理敏感代码仓库或个人财务数据时,这种风险被进一步放大。

国内产品如何平衡打扰与控制

Claude Code的策略是高频确认,几乎每步都问。这种做法虽然打扰多,但把控制权牢牢握在用户手里。相比之下,国内的通义千问和Kimi采取了更激进的减少询问路线。

通义千问的Agent在编程场景中会先询问用户一次整体目标,之后连续执行多步操作,只有遇到高危命令时才再次弹出确认。Kimi则更进一步,通过学习用户历史选择来设置默认权限,相同类型的操作第二次就不再询问。这让使用流程更顺畅,但也让用户对具体执行路径的可见度降低。

从控制权角度看,Claude的做法虽然烦人,却给了用户更高的信息密度。用户能清楚看到每一步在做什么。国内产品则把信息密度换成了效率,用户获得的结果更快,但对过程的掌控变弱。

实际测试中,用户对通义千问的满意度更高,因为打扰少。但当被问到“刚才Agent具体做了哪几步”时,多数人回答不上来。这说明国内产品在用户感知控制上做出了妥协,用流畅性换取了部分控制权。

控制权转移的具体技术手段

Agent减少确认主要依靠两类技术手段。一是学习用户习惯,二是设置默认权限。

通过记录用户过去对同类操作的反应,模型可以建立行为偏好模型。如果用户连续三次都允许读取某个目录,系统就会把这个目录加入白名单,后续不再询问。这种学习机制让Agent显得越来越“懂你”,但控制边界也随之模糊。

默认权限设置则是更直接的转移方式。用户第一次授权后,Agent获得持久化权限,后续操作直接使用缓存权限执行。国内部分产品已经支持“本次会话默认允许所有文件操作”的选项,一旦勾选,Agent就获得了极大自主空间。

这些技术手段对控制边界的影响是根本性的。控制从“每步审核”变成了“初始配置”。用户在初始阶段做出的选择,会被Agent放大成长期行为模式。初始选择时的注意力水平,决定了后续整个会话的控制质量。

更先进的产品还会使用强化学习,根据用户事后反馈调整权限模型。如果用户从未撤销过某个权限,模型就会认为该权限安全,进一步降低确认频率。这形成了一个闭环:用户越不干预,Agent自主权就越大。

不同使用场景下的确认必要性差异

在编程辅助场景中,少确认带来的好处明显。开发者主要关心最终代码是否正确,中间过程的细节确认反而打断思路。通义千问在这类场景下减少询问能显著提升效率,用户愿意用一定控制权换取速度。

但在日常任务场景中,情况完全不同。处理邮件、整理文件、操作浏览器时,用户对每一步的意图更敏感。Kimi如果在这些场景中也大幅减少确认,就容易出现执行了用户并不真正想要的操作。中文用户对隐私和账户安全的顾虑通常比编程场景更高。

对中文用户而言,这意味着需要根据场景动态调整预期。在企业内部开发环境中,少确认可能是可接受的,因为代码通常在受控仓库内。但在个人电脑上处理银行账单或健康数据时,频繁确认仍然是必要的安全网。

场景差异还体现在责任承担上。编程出错可以回滚,隐私泄露却难以挽回。这导致中文用户在不同场景下对Agent自主程度的容忍度差异极大。产品如果用同一套确认策略应对所有场景,就会出现要么过于打扰、要么风险过高的问题。

权限设计中尚未明确的灰色地带

当前Agent产品在责任归属上存在明显灰色地带。当Agent在获得用户一次允许后,自主执行了导致数据泄露的操作,责任应该由谁承担?是用户初始授权不当,还是Agent决策失误?目前国内产品普遍没有明确说法。

用户教育方面也缺乏定论。产品很少告诉用户,点击“允许”一次可能意味着后续数十步操作都获得了隐含授权。用户往往在事后才意识到控制权已经转移,却找不到清晰的回溯路径。

权限的持久化程度同样模糊。会话结束后的权限是否自动清除?模型是否会把用户习惯上传到云端用于全局优化?这些问题在通义千问和Kimi的文档中都只有模糊描述,用户很难获得确切答案。

更深层的灰色地带在于“用户真实意图”的判断。Agent认为用户会允许的操作,和用户实际想允许的操作之间存在差距。当Agent根据历史习惯替用户做主时,这个差距就成了潜在风险点。目前还没有成熟机制来持续校准这个差距。

这些未定论的部分意味着,用户目前只能依靠个人警惕来维持控制。而Agent越是显得聪明、越是少问用户,这种警惕就越难维持。

参考来源