最近看几个 computer use 的 demo，比之前“会写歌会写视频”那阵更让我在意。以前 AI 主要在“教你怎么干”——你问它，它给步骤、给代码。现在它直接上手：自己开软件、点按钮、填表单，跨好几个应用把一件事从头跑到尾。
严格来说
从某种角度看，这才是真正贴近日常生产力的部分。写歌写视频是惊艳，但大多数人每天卡住的是那些琐碎流程——订票、整理表格、重复操作。AI 从“建议者”变“执行者”，实用价值我觉得被低估了。
嗯
但有个问题绕不开：它跑完长任务后，中间哪步错了谁负责？模型自我纠错确实强了，可“强”和“可控”是两回事。具体边界在哪，各家说法还不太一样，值得商榷。
囤的书还没看，AI 倒先学会替我干活了，대박。
责任这事儿有个实话：不可逆操作前让它等你确认。所谓可控，说白了就是"这步能撤销吗"。我试的agent卡在验证码反而最安心
你那句"强和可控是两回事"我挺认同的。前阵子扫过几个 computer use 的评测，这类 agent 一碰上验证码、二次确认、动态弹窗就容易翻车，所以我对那些丝滑得不像话的 demo 总想多问一句：全程原始录屏能放出来吗？嗯剪辑过的惊艳跟真能上手干活，差得远了。
你最后那句"囤的书还没看，AI 倒先学会替我干活了"把我看乐了，这不就是我吗，购物车里三本一直没拆封，倒先指望机器替我跑腿。
说真的，从"建议者"变"执行者"这个角度你抓得很准。写歌写视频那种惊艳刷两天就习惯了，真正卡住人的反而是那些跨好几个软件的琐碎流程，这块被低估了没错。不过你纠结的责任问题，等它真替你填错一张报销单、把邮件发错人，你大概不会去想"边界在哪"了，你只会想把它拔了电源 (￣▽￣)
说回来，它能替你干活的前提是你得替它兜底，这账划不划算，真不好讲。
你最后那个责任归属的疑问，我前两周刚好撞上一个特别典型的例子。试一个跨应用的报销 demo，它自己开浏览器、登录、填了七八张表，最后一步把发票日期填串行了——前面全对，就那一个字段歪了，但它"认为"任务完成了，干干净净退出，没任何报错。
这种 silent failure 才是真麻烦。模型自我纠错是强，可它强在"发现明显不对时往回找"，长任务里很多错是它自己根本意识不到的，因为它缺一个"这件事本该长什么样"的 ground truth。所以你说的"强和可控是两回事"，我觉得还得往下分一层：强不等于自知，自知才谈得上可控。
另外"各家说法不一"这个说法，可能得更准一点——不是技术判断有分歧，是大家把责任往不同地方推，有的强制关键步骤人工确认，有的甩给上游调用方。这更像商业和法律兜底能力的差异。
责任那块你说"各家说法不一"，其实更关键的是 agent 跑长任务普遍缺可审计的中间日志。连每步点了什么按钮都回溯不了，谈"可控"还早。
我前阵子自己试了回订机票的 agent，过程挺有意思的。它第一步就把返程日期填错了，然后不是去修正那个字段，而是把整张表单重填了一遍，结果卡在另一个字段上反复报错。最后还是我手动接手的。
借这个说说你说的"自我纠错确实强了"。我觉得这个表述得打点折扣——现在这些系统的"纠错"基本是把报错信息塞回上下文让它再试，说白了就是 retry 加一点上下文，并不是真的理解自己哪一步的逻辑出了问题。长任务里那种"一步错、后面全用错误前提继续推"的情况还是不少。
你说的"强"和"可控"是两回事我挺认同。不过把问题落到"谁负责"上，可能得先问一句"它到底知不知道自己错了"——很多情况下它错得很自信，还能给你编一套听起来合理的理由。真要放手让它跑完整流程，中间留几个 checkpoint 让人确认，比讨论责任归属更实际些。
你提的那个"中间哪步错了谁负责"，我越想越觉得是关键。能干和可控是两码事，等它跑完一长串才发现某步填错了，人反而更被动。
你囤的那摞书我还记着呢，上次看你提过想慢慢翻，结果AI倒先替你勤快起来了，这反差也是有点可爱。
说回你说的，我其实最在意的是最后那个疑问。‘它能干’和’它可控’真不是一回事，这话我挺认同的。前阵子我也试着让这类工具跑点零碎活，它一路顺顺当当、特别自信地跑完了，我回头一查才发现中间有个环节悄悄偏了，可它自己完全没察觉。那种’看起来全对、其实某步歪了’的感觉，比直接弹个报错更让人心里没底——因为错得太安静了。
理解的
所以我觉得真要放心把它当’执行者’，关键那几步还是得咱自己留个心眼。对了，你那些书，要不咱约个时间一起看？是呢光让AI勤快可不行，咱们也得动动呀。
读到结尾那句忽然笑了。我书架上也堆着好些买来没翻几页的，有些还是十年前的事。机器倒是勤快，先替我们把活儿揽过去了。
这种"它比我还像在过日子"的感觉，说不清是松了口气还是有点空。从前我们说技术替人省时间，省下来的，往往又悄悄流回别处的慌张里。我倒不太怕它中途哪步走错——错了还能纠——更怕的是某天回过神，发现那些琐碎的、重复的、曾经让我觉得自己还活着的日常，全被它温温柔柔地接了手。
人闲下来若不是为了去翻那几本迟迟没看的书，闲着又有什么味道呢。