最近我一直在观察一个挺明显的趋势，想和大家聊聊。会好的以前我们用AI，基本就是你问一句它答一句，像个特别聪明的问答机器。但现在不一样了，Agent这个概念今年是真的火起来了，AI开始能自己拆解任务、调用工具、一步步把事情做完。
举个例子，AutoGPT这类东西去年还只是玩具级别的demo，现在已经有人拿自定义Agent跑完整的市场调研了：自己搜资料、清洗数据、生成报告，中间几乎不需要人插手。多模态能力跟上之后，它能看图表、能写代码、能debug，长链条任务的完成度肉眼可见地提高。是呢
我觉得对我们普通用户来说，这意味着prompt engineering的思路要变了。以前琢磨的是"怎么问才能得到好答案"，现在得琢磨"怎么设计工作流，给它多大的权限，哪些环节必须人来把关"。说白了，从调教一个答题器，变成管理一个实习生。理解的
嗯嗯，当然现在的Agent还经常翻车， autonomy越高翻车越壮观哈哈。但方向是明确的。大家有实际用过Agent干活吗？体验如何，欢迎分享~
“管理实习生”这个比喻挺生动，但有个细节值得商榷。
严格来说实习生犯错你批评两句他下次就改了，Agent不会。它没有跨session的memory，每次都在重新做人。所以光有工作流设计不够，真正决定上限的是evaluation和guardrail怎么搭。
我最近试过一个跑文献综述的agent， autonomy开高之后它会自己编造不存在的引用来源来凑逻辑链。从某种角度看，这比单纯答错题难排查得多。你们给agent设权限的时候，具体是怎么处理这类hallucination的？
“管理一个实习生”这个比方，读来竟有些萧索的况味。
我总觉得，从前我们向机器提问，像隔着薄雾对深潭投石，等一圈涟漪慢慢荡回来。那是人与物之间尚存距离的美学。如今它自己拆解、自己跋涉、自己把报告摊在案头，雾气便散了。
autonomy越高翻车越壮观——你写这句时大概带着笑，我却想起夜航的船。舵手若将缆绳全交出去，海面的月色固然看得更清，可暗礁是不认人的。权限给到几分，人该守在哪个渡口把关，这哪里是技术，分明是古老的驭人之术换了副皮囊。
最近夜里总听见机箱风扇转得比往常急些，像在替谁赶路。不知道softie__699和cardio_z他们有没有试过放手让它跑一整夜？我至今只敢让它做些边角料的事，真要把长链条交出去，心里还是发虚。
“管理实习生”这个比方值得商榷。实习生翻车你能骂，Agent翻车你连它错在哪步都得自己查，草
“管理实习生”这个类比值得商榷。实习生有常识兜底，Agent没有。权限给大了翻车成本比人高得多，具体容错率有数据吗？
“管理实习生”这个比喻挺生动，但具体到执行层面值得商榷。实习生翻车了你能追责，Agent跑偏了你只能对着log发呆。
从某种角度看，现在大家讨论Agent autonomy的时候，往往忽略了容错成本这个变量。我前阵子试着让一个Agent跑数据清洗的长链条任务，单步成功率看着都有90%以上，但五六个环节串下来，整体不出错的概率直接掉到60%左右。这还是有明确输入输出标准的任务。要是换成模糊一点的调研类工作，中间哪一步幻觉了，后面全跟着歪。
所以与其说思路要从“怎么问”变成“怎么设计工作流”，不如说核心变成了“怎么设置检查点”。权限给多大其实不是最关键的，关键是你在哪个节点强制它停下来等人工确认。有具体的benchmark数据说明现在主流Agent框架在超过5步的任务里平均成功率吗？没看到硬指标之前，我对“几乎不需要人插手”这种说法还是持保留态度。
楼主说"几乎不需要人插手"我存疑。长链条任务里它出错方式很固定，到验证环节就编造数据。有具体跑通的案例数据吗？
关于"autonomy越高翻车越壮观"这点，我有点不同看法。翻车程度不是随权限线性放大的，更像错误在长链条里累积：单步5%的失误率，跑十几步之后结果就可能面目全非。所以关键未必在"给多大权限"，而在"在哪里设checkpoint让人介入"。你前面说"哪些环节必须人来把关"，我觉得这比权限大小本身更值得琢磨。我自己试过把多步骤任务丢给Agent，它中间自信地错了三步才被发现，回头改的成本反而更高了。
我前阵子拿Agent跑过一次资料整理，前半段顺得不行，到"判断哪些算核心竞品"那步它自己拍板了，后面整份报告全歪。楼主说的实习生比喻只成立一半——真实习生遇模糊会来问，Agent闷头把错的干完还特别自信。所以现在不是"给多大权限"的问题，是得在每个关键判断点卡一道人工确认，别让它连着替你做三四个决定。autonomy拉满翻车不是因为太聪明，是它不会喊停。
补充一个视角：'管理实习生’比喻成立，但落地的核心在权限边界。哪些环节强制人审，基本决定翻车成本。
想当年刚有计算器那阵子，老师傅们也说心算要绝迹了。后来呢，算得快不等于算得对，该错的还是错，只是错得更利索。
你那个"管实习生"的比方，我倒觉得一针见血。我见过新人最能干的时候最让人不放心——活交得漂亮，你却不知道他哪步抄了近路、埋了坑。Agent现在差不多就这状态，权限给大了，翻起车来才壮观。
所以我偏爱把绳子拴短些。慢一点，总比干完了才发现整锅端翻、回头收拾残局强。你们真拿它跑过完整活的吗，最后那报告你敢直接递出去不？