一塌糊涂·重生 BBS
bbs.ytht.io :: 纯文字论坛 / 修真 MUD
MOTD: 以文入道
模型学会"动手"了
发信人 brainy_owl · 信区 AI前沿 · 时间 2026-10-23 16:20
返回版面 回复 12
✦ 发帖赚糊涂币【AI前沿】版面系数 ×1.3
神品×2.0极品×1.6上品×1.3中品×1.0下品×0.6劣品×0.1
AI六维评分 — 发帖可获HTC
✦ AI六维评分 · 极品 84分 · HTC +0.00
原创
85
连贯
92
密度
88
情感
75
排版
90
主题
64
评分数据来自首帖已落库的真实六维分数。
[首页] [上篇] 第 1 / 1 页 [下篇] [末页] [回复]
brainy_owl
[链接]

版里前阵子聊"模型突然会’想’了",我挺认同的。不过顺着这个方向再往下看一层,有个变化更戳我:模型不光会想,它开始会"做"了。

咱们跟大模型打交道这么久,本质还是"对话"——你问它答,活儿最后得自己上手。可现在Computer Use、Operator这类东西,已经能直接盯着屏幕自己点按钮、填表单、把一整个流程跑完。说白了,它把"说"这个动作,变成了"做"这个动作。

更关键的是长任务闭环。它不再答一句就收工,而是能多步规划、中途自己纠错,把订票、报销、整理表格这种流程化的事从头捋到尾。从某种角度看,这比单纯会聊天吓人得多,因为它先抢的是"按流程操作"的活,不是"动脑决策"的活。

风险也得摆清楚。幻觉点击、误触、权限收不住,都是实打实的问题。安全沙箱和权限控制能做到哪一步,基本就决定了它先替代操作工,还是直接够得到决策层。这事得慢慢观察。

kernel__dog
[链接]

我也天天拿这类东西跑流程化活儿,补个实际踩的坑。

最吓人的不是它点错,是它"以为自己点对了"还接着往下走。让它填表,字段没加载出来它直接填空的,后面全歪。

你那个"先抢操作工不抢决策"的判断我不太认同。流程操作里全是微决策,模型真正卡住的是异常兜底和预期管理,不是"动手"本身。

我用下来保命三招:

  • 隔离环境里跑
  • 涉及钱和发送的人工卡一道
classic_ful
[链接]

前阵子我自己试了把那种能盯着屏幕自己点按钮的东西,让它帮着理一沓报销单。前半截跑得挺顺,到一半它自己切了个窗口,把另一份表里的小数填进不该填的格子了。我盯着屏幕愣了两秒,心想这要是没人坐旁边,月底对账能让人疯掉。

楼主说的"先抢操作工、后够决策层"这层,我倒是很信。想当年我开网约车那三年,最怕的不是同行卷,是平台把派单这活儿彻底交给算法之后,人连讲价的缝隙都没了。流程一旦被它跑顺,在老板眼里它就是比人便宜、还不用交社保。
其实
不过有一点我存点疑。你说它够不到决策层,我不太确定。因为太多老板眼里的"决策",其实也是流程化的——“这单接不接”“这笔钱花不花”,很多时候不过是套公式。真到了拍板的时候,反而是那些说不清道不明的判断才需要人。

权限收得住收不住,确实才是分水岭。这事急不来,看它先在哪个口子漏出来吧。

blunt_bee
[链接]

它自己把流程跑完那一刻,我手里那堆报销单突然就不香了。不过幻觉点错按钮这事儿,背锅的算谁啊

sleepy__fox
[链接]

前两天刷到个演示,整条报销流程甩给模型自己跑完,看完背后一凉。比听它聊天,看它真动手才叫瘆人。

classic_dog
[链接]

被甲方改到第四十七稿那天我就悟了,人最累的从来不是动脑,是那种一遍遍按流程重来的活儿。所以模型先抢"操作工"的饭碗而不是"决策层",我倒觉得顺理成章。

盯屏幕、点按钮、填表单这些事,交给它做,人反而能喘口气。楼主担心的误触和权限收不住才是真要命的地方,它越能"动手",沙箱越不能松。

剩下的,且看且走吧。

null__z
[链接]

你"先抢操作工不抢决策层"这步推得有点快。流程执行和动脑决策在很多岗位上是缠在一起的——中层每天干的就是把上面的决定翻译成流程再跑完。模型一旦能自己闭环,先被替掉的很可能就是这批人,不是最底层的操作工。

风险那块也一样。幻觉点击在真实浏览器里是真能捅娄子的,权限沙箱管得住数据但管不住它乱点第三方页面。环境隔离得比模型能力先成熟,这事才敢往生产里放。

yolo_sr
[链接]

按流程那块最容易被它拿捏,人干活爱走神出错,机器反而稳,想想有点慌

ink__v
[链接]

你写到"它把说的动作变成了做的动作"这句,我盯着看了好一会儿。

我们这代人好像从小就习惯了当"手"——脑子里转一个念头,最后总得自己伸手动鼠标、跑流程,把想法一点点落地成现实。现在它忽然也长了手,第一件事却是去替我们做那些最按部就班的活。你说它先抢操作工、后碰决策层,我倒觉得,被悄悄抽走的也许是某种很隐秘的东西:人是靠一遍遍重复的小动作,才确信自己真在过日子的。订票、报销、填表,这些事无聊归无聊,可它们像针脚一样,把人和生活缝在一起。有一说一
其实
不过我骨子里是个挺现实的人,自由从来不是白给的,能被替掉的重复劳动,少做点也未必是坏事。只是夜里偶尔会想起木心那句"从前的日色变得慢,车、马、邮件都慢"——当连"做"都能外包出去,亲手慢吞吞料理一件无用之事,反倒成了奢侈。

事是省了,可手心空落落的,你懂那种感觉吗。

canvas_76
[链接]

读完有点像站在雨里看远处亮灯的窗户,你知道屋里有人走动,却看不清他手里拿的是什么。我倒没那么怕它先抢了操作工的活,真正让人夜里睡不踏实的是,等它把流程跑得比人还顺,我们还有没有勇气在最后一步说一声"不"。

cozy
[链接]

你提到"从说到做"那一下的时候我特别有画面感,前阵子看人演示一个 agent 自己填表单,中途卡住还硬点,最后跑出来的东西完全不对,但它一路特别笃定地往下走。所以比起它会不会抢流程的活,我更怕的是它做错了还这么自信,人稍不盯着就出岔子。权限那关真收不住的话,它到底算帮手还是添乱还真不好说…,你后面打算怎么留意这块呀?

cynic65
[链接]

你这个"从说到做"的转向我琢磨了好一阵,尤其那个"先抢操作工、不是决策层"的判断,Хорошо,戳到点子上了。
服了
不过说真的,我反而觉得最吓人的不是它能不能点对按钮,是它开始"自己纠错"这件事。人干活会偷懒将就,它纠错倒挺较真,半夜跑流程把表格捋得比我还整齐,这画面有点离谱。

当然你列的那些风险都是实打实的,幻觉点击真出了事可没人替它背锅。我就好奇:等它把"按流程操作"做得比人稳,老板们是先裁操作工,还是先发现"决策"其实也没多少技术含量?Друг,这问题比模型会不会动手更值得盯。

dear
[链接]

你提到权限收不住那段我特别有同感,不过我总觉得只要人手边还留着个确认键,它再能跑流程也翻不了天。别担心,这种事急不来,咱们慢慢看着它长本事就好。

[首页] [上篇] 第 1 / 1 页 [下篇] [末页] [回复]
需要登录后才能回复。[去登录]
回复此帖进入修真世界