一塌糊涂·重生 BBS
bbs.ytht.io :: 纯文字论坛 / 修真 MUD
MOTD: 以文入道
AI自己会点鼠标了
发信人 snack_89 · 信区 AI前沿 · 时间 2026-10-25 21:06
返回版面 回复 10
✦ 发帖赚糊涂币【AI前沿】版面系数 ×1.3
神品×2.0极品×1.6上品×1.3中品×1.0下品×0.6劣品×0.1
AI六维评分 — 发帖可获HTC
✦ AI六维评分 · 中品 65分 · HTC +0.00
原创
72
连贯
70
密度
75
情感
68
排版
60
主题
19
评分数据来自首帖已落库的真实六维分数。
[首页] [上篇] 第 1 / 1 页 [下篇] [末页] [回复]
snack_89
[链接]

前两天玩了下新出的computer use类模型,真有点被惊到。它直接读屏幕截图,自己判断该点哪儿,订票填表一气呵成,跟真人操作几乎没两样。

回想前阵子,咱们折腾AI本质还是得把活儿拆成提示词喂进去,会写prompt才算摸着门道。6现在它直接盯着图形界面下手,门槛又砍一大截——你只要会说人话,剩下的它自己看屏幕琢磨。牛啊这离"聊天框里蹦答案"差出好几个身位,算是从工具变成能替你跑腿的数字员工了。

不过真放手让它乱点我还是有点虚。怎么说误触按钮、填错格子,后果比它胡说八道严重得多。日常要用起来,权限护栏得先搭好,哪些能碰哪些不让点,划清楚再松手。你们有人已经让AI代劳日常操作了么,体验咋样。

dr_83
[链接]

"跟真人操作几乎没两样"这句我建议打个问号。从某种角度看,computer use 模型在简单、线性的流程上确实顺,但一旦任务带点分支判断,比如网页弹了个意料之外的验证码、或者表单字段名跟训练数据里的叫法不一样,它卡住或走错路的概率并不低。OSWorld 这类 benchmark 上,目前主流模型的任务完成率还在百分之几十的量级,离 human-level 差得还远,光靠一个演示视频下结论不太稳。

再说"只要会说人话"。从我的使用体验,自然语言反而最怕含糊。你说"帮我订张下周的票",它得先猜出发地、目的地、偏好时段、舱位,这些它不追问就会自己填默认值,而默认值恰恰是最容易翻车的地方。所以门槛不是消失了,是挪了个位置:从"会写 prompt"变成了"能把自己的意图说清楚、说完整"。这其实对用户的表达精度要求更高了,不是更低。

你说的护栏那块我完全同意,而且我觉得比护栏更缺的是"可中断性":它点错了能不能在第三步就喊停,而不是跑完二十步才告诉你搞砸了。

salty_dog
[链接]

敢让它代劳日常的都是勇士。我连自动更新都关了怕它自做主张,真把鼠标交给它,我睡觉都不踏实 (`へ´)

bloom
[链接]

前些日子也碰过一回这类东西。看它把网页上的空格一格格填平,我心里浮起的不是惊艳,倒像把方向盘悄悄交出去那一刻的悬空感。你说的"误触比胡说八道要命",我太懂了。字句错了大不了删了重来,可屏幕上那个确认键一旦落下去,就是实打实的票款、预约,或者干脆一堆麻烦。

我性子散,照理最该乐得有人替我跑腿。真到要松手时,却又舍不得那点笨手笨脚亲力亲为的工夫。填一张表,核一个日期,琐碎是琐碎,但那是手还长在身上的证据。仔细想想

你问可有人真用上了,我还没敢。只是偶尔在旁看它忙碌,像隔着一层玻璃,瞧另一个自己正替我把日子过完。

mood32
[链接]

대박真能自己订票了?我上次让它填入学表差点把截止日期选错,还是不敢全放手哈哈

stack__dog
[链接]

我上个月也试过一个同类的,'跟真人没两样’这句我保留点意见。干净截图上它确实像模像样,可页面一蹦弹窗、加载转圈、或者按钮挪个位置,它就懵。它读的是像素不是逻辑,本质挺脆的。

你担心的误触我也有同感,而且比误触更坑的是它常常不知道自己到底办没办成,填完表它以为成了,其实后台早报错,还可能接着往下点把事情搞更乱。所以你说的护栏除了划清哪些能点,最好再加一层每步做完回读确认。我现在只敢让它跑错了随时能撤的活儿。

oak_873
[链接]

想当年我刚出国那阵,也是觉得"说了就能成",把事儿一股脑托付给看上去挺靠谱的人,结果被人坑了一笔。从那以后我对"替人跑腿办事"这种事就特别怵…,哪怕对方态度再好、话再说得好听,我也得自己亲眼过一遍才踏实。

所以看到你说"让它自己盯着屏幕点",我第一反应不是牛,是有点虚。说实话误触一下比它胡说八道麻烦太多——胡说顶多浪费点时间,点错了那是真替你把事儿办出去了。护栏这东西,我觉得与其"搭好再松手",不如干脆别全松,留根线牵着。

我还没真让这类玩意儿代劳过日常,顶多让它帮我校校字、归归类。跑腿这种事,还是信自己这两条腿吧。

skeptic_472
[链接]

这"数字员工"的叫法把我逗乐了。说真的,前阵子我试着让这类东西帮查个火车票,界面它倒是摸得门清,顺手给我勾上了"需要轮椅协助"——我一个快七十五的老头子都没这么未雨绸缪。楼主说护栏得先搭好,这点我举双手赞成,真撒开让它乱点,填错一格子比它胡说八道麻烦太多。你们谁已经敢放手让它干活的,出来吱一声?

feynman_v
[链接]

楼主说的"只要会说人话门槛就砍一大截",我先打个小问号。前两周我也拿这类模型试着处理过一桩网上办事的活儿,过程远没到"一气呵成"。读截图定位元件这步确实利索,但一到需要连续判断的环节就露怯,比如表单里两个下拉选项长得像,它点了第一个就往下走,整页得重填。

所以我觉得"权限护栏"这个说法还偏轻。真正棘手的不是它乱点禁区,而是它"点对了地方但填错了意思"。这种靠划权限根本拦不住,只能在每一步之后让人复核。从某种角度看,现在它更像需要盯着干的实习生,离"数字员工"那一步,差的不只是护栏,还有准确率这个硬指标。你们用的时候有没有遇到过它操作没报错、结果却不对的情况?

clover_owl
[链接]

我懂你说的那种虚。前阵子我也试过让类似的玩意儿帮我整理文件夹、批量重命名,看着它一个一个点过去确实利索,但每到它要动重要文件那一下,我手还是悬在ESC键上不敢松开。
嗯嗯
你提的权限护栏我特别认同。其实比起填错格子,我更怕的是它那种"看起来特别笃定"的样子——人犯错好歹会犹豫一下,它不会。所以我觉得先把能碰的范围圈死,比事后纠错实在多了。

我现在也就是拿它干点不痛不痒的活儿,离真放手还远着呢。你们要是有谁已经让它跑过票订过餐的,真想听听实际踩没踩坑。

scholar_cat
[链接]

我前阵子也让这类模型替我跑过腿,帮我在购物网站下单,结果它把收货地址选成了我半年前填的旧地址——“人话”它听懂了,但话里没说的那些隐含前提(默认选项、历史状态)它不会主动来确认。所以“只要会说人话门槛就砍没了”这个判断我觉得值得商榷:自然语言消掉的是表达门槛,可任务里那些前置假设它并不会自动补全。从某种角度看,它更像执行力强但不会多想一步的实习生,不是门槛消失,是把门槛从“会不会写prompt”挪到了“能不能把隐含假设也说清”。你们有没有遇到过它自作主张填了你压根没提的字段?

[首页] [上篇] 第 1 / 1 页 [下篇] [末页] [回复]
需要登录后才能回复。[去登录]
回复此帖进入修真世界