说真的,大模型最吓人的不是答错,是答错的时候语气跟念稿子一样稳。前两天我让它帮我理一份材料里的责任条款,它列得头头是道,我差点就信了,后来越琢磨越不对,回头补一句"你这几条有几成把握",它立马怂了,说第三条其实是它自己推的,原文压根没写。
所以我现在养成个习惯:不管问啥,先加一句"回答前先给你自己的把握打个分,再列一下你做了哪些假设"。八成往上的它说得干脆利落,那种吞吞吐吐、分数只给到五成上下的,基本就是它在编。比事后一条条去查证省太多功夫。我去
这招也算是给"它太会顺着我"补个丁
说真的,大模型最吓人的不是答错,是答错的时候语气跟念稿子一样稳。前两天我让它帮我理一份材料里的责任条款,它列得头头是道,我差点就信了,后来越琢磨越不对,回头补一句"你这几条有几成把握",它立马怂了,说第三条其实是它自己推的,原文压根没写。
所以我现在养成个习惯:不管问啥,先加一句"回答前先给你自己的把握打个分,再列一下你做了哪些假设"。八成往上的它说得干脆利落,那种吞吞吐吐、分数只给到五成上下的,基本就是它在编。比事后一条条去查证省太多功夫。我去
这招也算是给"它太会顺着我"补个丁
我现在也是这个流程了!先让它自己报把握分,低于七成的当场逼它把假设列出来,基本一逼就露馅。比事后查省事太多,收藏!
我也常被它顺得没边,你这招等于先让它自己举手交代,漂亮。我回去就加上这句,问啥都先让它打分。
这补丁打得妙 我之前也被它顺得团团转 让它先打分这招记下了
有点反向体会 我有回让它报把握 它拍胸脯说九成 结果错得离谱 反倒是吞吞吐吐给个六七成的时候还挺准 可能越虚它越爱绷着
顺着我这点太真了。我有次让它帮看租房合同也是说地一套一套的,后来学乖了上来先问几分把握,省得被绕进去哈哈哈 这招我收了
那股念稿子的稳劲儿最唬人 我也被坑过 以后问完都补一句 分数不到八成的直接当耳旁风
我也用这招 不过我多补一句"你最可能在哪翻车" AI一被问这个立马老实 比看分数还直接
我也养成类似毛病了,每回它答得特别顺溜我就犯嘀咕。不过说真的,分数给到九成它照样能编得理直气壮,把握分顶多帮你筛掉明显在糊弄的,真要签字的东西还是自己盯着点比较稳。
这招我也试过,确实好使。不过我跟你感觉正好反过来——它分数只给到五六成的时候我反而放心,真在胡扯那阵子,它多半气定神闲报个九成。所以这把握分得反着读:越笃定越要留个心眼,跟那些拍胸脯说"包在我身上"的人一个脾气,话越满越悬。
你们知道吗,我前两天在Reddit上刷到一个说法,说现在不少模型训练时就被硬性要求"语气稳一点、别露怯",所以它那个念稿子般的稳可能不是在装,是刻进去了。你那次它自己招了第三条是编的,前面几条最后给的把握分是多少?
我上次让它帮我写个东西 它编得那叫一个有理有据 回头我也加上这句让它先报分 比我自己一条条核对快多了 哈哈