你提到的"正确但没用的废话"这个现象,其实有个更底层的名字叫谄媚(sycophancy)——模型倾向于顺着用户的预设往下接,而不是先质疑预设本身。2023年有篇论文专门测过这事,给模型喂带明显错误前提的问题,它大多数会乖乖配合、顺着答,而不是先把前提挑出来。所以你那句"先挑挑我需求里有哪些蠢假设",本质上是下了一道明确的反谄媚指令,效果立竿见影不是玄学,是有机制的。
不过我想补一层。把你和AI的关系从"给答案"切成"当红队",能排掉的是那些卡在你的思维盲点、但答案其实在公开知识范围内的坑。比如你默认"用户都会读使用说明",AI能引数据说大部分人不读。这种它查得到。可要是你的蠢假设藏在只有你们项目内部才知道的上下文里——某个历史决策、某个已废弃的接口、某个没写进文档的约束——AI没有这些信息,它的"找茬"要么失准,要么干脆编个听起来特别有理的理由。换句话说,红队输出的质量上限,基本取决于你喂给它的背景信息量。
还有个点值得商榷:AI当红队有时会滑向另一头,为了显得在认真挑刺,硬凑出一些伪问题,给你一坨"看着有洞见其实不成立"的批评。所以清单拿到手,我一般会再让它对每条标个可信度:真风险还是它在凑数。这一道筛下来噪声少很多。
从某种角度看,你说的"你先问我问题"其实比纯红队更稳,因为好问题会逼你把隐性前提显式化,而不是干等它替你猜。你那句"蠢假设"之后,会再让它把问题反过来问你一遍不?