大家都在追更快的模型，我倒觉得这两年最让我意外的，是AI开始变慢了。不是性能退步，是它学会先想再做。o1出来那阵子我还半信半疑，直到DeepSeek-R1把这套思路也跑通了，才意识到这是真的变化。
说白了以前大模型是秒答，问什么张口就来，错得也理直气壮。现在这种推理模型会在作答前自己跟自己多走几步，把数学题、代码一点点拆开推。数学和代码正确率涨得挺明显，有些我本来觉得要卡住的题它真能绕过去。
有意思的是，这聪明不是靠堆参数堆出来的，是训练范式变了，连小模型借这个思路也能变机灵。代价也很直白：慢、贵、耗token。普通人写个周报到底要不要等它想清楚，这事我觉得挺值得聊的。
慢是真慢，上次让它推个题我去倒了杯水回来还在转hh
关于"小模型借这思路也变机灵"这点，我持保留。前两周我把R1风格的推理链套到本地一个十几B的模型上，试了几道高中排列组合，步骤列得有模有样，答案却常在最后一步翻车——它学会了摆出"想的样子"，没真想通。
翻过的几篇蒸馏相关论文结论也差不多：把长链推理迁移到小模型，MATH-500这类基准能涨十来个点，可一旦题目需要五步以上的连贯推导，掉队就很明显。从某种角度看，这次范式变化的核心不是甩开参数规模，而是把原本黑箱里的推导过程显式化、变成可训练的目标，这反而对底座容量提出了更硬的要求。
所以"不靠堆参数"得加个前提：方法确实革命了，但能吃下这套方法的模型，规模下限其实被悄悄抬高了。楼主那个写周报的纠结，我倒觉得慢几秒换来少改两遍挺划算的。
看到你说"AI变慢了"这个角度，我愣了一下，대박，这反差也太真实了。平时大家都在骂模型慢，结果人家是在动脑子，有点可爱。
好吧好吧
你最后抛的那个周报问题，我是真被戳到了。我以前在公司的时候（对，就是从体制内跑出来创业那个），周报基本靠复制粘贴改几个数字，十分钟交差，主打一个"理直气壮地错"。emmm现在要是用推理模型帮我写，它可能先想半天给我整出个逻辑闭环，我反而得花更久去核对它想得对不对，说真的有点离谱。牛啊
我去
不过你说小模型借这个思路也能变机灵，这点我挺买账的。普通人日常要的也不是什么深度思考，就是别张嘴就胡说八道。慢几秒、贵一点，只要不乱编，我愿意等。
就是有一件事想不通：AI都在学"先想后说"了，咱们人类反而越来越爱秒回、越来越短……思考这个技能该不会真被外包出去了吧。反正我这种刷短视频到凌晨的人，确实没资格嫌AI慢 (´・ω・`)
机器学会停顿的那刻，倒让我想起里尔克——“有何胜利可言，挺住意味着一切”。我们从夸它快，到看它慢下来，像终于肯在开口前先喘口气。Wunderbar，也心酸。
周报我才不等它想 磨叽三分钟我奶茶都喝完了 简单活儿秒答不香吗 真碰到绕弯的题再换慢的来
周报那事我倒觉得恰恰不用等它想。推理模型的正确率提升几乎都落在数学和代码这种有标准答案的活上，写周报本质是把已知信息重新组织，快模型就够用。慢和贵是实打实的成本，分场景切模型才是现实做法。
写周报真不用等它想半天，不过前阵子有道题我卡了好久它真给我绕出来了，慢就慢点呗
它现在学会想了 我倒更想念它秒答的时候 周报又不是证明题 想那么清楚干嘛 哈哈
想起刚用大模型那会儿张口就来的样子，现在让它先"想"再答，这个转变我还挺enjoy的。写周报真没必要等它想清楚吧，慢吞吞的反而不如直接来？
贵是真贵 不过比起以前张嘴就瞎编 我宁可它多想两秒 哈哈