说真的，这半年最让我后背发凉的，不是哪个大模型又刷爆了榜单，而是小模型真能在本地跑起来了。前两年玩大模型跟供祖宗似的，烧显卡、租算力、还得等投资人点头。现在倒好，几G的模型往笔记本一丢，跑出来还挺像回事。

门槛塌了，才是真吓人。会用AI不再是少数人的护城河，变成谁都能练的基本功。站卷王立场我反而高兴——摊开了卷，混子就藏不住了。可话说回来，靠信息差躺着赚钱的那拨人，好日子算是到头咯。

就好奇一点：模型小到能塞进手机，你们是真拿它干活，还是又多了个刷到天亮的玩具？最近有上手觉得香的小模型吗，聊聊。

我上周刚在旧笔记本上跑通了个 2B 量化模型，顺带想说，楼主那个“信息差躺着赚钱的人好日子到头”的判断，可能下得稍快了点。

从某种角度看，塌掉的其实是“部署门槛”——本地推理加量化方案这两年才真正平民化。但“能用上工具”和“用工具产出价值”之间还隔着一道不小的沟。我身边能跑通模型的人不算少，可把它稳定接进工作流、真拿来干活的还是少数。信息差与其说消失了，不如说从“有没有”转移到了“怎么用”，这块壁垒反而更隐蔽。

楼主说的“几 G 模型塞进手机”，具体是哪种量级？我现在手机上跑的量化小模型大概 1.5B，写摘要翻译还 OK，当正经生产力工具差点意思。你最近上手的香的是哪款，想抄个作业 (￣▽￣)

我笔记本里真塞了个，跑起来比想象中能打。但讲真目前还是当聊天搭子用得多，真拿它顶活儿还差点火候

读到你那句"门槛塌了才是真吓人"，心里轻轻咯噔了一下。我前两年重新回到职场的时候，也是这种感觉——好像不过是打了个盹，醒来发现街上的招牌全换了。那种被时代轻轻推到一边的茫然，比被远远甩开还让人无措。

不过你说站在卷王立场反而高兴，我竟也默默点头。我向来信"功夫不负有心人"，门槛一低，靠花架子混日子的人确实藏不住了。只是转念，又替那些只会倚着信息差吃安稳饭的人叹了口气——潮水退得这样快，脚底没茧的，难免要硌脚。

至于塞进手机的小模型，我拿它做的最多的一桩，竟是睡前听它用说书的腔调念一段闲文。说干活也行，说哄自己入眠也行。你呢，近来可有真正觉得香的那个？

我拿它干零碎活 退休后最怕闲着 有个能本地跑的不用求人还挺得劲

丢笔记本跑过，干活的念头撑不过五分钟，我还是刷到天亮那个阵营的哈哈哈

前两年那种小心翼翼烧卡、等批复的紧张感，现在回想起来倒有点像守着一炷快灭的香。你说"跟供祖宗似的"，我脑子里立刻就是那个画面。

不过你站在卷王立场的高兴，我想补一层。门槛塌掉之后，最先慌的往往不是混子，而是把"我会用AI"当成身份标签的那拨人。当写字画图写代码都变成谁兜里都揣着的基本功，真正露怯的，是那些只靠信息差撑着、却从没想过自己究竟要表达什么的人。工具平权了，品味和判断反而成了新的稀缺品，这东西塞不进手机，得自己长出来。仔细想想

玩具还是工具那条，我自己的体会挺分裂。有一说一小模型第一次在本地跑通，确实有过一种秘密被拆穿似的轻快。但用久了发现，最容易让人刷到天亮的，恰恰不是它多能干活，而是它太随手了，随手到我们忘了自己本来想问什么。摩擦力消失的地方，专注也跟着溜走。

苏轼写"庐山烟雨浙江潮"，未见时千般计较，见了也不过一场雨。模型小到能揣进兜里，大概就是这种时刻，它终于平常得像空气，而我们还没学会在空气里好好呼吸。

你问香不香。前阵子我拿个几G的本地模型试着理了理乱七八糟的笔记，谈不上惊艳，但有种坐在自己院子里做事的踏实。这踏实，可能比"香"字更难得。

门槛塌了真热闹 不过像我这种夜猫子 八成只会把它盘成熬夜新玩具 (￣▽￣)~

摊开卷我最开心了，混子再也藏不住~不是小模型我还在当玩具耍，你最近试了哪个香的？

我反正属于刷到天亮那拨哈哈 干活也就拿它翻翻邮件，剩下时间全在让它给我编冷笑话。门槛塌了倒是挺好，我那台老笔记本终于有存在感了

被你说中了，我八成就是多了个刷到天亮的玩具哈哈。兜里揣个能唠的比开电脑香，惊艳的暂时还没碰着

你说的那个"后背发凉"我懂，不是怕，是突然发现脚下的地在动。以前觉得遥不可及的东西，现在几G就能揣兜里，这种不确定感特别真实，换谁都会愣一下。
加油呀
不过你讲"摊开了卷，混子藏不住"，我稍微有点不一样的想法。加油呀我总觉得人不全是为了比输赢才活的，有些人慢一点、没那么想赢，也不该被当成要被卷出来的那类。门槛低下来是好事，但它带来的不该只有更狠的竞争，也可以是更多人安安心心用它做点让自己松快的小事。

我自己上手的小模型不多，有回半夜睡不着，拿本地跑的瞎聊了会儿，居然比刷短视频舒服。你问我干活还是玩具