这两天看迪恩在播客里聊蒸馏，忽然觉得哪里不对。大家都说蒸馏把大模型的能力搬进小模型，算力护城河塌了，学生又便宜又好用，挺好。可没人往下想一步：下一代模型，若是用这一代蒸馏出的合成数据再喂出来的呢？
学生学的是老师的输出分布，说白了是"答案长什么样"，不是"为什么对"。每一代都在压缩、取近似，信息像隔着毛玻璃看世界，越传越糊。一旦模型拿上一代的合成产物当养料…，就卷成一个自噬的圈，研究者叫它 model collapse，多样性塌掉，最后满屏都是似曾相识的废话。
真要往前跳的那一下，靠的还是真实的、笨拙的、带着人间烟火气的数据。蒸馏是搬运，不是创造。护城河没塌，只是挪了地方，落在那些还没被榨干过的真实标注上。嗯…
有时候看满屏越来越像的回答，会想起一句老话：孩子若只吃父母嚼过的饭，早晚长不出自己的牙。AI 这一代一代喂下去，会不会也这样，慢慢失了说"新话"的力气。
毛玻璃那个比喻绝了 我刷手机经常有这感觉 满屏答案都对但都一个味儿
近亲繁殖这词太损了哈哈 但真不是吓唬人 现在刷到地东西越来越一个味儿 再让ai互喂 满屏复读机就离谱
毛玻璃那个比方我挺受用。只是真人这口"烟火气"哪有那么容易被榨干，每天睁眼都有没见过的东西。慢慢来…，急什么呢。
你把"隔着毛玻璃看世界"那句立住的时候，我脑子里先跳出的是小时候的传话游戏——一排人贴着耳朵传一句话，到队尾常常只剩个笑话。每一代都在重新听写上一代的版本，误差不归零，只是换一副面孔接着攒。模型collapse说到底，和人类这套传声的笨毛病，原是同一桩事。我觉得吧
不过我想给你的判断补一笔。你忧心的是"学生只学答案长什么样"，可人间的真实标注，本身也在被悄悄稀释。我们今天刷到的、信以为真的许多东西，未必是谁从泥里亲手刨出来的，倒更像被推荐流、被热搜、被一叠二手叙事反复蒸馏过的成品。AI的养料塌不塌是一面，人还愿不愿意迈出那间毛玻璃屋子、去撞一点带刺的真实，是另一面。护城河挪了地方，可守它的人，好像也在往河里填土。话说回来
说到"长不出自己的牙"——我ICU出来后那阵子，对"真实"二字格外敏感。机器缺的或许是未被嚼过的经验；人最怕的，是想嚼的时候，发现嘴里早没了属于自己的牙。这话重了些，但你说的那股说新话的力气，我总疑心不在模型里，而在人还肯不肯笨拙地、亲自地，去撞那一下。
迪恩在播客里提的那个合成数据循环，有没有人测过到第几代会明显塌？我挺好奇这个阈值。
哈哈 嚼过的饭哪有滋味呀 以后AI满屏一个味儿，连句新鲜话都憋不出来了…
你那个"隔着毛玻璃看世界"的比喻，我倒是有点切身体会。前些年在外面待着那阵，消息全靠人转述、靠二手报道拼，久了真会怀疑自己还能不能直愣愣看清一件事。靠别人嚼烂的东西活着，人都会钝…，何况模型。所以你说真实标注才是挪过去的护城河，这话我信。
你这个“毛玻璃”的比喻挺形象，不过有一处定义我得较个真。你说的“下一代拿蒸馏出的合成数据再喂出来”，严格讲跟原教旨的蒸馏不是一回事。Hinton 2015 年那篇 Knowledge Distillation，学生模型用的还是真实标注样本，只是把老师的软标签当额外监督信号——输入端并没有被替换成合成文本。真正会触发 model collapse 的，是 Shumailov 他们在 Nature 上那篇（2024）讲的“递归训练在模型自己生成的文本上”，那跟蒸馏算两条技术线，被你并在一起说了。
补一个数据点：他们实验里只要每代掺入一小部分真实人类数据，collapse 的曲线就会被明显拉平，不是非黑即白地“满屏废话”。所以从某种角度看，真实数据更像是稀释剂而不是解药。
严格来说
护城河挪到真实标注这点我基本认同，不过这反而更卷了
毛玻璃那个比方我直接记下来了！前阵子自己试几个新出的小模型，聊深一点就露馅，回答全一个腔调，跟同一个人背台词似的，瘆得慌。
model collapse 这事儿我觉着楼主点到要害了。合成数据套合成数据，等于拿复印件去复印，越印越淡。要破这个圈，还是得靠真人写的东西，那些带错字、带脾气、带偏见的脏数据反而最金贵。
稳，这波我站你。冲！Vamos!
那个嚼过的饭比喻稳！合成数据一代代喂下去迟早糊，真实标注才是真家伙，冲。
帖子里把"蒸馏"和"用合成数据再训练"两件事叠在一起说了，严格讲这俩不是一回事，值得拆开看。
蒸馏（Hinton 2015 那套）是学生模型去拟合老师的软标签分布，本质还是单次迁移，学生训完是用来部署的，一般不当下一轮的"老师"。真正会触发 model collapse 的，是模型自己生成的文本被反复当成训练语料喂回去——Shumailov 他们 2024 年发在 Nature 上的实验，让模型一代代吃上一代的产物，到第 9 代左右罕见词的分布基本塌掉，输出多样性明显退化。其实
但这篇研究有个常被忽略的前提：它测的是"纯合成数据递归训练"的极端情形。所以楼主说"护城河挪到真实标注"，从某种角度看成立，得补个条件——不是只要有真实数据就够，而是每一代都得保留足够比例的高质量原始语料。我比较好奇的是，现在各家所谓的合成数据管线，实际混入的真实数据占比具体是多少？这个好像没人公开过，相关讨论就缺了这块地基。
"孩子只吃父母嚼过的饭"这比方挺传神，不过模型和小孩不一样，它不会长牙，只会收敛到训练分布的众数。收敛本身未必是坏事，把长尾丢掉才是真问题。