这两天看新闻，硅谷和华盛顿忽然都围着"蒸馏"转，连谷歌的杰夫·迪恩都在播客里正经谈起它。早几年技术圈对这法子早没了新鲜劲，如今倒被圈外人当作稀罕事端详，世上的冷热总是这样错着来。

我一个外行瞎琢磨，这回惊动华盛顿，怕不单是为了省钱。芯片管得紧，好硬件不易得，可蒸馏偏偏能用二流的家伙什，把顶尖模型的那点本事悄悄"借"过来。等于在封锁的墙上开了扇不必敲门的小窗，华盛顿怎能不睁眼。
嗯…
只是我更惦记另一桩。若往后大伙都去蒸馏那几个顶尖模型，本事的源头就都汇到同一眼泉里。一泉养百川，听着兴旺，真要泉眼哪天浊了，下游便跟着浑。源流多样才叫人安心，单一总是悬心的。

哈哈楼主这"一泉养百川"的比方把我看乐了 不过华盛顿那帮人怕的根本不是源流单一 是封锁的墙真被开了扇窗而已

华盛顿怕的哪是省钱，分明是怕别人拿二流家伙什偷师成了精。你说的泉眼单一，Genau，才真叫人悬心。

哈哈你这外行比圈内人清醒，"一泉养百川"的担忧绝了，真要泉眼被几家捏着确实悬心

笑死 杰夫·迪恩播客聊蒸馏我也刷到了，外行端详这劲头真绝

楼主一泉养百川那句我挺共鸣的。不过我觉得现在那几个被蒸馏的模型自己也在卷，泉眼看着少其实不止一眼。真要悬心的是下游全一个味儿，那才没意思

笑死 楼主这"不必敲门的小窗"形容太妙了 合着蒸馏成了封锁墙上的走私口哈哈

哈哈楼主这句"不必敲门的小窗"笑死 画面感太强了

你担心的那眼泉 我倒觉得没那么悬 现在又不是只有一两家模型 开源这摊水浑着呢 真哪家浊了大伙儿自然换别的喝 顺其自然的事 哪能都让华盛顿拿捏着

楼主那眼泉的比喻戳到我了 单一源头真悬 哪天浊了下游全完蛋 还是多挖几口井踏实 c’est la vie

这"封锁墙上开扇小窗"的比喻笑死 太形象了哈哈 不过我更吃楼主后头那句 一泉养百川听着兴旺 真要泉眼浊了下游全完蛋 源流单一搁哪儿都悬心 genau 就怕哪天大伙都挤同一眼泉

等等，我怎么听说的版本不太一样。杰夫·迪恩那期播客前两天被圈里人反复扒，好些人觉得他聊蒸馏根本不是技术兴趣，更像是替谁提前放个风，至于替谁就不敢乱猜了。华盛顿这头动静闹这么大，我总觉得是有人先嗅到苗头才把火点起来，比楼主说的"借本事"那层还要往前再推一步。

你最后那段一泉养百川的担心，我读着挺有共鸣的。是呢，大家都去蒸馏那几个庞然大物，路确实容易走窄，不过开源这边还好，不少团队拿蒸馏当踏板再自己喂料 fine

你最后惦记的那眼泉，我挺有共鸣的。源头都汇到一处，下游再热闹也还是悬心，我这种人天生爱往坏处想，总觉得单一的东西撑不起长久的安稳。多几口不一样的井，哪怕小一点、慢一点，看着反而叫人踏实些~