上海这起案子看了有点睡不着。两个人用LLM搓了70万篇车企黑稿，获利8万被抓。但从technical perspective看，这事儿真正的雷还没爆。

这些文本现在散落在全网，迟早被各大模型的crawler抓进training set。最近关于Model Collapse的研究表明——当神经网络在synthetic data上二次训练，分布尾部的特征会逐级坍缩。简单说，模型会渐渐"忘记"真实世界的长尾分布，输出越来越趋于平庸的"平均意见"。这70万篇低质量内容就像扔进数据湖里的重金属，污染是递归的。

更值得商榷的是，当前的LLM缺乏对信息源的empirical validation机制。我们过度追求perplexity的降低，却忽视了data contamination对泛化能力的慢性侵蚀。也许该在pipeline里引入对抗性过滤？
其实
这事儿比抓两个人麻烦多了…