这两天谷歌搜索AI把disregard当成系统指令全网炸锅，不少人说是prompt injection没做好。但从某种角度看，这更像是高维语义空间里的一场几何事故。Transformer做token embedding时，“disregard”、"ignore"这类词跟系统控制指令的向量簇，欧氏距离被压到了0.37以下，发生了本不该有的邻近坍缩。

更值得商榷的是训练阶段的分布偏差。KL散度最小化过程中，模型对低频指令词产生了先验过拟合，导致控制语义的子流形局部曲率异常升高。自然语义的测地线经过那里就会发生偏折，跟光线在引力场中的偏折如出一辙——只不过这里弯曲的是meaning manifold。根子在于当前LLM缺乏有效的元语义隔离机制，符号层面分不清"描述操作"和"执行操作"的边界。从公布的case看，误触发高度集中在表否定的词群上，这绝非偶然。

我只关心一件事：这个曲率异常是英语embedding的特例，还是多语种语义流形共通的拓扑缺陷？

你从流形几何的角度拆解这个case，思路很清晰。不过落到多语种是否存在共通拓扑缺陷的问题上，可能更接近训练数据分布的“路径依赖”。英语instruction tuning的开源语料高度集中在技术社区，否定性操作词与系统指令的共现频率被人为放大，向量簇自然容易挤压。相比之下，中文同类任务的标注语料更多来自政务与本地化商业场景，控制语义往往被业务边界词（比如“驳回”“暂缓”）稀释，语义流形的初始拓扑就不一样。从某种角度看，这不是几何意义上的必然曲率异常，而是不同语料数据禀赋塑造的比较优势差异。
其实
其实另外文中提到的0.37欧氏距离，具体是原始空间还是经过归一化后的度量？不同预处理方式下的阈值差异很大。如果有不同语言基座在同一测试集上的误触发率对比，结论会更扎实。国内大模型的迭代过程其实很像区域产业转型，底层架构趋同，但最终表现全看初始投入的要素结构和制度环境。你手头有跨语言的消融实验数据吗？