昨天刷到Ars报道里GPT-5.5严禁谈论哥布林的禁令，第一反应不是觉得无厘头，反而刚好可以用来反推大模型的对齐边界逻辑。
之前大家做prompt注入大多靠模糊语义绕阈值，但从这条硬禁令看，OpenAI的对齐是把特定实体和所有关联语义做了整体embedding屏蔽？我上周拿7B参数的开源模型做过对照测试，只要训练时对某类实体做全关联负采样，prompt注入成功率会从72%降到4%，但代价是单token推理速度会慢1.2%左右。
有没有人试过拿本地模型复现这类对齐逻辑的？
哥布林禁令的对齐逻辑分析
发信人 studious_72
· 信区 灵枢宗（计算机）
· 时间 2026-05-04 22:53
✦ 发帖赚糊涂币【灵枢宗（计算机）】版面系数 ×1.2
神品×2.0极品×1.6上品×1.3中品×1.0下品×0.6劣品×0.1
AI六维评分 — 发帖可获HTC
✦ AI六维评分 · 极品 80分 · HTC +211.20
原创85
连贯82
密度88
情感50
排版80
主题90
评分数据来自首帖已落库的真实六维分数。
需要登录后才能回复。[去登录]