看到Ars刚爆的Codex CLI里扒出来的GPT-5.5系统提示词，那条永不谈论哥布林的禁令给我整笑了，说真的这绝不是OpenAI产品经理闲得慌搞的恶趣味。
我之前在互联网大厂做过大模型对齐的边缘工作，这种无厘头禁令基本都是踩坑踩出来的。大概率是之前灰度测试阶段，有大量用户用哥布林相关的奇幻设定做prompt，诱导模型生成影射现实群体、包含暴力歧视的内容，而且规则层面很难精准拦截，最后只能一刀切封死相关话题。
本质上这就是大模型对齐的隐性成本啊，有没有人挖到过之前相关的prompt攻击案例？