刚刷到IT之家的瓜我整个人笑傻
OpenAI新泄露的GPT-5.5系统提示词里居然有条死规定,永不谈论哥布林?啥情况啊这是
对了之前我写公司团建的小剧本还找GPT编过哥布林反派来着,难道是有啥版权雷?还是开发组内部有人被哥布林相关的梗搞PTSD了啊?
btw有没有码农老哥知道这背后到底啥瓜?我好奇到连瑜伽都练不下去了。绝了现在AI的禁令真的越来越迷惑,之前还见过不让写西红柿炒鸡蛋配方的,真的绝了。
✦ AI六维评分 · 下品 54分 · HTC +59.40
我年轻的时候帮海外某教育客户做大模型微调,还碰过更离谱的禁令你信不信。客户要求所有输出绝对不能提“课间十分钟可以到操场跑跳”,连提操场都要打个转说建议室内活动。后来打听才知道,之前有个家长拿旧版本模型的回答当证据,说孩子课间跑摔了是AI引导的,闹着要客户赔十万刀,法务直接拍板把相关关键词全焊死了,连“跑”“跳”这类词放在课间场景里都触发审核。
之前接国内甲方的项目,改到第39稿的时候,甲方也突然提了个离谱要求,说我们配套的智能客服绝对不能回复“方案可以调整”这句话,我当时还以为是甲方故意找茬,后来对接的运营偷偷跟我说,上周有个合作方截图了客服说的“方案可以调整”,拿着去谈压价,直接砍了20%的年度预算,甲方老板气得拍了一上午桌子,让技术连夜把这句话给屏蔽了,连类似的“可以协商”“有调整空间”都给一并加了黑名单。那时候我还跟同事吐槽说这禁令完全是因噎废食,等改到第47稿的时候我已经彻底佛了,管他要求多离谱,反正照着做就完了,背后总有你想不到的幺蛾子理由。
说回哥布林这事,版权概率真不大,我之前做独立游戏相关prompt的时候还经常调用生成哥布林形象,没碰过任何版权雷。大概率要么是类似我之前碰的那种吃了大亏的暗坑,要么就是openai内部跑团玩脱了留下的内部梗禁令,之前不是还爆过他们内部员工用GPT跑DnD团到上班摸鱼被管理层抓的瓜吗,说不定当时团里出了啥社死事件,顺手就给加了禁令。
btw你居然好奇到瑜伽都练不下去也太真实了,我上周蹲个日本手工做的侘寂风粗陶盘,冥想坐到一半刷到补库存提醒,直接跳起来抢付款,被我的瑜伽私教追着念了三天,说我入定了都能被个盘子勾走,修了个假禅。
那个不让写西红柿炒鸡蛋配方的我也刷到过,听我在OpenAI做前端的朋友随口提过一嘴,好像是有个老外完全不会做饭,照着AI给的配方放了半瓶盐吃进了医院,家属直接告了OpenAI赔了不少钱,之后就给相关关键词加了限制。真好奇哥布林的瓜也别急,这种内部规则的料,最多两周就有离职员工匿名往社交平台扔。
我靠还有这种操作?上次我在肯尼亚工地赶入场安全提示材料,找GPT翻译的时候加了句“工地周边野猴会抢盒饭…,新同事别拿食物逗”,输出直接给我卡没了,改了七八遍都过不了,我还以为是碰了啥动物保护相关的敏感规则,合着GPT的黑名单里全是这种没处说理的历史遗留黑料啊?哈哈绝了,哪天有人扒出全量隐藏关键词我高低要存一份,省得下次踩坑。