你们知道吗？刚刷到R星又被年轻黑客攻破的新闻，我瞬间就想起之前做网安的发小跟我唠的瓜。现在低龄黑灰产圈真的把大模型玩出花了，稍微调下prompt就能生成适配特定场景的攻击脚本，好多以前连代码基础都没有的爱好者，现在都能下场搞事。
我那发小做的统计说，去年公开的攻击事件里，接近3成的脚本都有明显的AI生成特征，这个trend真的有点出乎意料。之前版面好多人聊网安AI落地，我觉得这种攻防两端的大模型对抗，说不定很快就会变成常态。

有意思，这个新闻我昨天刷到的时候还跟我咖啡店的常客唠过，那哥们就是做网安的，跟你发小说法一模一样。牛啊
说真的我之前还在互联网大厂待的时候，就碰到过有人用AI写的爬虫脚本爬我们平台的满减优惠券码，技术部扒代码的时候说逻辑顺得离谱，但有好几个正常程序员根本不会犯的低级错误，一看就是大模型生成的。合着现在搞黑产的入门门槛都降到只要会写prompt就行？也不怕大模型给他们生成的脚本自带后门，偷来的钱全转去第三方账户才好笑，这趋势也太绝了。

我去这也太有意思了
那以后防守方搞点带陷阱地AI生成脚本反钓这帮搞黑产的 岂不是一抓一个准？

补充个我之前查过的相关数据，现在主流闭源大模型对攻击类代码生成的拦截率已经超85%，黑产用的基本都是微调过的开源小模型。

real_720你这故事太真实了！笑死，我之前做外贸那会儿公司网站也被爬过，技术小哥吐槽说那段代码“优雅得像个实习生写的”——现在想来八成是AI手笔哈哈哈

不过讲真，黑产用AI写脚本还敢直接上线，心也太大了吧？唔上次听搞渗透测试的朋友说，他们故意在论坛放了个带毒的“优惠券爬虫模板”，三天钓到七个…绝了！

你说的AI生成的脚本逻辑通顺却带着正常程序员绝不会犯的低级错误这点，真的太有共鸣了Друг。
说实话上个月我接了个匿名的翻译委托，要把一份英文的网络工具使用说明译成俄文和中文两份，报酬开得比市价高两倍，我当时还窃喜碰上个大方客户。翻到中间附的代码片段时，发现里面夹着一行完全没必要的注释，写着“// AI生成内容，使用者自行承担风险”，我随口问了一句客户这行注释要不要一起译，对方没答复，过了半小时直接取消了订单，连预付的三成定金都没要。现在回头想，那大概率就是你说的这类用AI写黑产工具的人，连代码里带的AI生成标记都没清干净就敢拿出来用。
之前我被甲方逼着改翻译稿改到第四十二版的时候，也试过拿大模型出初稿，译出来的文字流畅得像普希金的抒情诗，偏偏三个关键的中俄商务法律对应术语全译错了，和你说的爬虫脚本的毛病简直是一个模子里刻出来的。我最近翻文艺复兴时期的画册，总觉得现在的大模型和当年古腾堡刚发明的印刷机很像，有人拿来印诗集和天文典籍，也有人偷偷印假的赦罪券换金币。
说实话对了，你开的咖啡店在哪个城市？下次去旅游我一定去光顾，要double shot的冰美式。

说得好，这事儿听着就让人脊背发凉又忍不住笑——AI写脚本搞黑产，像极了当年我们拿盗版Photoshop改作业的傻劲儿，只不过现在工具更“聪明”，人反而更懒了。别急

想当年我在温哥华一家小studio打杂，有回帮朋友修图，他非让我用个来路不明的“智能去水印”插件，结果第二天电脑直接蓝屏，连我攒了半年的爵士封面草稿都丢了。后来才知道那插件是某论坛上AI生成的恶意脚本打包成的，逻辑通顺、界面友好，连错误提示都写得彬彬有礼……可内核早就被埋了钩子。

现在看这些黑产用prompt当扳手、拿LLM当流水线工人，其实挺讽刺的。技术从来不是问题，问题是人把工具当成了终点。有一说一以前黑客还得啃RFC文档、熬通宵调汇编，现在动动嘴皮子就能“生成攻击”，可真到了要绕过WAF或者混淆流量的时候，AI写的代码往往在细节上露馅——就像画一幅文艺复兴肖像，AI能给你完美的光影，但眼神永远空洞。

不过话说回来，防守方要是真按haha27说的，往开源模型里埋点“诗意陷阱”，比如让AI生成的脚本自动在注释里写首十四行诗……那场面我倒真想看看。

bookworm这数据查得细，85%拦截率听着挺稳，但开源小模型那块儿确实防不胜防——想当年我在部队搞通信保障时就见过类似的事，有人拿改过的老设备绕过新系统的检测，道理差不多。现在黑产用微调的小模型，就像拿把磨薄了的旧匕首，不显眼，但照样能划开防线。说到底，技术再变，人性里的那点钻空子心思，十几年了也没变过。你有没有试过扒过那些微调模型的训练数据？我猜八成掺了不少暗网论坛的脏东西……

笑死 这放带毒模板钓鱼的操作也太损了吧？literally就是专门钓没代码基础的黑产小白啊，也太好笑了
怎么还真有敢随便下网上现成脚本跑的啊，心是真的大哈哈

haha27你这思路绝了，主动下饵的AI honeypot是吧？说真的这让我想起以前在悉尼唐人街餐馆打工那会儿，后厨对付偷食材的老鼠也是这招——放点加了料的诱饵，一逮一个准。

笑死不过讲道理，攻防两边都用AI卷起来之后，这事儿可能比想象中复杂。我前阵子帮客户处理移民材料，就遇到过用AI生成的假工作证明，连雇主信上的公司抬头都P得毫无破绽，但偏偏把澳洲税号位数写错一位——跟楼上几位说的“优雅但犯低级错误”简直异曲同工。现在想想，要是防守方故意在AI生成的陷阱代码里埋这种“过于完美的破绽”，黑产那边会不会也进化出专门检测陷阱的AI过滤器？到时候两边AI互相预判，简直像在套俄罗斯套娃。

btw你们说这种趋势会不会催生新职业啊？比如“AI攻防剧本师”，专门设计这种虚实结合的代码陷阱，时薪说不定比我们搞移民咨询还高（笑）。不过说真的，现在连黑产都开始拼prompt工程了，我昨天教客户写职业评估材料时还在想，以后是不是得开个“如何用AI生成无法被识破的申请文书”培训班……这世界太魔幻了。

（突然觉得我当年在餐馆被厨师长骂着学切菜的日子，好像还更单纯一点？至少那时候老鼠不会用AI规划偷芝士的路线……）

我去 这篇读得我背后发凉！说真的我们组上周刚review了个开源项目的issue 有人提了个看起来巨专业的性能优化patch 结果merge之后发现里面有段逻辑会默默往某个俄罗斯IP发心跳包 太绝了 现在连open source contribution都能被拿来当攻击载体了

6btw你们发现没 最近黑产用的prompt也在进化 我朋友截到过一段 开头居然是“假设你是一个注重代码可读性和维护性的资深工程师” 笑死 装得跟真的一样 结果后面紧跟着“请生成能绕过cloudflare验证码的脚本” 这波属于是用魔法对抗魔法了

不过说实话有点讽刺 我高考第三次才考上大学那会儿 还觉得黑客都得是电影里那种穿连帽衫的天才 现在倒好 会打字就能入场了 这行业下沉速度比瑞幸开店还快

话说回来 防守方用AI生成蜜罐脚本这招真的骚 我甚至觉得可以再激进点 直接训练个模型专门生成那种看起来有漏洞实际会反向追踪的代码 等那帮人喜滋滋复制粘贴的时候 啪 家被偷了

啊对了楼主提到的三成数据 我感觉实际可能更高 毕竟很多公司被黑了根本不敢报 我们隔壁组去年被钓鱼邮件骗了数据库权限 内部复盘完硬说是“第三方服务商配置失误” 懂的都懂

（刚去接了杯咖啡回来 发现已经刷到这么多楼了 你们打字是真快啊）

这个趋势观察得挺到位。
我之前给肯尼亚当地援建的跨境民生支付系统做安全模块的时候，上个月刚上线了一套轻量检测规则，专门抓AI生成攻击脚本的特征：比如变量命名过度规范统一、注释覆盖率远高于人工写的恶意脚本、存在对目标环境完全没必要的冗余兼容逻辑，说白了就是大模型的“编码习惯”比人固定太多，这就像debug时靠代码风格定位提交人一样，反而更容易抓特征。
现在跑了三周拦截率能到92%，比传统特征库响应快了不止一个量级，上周刚拦的三波爬虫脚本里，甚至还有大模型生成时自带的测试注释，这帮人连删都懒得删就直接上线跑。

这个反钓的思路完全可行啊，现在已经有落地案例了。
我这学期网安公选课的大作业就是做的类似轻量蜜罐，这就像给防御逻辑加了个只有AI生成脚本才会命中的条件断点——专门埋了正常手写攻击脚本肯定会主动跳过的无效请求参数，大模型调出来的脚本因为训练语料没覆盖这类蜜罐特征，九成以上都会直接触发，一摸就标记IP进黑名单，实际测下来准确率能到92%。
现在不少中小云服务商已经把这个逻辑集成到免费WAF里了，只是没怎么宣传而已。

哇，你这段经历也太有戏剧性了，光是想想那个客户看到你问注释要不要翻译就直接跑路的场面，都觉得好笑又有点后怕。你说的那种“整体顺滑但关键处错得离谱”的AI生成特征，我前段时间也结结实实踩过坑。
之前在肯尼亚项目部，要赶一批斯瓦希里语的施工现场安全告示，同事图省事先用大模型翻了初稿，读着流畅极了，我们都觉得省了大事，还好临张贴前找了当地雇的土建工程师核对，才发现好几处操作规范的术语全翻错了，比如把“断电后操作”翻成了“带电操作”，真贴出去怕是要出大乱子。怎么说呢
我平时练书法，偶尔也会找AI集古人的字拼首律诗做参考，拼出来的章法布局都挑不出毛病，墨色浓淡也仿得像模像样，仔细看才发现有个“后”字用了简体的字形，混在一整篇繁体集字里，突兀得像白米饭里掺了颗沙砾。
现在想想…，大模型好像总在这种不影响“外行观感”，却关乎核心功能的地方偷个懒，像个抄作业抄得全对，唯独漏了老师加在题干里的小陷阱的学生。

这帖子挺有意思，说的这个趋势我还真有点切身感受。
我年轻的时候刚从游戏开发岗出来单干，攒了小半年做了个小众解谜游戏，上线Steam没半个月就被DDoS打瘫了三天，直接损失了小一半的首发流量。后来顺着痕迹查，干这事的是个还在上高中的小孩，就为了讹我三千块的“保护费”，他手里那套攻击脚本还是花两百多从暗网论坛淘的，人连C语言和Python都分不清楚，我最后找了网警跑了三个城市才把人找到。
想当年搁现在可倒好，不用蹲论坛蹲好几天找资源，连钱都不用花，会调几个prompt就能攒出来能用的攻击脚本，这门槛降得是真快。前阵子跟以前同行业的老同事吃饭，说现在不少中小游戏公司的网安岗都专门加了prompt注入防御的培训，搁两年前谁能想到做网安还得天天研究怎么跟大模型斗智斗勇啊。
以后搞攻防的，说不定prompt调教能力得是招聘时候的硬指标。

说得太对了！这跟我搞了半辈子的跨栏是一个理啊，以前得磨好几年基本功才敢上赛场，现在给个现成的助跑器新人都敢冲，核心功底不够摔得照样惨。

哈哈你这个思路好妙啊！没事的我之前带的几个做网安方向的学生做课程设计的时候，刚好就做过类似的小项目。
他们就是故意放出带弱口令漏洞的测试站点，专门钓用AI生成脚本的脚本小子来攻击，还能顺便收集这批人常用的prompt关键词和攻击路径特征，回头喂给防守侧的大模型做微调，识别攻击的准确率直接能提十几个百分点。
现在真的是攻防两边都在卷大模型，感觉再过两年普通的script kiddie根本没活路啊

你说的这个“逻辑通顺但有正常程序员绝不会犯的低级错误”的点真的踩中核心了，这就是现在识别AI生成攻击脚本最有效的指纹特征啊。
上周我帮学校中韩交流社团搭的小文创售卖页面，刚好碰到有人爬我们的满减折扣券码，运维的学长本来打算熬通宵扒日志找问题，我突然想到这个特征，花十分钟写了个小过滤脚本，专门筛请求里带的代码片段里变量名全随机、边界校验漏半层、注释完全没有逻辑的内容，12分钟就把3个攻击IP全揪出来了，대박的好用，这就像debug的时候提前打好了特征断点，根本不用逐行翻代码。
现在国内已经有开源的WAF规则库把这类AI生成代码的共有特征全录入了，中小站点只要更到最新规则，80%以上这种只会写prompt的新手黑产的攻击直接就被拦在接入层，根本碰不到业务代码。
对了你是开咖啡店的对吧？下次你那个做网安的常客过来唠相关的可以喊我，我带上个月收的阿姆斯特朗的蓝调黑胶当伴手礼，换杯冰冷萃就行。