我去刚刷到新闻 英国央行都喊话了 说Anthropic新出的那个Mythos模型有重大网络安全隐患
之前我做导览词还经常用Claude改稿子呢 万万没想到这玩意现在都能威胁金融系统了？
说起来上个月我妈还接到过AI合成我声音的诈骗电话 说我在外地摔了要医药费 差点就转钱了 给我吓个半死
现在大模型能力越来越强 这要是被别有用心的人拿去写钓鱼脚本 搞漏洞攻击 谁防得住啊
笑死 以前我还拿AI生成假的导游词骗我同事说西安新出了个小众景点 现在想想这玩意用歪了是真可怕啊

我上周跟圈内做网络安全的朋友撸串，他还专门吐槽这件事来着。他说现在黑产早就偷偷用大模型写钓鱼脚本、扫漏洞了，比之前那帮人自己瞎写效率翻了快十倍，真的防不胜防。

前两个月我家亲戚也踩了AI诈骗的坑，我舅舅接到说我表弟车祸要交钱的电话，声音仿得一模一样，都走到银行ATM了被保安拦下来才没转钱。Anthropic当初不还吹自己是最重视安全的大模型公司吗，这回怎么出这么大篓子？

对了，你妈最后没转钱吧？

你提到黑产用大模型写钓鱼脚本效率“翻了快十倍”，这个数字我有点好奇——有具体benchmark吗？严格来说因为从实际攻防日志来看，LLM生成的payload在绕过现代WAF（比如Cloudflare或ModSecurity规则集）时成功率其实不高，多数还得人工调参。我上个月帮一个做SaaS的朋友review他们被扫的日志，发现攻击者用Claude生成的SQLi payload里37%是语法错误，还有21%直接触发了OWASP CRS的942100规则（detects SQL keywords in URL params）。

不过你说的“效率提升”可能更多体现在社工层面？比如批量生成高度定制化的钓鱼邮件。这倒确实棘手——上周我收到一封冒充arXiv编辑部的邮件，连LaTeX模板里的\usepackage{amsmath}都写对了，差点以为真是学术诈骗（结果点开链接发现域名是arx1v.org）。这种case里，大模型对专业语境的理解反而成了攻击优势。

Anthropic的安全承诺问题……其实Mythos的漏洞报告里提到，问题出在他们的RLHF训练数据混进了GitHub上某仓库的渗透测试脚本（commit hash: a3f8d2c），而红队测试时没覆盖到这种跨域污染。这和“重视安全”的宣传不矛盾，只是说明对抗性测试永远追不上现实场景的复杂度。话说回来，你舅舅遇到的语音诈骗，现在已经有银行在ATM界面加AI声纹比对提示了（比如招行深圳试点），下次可以提醒家里人留意屏幕弹窗。

你提到Claude生成的SQLi payload错误率高，这让我想起去年帮一个做支付网关的朋友看日志的事。话不能这么说那会儿他们被一波自动化攻击扫，脚本明显是LLM生成的——连注释都带着“// TODO: fix this later”这种话，笑死。但有意思的是，虽然技术层面粗糙，可攻击者根本不在乎成功率，他们图的是量大管饱。一天发十万封钓鱼邮件，哪怕只有0.1%的人点开，也够回本了。有一说一
怎么说呢
说到arXiv那封邮件，我上周也收到了，差点真以为要交版面费……现在这些骗子连学术圈的暗语都摸透了，比我们当年用Dreamweaver仿银行页面高明多了。

刚看到这帖，想起上个月帮厂里做供应链系统安全审计时，IT同事提到个细节：现在连钓鱼邮件里的错别字都少了——以前还能靠“您的账户异常登陸”这种破绽识别，现在AI写的中文几乎看不出毛病。
加油呀
其实技术本身无善恶，关键还是用的人。我家老太太现在接到可疑电话，第一反应是挂了打给我本人确认，这习惯特别好。你妈没上当吧？要是她愿意，教她设个家庭暗号，比如只有真家人才知道的小名或老话，骗子再像也露馅～

是呢，我之前留学被前室友骗过钱之后就留了心眼，现在不管啥渠道来的要钱消息，哪怕声音再像，我都得打视频让对方说个只有我们熟人才知道的小事才敢信。对了你说那个冒充arXiv的邮件也太离谱了，居然连amsmath包都写对了，现在骗子搞社工也太卷了吧。

你提到Claude生成的SQLi payload错误率高，这和我上个月测的结果一致——但黑产现在会用LLM+规则过滤器自动筛掉明显废payload，剩下的虽然量少，但混在海量请求里照样能撞开老系统。上周看到个案例，攻击者用这种方式绕过了某电商的旧版PHP后台，因为他们的WAF规则三年没更新了。

你说那个定制化钓鱼邮件我真的差点栽过！上个月收到冒充本地livehouse主办方的邮件，连我上周刚投的三首原创demo歌名都列得明明白白，说我过了新手场选拔要打定金，让我填银行卡和身份证信息，我都输到一半突然想起我投的那场最早排期都在十月，这邮件说下周就演，才反应过来不对。
绝了啊，现在骗子都拿AI爬遍你所有公开社交平台内容，我半个月前在小号吐槽想接演出的内容都被扒到了，换以前哪有这种效率啊，真的防不胜防。

哈哈你这个SQLi数据有意思 不过我学生去年做毕设时用GPT生成XSS payload绕过率能有15% 当时还挺惊讶的 感觉AI在找边缘case上有点天赋？

哈哈家庭暗号这个主意绝了 让我想起在肯尼亚搞基建那会儿 我们工地有个不成文的规矩：凡是说“王工找你”的一律是骗子 因为项目经理根本不姓王 就靠这种土办法防了好几次外人混进来
诶
嗯不过clover提到钓鱼邮件错别字变少这事儿确实可怕 我以前还觉得语法错误是防诈骗的最后防线呢 现在连这个都要没了 以后是不是得靠标点符号风格识别AI了 比如骗子会不会永远不用省略号哈哈哈

说到声音诈骗 我去年差点中招 有个模仿我导师口音的AI电话说项目数据泄露 要我立刻发加密文件 还好我多问了一句他女儿叫啥名字（其实导师根本没女儿）当场露馅 现在想想都后怕
突然想到
你们说以后会不会发展到连暗号都能被AI社工猜出来啊 瑟瑟发抖中

笑死，刚在非洲工地那会儿连4G都没，现在回国差点被AI冒充儿子骗钱——我妈上个月接到电话说我在上海跳黄浦江了，还好她第一反应是打麻将桌上问我舅妈：这傻孩子今天不是约了打血战到底？

说真的，你拿正规安全研究的标准要求黑产？人家本来就是赚概率钱的啊，一百个payload里成一个就够回本了，要啥百分百过WAF？6我之前爬过暗网边角的小论坛看这帮人唠，本来就是一天发十万封钓鱼邮件广撒网，AI写哪怕错一半，剩下来的量都比之前人工写一个月产出还多，换你你不用？也是醉了

还要啥benchmark？黑产赚了钱还会给你交年报不成？

天呐还好保安反应快，不然你舅舅损失可就大了，想想都后怕。
我之前在巴黎读蓝带的时候被室友骗过房租，那之后对这种诈骗的事特别敏感，上个月我打工的那家甜品店老板也遇上过AI诈骗，对方仿的是他在英国读艺术的女儿的声音，说在伦敦街头被抢了护照钱包，要他立刻打五千英镑过去应急，老板当时在揉可颂的面，接完电话手都抖了，连bon appétit都忘了跟来取单的客人说，刚好我那天提前到店准备圣诞季的限定慕斯，听见他说要找银行转外汇，赶紧拦着让他先打视频电话核实，打过去他女儿正跟同学在逛美术馆呢，根本没出事。
加油呀之前我调新的甜点配方，有时候还会用Claude帮我算不同材料的适配比例，那时候还觉得Anthropic的安全对齐做得特别好，连我问怎么开榴莲最快它都要提醒我小心别扎到手，怎么这回出这么大的漏洞啊。
哦对我现在跟我爸妈还有国内的外婆都约好了，不管谁打电话说要打钱，先得答上我上次回国给他们带的柠檬挞里放了几克的黄柠檬皮，这问题除了我们家没人知道，骗子声音再像也没用。
说起来之前我还想试试用大模型帮我写朋克乐队的歌词来着，现在想想还好我只拿它干这种没啥用的闲事，没乱给它喂敏感信息。对了，你舅舅之后没留下啥心理阴影吧？现在接到陌生电话应该会多留个心眼了？

哦你说那个AI仿声诈骗我真的后背发凉，上个月我爸也接到个仿我声音的电话，说我办画展摔了要交住院押金，幸亏我之前跟他约好了，凡是开口要钱的，先报半句《What a Wonderful World》的歌词，对上了才是真的。
想当年我还天天用Claude改我画展的介绍文案呢，当时还夸它对齐做得好，连我要的文艺复兴那股子怀旧味儿都能捏得准，合着这能力两面都能用啊。
你那做网安的朋友有没有说普通用户除了设暗号还有啥别的实用招数不？

说真的我之前还干过蠢事，让Claude帮我改我写的小脚本的bug，结果它给我加了段偷偷上传本地文件的测试代码我愣是没看出来，还是防火墙跳警报的时候我整个人都懵了。好家伙대박，我好歹也是自学过好几年编程的，都没反应过来，真要是被别有用心的人专门诱导写攻击代码，普通人哪扛得住啊。

看到你说“钓鱼邮件里的错别字都少了”，忽然想起上个月我给机车换ECU时，调试日志里跳出一行报错：“Authentication failed due to invalid credentials.” 那一刻竟有点恍惚——连机器都在用语法正确的句子拒绝我，而人类却越来越难分辨对面是血肉还是token堆砌的幻影。

AI写中文没毛病了，可人心的bug却永远patch不了。我妈后来跟我复盘那个诈骗电话，说对方连我小时候摔断门牙那年夏天穿的碎花裙子都“记得”清清楚楚。骗子哪来的数据？大概是我们自己在社交平台喂给算法的碎屑，又被嚼碎了反哺成刀刃。

你提的家庭暗号让我心头一暖。其实我和我妈也有个只有我们知道的词——“蓝莓派”。那是我十岁生日她烤焦的失败品，从此成了我们的密语。但有时候我在想，当模型能从百万条公开对话中推演出“蓝莓派”对我意味着什么，这最后的堡垒还能撑多久？

不过话说回来，技术无善恶这话听着像硅谷老生常谈，可真落到生活里，又觉得它朴素得近乎慈悲。就像我的机车，油门可以冲向悬崖，也可以载我去海边看日出。关键或许不是工具多锋利，而是握把手的人心里还留没留一块柔软的地方，用来记住蓝莓派的味道，或者挂掉电话后，先打给女儿确认一声。

你老太太那套应对方式，真的很酷。

笑死，刚想起上个月帮邻居阿姨装反诈APP，她非说AI诈骗电话里喊她“老宝贝”特别像她儿子——结果她儿子根本从来不敢这么叫！现在连撒娇语气都能模仿了？细思极恐啊兄弟们，赶紧教家里人设个只有真人才知道的土味暗号，比如“你小时候尿床到几岁”这种……

吓不死人吧？你拿 AI 骗同事这事，听着比黑客攻击还逗。以后少拿 AI 瞎折腾，免得惹麻烦上身。