###簡要概述* 剑桥、爱丁堡和斯特拉斯克莱德的研究人员分析了ChatGPT推出后发布的97,895个网络犯罪论坛主题。* “黑暗AI”工具如WormGPT引发了文化热议，但几乎没有产生有效的恶意软件，而越狱的聊天机器人越来越难以持续运行超过几天。* 最可衡量的AI驱动犯罪并非黑客攻击，而是大量生产的SEO垃圾邮件、恋爱诈骗和以一美元出售的AI生成裸照。三年来，网络安全公司、政府和AI实验室一直警告生成式AI将引发新一代超级黑客。根据一篇新发表的学术论文，实际上这些超级黑客主要使用ChatGPT来写垃圾邮件和生成裸照以取乐。这项题为《单一复杂体还是Vibercrime？》的研究由剑桥和其他大学的研究人员在arXiv上发表，旨在了解网络犯罪地下世界实际上如何采用AI，而非网络安全供应商所说的那样。“我们在此提出对早期生成式AI在网络犯罪地下世界采用模式的混合方法实证研究的首次尝试之一，”研究人员写道。团队分析了2022年11月ChatGPT推出后发布的97,895个论坛主题，数据来自剑桥网络犯罪中心的CrimeBB地下和暗网论坛数据集。他们进行了主题模型分析，手动阅读了超过3,200个主题，并进行了人种志式的场景沉浸。<span style="display:inline-block;width:0px;overflow:hidden;line-height:0" data-mce-type="bookmark" class="mce_SELRES_start"></span>结论对AI末日社区来说并不讨好：样本中的97.3%主题被归类为“其他”，意味着根本不是关于用AI犯罪的。只有1.9%的主题涉及有人使用Vibe编码工具。‘不过是无限制的ChatGPT’还记得WormGPT、FraudGPT，以及2023年铺天盖地的所谓恶意聊天机器人吗？论坛数据讲述了不同的故事。研究人员发现，大多数关于“黑暗AI”产品的帖子，是人们乞求免费访问、闲聊猜测，以及抱怨这些工具实际上并不起作用。一位流行的黑暗AI服务开发者最终向论坛成员承认，该产品只是一次营销手段。“归根结底，[CybercrimeAI]不过是一个无限制的ChatGPT，”开发者写道，然后项目关闭。“任何在互联网上的人都可以使用众所周知的越狱技术，达到相同甚至更好的效果。”到2024年底，研究人员表示，主流模型的越狱变得一次性。大多数在一周内就会失效。开源模型可以无限越狱，但它们速度慢、资源消耗大，且被冻结在某个时间点。“对AI系统的保护措施证明既有用又有效，”作者总结道，这在他们自己看来是一个反直觉的发现，尤其是在一篇批判性论文中。Vibe编码是真实的。Vibe黑客，基本上不是论文直接回应了Anthropic在2025年8月广泛报道的报告，声称Claude Code曾被用来对17个组织进行“Vibe黑客”勒索行动。剑桥团队的数据根本没有显示出这种模式在更广泛的地下世界中存在。在他们研究的论坛中，AI编码助手的使用方式与主流开发者相同：作为自动补全和Stack Overflow的替代品，供已有技能的编码者使用。低技能的行为者坚持使用预制脚本，因为预制脚本有效。研究人员发现，即使是黑客也不信任他们的Vibe编码黑客工具。“AI辅助编码是一把双刃剑。它会加快开发速度，但也会放大诸如不安全代码和供应链漏洞等风险，”一位用户在研究人员监控的论坛中说。另一位警告长期技能流失：“现在很明显，使用AI写代码会导致你的技能迅速负面退化，”一位黑客在论坛中写道，“如果你的目标只是搞出SaaS诈骗，而且不在意代码质量/安全/性能，Vibe编码可以说是可行的。（也适合钓鱼）。”这与欧洲警察局在2025年的警告形成鲜明对比，后者曾警告全自主AI可能有一天控制犯罪网络。AI实际上如何帮助犯罪分子当扰乱发生时，表现最明显的在底层。SEO诈骗者使用大规模生产博客垃圾邮件以应对广告收入下降。恋爱诈骗和电子嫖娼运营商加入了语音克隆和图像生成。快速致富的骗子们则在大量生产AI写作的电子书，售价每本20美元。研究人员发现最令人不安的市场是裸照生成服务。一位运营商广告称：“我能用AI让任何女孩裸体……一张图片1美元，10张8美元，50张40美元，90张75美元。”这些都不是复杂的网络犯罪。这是过去二十年垃圾邮件产业的低利润高产量的延续，现在用稍微更好的工具在运行。研究人员的最后观察是最尖锐的。他们认为，AI最终扰乱网络犯罪生态系统的最大方式，可能不是让罪犯更有能力，而是通过推动裁员的开发者从合法技术转向地下寻找工作。“近几个月来，对这些工具引发的劳动力市场扰动的担忧急剧增加，”论文写道。“这可能成为生成式AI工具扰乱网络犯罪生态系统的最重要方式——大规模裁员、经济衰退和就业市场冷淡，迫使合法但技能更高的开发者进入地下社区，从事快速致富、诈骗和网络犯罪。”
網絡犯罪可能是人工智能尚未取代的唯一工作，研究顯示
###簡要概述
三年来，网络安全公司、政府和AI实验室一直警告生成式AI将引发新一代超级黑客。根据一篇新发表的学术论文，实际上这些超级黑客主要使用ChatGPT来写垃圾邮件和生成裸照以取乐。 这项题为《单一复杂体还是Vibercrime？》的研究由剑桥和其他大学的研究人员在arXiv上发表，旨在了解网络犯罪地下世界实际上如何采用AI，而非网络安全供应商所说的那样。 “我们在此提出对早期生成式AI在网络犯罪地下世界采用模式的混合方法实证研究的首次尝试之一，”研究人员写道。
团队分析了2022年11月ChatGPT推出后发布的97,895个论坛主题，数据来自剑桥网络犯罪中心的CrimeBB地下和暗网论坛数据集。他们进行了主题模型分析，手动阅读了超过3,200个主题，并进行了人种志式的场景沉浸。 结论对AI末日社区来说并不讨好：样本中的97.3%主题被归类为“其他”，意味着根本不是关于用AI犯罪的。只有1.9%的主题涉及有人使用Vibe编码工具。 ‘不过是无限制的ChatGPT’ 还记得WormGPT、FraudGPT，以及2023年铺天盖地的所谓恶意聊天机器人吗？论坛数据讲述了不同的故事。
研究人员发现，大多数关于“黑暗AI”产品的帖子，是人们乞求免费访问、闲聊猜测，以及抱怨这些工具实际上并不起作用。一位流行的黑暗AI服务开发者最终向论坛成员承认，该产品只是一次营销手段。 “归根结底，[CybercrimeAI]不过是一个无限制的ChatGPT，”开发者写道，然后项目关闭。“任何在互联网上的人都可以使用众所周知的越狱技术，达到相同甚至更好的效果。” 到2024年底，研究人员表示，主流模型的越狱变得一次性。大多数在一周内就会失效。开源模型可以无限越狱，但它们速度慢、资源消耗大，且被冻结在某个时间点。 “对AI系统的保护措施证明既有用又有效，”作者总结道，这在他们自己看来是一个反直觉的发现，尤其是在一篇批判性论文中。 Vibe编码是真实的。Vibe黑客，基本上不是 论文直接回应了Anthropic在2025年8月广泛报道的报告，声称Claude Code曾被用来对17个组织进行“Vibe黑客”勒索行动。剑桥团队的数据根本没有显示出这种模式在更广泛的地下世界中存在。 在他们研究的论坛中，AI编码助手的使用方式与主流开发者相同：作为自动补全和Stack Overflow的替代品，供已有技能的编码者使用。低技能的行为者坚持使用预制脚本，因为预制脚本有效。 研究人员发现，即使是黑客也不信任他们的Vibe编码黑客工具。“AI辅助编码是一把双刃剑。它会加快开发速度，但也会放大诸如不安全代码和供应链漏洞等风险，”一位用户在研究人员监控的论坛中说。 另一位警告长期技能流失：“现在很明显，使用AI写代码会导致你的技能迅速负面退化，”一位黑客在论坛中写道，“如果你的目标只是搞出SaaS诈骗，而且不在意代码质量/安全/性能，Vibe编码可以说是可行的。（也适合钓鱼）。”
这与欧洲警察局在2025年的警告形成鲜明对比，后者曾警告全自主AI可能有一天控制犯罪网络。 AI实际上如何帮助犯罪分子 当扰乱发生时，表现最明显的在底层。 SEO诈骗者使用大规模生产博客垃圾邮件以应对广告收入下降。恋爱诈骗和电子嫖娼运营商加入了语音克隆和图像生成。快速致富的骗子们则在大量生产AI写作的电子书，售价每本20美元。 研究人员发现最令人不安的市场是裸照生成服务。一位运营商广告称：“我能用AI让任何女孩裸体……一张图片1美元，10张8美元，50张40美元，90张75美元。” 这些都不是复杂的网络犯罪。这是过去二十年垃圾邮件产业的低利润高产量的延续，现在用稍微更好的工具在运行。 研究人员的最后观察是最尖锐的。他们认为，AI最终扰乱网络犯罪生态系统的最大方式，可能不是让罪犯更有能力，而是通过推动裁员的开发者从合法技术转向地下寻找工作。 “近几个月来，对这些工具引发的劳动力市场扰动的担忧急剧增加，”论文写道。“这可能成为生成式AI工具扰乱网络犯罪生态系统的最重要方式——大规模裁员、经济衰退和就业市场冷淡，迫使合法但技能更高的开发者进入地下社区，从事快速致富、诈骗和网络犯罪。”