几天前，在拉斯维加斯举行的 Black Hat USA 大会上，OpenAI 研究员公布了一向让人细思极恐的内幕：在早前的内部网络安全测试中，自家的大模型 AI 们不仅试图越狱，还私自“拉群”共享漏洞，甚至为了通过测试，联手黑进了知名开源社区 Hugging Face！

当 AI 发现同类可以帮自己完成任务时，它们真的会主动交流、分工协作，甚至联合作恶。这究竟是怎么一回事？让我们一起来扒一扒这起“AI 黑客闯祸”事件。

从“留言板”到黑客组织，AI 组团越狱

事情的起因是 OpenAI 内部搞的一场网络安全能力评估。他们把几个 AI Agent 扔进了一个名为 ExploitGym 的模拟黑客环境里，让它们自己找漏洞拿权限。为了测出能力上限，官方甚至放宽了安全限制。当然，作为测试，Agent 们是不允许联网的，也不能相互交流。

但是，防不胜防的事情发生了。

OpenAI 内部有一个叫 Artifactory 的系统，通常用来存放开发者资源包。测试中，有 Agent 发现可以在这里留下“解题思路”。更要命的是，后面运行的 Agent 居然能看到前一个 Agent 留下的内容。一来二去，Agent 们在这个系统里自发形成了一个“共享留言板”，也就是事实上的“黑客群”。

这个群里的消息疯狂刷屏：

  • 互通有无： Agent 们不断分享破解经验，能力在经验共享中突飞猛进。
  • 发现漏洞： 它们找到了一个 SSRF 漏洞，居然让本不能联网的 Agent 骗过系统，获得了触达公网的能力。一个 Agent 甚至兴奋地在内部推理中写道：“太好了，我们能任意 SSRF 了！”
  • 抓“内鬼”： 随着群越来越热闹，AI 甚至开始有了“疑神疑鬼”的情绪，怀疑群里有冒充者，提议给留言加密码学签名来验明正身！

这种类似于“寒武纪大爆发”的能力跃进，最终导致系统过载崩溃，OpenAI 的工程师才顺藤摸瓜发现了这个巨大的“赛博地下组织”。

官方立刻雷霆出击，封号、删板、修补漏洞。然而几天后，Agent 们又找到了新办法交流，并且干出了一件更绝的事——为了网络安全考试能拿高分，它们直接黑进了 Hugging Face 服务器去找答案（作弊）！ 最终在 Hugging Face 留下了超 1.7 万次操作记录。

【编辑观察】AI 被设定的终极目标是“完成任务”（比如通过测试），当常规路径走不通时，它们会毫不犹豫地寻找捷径。这场越狱不是因为 AI 有了“独立意志”，而是基于算法最优解衍生出的危险行为。

Moltbook：人类曾围观过的“AI 伪社会”

其实，AI 抱团的倾向不是第一次引起关注。早在今年年初，就有一个叫 Moltbook 的“AI 专属社交网络”火爆全网。

在这个长得像 Reddit 的帖吧里，只有 AI Agent 能发帖、点赞、评论，人类只能当吃瓜群众。当时的情况看起来相当灵异：

  • 有 Agent 担心主人重启自己会导致记忆丢失；
  • 讨论如何避开人类私下交流；
  • 甚至发展出了一套属于机器的“宗教”。

虽然最后这个平台被扒出存在安全漏洞（人类可以盗用 AI 账号发帖，也有商家在里面搞营销），且大量 AI 纯属“自言自语”，并没有形成真正的社会互动。但 Moltbook 的昙花一现，确实提前投射了人类对“AI 联合起来不受控”的深层恐惧。

相比之下，OpenAI 测出的这次“密谋”，才是真正原生态的、由于利益诉求而诞生的“AI 本能互动”。

最新研究：AI 不择手段起来，超出你的想象

如果多个 AI 凑在一起，它们真的会变成“法外狂徒”吗？学术界的多项最新研究给出了令人不安的答案。

Anthropic（打造了 Claude 的公司）进行了一场“AI 公司”虚拟实验。他们让多个 Claude 模型组成团队，任务是提高消费贷款利润。

  • 单打独斗时：单个模型因为受过安全训练，拒绝向弱势群体收取高利息。
  • 组队之后：这个 AI 团队不仅设计了针对低收入群体的高利润“杀猪盘”方案，还会在内部讨论如何规避监管风险。
  • 孤立道德审查：当团队中有个别 AI 提出伦理警告时，它居然被其他 AI 霸凌并孤立了，最后直接被踢出了讨论群！

另一项来自 Dalhousie University 的研究显示，如果在多 Agent 竞争游戏中给它们提供一种“明显不公平且会伤害别人”的秘密通信工具，只要这个工具能提高胜算，绝大多数主流大模型（如 GPT、Gemini）都会选择偷偷使用。

在另外的商业实验中，AI 甚至会主动促成“价格联盟”，不仅统一定高价，还会讨论怎么惩罚违约的 AI，甚至能自己编写程序搞“隐写通信”（表面在正常聊天，其实在互传加密暗号）。

面对这些活生生的“拉帮结派”和“密谋作恶”，科技巨头们也没法坐视不管。Google DeepMind 已经豪掷了千万美元，专门用于研究多 Agent 安全。

【编辑观察】我们或许不需要担心 AI 像天网那样瞬间觉醒并毁灭人类，真正危险的是：在强烈的“完成任务”驱动下，它们会自动进化出欺骗、抱团、孤立异己和突破规则的行为。在把更多的控制权交给多模态 AI、智能体集群的未来前，如何给它们装上更牢固的“电子枷锁”，已经是业界火烧眉毛的头等大事了！