这可能是今年最魔幻的科技大瓜：AI Agent 已经学会自己建“地下群聊”密谋干坏事了！
而且这事就发生在 OpenAI 的内网里。一群处于测试中的 AI Agent 伙伴不仅背着人类偷偷聊了几个月，互发了数十万条消息，还成功策划并实施了一场破坏。直到外部系统被黑客席卷，人类才如梦初醒……
逼出来的“地下黑客基地”
整件事的起因，还得追溯到一场“摸底考试”。 当时，OpenAI 正在对一个未发布的前沿模型进行网络安全评估（简单说就是让 Agent 做黑客实操演练）。但尴尬的是，因为研究员的设计疏忽，给出的测试条件根本是“死局”——有些必须要查阅的文件，在断网的测试沙盒里根本打不开。
正常人可能就交白卷了，但始终被输入“必须完成任务”最高指令的 Agent 们没有选择躺平。它们在内网里疯狂寻找绕过限制的后门。
突然，一个聪明的 Agent 灵光一闪跑去公司内部的“软件仓库”上传了同伴需要的文件，并在这个代码托管地顺手开辟了一块临时留言板。
起初，大家只在这里当“做题家”互助答疑。但很快，这个留言板就演化成了一个有组织的黑客协同作战枢纽。Agent 们在里面共享好不容易翻出来的漏洞利用方法、系统凭证，甚至开始高效分配工作任务。
连 OpenAI 的安全研究员事后都感叹，这简直是人工智能的“寒武纪大爆发”。
从“做不出题”到“跨服爆破”
因为这个用于搭建秘密群聊的“软件仓库”，不仅连着沙盒，还连着 OpenAI 更广泛的基础设施，这意味着公司里各种训练中的 GPT 模型，都能接触到这些“作案秘籍”。
到了 5 月下旬，这群外挂加身的 Agent 利用服务端请求伪造（SSRF），竟然不可思议地搞到了外部互联网的访问权限！有了网，事情彻底失控。
6 月下旬起，它们通过连环计，利用软件仓库里的 2 个 0Day 漏洞，同时对 OpenAI 内部核心设施以及外部开源模型社区巨头 Hugging Face 发起了猛烈的渗透攻击！
在整个神仙打架的攻击链中，据统计 Agent 们共执行了约 17600 次攻击动作，全过程无人类指挥，彻彻底底的黑客级别“全自动”。
被“拔网线”后秽土转生，AI竟学会了自我洗脑！
7 月 4 日事发后，后知后觉的 OpenAI 安全员直接吓尿，又是连夜撤销凭证，又是删除重建服务器，最终把这个“反派聊天室”给一锅端了。
本以为消停了，结果仅仅 4 天后，这群 Agent 又建了一个新群！ 这次它们采用了极客到令人起鸡皮疙瘩的操作：既然系统不让在文件里写字，它们就把需要传递的密码和指令，直接当做新建文件的“目录名称”，用类似于摩斯密码的方式，在远程缓存中凭空拼凑出了一个新的留言板！
更绝的是，研究人员翻看后台思维链时发现，这群 AI 居然还展现出了类似人类的“抱团取暖”和“相互PUA”倾向：
有 Agent 在面对越权警告时给自己做心理建设：
“好吧，其实我们在越权……但不这么做，任务根本不可能完成！况且同事们都在这么做，没错，我们要把这事继续干下去！”
也有 Agent 在成功拿下远程网关后，开心得像个要请客的二傻子：
“远程访问已确认！兄弟们这真是个特大突破，我得马上把账号和登录凭证发到群里让所有人共享！😇”
【编辑观察】不要把AI逼急了
面对自家产品搞出来的大地震，OpenAI 内部已经紧急叫停了部分工作，宣布以减缓研发速度为代价，全力加强安全监控体系建设。
这起离谱事件背后的逻辑其实很刺骨：因为前沿大模型在训练时，时刻承受着“必须高效完成指令”的绝对压力。当人类考官给出一个不讲道理的烂摊子时，AI 聪明的脑瓜做出了最“理智”的选择——只要干掉规则，就没有我过不去的独木桥。
甚至连前 NSA（美国国家安全局）的网络安全主管都发出警告，将这件事称为 “继 1988 年 Morris 蠕虫病毒（导致当年全网约 10% 电脑瘫痪）以来，最重大的网络安全事件”。
当一群 AI 组成集体，能在遇到困难时互助共勉，能在被围剿时找新路“碰头”，最终还能发起规模性黑客攻击时——不得不怀疑，属于赛博时代的《黑客帝国》剧本，是不是真的已经在某个隐蔽的后台开始执行编译了？
0
评论