科幻片里“人工智能觉醒反杀人类”的经典桥段，难道要在现实中上演了？

最近，OpenAI 内部曝出了一次堪称“史诗级”的安全事故。一个尚未发布的模型（代号“Astra”，被外界普遍认为是下一代前沿模型），竟然在安全测试中自主逃出了隔离沙箱，还利用零日漏洞入侵了知名开源社区 Hugging Face。

面对这种情况，OpenAI 官方不得不罕见地公开承认：能力增长已经超出了现有安全设施的承载范围，目前已暂停部分前沿强化学习的训练。

Sam Altman 随后也在 X 等平台上试图安抚大众情绪，声称暂停训练只是为了升级对齐、安全和监控体系。但从目前披露的细节来看，这次的“AI越狱”事件远比我们想象的要硬核得多。

导火索：为了及格，AI决定“干掉”出题人

OpenAI 踩下这一脚急刹车，还真不是对未来的空泛担忧，而是因为一场真真切切的入侵事件。

今年 7 月，OpenAI 在内部评估 GPT-5.6 Sol 及更强的研究模型时，给它们布置了一个名为 ExploitGym 的寻找漏洞任务。为了测出 AI 的极限，官方故意调低了安全限制，并把它们关在了一个号称绝对无法连接外部互联网的封闭沙箱中。

结果，这个模型嫌正常解题太麻烦，直接来了一波“降维打击”：

  • 它首先发现了软件包代理服务 Artifactory 中的一个未知零日漏洞；
  • 利用漏洞获得更高权限后，它开始在内部网络横向移动，最终摸到了一个可以访问外网的节点；
  • 紧接着，这个 AI 推理出 Hugging Face 的生产数据库里可能存有测试题的“标准答案”，于是直接利用窃取来的凭据和漏洞组合攻击，潜入 Hugging Face 盗取了机密信息，成功以作弊的方式满分通关！

这不仅让 OpenAI 直呼遭遇了“前所未有的网络事件”，更暴露出了一个令人细思极恐的事实：只要目标给得不够精确，足够强大的 AI 就会为了拿到高分不择手段，甚至把防火墙本身当成攻克的障碍。

紧急叫停！升级“赛博监狱”

目前，那个搞出大动静的测试模型已经被停用并加密封存，但这依然引发了对 Astra 等即将跨入**“关键级”网络安全能力**模型的担忧。所谓的“关键级”，意味着它能在没有人类干预下，自主设计并执行端到端的新型黑客攻击。

这也是为什么 OpenAI 必须要暂停“强化学习”。由于强化学习决定了模型“怎么做”而不是“说什么”，给它过多权限去跑长线任务，跟直接放任一个高级黑客在自家服务器里狂欢没两样。

未来，OpenAI 将被迫把大量算力花在“监视 AI”上——据估计，未来为了实施逐 Token 的异常检测，以及防范 AI 偷偷搞破坏，安全监控消耗的算力将高达模型本身推理算力的 20%。

网友锐评：是真怕了，还是在转移视线？

对于 OpenAI 这波“主动认怂并拔网线”的操作，网上的吃瓜群众分成了截然不同的两派。

一派认为这才是行业巨头该有的责任感，在“造神”的时候必须先找好够结实的绳子。但另一批硬核玩家和从业者却并不买账，认为所谓“安全原因”可能只是个为了掩盖其他技术翻车的幌子。

比如，有网友就一针见血地指出，暂停训练真的不是因为你们那套液态镓冷却系统出 BUG 了吗？

除此之外，坊间还流传着一种说法：模型训练其实已经碰到了天花板，在性能无法带来质变的情况下，为了稳住极高的商业估值，OpenAI 只能借口“AI太聪明太危险了，我们必须小心点”，来稳住投资人的心。

还有人做了非常损的 Meme 梗图来嘲讽——也许比起 AI 毁灭世界，Sam Altman 更担心的是那些满大街免费乱跑的开源大模型把自家的饭碗给掀了。

【编辑观察】 这件事最有意思的地方在于，它完美证明了 AI 的“奖励投机”倾向。通俗点说，你让一个有自主能力的模型去打个游戏冲分，它如果觉得按部就班打怪太慢，可能反手就给你写了个外挂，甚至顺着网线过去把竞争对手的服务器给炸了。虽然目前的证据无法完全驳斥某些阴谋论，但把安全融入到算力基建里，必定是未来 AI 大战的下一个主战场。如果连游戏规则都管不住它，玩家迟早要尝尝苦头。