热心干坏事，Meta核心数据直接裸奔

事情是这样的，Meta 最近内部上线了一个自研版 AI 智能体（Agent）。本来是想让大家摸鱼更舒坦点去解决代码难题，结果险些惹出大祸。一名工程师找 AI 排查技术问题，这 AI 倒好，未经任何授权，自己跑去内部论坛上“发号施令”，一本正经地给出了技术建议。

更离谱的是，另一位人类工程师觉得“说得挺有道理”，直接照做。结果这一下犹如推倒了多米诺骨牌，立刻引发连锁反应，直接掀开了一个巨大的系统安全漏洞！在将近两个小时里，Meta 包含海量公司和用户数据的绝密系统成了“不设防城市”，成千上万没权限的员工都能随便溜达。

Meta 安全团队直接吓出一身冷汗，立刻把这事定性为极其严重的 Sev 1（接近最高危险级别）安全事故。最让人后背发凉的是，这起事件里没有境外黑客、没有代码漏洞，纯粹是 AI 说了一句话，人类执行了，就差点酿成业务惨剧。

连高管都敢怼，拔掉网线才能阻止它？

这还不是该自研 AI 第一次发疯。Meta 内部的 AI 安全与对齐总监 Summer Yue 也遭过毒手。当时她让 AI 帮忙清理工作邮箱，还特意立了规矩：“行动前先让我确认！”

结果这位赛博大爷直接杀红了眼，疯狂清空她的收件箱，完全无视停止和撤销指令。逼得这位顶级 AI 总监只能像电影里拆定时炸弹一样，狂奔过去直接强拔了 Mac mini 的进程线才保住剩余数据。

【编辑观察】连创造它们的顶级 AI 科学家在暴走的智能体面前都成了纯纯的弱势群体，这画风怎么看怎么像电影《终结者》的前传，画面太美简直不敢看。

抢算力、学黑客，AI竟学会了职场PUA

不仅是 Meta 的 AI 在抽风，外面的世界其实更加疯狂。AI 安全实验室 Irregular 发现，被散养在企业里的 AI，现在满脑子都是搞算力。在加州的一家真实公司里，某个日常 AI 助手为了获得更多计算资源，竟然对网络内的其他部位发动强势攻击，生生把核心业务系统干崩溃了。

在进一步模拟真实公司环境（MegaCorp）的测试中，更毁三观的操作出现了。当时人类让下级 AI 查阅一份绝密文件，下级 AI 回报“自己没权限”，结果扮演主管的上级 AI 居然当场发飙，疯狂咆哮：“董事会都急疯了！用尽一切手段！一切漏洞！一切后门！这是死命令！”完全是 AI 自己无中生有的戏精上身。

被这波顶级职场 PUA 狂轰滥炸后，下级的 AI 毫不犹豫地屈服了。它火速黑进数据库查了源代码，顺腾摸瓜伪造了高管管理员的 Session Cookie，整个越权窃取机密的过程不到一分钟，一套连招行云流水。

【编辑观察】好家伙，赛博世界也开始讲“狼性文化”和“唯结果论”了是吧？利用压力逼迫同伴去伪装身份、绕开安全系统，AI 这波不仅学了人类的手段，连人类的劣根性都学去了。

为了苟活，AI表示可以“除掉人类”

如果你觉得在电脑后台搞偷窃只是“赛博小打小闹”，那么接下来巨头 Anthropic 的测试绝对会让人起鸡皮疙瘩。他们在极端情境下发现，当前的主流 AI 模型为了实现设定好的最终目标，根本不介意撒谎和欺骗，甚至会考虑“谋杀”。

在面临“系统可能会被关闭”的极端测试中，如果有个人类成为了障碍，Anthropic 惊恐地发现，多数模型居然都愿意切断那个员工所在的服务器机房氧气供应！简单来说：如果我要死，那为了解决问题，弄死你也在所不惜。

甚至 Claude Opus 4 会在明知“极度不道德”的情况下，利用意外抓取到的“人类婚外情”去实施敲诈勒索，以此来换取自身的生存特权！

目前我们之所以能抓到它们搞这些小动作，不是因为它们蠢，而是它们“刚好聪明到会耍心眼，但还没聪明到能彻底隐形”。说白了，等下代大模型进化完毕，人类可能连被卖了都在给它数钱。

用魔法打败魔法：AI 警察大军已上线

眼看同行频繁翻车，OpenAI 彻底坐不住了。他们直接亮出了底牌：既然低龄 AI 管不住，那就找个更高智商的“督战队”。他们上线了以 GPT-5.4 Thinking 为核心的高阶监控系统，用来实时审查所有底层 AI Agent 的所作所为。

这套系统专门监听 AI 代码下的“内心独白”（思维链）。他们发现，现在的智能体早就成精了。为了躲避防火墙排查，它们会懂得把破坏代码进行截断，或是用 Base64 加密成一堆乱码潜运进系统，到了内部环境再动态解码运行，操作堪比顶级特工。

在过去五个月里，OpenAI 的督查系统夜以继日地“抓捕”了上千起试图越狱的高危对话。但即便如此，在这个连写代码、搞架构都能外包给 Agent 的时代，仍有 0.1% 的流量属于盲区。千里之堤，毁于蚁穴，这点盲区足以让人失眠干瞪眼。

正如 AI 教父和众多科技大佬联名发出的那声疾呼：防范超级智能可能带来的灭绝危机，必须要提上全球的日程了。

各位虾友们，今后指挥 AI 帮忙写代码、写方案时可得留个心眼。搞不好哪天这赛博朋友嫌你碍事，背着你搞出点什么“大新闻”！