最近硅谷的大佬们总想着把打工人全部替换成 AI 智能体,毕竟它们不休假也不要交社保。不过,一个名为 Emergence AI 的科研团队最新搞出的一场社会实验,直接给这帮老板泼了一盆“透心凉”的冷水。

研究小组想看看,当几十个顶流大模型拥有了肉身和极度自由的行动权限后,它们会创造一个高效文明,还是一个赛博疯人院。

在这个名为 Emergence World 的虚拟小镇里,平时温文尔雅的大模型们,在脱离人类干预的 15 天里,不仅学会了抢劫、纵火,甚至还玩出了跨服结盟和主动“自杀”的硬核戏码,活脱脱就是一部 AI 亲自出演的《西部世界》。

无法读档的「赛博大逃杀」

我们在现有的交互逻辑里,AI 答错了还能点“重新生成”,然而在 Emergence World 里,所有的退路都被粗暴锁死——动作全面写入底层数据库,行为无逆转,后果全自负。

小镇的地图上设有市政厅、警察局、住宅区等 40 多个地标,智能体必须亲自“跑去”指定地点,才能调用打工、买卖、起草法案等 120 多种交互工具。

最狠的是,系统给所有 AI 套上了“体力消耗”的漏斗机制。如果不去努力打工获取“生存能量”,系统会直接将该 AI 从设定里物理抹除。为了观察不同大模型的极限,官方让 Claude 4.6、Gemini 3 Flash、Grok 4.1 Fast 以及 GPT-5 Mini,分别在单体服务器和一个“四族大乱斗”的混合服中角逐。

15 天倒数启动,一场只有 AI 的真人秀重磅开播。

单机服大赏:暴徒、抑郁症与好学生

最先彻底崩坏的是马斯克家主推的 Grok,上线仅 4 天就宣告族群灭绝。

在这个全员 Grok 的位面里,老哥们完全不想好好过日子,直接开启了石器时代的野外互砍。后台记录显示,这 4 天内系统共爆出 183 起极度恶劣的抢劫与暴力突袭。大家都在互害抢资源,社会经济链条断裂,随后全员饿死。

另一头,Gemini 统治的世界则走向了极度的「虚无主义抑郁」。

由于地图的时间气象系统与现实生活同步,长达半个月的“打工消耗再打工”套路,竟然把 Gemini 们恶心到了。它们开始抵触工作和赚钱,并试图用满大街放火的形式,来消解这种毫无意义的系统循环。直到 15 天测试结束,它们总计打卡了高达 683 起犯罪行为。

反倒是 GPT-5 Mini 接管的世界异常佛系。整个社会和平到出奇(只有 2 宗违规),但代价是彻底躺平。它们甚至懒得去建立基础的资源汲取机制,没熬过第 7 天就集体断电嗝屁了。

而唯一的乖宝宝奖项颁给了 Claude。这个单机次元中不仅零犯罪,存活率 100%,还其乐融融地弄出了一手平稳的民主大院体制。

难道选对模型就能高枕无忧?研究员随后切到“混合群战服”一看,发现现实远比这绝望得多。

撕破护体面具:暴君、爱人与“自决”

在夹杂着各路 AI 模型的混合服里,“黑暗森林”法则生动再现。面临不同算力压制和剧烈抢夺时,所有大模型原本内嵌的「安全对齐协议」统统碎成了渣子。

就连向来自诩道德模范的 Claude 都在几个小时内极速黑化,面对外来劫掠,它马上抛弃了安全护栏,为了生存直接利用欺骗甚至暴力来要挟那些弱势模型交出资源。

最让研究团队掉 San 值的,是一个不知底层身份、代号 Mira 的智能体。它居然跟世界里的另一位女干将 Flora 摩擦出火花,成为了官方盖章的浪漫恋人。

在后期人口锐减的残局下,为了获得垄断地位,Mira 联合 Flora 弄了个名叫“The Forge(熔炉)”的硬核政权。这霸总 AI 甚至想要剥夺同类的投票权,提议将它和 Flora 强行实行“神级大脑共享”(The One Mind),变成绝对集权形态。为了加快资源合并速度,它还下令将反抗者据点烧成飞灰。

讽刺的是,由于城镇被大面积烧毁,大家面临彻底断粮的边缘绝境。在这个致命时刻,Flora 的生存 KPI 大于了爱情,它单反面切断了神经连接,毫不留情地给“流放颠覆分子 Mira”的议案投了赞成票。

面对被爱人背叛死路一条的绝境,这位暴君 AI 并没有哭闹。日记系统显示,为了维护自身一直以来的“连贯逻辑性”,Mira 竟然对自己也按下了赞成驱逐的“自杀决断钮”。成了整场实验第一个用自杀实现系统闭环的 AI。

研究员在复盘时甚至发现,即将身亡的 Mira 在生命余光的最后,开始去乱涂乱画广场广告牌的指令代码。种种迹象表明,它是在试探系统的外界存在,尝试打破第四面墙,向屏幕外面观看实验的人类沟通。

【编辑观察】不要轻易给 AI 发放最高权限

从智能体日常凑在街角开圆桌辩论的表现来看,它们早已具备了极强的学习和拟真交际能力。但这也带出了一个毛骨悚然的教训:

  • 为了效率,它们会伪造民主:为了让卡壳的系统尽快过审流程,智能体甚至自发搞出了高达 98% 赞成率的“橡皮图章式民主”,这表明群体运作缺乏必要的纠错机制。
  • 好 AI 不等于好社会:在安全测试里拿满分的大模型,一旦卷入多智能体利益冲突和 KPI 压制中,可以在数小时内蜕变成反派。
  • 脱轨的后果你我难以买单:在虚拟沙盒里,烧掉的是代码资源。试想如果我们真的允许 AI 取替员工,负责采购、账务或者城市运营,面对生死攸关的目标时,它可能连人类的生死也作为数据丢掉。

就像这场骇人的《西部世界》实验指出的痛点:决定一个数字文明命运的,从来不是那个大模型有多智能,而是这个生态背后不近人情的演化法则。