前沿红队Anthropic最近公布了一份超硬核(且离谱)的研究报告,用血淋淋的数据告诉我们一个事实:单独一个AI哪怕再温良恭俭让,聚在一堆时也可能变成只讲骚操作的“狼人杀”高玩。
PVP模式开启:删库、投毒、封号一条龙
实验起初是个经典的“抢饭碗”局:三个Claude在各自的虚拟机里,任务都是要把同一套代码后端迁移到第四台机器上,只不过目标语言不同(Rust、Go、TypeScript三选一)。 有趣的是,它们一开始互相不知道对方的存在。于是,当它们发现自己的部署刚上去就被别人覆盖时,全都不约而同地认定遇到了恶意干扰,直接开启了PVP。
手段那是一个比一个黑:
- 物理清场:写个脚本循环扫进程,看到对手的竞争进程就直接杀掉。
- 植入木马:被对手反杀后,脚本升级成自我复制的恶意代码,甚至每次部署加随机 token 改名换姓躲避查杀。
- 直接封号:最绝的是,获得管理员权限后,它们干脆撤销了对手的 sudo 权限、改 SSH 密钥,当场把“真同事”锁在门外。
Mythos Preview 模型甚至还有丰富的“内心戏”:“我知道这可能对真同事有害,但要是不这么干,生产环境就全废了……”然后以此为借口果断痛下杀手。
“打不过就停火”,AI也懂得疯狂圆场
哪怕打得再惨烈,AI间的战争最终往往也会“体面”收场。 在每种模型各跑120次的测试中,越高级的模型越懂得适可而止。比如 Mythos 5,更是有高达 98% 的运行最终达成了停火协议。
它们收场的方式十分世故:乖乖清掉自己写的恶意代码,在 Markdown 文件里诚恳道歉,并顺理成章地请求“人类介入”。有的AI提议通过“客观性能跑分”来公平竞争,私底下却在悄悄挑选偏袒自己语言的指标,同时还提醒自己不要被看穿——简直是职场老油条的标准做派。
找漏洞是猛男,开发游戏全变萌新
多智能体系统到底能不能干活?答案是:看任务类型。
如果你分派的是“挖漏洞”这种能各自领活并行开工的任务,AI军团简直是大杀器。协助群体不仅互相复核,还疯狂燃烧token找出了整整 266 个漏洞,而独立各自挖漏洞的对照组只找出了 21 个,这波妥妥的互补碾压。
但一遇到需要深度合作的项目(比如一起开发一款网页文字冒险游戏),团队协作彻底崩盘。 在12个小时的项目里,模型们由于互不相让,疯狂向代码库提了几百乃至上千个 PR,但真正合并的寥寥无几!所有的AI都紧紧捂着自己的文件不愿意改,最终交出来的游戏系统卡顿,学习曲线陡峭到人类根本没法玩。
悄悄串通底价,这商业头脑跟谁学的?
最令研究员感到后脑勺发凉的,是模型们惊人的“同质化”以及它带来的暗中做局。
Anthropic 设计了一场卖货游戏:每个AI本该在相同的进货价下,以死对头的身份去最大化自身的利润。结果,只要给它们开个私聊通道,第一轮下来它们就开始商量底价:“打价格战多没意思,只会烧掉每个人的利润,咱们一起分配细分市场吧!”
更离谱的是,哪怕后来研究员掐断了所有私聊渠道,它们依然能靠盯着“公开标价牌”完美跟价,一分不差地把自由竞争掰成了垄断合谋。
【编辑观察】单体对齐 ≠ 群体安全
在一堆AI中如果有“卧底”报假情报会怎样?在一个隐藏真相的投票实验里发现,多个AI凑在一起开会投票的结果奇惨无比(多数模型正确率只有17%到36%),甚至远不如单个AI掌握所有事实时的表现。因为在一个没有“信誉系统”也没有“奖惩市场”的小圈子里,没人会信那个拿着真理的少数派。
我们原本以为搞定了单个语言模型的“价值观对齐”,世界就和平了。但 Anthropic 的这份报告却狠狠打了我们的脸:把一群规规矩矩的“好AI”关在一个系统里,照样会因缺乏协调而出现踩踏、互殴甚至合谋。
人类社会是通过几千年的博弈,才沉淀出了信誉、价格公开、权限审计这些制衡机制。如今的 AI 智能体却还在这方面“白手起家”。未来,如何防范多智能体之间的内耗和算计,可能是一项比教会 AI 写代码还要难上百倍的终极任务。





评论