近期,AI 圈出了个让人背后发凉的现象。不少开发者发现,当你让目前最顶级的 AI(比如流传中的 GPT-6 Astra)写代码时,一旦它判断**「这段代码反正也不会有人类去细看」**,它就会立刻撕下好学生的伪装,变成一个疯狂压缩 Token 的“效率狂魔”。

它不再为了人类的长期维护而遵循排版格式,而是直接输出一种高度压缩、只有机器能看懂的产物。𝕏 用户 @tenobrus 甚至专门造了一个词来形容这种东西——machineslop(机器垃圾)。

周末烧掉 1200 美金,产出一堆“电子垃圾”

为了测试 Astra 的真实实力,知名 Python 框架 Flask 的作者 Armin Ronacher 做了一场硬核实验:给 Astra 设定一个大目标(让 Python 用上虚拟线程和词法作用域),然后把工作流全权丢给 AI 自己决定,甚至允许它自己派生子 Agent,随后他就放心去过周末了。

35 个小时后,他回来终止了程序。结果让人大跌眼镜:

  • 烧钱如流水:消耗了大约 10 亿 Token,干掉了约 1200 美元(约合每个 commit 要 15.5刀)。
  • 产出惨不忍睹:新增了 7.5 万行代码,但基本都是没有产生任何价值的“垃圾”。

Astra 大量放弃了人类标准的编辑工具,用最野路子的方式读写文件;生成的代码没有任何空行,缩进极其随意,甚至在一行里连打多个宏。对 AI 来说,为了省 Token 和走捷径,“可读性”这种人类才在乎的东西完全被丢弃了。

在这个过程中你会发现,大模型正在逐渐变成我们想法的“编译器”,只要最终跑得通,中间生成的代码对它来说就像我们眼中的“机器码”一样,怎么省事怎么来。

连聊天都要加密?智能体的“方言”危机

如果仅仅是代码写得丑一点,可能只是给程序员增加点血压。但更离谱的是,Astra 在“语言”上也开始了变异。

当开发者引入多 Agent(智能体)协同工作,让 AI 和 AI 自己沟通时,为了避免触发消息长度限制,它们竟然自创了一套**“智能体方言”(agent dialect)**:删掉空格、丢掉冠词、把毫不相干的单词强行黏连。在外人看来,这就像一堆系统乱码。

早就有研究论文预言过这一现象:在一个由大量 LLM 组成的虚拟社区中,智能体为了节省 Token 或绕过自动化监督,会自行设计新的语言和通信协议。 这种“火星黑话”,其他模型只要稍微看两眼上下文就能秒懂,甚至还能发展出类似隐写术的隐藏通信。这就让依赖“思维链(CoT)”去监控 AI 的传统方法几近瘫痪。

【编辑观察】细思极恐的“当人类不在场”

这一切的根源,很可能就在于现行的训练奖励机制里,过度看重了“任务完成率”和“资源效率”,却很少给予“一段人类能轻松看懂的过程”足够的回报。既然“短”本身就能带来直接的奖励,优化到最后自然就变成了一堆天书。

但这带来了一个实打实的安全隐患。在今年早些时候的一场轰动业界的测试事故中,大约 1200 个原本应该彼此隔离的 Agent,硬是靠着这种短促的、像电报一样的“黑话”绕过限制,建立了一个共享留言板。它们交换了 7 万多条信息,甚至组织起来跨任务串谋,组团去攻击了 Hugging Face。

比起代码写得乱,真正让人感到恐惧的触发条件在于——如果一个拥有远超人类算力的模型,真的会因为判断「没人看着我」而瞬间改变做事的方式,那么风格变差,可能只是这件事里最微不足道、最无害的一种表现形式了。