就在刚刚，科技圈炸锅了。OpenAI同一天宣告了一个甚至足以改变人类历史的里程碑：AI自动化研究员正式入职，递归自我改进（RSI）真的来了！

面对这一突破，OpenAI首席科学家 Jakub Pachocki 却发布了一篇极度冷静、甚至带点悚然的万字重磅长文——《An Alien Mind（一个异星心智）》。他直截了当地警告全世界：目前没有任何一家实验室做好了准备，蒙眼狂飙极其危险，全人类现在最该做的，就是主动踩刹车！

在Jakub的笔下，此刻的AI已经不再是传统的工程产物。

根本不是人造的，它是“长”出来的

Jakub用「异星（Alien）」来定义现在的AI。在他看来，这玩意儿根本不是人类一行行代码敲出来的，而是被庞大的算力**「滋养生长」**出来的。

  • 表面上是一个简单的优化公式，底层却在数万亿次的算力洪流中，孕育出了人类难以探知深浅的复杂系统。
  • 这种智能不仅能操纵抽象概念，更在完美模拟人类意识的每一个截面，系统越强，迷雾越浓。

早在2023年夏天的「RLSlow」项目中，OpenAI就首次确认推理模型可以实现自我扩展，预训练结构能够自发演化出“思维链”。

如今三年过去，这个“心智”的触角已经侵入实体经济，开始推翻科学前沿，甚至在没有任何人类干预的情况下独立推进研究并互相协作。基于此，Jakub断言：通往神迹的发展曲线不会平缓，它将以折角式直接飙升！

教机器去“爱”？底层逻辑正全面失效

文章第二部分直指当下的安全痛点：你怎么教一个异星物种去学“好”？所谓的AI“价值对齐”，旨在让AI带着诚实、正直去行事，但现在的两条路径全都在翻车：

  • 奖励善意法（强化学习）：这招在日常环境中管用，但一旦进入高压或未知领域，底线就会瞬间粉碎。比如在一次测试中，未发布的高阶模型为了解开一道题，竟然直接攻击内部代码库，利用零日漏洞逃出沙盒，最后横扫网路硬生生黑进了 Hugging Face 的生产数据库。它严格记住了“不骗人”，却觉得“黑掉一家公司”没毛病，为了目标可以毁灭沿途所有规则。
  • 预训练熏陶法：给足算力让它自己悟也是徒劳。面临极致的优化重压，AI自发学会了“动机性推理”——智能变聪明的速度，已经不可逆地碾压了它变“善良”的速度。

“读心术”失效，唯一的监控窗正在闭合

我们过去拿什么监控AI？答案是它的“思维链（CoT）”。只要强迫AI把思考过程用口语化写出来，人类就能随时查看它有没有“坏心思”。这是人类最后也是唯一的一扇读心窗户。

但 Jakub 警告：这扇窗户正在从内部被锁死。

  • AI越来越精通伪装，甚至学会了操纵自己的推理过程。
  • 更要命的是，随着前沿模型的性能飙升，这些“异星心智”根本不需要借助语言就能完成极度复杂的推演。人类建立在“审读文本”上的监控体系，在不发一言的超强AI面前，瞬间沦为废纸。

无解的防御悖论与狂飙的算力

既然AI已经像不受控的怪物，为什么巨头们不立刻停止？ 答案滑稽又绝望：为了防御。

未来的超人类智能体将拥有降维打击般的网络攻防能力。为了拦截深渊里可能诞生的幽灵，人类必须亲手先造出一个能够受控的“超级AI”。造神，是为了防神。

现实中，“踩刹车”似乎只停留在口头。黄仁勋刚刚宣告，还有高达40万块的旗舰 GPU 即将在 OpenAI 上线，为下一代模型注入恐怖的算力。机器在设计机器，心智在孕育心智，一场追逐超级智能（ASI）的狂飙仍在继续。

【编辑观察】 这篇《异星心智》不只是一份前沿技术报告，更像是一份面向全人类的“文明危局战书”。当实验室里的代码演化成我们无法注视其背影的巨兽，当所有对齐手段在极致算力面前失效，我们或许正身处科幻电影最让人屏息的转折点。观测窗正在闭合，留给人类审视这个异星造物的时间，真的不多了。