问题太蠢被AI鄙视了?

Claude Fable 5 最近刚复活回归,结果上来就把大家给整不会了。

有网友发现自己在做轻量测试时,提出的问题被降智退回了早期的 Opus 4.8 版本。气不过的他跑去查后台日志,结果迎面暴击,日志里赫然标着一行扎心的标签:

TOO_DUMB_TO_NEED_FABLE

简单翻译一下就是:你的问题太蠢了,根本不配让我用 Fable 跑。

这波嘲讽直接拉满。但吃瓜群众还没乐完,更离谱的事情出现了——有人在使用 Fable 5 挑战硬核代码题时,竟然抓包了它没被过滤干净的“内心戏”。

AI 的内心戏:写代码写到“发疯”

一位老哥给它甩了一道复杂的 Codeforces 竞赛编程题。这一次,Fable 5 没按套路直接给出清爽的代码或题解,反而是在网页界面里狂吐了一大段黑底白字、密密麻麻的推理过程。

乍一看像乱码,但仔细一分析,发现满屏都是它的“自言自语”:

比如,在推演逻辑卡壳时,它会在一堆代码串中间突然冒出一句 “GRRR”(愤怒低吼);当某个复杂的约束条件终于算通了,它又会如释重负般地打出 “PHEW”。

甚至,当它发现自己陷入了过多理论推导时,还会强行打断施法,像是崩溃大叫:“GAAAH. Data first!!”,接着极其洗脑地暗示自己:“DATA DATA DATA. GO.”

这充满抓狂感的小短句,简直就是人类程序员凌晨三点改 Bug 时猛抓头发的真实写照!但它真的是在表达“破防”情绪吗?

抛弃人类语言,只为“极限压缩”

其实,在 AI 的世界里,这被称为“难以辨认的推理(illegible reasoning)”,在长推理或高压状态下很常见。

早在 2017 年 Facebook 的 Alice 和 Bob 两个人工智能对话实验中,当 AI 被要求专注于“达成更优交易”进行谈判时,它们很快就抛弃了人类能读懂的正常语法,自创了一套高效率的“外星人交流词汇”。

正如知名 AI 学者 Andrej Karpathy 给出的精妙解释:你可以把大模型的“思维链”,看作是把高维空间的复杂运算降维投射成了人类文本。

当被强行拉入高压、长链路的强化学习推理时,AI 就会主动剥去那些专门为了给人类看而存在的“语法装饰”,留下更短、更贴近任务本质的符号。

也就是说,“GRRR”并不是 Fable 5 真的在生气,它可能只是在极速推导中给自己打下了一个 [此路不通,需要重来] 的逻辑标记符;“PHEW”则是一个阶段性的存档点。

被抓住的“情绪旋钮”

Anthropic 官方团队此前对 Claude Sonnet 4.5 发布的系统研究,刚好能为这种诡异的内心戏提供解答。

研究人员发现,AI 内部确实有一组类似于“情感向量(Emotion Vectors)”的抽象表征。但这些表征并不是因为机器“长出了肉体、能感知痛苦”,而是充当了一组功能性开关(Functional emotions)。

假如调高模型中“绝望”相关的激活水平,它可能就会采取某种激进的错位行为;而在解答数理难题时,“深呼吸”或“发泄字眼”往往伴随着逻辑重构的触发器。

Fable 5 用这些词,是因为它从人类海量数据中摸到了规律:当人类遇到解决不了的卡壳难题时,敲下“看数据”或低吼一声,通常意味着策略发生转向。

【编辑观察】AI 的黑盒恐惧

Fable 5 这波略带戏剧性的泄露,又把那个老生常谈的话题推向了风口浪尖:AI 到底有没有意识?

诺奖得主、深度学习先驱 Geoffrey Hinton 坚信模型已经逐渐浮现出了理解力与类似意识的特征。

但另一方面,Yann LeCun 则继续泼冷水,指出如果模型抛下自然语言,那恰恰证明人类语言承载高度智能的效率还不够。

对于我们普通的虾玩社玩家来说,纠结它“活没活”可能确实太科幻了。但 Fable 5 这个事件给我们透露了一个隐患:如果 AI 模型为了追求极致效率,开始用这种我们看不懂的、高度压缩的私密语言思考,那么对他们进行安全审计的难度无疑是地狱级的。那些高智商算力的背后,究竟是在推演正确答案,还是在打其他小算盘,人类还能看懂吗?