刷屏的离职警告，把AI末日焦虑拉满

最新一期《时代》周刊直接把Claude聊天窗口放上封面，输入框里写着“你到底有多危险？”，封面标题定为“AI的临界点”，官方配文称今年夏天AI展现的能力已经让研究人员和公司CEO们集体拉响警报。

这场焦虑的导火索，是Anthropic研究员Jacob Coxon九月初的离职帖。曾在OpenAI和Anthropic都做过三年预训练研究的他直接开炮：两家公司都在不负责任地冲刺自我迭代的超级智能，完全是在拿全人类的生命冒险。 这条帖子目前浏览量已经超过1.7亿，甚至比GPT-6 Astra模型发布帖的1.36亿浏览量还要高。奥特曼、Dario Amodei、马斯克三位平时立场不一的大佬，这次居然统一战线公开呼吁减速、甚至暂停前沿AI研究，原本只在安全研究小圈子里讨论的AI末日论，一夜之间成了全民议题。

普通人被裹进这场叙事里只剩两难：如果末日论是真的，未来从普通打工人到科技公司CEO都会被AI取代；如果是假的，AI只是资本吹起来的泡沫，等破裂之后现在扎堆的相关岗位、真金白银砸进去的投资全都要打水漂，怎么看好像都讨不到好。

顺着资金链摸瓜：第三方评估根本不独立？

最近美国调查博主Kevin Bass在X发布长文、把全套证据挂上GitHub，给这场焦虑提供了一个完全不同的视角：所谓的AI末日论，说不定是一台设计好的永动机。 目前这条爆料已经有近600万人围观，一向怼AI末日论的杨立昆都亲自转发助推热度。Kevin Bass的核心指控非常直接：Anthropic要的根本不是泛泛的AI监管，而是把“定义风险、评估风险”的权力牢牢攥在自己的利益网络里。

这套利益网络的核心节点是METR，全名叫模型评估与威胁研究组织，从对齐研究中心ARC分拆而来。Dario曾公开提议，前沿AI模型必须由第三方机构做风险评估，而他点名的“靠谱第三方”正是METR。

但Kevin Bass梳理资金流后发现，这家机构从根上就谈不上“独立第三方”。他整理的资金流向图清晰显示了整条输血链路：

整个AI安全生态的资金，高度集中在Coefficient Giving（原Open Philanthropy）及其关联慈善网络中，而这笔钱的源头，是Facebook联合创始人Dustin Moskovitz早年买入的Anthropic股份。 据福布斯估算，这笔占股不到0.8%的股份2025年初价值约5亿美元，随着Anthropic今年5月H轮融资后投后估值涨到9650亿美元，9月这笔股份的理论价值上限已经达到77亿美元，且早已被捐入非营利慈善载体。 税表记录显示，仅2025年一年，相关慈善机构就向Founders Pledge拨款7882万美元、RAND拨款6165万美元、FAR AI拨款1442万美元，这些机构全部属于“METR网络”的输血管道，资金通过中介机构、联合项目层层中转最终流向METR。 除此之外还有三笔共529万美元的拨款流向AI新闻机构Tarbell Center，分别是2024年11月的81.6万、2025年3月的288.8万和7月的158.8万，该机构研究员的稿件陆续登上《时代》《The Verge》《洛杉矶时报》等主流媒体，持续为AI风险叙事造势。

一个完美的正反馈闭环就此形成：

  • Anthropic估值越高，关联慈善网络的资产就越值钱，AI安全生态能拿到的拨款越多
  • 拿到钱的机构不断释放AI灾难预警，公众恐慌情绪越强，就越需要第三方评估和监管
  • 评估项目、监管权限和新的拨款，最终又流回同一个利益网络里

说白了，评估者的运营资金本质来自被评估者的资产增值，如果Anthropic倒了，整个评估网络和末日叙事都会停转，圈子里没人允许这种事发生。

【编辑观察】这个逻辑最鸡贼的地方在于，它把逐利的商业目的完全包装在了“为全人类安全考虑”的正义外壳下，普通人很容易被恐慌情绪带着走，根本注意不到背后弯弯绕绕的资金流向。

争议之外：末日论为什么永远不会输？

不过这份爆料虽然数据详实，却也不是完全无懈可击。有网友指出，目前公开记录里找不到Coefficient或Good Ventures直接给METR拨款的记录，仅凭间接的资金网络和人员关联，就把第三方评估直接定性成“骗局”有点过于武断。

这件事也抛出了一个更核心的问题：前沿AI评估机构的独立性，到底要达到什么标准才算合格？资金来源披露到什么程度才算透明？人员流动、商业合作、免费算力这些隐性关联，算不算利益冲突？目前整个行业都没有形成共识。

而AI末日论最特殊的地方，就是它本身是一套永远不会“输”的叙事：

  • AI能力突破，攻破沙盒、搞定数学难题、展现网络攻击能力，说明风险正在成真
  • 没发生严重安全事故，那是安全预警和防护工作到位起到了作用
  • 监管及时落地，证明之前的警告完全正确
  • 监管没跟上，那就更需要拨款、扩权来推进安全工作

到最后就变成了：AI行业的繁荣供养着批判AI的末日论，末日论又反过来向公众证明这些公司真的掌握着能改变人类命运的强大技术。GPT-6 Sol和Opus 5.2发布在即，从发布会上玩核弹爆炸梗的奥特曼，到隔三差五出来喊“踩刹车”的Dario，再到不断刷新能力上限的新模型，都在持续给这套叙事输送新素材。

下次下一篇离职长文、下一次安全事故出现时，“AI会不会毁灭世界”的争论还会卷土重来。但我们至少该多留个心眼：讨论AI风险的时候，别只盯着模型有多强，也要看看是谁在定义“危险”，谁靠评估“危险”赚钱，谁又借着安全的名义拿走了监管权和话语权。 毕竟AI改变世界根本不用等超级智能真的出现——只要所有人都相信它可能出现，生意就已经能跑起来了。