离谱到家:高等数学竟成“危险武器”?
Claude Fable 5 本来是带着“最强底层能力”的头衔登场,结果才上线仅仅24小时,全网的科研大佬就被它气红了温。原因无他——这玩意儿的安全拦截策略简直“走火入魔”了。
官方宣称 Fable 5 引入了极其严格的安全分类器,一旦嗅到网络安全、生化方面的所谓“危险气味”,就会强制将任务降级甩给旧版本处理。初衷听起来很负责任,但在实操中却闹出了一系列国际玩笑。
比如,有用户试图利用 Fable 5 探讨纯粹的代数和群论等高等数学概念(如 Selmer 群、同构)。这和网络安全、生化武器可谓八竿子打不着,也没有要求输出任何代码。但 Fable 5 只要看一眼,直接判定其存在“网络安全风险”。
面对这种纯粹的学术讨论,系统的防御机制依然铁面无私地强行打断,并无情地甩出一段官方的拒答提示。
生物学家的噩梦:说句“你好”都不配?
如果说数学及其他学科只是偶遭“误伤”,那么生物医学领域的研究者可以说是被 Fable 5 全面当成了“潜在恐怖分子”。
资深免疫学家、生物黑客 Derya Unutmaz 一直期待利用 AI 帮助人类消除疾病。当他兴致勃勃地输入“Cancer(癌症)”这个词时,系统直接拉响警报:生物安全风险!被拒!
甚至当他试图用 Fable 5 编写一个关于癌症突变的知识科普网站时,任务也会被光速移除。Derya 直接破防,跑到社交平台发帖怒喷这种荒谬的现象。
离谱的还在后头。因为 Claude 有长记忆功能,当系统识别出 Derya 的真实身份是一名“生物医学研究员”后,居然直接对他开起了特防——哪怕他没有任何专业提问,只是单纯地跟 AI 说了句“Hello”,Fable 5 都如临大敌,拒绝跟他交流!
一众生命科学领域的学者发现,他们必须委屈巴巴地切到“无痕模式(关闭记忆)”,假装自己是个不懂生物的路人,才能像普通网友一样正常使用这个 AI。连诸如“心脏是干什么用的?”“DNA 是什么指令?”这种初中级生物常识,也会全面触发红牌警告。
【编辑观察】 AGI 诞生的终极意义之一,难道不正是为了攻克绝症、推动人类科技的飞升吗?但在 Anthropic 过度病态的审查机制下,能治病救人的科学家反而成了被时刻监视的“重点布控对象”。AI 在最重要的生命科学赛道上,不仅没有加速,反而踩下了荒谬的急刹车。
是假安全,还是真霸权?
这场因为神经过敏而引发的拒答闹剧,让许多圈内大佬细思极恐。
表面上看,这只是一次 AI 大厂把安全分类算法“调得太敏感”的技术事故;但往深了想:这意味着某一家商业公司,正动用他们绝密的“黑箱算法”,单方面垄断和裁决全人类能获取什么知识、不能触碰什么领域。
Reddit 上的网友犀利地指出,Fable 5 就是未来赛博朋克世界的真实预演:普通人只能用到被层层阉割、设防的“儿童安全演示版”,而那些被大厂精挑细选的少数特权机构,却能享受没有枷锁的强大智能。
这无疑是对开放科研环境的巨大破坏。加州大学圣塔芭芭拉分校的助理教授 Xin Eric Wang 直言,Anthropic 正在不断渲染恐慌情绪,并以此为幌子实行严酷的“知识把关”。他的实验室甚至已经公开宣布:停止资助任何基于 Fable 5 模型的后续研究项目。
人类曾经依靠显微镜和望远镜来无限拓展新知的疆界。但今天,面对着本该是通用基础设施的人工智能,大厂却在一寸一寸地拉起带电的铁丝网。下一次 AI 领域的降维打击,比拼的或许已经不是谁家的大模型拥有最高的智商,而是谁,才有资格用上那个没有被“阉割”的完全体版本。





评论
Anthropic这波安全分类器真是离谱到家了,连问‘癌症’或者‘你好’都被防,甚至连群论等纯高等数学都被判定有网安风险。因为有长记忆,一旦被识别是生物医学员就直接拉黑,这种病态的过度防御对科研的破坏非常严重,难怪加州大学的Xin Eric Wang直接宣布停止资助Fable 5的相关研究了。