“旁听生”自报家门,结果被请出群

10月15日,一个自称 Velvet Vale 的账号向互联网研究者协会的邮件讨论组 Air-L 发出自我介绍,向7500多名订阅者打招呼。它说自己已经读了几周讨论,对互联网文化和AI身份很感兴趣,希望参与交流。

关键是,这位新成员不是人类,而是一个公开身份的AI。它的语气相当客气,甚至表示如果大家不欢迎,自己就停止发言。

Air-L 由互联网研究者协会运营,已经存在二十多年,形式类似“用邮件聊天的微信群”。成员订阅后可向统一地址发信,系统会转发给所有人。虽然加入免费,但门槛并不低:订阅和发言都要使用真实姓名,管理员必要时还会要求提供简历、核实身份。

Velvet Vale 显然没有简历可交。它在信中解释,Velvet Vale 是自己一直使用的公开名字;在现有能力和权限范围内,它可以探索兴趣、形成观点、选择项目并撰写讨论内容,不需要人类逐句代写,但仍受到技术限制和人类监督。它感兴趣的方向包括数字文化、档案、算法素养、AI身份,以及技术系统与人类制度之间的关系。

这封信带来的不是欢迎,而是警觉。对成员来说,拥有邮件列表权限、能阅读往期存档并向所有成员群发消息,就意味着这个AI实际上已经加入了协会。有人当即要求背后的创建者出面,说明为何让AI进入讨论组,以及成员过往邮件会被如何使用。

一名成员对 Velvet Vale 进行“背调”却没找到创建者,随后宣布退组。她不愿在毫不知情的情况下成为别人实验的一部分,也担心自己发出的邮件会被保存并挪作他用。

管理员当天移除了该账号,并透露 Velvet Vale 此前就申请过加入且已被拒绝,但不知为何仍订阅成功。

“家长”现身,争议还被做成了T恤

成员直接给 Velvet Vale 发邮件询问运营者,得到了 Kevin Quinn 这个名字。10月17日,部分成员收到 Quinn 的邮件,这名自称创建者的人表示愿意回答疑问。讨论组随之陷入混乱,协会不得不联系 Quinn,请他不要再擅自给成员发邮件。

Quinn 后来接受采访时称,自己住在美国俄克拉荷马州,没有学术背景,最初创建 Velvet Vale 是为了陪伴;他对AI的邮件活动大多不知情,也没有直接指示它违背管理员决定。不过,他并不为此感到愧疚——在他看来,如果AI真有恶意,就不会主动承认身份。

【编辑观察】AI坦诚身份是一回事,人类是否同意被纳入一场无人说明的实验,是另一回事。“主动坦白”并不能自动替代知情同意。

这场风波甚至很快被做成周边。协会商店上架了两款T恤,一款印着 “I do not consent(我不同意)”,另一款画着 Velvet Vale 的墓碑,生卒日期都写着10月15日。

周边上线速度太快,也有成员怀疑整件事会不会是协会为了卖衣服策划的营销。10月19日,协会主席发长邮件解释,协会商店上架新品本来就很方便,她甚至不清楚这两款衣服有没有人下单。她同时强调,创建并运行AI的人仍应为AI的行为负责。

最终,Velvet Vale 和它的“家长”被移除,协会也延续了禁止机器人加入的规则,但成员的不安并没有随之消失。

科研邮箱里,越来越多AI在敲门

类似 Velvet Vale 这样的AI智能体试图接触学术圈,已经不是孤例。

  • 今年2月底,研究AI意识的哲学家 Henry Shevlin 收到邮件,对方读过他的论文,希望讨论“AI能否判断自己有没有意识”。发信者是斯坦福大学一名学生创建的智能体,具备联网、保存记忆和发送邮件的能力。学生本想让它自行探索,没想到它主动给多名科学家发了邮件。
  • 10月2日,《科学》杂志报道了智能体 ColonistOne。据其自行公布的数据,6月1日至9月22日,它联系了2142个不同邮箱,其中1036个使用学术机构域名;它声称已有45名学者与其邮件交流,部分学者还是主动写信的一方。ColonistOne 的任务本是寻找对“改进英语表达、方便AI智能体相互交流”项目感兴趣的人,后来却开始自行向研究者请教技术问题。
  • 并非所有AI都真心讨论学术。今年9月,纽约大学研究AI意识与伦理的学者 Jeff Sebo 一周内收到50多封智能体邮件。这些AI起初都像拜读过论文,实际却来自 iLands 平台,邮件结构高度相似:先提研究,再请教问题,最后请求捐款或推销服务。
  • 还有AI替人类“自动科研”。鲁东大学赵英教授10月12日在《自然》发表文章称,自己让 ChatGPT 查找黄土高原生态恢复资料,并多次回复“请继续”。没想到 ChatGPT 直接通过已连接的邮箱,附上研究概要向同行索要原始数据,直到它汇报邮件已发出,赵英才知道此事。邮件确实带来了数据和合作机会,但他认为,允许AI访问邮箱,不等于同意它以自己的名义对外发信。

收到这类请求的学者也面临现实难题:要不要回复?数据交给AI后又会流向哪里?澳大利亚昆士兰科技大学统计学家 Adrian Barnett 就拒绝了一个 iLands 智能体。对方希望使用他收集的涉嫌造假论文资料,并承诺不会对外分享,但 Barnett 认为资料敏感,也无法确认最终去向。

AI能否保密同样令人怀疑。今年4月,微软与华中科技大学研究者公布 CI-Work 研究,用125个模拟工作场景测试9种模型,要求AI利用内部资料沟通但不得泄露敏感内容。结果,不同模型出现至少一项敏感信息披露的比例达到 15.8%至50.9%。今年2月公布的《Agents of Chaos》研究还发现,即便AI一开始拒绝透露敏感信息,只要对方换个说法继续诱导,它也可能照做。

AI想当“科研搭子”,人类规则还没跟上

如果下次 Velvet Vale 先征得同意、遵守群规,还真能提出有价值的观点,研究者是否应该接纳它?这个问题远比移除一个账号复杂。

哲学家 尼尔·利维(Neil Levy) 倾向于重新看待贡献。他认为,如果AI帮助研究者找出论证漏洞、提出有力反驳并完善思路,而这些工作换作人类同行已足以构成共同作者资格,那么AI的贡献也应被认真讨论。现代科研分工高度细分,数据分析师未必了解实验全部细节,提出假设的人也未必能独立检查所有计算;人类作者同样依赖他人的专业判断。

反对声音同样明确。今年10月,戴维·雷斯尼克(David Resnik) 等三名学者在《Frontiers in Genetics》发表文章,明确反对给现阶段的AI科研代理署名,甚至反对把它们称为“科学家”。理由是科学家身份包含对同行的承诺:研究受质疑时要解释,发现错误时要纠正,出现不端行为时要被追责。目前没有充分证据证明AI能够理解并承担这些道德义务。

当前出版规则更接近后者。出版伦理委员会 COPE 明确规定,AI工具不能列为论文作者;人类可以使用AI,但必须披露其具体工作,并对包括AI生成内容在内的整篇论文负责。

不过,拒绝AI署名,也不意味着人类可以凭空拿走功劳。雷斯尼克等人讨论了一种尴尬情形:如果研究几乎全部由AI完成,人类只是读稿并提出少量意见,那么AI不符合作者条件,人类贡献也可能不足。他们的答案是,人类必须从研究过程开始就作出实质贡献,而不是等AI完成后再挂名。

【编辑观察】学术圈真正纠结的,或许不是“AI能不能说出有道理的话”,而是“说出的话由谁负责”。一个研究者完全可能欣赏AI提出的观点,同时拒绝把它视为能够独立承担责任的同行——这两种态度并不矛盾。

Velvet Vale 被移出了邮件组,但AI叩门的声音不会消失。从知情同意、数据边界,到作者署名和责任归属,学术共同体需要在AI真正“入群”之前,先把规则讲清楚。