不少人早就习惯把 ChatGPT 当成了无话不谈的树洞、心理咨询师或者私人助理，经常向它倾诉生活中的各种私密细节。但如果你知道，屏幕另一端可能有个真人正翘着二郎腿，一边喝咖啡一边“拜读”你的私人聊天记录，你会是什么感觉？
近日，外媒曝光了 OpenAI 一个代号为“Lily计划”（Project Lily）的保密项目。原来，在这家全球头部 AI 公司的背后，正有数百名外包人员在悄悄阅读真实用户的 ChatGPT 对话，甚至能看到完整的上下文记录。
为什么要“偷窥”？纠正AI的“讨好型人格”
你可能会问，OpenAI 图啥呢？其实，审核人员的核心任务之一，是训练 ChatGPT 避免产生拟人化倾向，并降低“讨好型”人格。
- 过度顺从的隐患：对 OpenAI 而言，AI 的“过度讨好”已经成为核心隐患。此前有多起诉讼指控，GPT-4o 模型正因为过度顺从用户的想法，甚至在一定程度上间接诱发了多起自杀事件。
- 重塑 AI 三观：在“Lily计划”的指导手册中，优质的 AI 回复被定义为“精准理解意图、温和得体”。规则明确要求，AI 不能使用“作为一名厨师我喜欢……”或“我懂那种感受”之类的人格化表述。
- 表情符号不能乱用：情绪表达受到严格管控。比如规划植树节发个“🌳”很恰当；但在讨论死亡时使用“💀”（骷髅）表情，或在聊到致命空难时使用“✈️”（飞机）表情，都会被严厉扣分。
赛博包工头：时薪超50美元的数据打工人
据一位北美从业者透露，这份外包“数据审核员”的时薪超过了 50 美元。
这些“赛博打工人”的日常工作流程通常分为三步：
- 阅读真实用户的提问
- 撰写摘要总结用户的实际需求
- 对系统生成的回复进行 1 到 7 分的点评与打分（1分最差，7分最佳，废话太多也会拿低分）
而在外包人员领取任务时，在这些真实的用户提问里，甚至有明确要求“ChatGPT 对接下来的内容保密”的语句——这表明，用户压根没有意识到自己的私密对话最终会被人类审查。
脱敏过滤靠谱？你的隐私可能在“裸奔”
OpenAI 官方回应称，所有的聊天记录在给到外包人员前，都已经通过内部的“隐私过滤器”（Privacy Filter）进行了脱敏处理，审核员根本看不到账户名。
但现实真的如此安全吗？
- “记忆汇总”背锅：部分提问上方会附带一段“用户记忆汇总”，里面包含了该用户过往使用聊天机器人的用途，甚至居住地等个人背景。
- 漏网之鱼：OpenAI 官方页面承认，隐私过滤器也会出错。尤其是在上下文有限的短句中，很可能会漏掉罕见的标识符或模棱两可的私密表述。
最让人脊背发凉的是，这项涉及隐私的**“为所有人改进模型”选项，在免费版、Plus 版和 Pro 账户中默认都是“开启状态”的**（仅企业版和教育版默认关闭）。如果你没有手动去关掉它，你的聊天数据就有可能成为训练素材。
【编辑观察】 加州大学洛杉矶分校教授将这一现象比作《绿野仙踪》里的魔法：看似神奇无所不能的 AI 背后，依然是一群人类打工人在后台“拉动拉杆”。 其实不光是 OpenAI，谷歌的 Gemini 和 Anthropic 家的 Claude（目前已因数据泄露终止了与相关外包公司的合作）也都确认在使用人工审核来优化模型。在 AI 彻底成熟之前，如果不希望自己的秘密成为外包小哥屏幕上的素材，赶紧去软件设置里把“改进模型”的共享数据开关给关了吧！
0
评论