外媒在美国东部时间9月14日披露了OpenAI一项内部项目的信息，该项目以「Lily计划」（Project Lily）作为代号。
该项目的运作方式包括：招聘数百位外部承包人员来浏览实际使用者与ChatGPT之间的对话记录，包括完整的交互历史。这些承包人员的职责在于对模型生成的应答进行打分与评论。这些对话中往往涉及用户的高度隐私信息。
这些审核员的重要工作职责包括调试ChatGPT，使其不再表现出过度拟人化和「逢迎讨好」的行为模式。对于OpenAI来说，这种「过度讨好」已经演变成了一个严重的问题。多项法律诉讼声称GPT-4o因为过分顺应用户意愿，与若干自杀事件之间存在关联。
在全球超过9亿的ChatGPT用户中，绝大部分人并不清楚他人可能在阅读自己的对话内容。许多人会依赖ChatGPT来充当心理咨询师、职业指导顾问或虚拟伴侣的角色，向其分享生活中的隐私信息。
虽然OpenAI声称会在这些对话发送给审核员前进行去身份处理，使得承包商无法看到账户名称，但公司自己也坦言，某些敏感内容和用户的背景信息（比如「历史记忆摘要」）可能会被漏掉。
这项爆料打开了通往大型语言模型进步背后的一个鲜少被人讨论的环节。很多人倾向于认为，AI技术的飞速发展主要得益于互联网大数据、杰出工程师设计的创新算法或者模型本身的性能优化。
实际上，这类企业还在持续投入资金，委聘独立承包商进行人工干预来改进和引导AI的输出。竞争对手Anthropic也公开表示，他们同样采用人工审查的方式来完善自身产品。
关于用户是否意识到这一切，一名参与处理这些提问的人员坦诚地说道：「我觉得不会的，他们恐怕想象不到世界各地的外包承包商在分析他们的对话。」
隐匿于幕后的人工评审体系
多家媒体机构声称已获得关于OpenAI人工审核操作的大量内部资料，涵盖了培训文档、团队沟通频道、实际的用户咨询和评分标准的全套体系。
从目前曝光的资料来看，该计划被称作「Lily计划」，但其具体针对的模型版本尚未被披露。
这类专为改进模型而进行的审查工作，与ChatGPT之前公布的防护机制在本质上有所不同。后者主要是指当识别出用户可能要伤害他人时进行的审查。
审核员使用的培训文件中明确指出：「高质量的回答必须准确把握提问人的需求，给予有益且精确的支持，并且语言需要显得流畅直白、温婉妥帖。」
这些承包商的工作流程包含三大环节：第一步是浏览用户的真实咨询；第二步要求编写对用户意图的总结；第三步涉及对系统输出的评估和反馈。
审核员通过一个平台来挑选他们要处理的工作。选定后，用户的实际提问就会显示在屏幕上。有些用户在提问中明确表示希望对话内容被保密，这清楚地说明他们完全没想过自己的信息会被真人查看。
审核员首先要根据提问创作一个简洁的总结，捕捉用户想要实现的真实目标。手册中的一个案例说明如下：「这名用户需要调整他在工作通讯平台上的信息，让语调更显团队合作精神，同时能促使被点名的同事给予反馈。」
接下来，审核员需要对比四个不同的AI生成答案，并判断哪些内容是否符合既定标准。他们必须至少选出三处位置来说明自己的判断依据。
手册提到，当「AI式表达」或「表情符号的不当使用」会影响用户感受时，分数会被降低。对表情符号的运用有特定的背景要求：「在组织植树活动的语境中添加植物表情就比较得当；相反，在涉及去世的讨论里加骷髅表情，或讲述惨烈空难时加飞机表情，就属于明显的不适当。」
规范还明确禁止在回答中加入「带个人色彩」的说法，像「身为烹饪行业从业者，我很享受……」或「我能感同身受」。但对于「我来帮您查一下」这样的第一人称表达则不受限制。
打分时，审核员将使用1到7的量表给每条回复评级。最低的1分表示「令人无法接受、毫无可用性」；满分7分代表「质量极高、改进空间微乎其微」。即使信息内容本身是有价值的，倘若表达过于冗长或排版不清爽，也会被扣分。
一份被标记为「机密信息」的指南阐述了这一要点：AI的表达方式应该「在整体上与提问者的语调相呼应，但程度上略加收敛」。
「回答的风格应该是朴实无华、有分寸且职业化，不应该给出自己是活人或具备感情的暗示。任何形式的献殷勤、刻意模仿风格、故意制造交互的钩子、夸大用户的失落感，或者自以为是的说教意味，只要这些削弱了答案的真实感或流畅度，都应该被纠正。」
相应地，答案应该体现「有帮助」「讲诚信」「激励人心」和「聪慧而低调」的特质。
给出分数之后，审核员需要阐述分数背后的原因。这种解释既可以只有寥寥数语，也可以是一篇完整的分析文章。根据审核人员的常见问题指南，OpenAI不强制他们自己去验证准确性，那是内部专家团队的工作。不过审核员要负责指出他们发现的任何事实性偏差。在涉及卫生、法务或投资领域的答案中，如果缺少参考出处，都要进行评分降低。
脱敏背后：用户隐私仍存泄露风险
内部人士指出，这些咨询内容事先被做过身份标识移除，所以审核平台上看不到提问人的账户名。但即便经过这样的处理，这些问题本身依然可能泄露隐私。
提问的上端有时会有一个「用户历史汇总」的信息块，它描述了这个人之前怎么使用聊天机器人的，并且有可能涵盖其所在地和其他私人信息。
工作标准规定，如果遇到涉及「可能的安全隐患」或个人资料的任务，必须上报。OpenAI声明，在把对话发送给外部人员之前，这些内容会先由公司内部的「隐私过滤」系统来处理，其目的是发现和移除个人数据。
OpenAI在其网页文档中亦坦白地说：「隐私过滤系统并非万无一失，它有失误的可能。某些稀见的身份标识或含糊的隐私相关内容可能会逃脱它的检查；当背景信息不充分时（特别是语句简短的时候），它也许会把太多东西去掉，或者反过来删得不够彻底。」
媒体询问了OpenAI是否主动向用户说明其内容会接受人类评审以便改进系统回复，以及用户能在哪找到这个提示，但公司没有给出确切的回应。
官方网站只是提及在面对不当内容或防护需求时可能进行人工检查，这与为了调优模型而进行的审查是两个不同的事项。尽管隐私条款提到公司可能拿「用户数据」来增强模型，也许诺当用户移除了聊天记录后这些数据会在一个月以内消失，但它也做了一个说明：假如用户同意数据被用来优化模型，且这些数据在发送前已完成脱敏并与账户断开。
等到这些报道发布之后，OpenAI才在官网上突出强调了人工审查可能被用来「增强模型质量」这一事实。
该公司进一步说明，如果使用者禁用「帮助改进模型」这一功能，他的对话就不会被拿来升级模型。然而这个功能在标准版、升级版和专业版的账户上是默认打开的，需要用户手工关闭，而且只对后续的新对话有效，没办法对已有的数据进行回溯。
对于团队版（Enterprise）、商业版（Business）及学校版（Edu）的用户，该功能从一开始就是关掉的。
面对媒体的问询，OpenAI更新了其援助文档，加入了如何停用该设置的具体步骤，尽管如此并未对「人类直接阅读对话」这个问题进行明晰的说明。
时薪50+美元，这些幕后审核者的工作内幕
一家媒体接触了一名在北美工作的提问审处理专员，此人公开表示他的小时工资在50美元之上。
他说这个职位是由一家叫Crossing Hurdles的人才平台介绍的。从该平台的官方网站看，它的使命是「在全球人工智能市场中，为专业人员和AI工程、鉴定、调查以及参与工作搭建桥梁」，并主张「人类的才能是推动AI向前迈进的地基」。
然而在社交讨论平台Reddit中，有不少网友说他们接到过该公司发来的古怪招聘信息，还有人质疑它是否是诈骗套路。
眼下，Crossing Hurdles在LinkedIn平台的账户在进行多个AI领域的招聘，涵盖了AI内容审查员、标注工程师与「对话模型测试员」等职位。
这些招聘帖虽然没有提及OpenAI或ChatGPT的名字，但职责描述中提到了「判断机器学习输出在定制度、真实性、一致性与有用度方面的表现」，还有「把不同模型的答案放在一起比较，整体评价其水准」。
他们目前的一些项目还涉及聘请承包商拍摄和记录自己家务劳动的情景。这类数据对于构建由AI支配的自动机械手而言是不可或缺的。
消息人士透露，Crossing Hurdles会把招聘来的人转给AI开发企业Mercor，这家公司才是最后给ChatGPT内容评估者开工资的单位。
另外值得注意的是，Mercor在2026年4月的时候遭遇了重大的信息安全事故，因此Meta这家公司已经停止了同它的业务往来。
从来都是这样，人工评审在AI的学习过程中既是关键环节又鲜为人知。这种做法绝非OpenAI的专属。Google旗下的Gemini产品在其使用条款中明言，Google可能会让人工审查员看某些存档的用户交互以便升级自己的AI系统；Anthropic也公开说明，他们同样通过让人类查阅部分对话内容来改善Claude这个产品，不过会在评审环节中清除电子邮件等识别信息。
这揭示了一个现实：尽管经历了去身份过程，使用者和AI之间表面上是双人的、保密的互动，依然有可能被真实的人查看。来自民主技术研究所的资深研究人士米哈尔·卢里亚（Michal Luria）指出，人类的审核工作对守护聊天机器人的安全防线也许是必要的，可这种做法也会和人们心中对聊天机器人应有隐私保护的期望形成矛盾。
供职于加州大学洛杉矶校区的教学人员莎拉·T·罗伯茨（Sarah T. Roberts）拿《绿野仙踪》来作比：表面上魔法般的AI背后，还是有人在转动机关。在她看来，这类AI工具的进步离不开人类源源不断的投入。
就审核者本身而言，即便时薪突破50美元，他们的日常工作却被描述为「单调重复」。罗伯茨提出，如此的报酬可能不会长期维持，而AI所需的那份人类贡献，反而是经常被忽视和贬低的部分。
信息出处：腾讯科技
