调查发现：你的ChatGPT聊天记录可能被人类阅读
调查发现：你的ChatGPT聊天记录可能被人类阅读
你是否曾向ChatGPT倾吐心声，以为只有你和算法在对话？再想想吧。404Media的一项新调查揭示，OpenAI雇佣了数百名合同工来审查真实用户的对话——这一切都是为了改进模型。
这些审查员由Crossing Hurdles招募，并通过AI训练公司Mercor支付报酬，他们以1到7分的标准对ChatGPT的回复进行评分。他们的任务是什么？帮助减少过度奉承和过于拟人化回复等令人讨厌的习惯。一位北美审查员告诉404Media，他们的时薪超过50美元。
但问题在于：大多数用户并不知道他们的聊天记录可能会被真人阅读。即使是匿名对话，也可能包含敏感的个人信息。OpenAI表示它使用了隐私过滤器，但承认有时会出错。
你可能需要检查的默认设置
OpenAI目前默认开启了一个“为所有人改进模型”选项。这意味着你的新聊天记录可能被用于训练和人工审查——除非你将其关闭。另一方面，临时聊天模式不会将你的输入用于模型训练。
更重要的是，OpenAI并没有大张旗鼓地宣传这个人工审查系统。其FAQ至少从2023年起就提到授权人员和服务提供商可能查看用户数据，并建议不要输入敏感信息。但404Media称这一披露“有些隐晦”，很容易理解为什么用户可能无法完全理解人工审查的范围。
你并不孤单：竞争对手也这么做
人类反馈已成为改进大型语言模型的基石。Anthropic已确认，在隐私设置允许的情况下，会对Claude对话进行人工审查——首先会进行匿名化处理。Google也允许人工审查员查看部分Gemini聊天记录。
那么，这只是我们为更智能的AI付出的代价吗？这一事件揭示了训练效率与用户隐私之间令人不安的平衡。下次你在ChatGPT中输入内容时，请记住：可能有人正在一旁阅读。
要点：
- OpenAI使用数百名合同工审查真实的ChatGPT对话。
- 审查员以1-7分的标准对回复进行评分，以减少过度奉承等问题。
- 用户可以通过“为所有人改进模型”设置选择退出。
- 隐私过滤器存在，但OpenAI承认它们可能失效。
- Anthropic和Google也为其AI模型使用人工审查员。