OpenAI的新隐私模式：AI安全不窥探数据

OpenAI正在推出一项新功能，或许能弥合保持AI安全与保护数据隐私之间的差距。这项名为“私有安全处理”的服务目前面向部分客户提供预览。其理念很简单：OpenAI可以监控其AI模型的潜在滥用——比如网络攻击或恶意代码生成——而无需实际保留您的数据。这是对其现有零数据保留（ZDR）政策的扩展，但有所创新。

他们试图解决的问题是：随着AI模型变得更加强大，它们被用于不法行为的风险也在增加。但处理敏感信息的企业客户，出于安全目的，也不愿与任何人共享数据，这是可以理解的。因此，OpenAI必须找到一种在不侵犯隐私的前提下提供保护的方法。

新系统建立在旧的ZDR方法之上。以前，ZDR会通过单独检查每个会话来标记可疑活动，就像保安逐一检查身份证一样。但这种方法有一个盲点：攻击者可以将其恶意请求分散到多个会话中，从而绕过每次会话的检查。而私有安全处理则可以跨不同对话分析输入和输出，随时间关联线索。如果发现可疑情况，它会捕获相关交互并寻找可能表明协同攻击的模式。

真正巧妙的是，这一切都在没有人工查看您的对话的情况下完成。系统自动检测滥用模式，因此没有人会阅读您的聊天记录。如果触发安全警报，OpenAI会收到信号，并决定是否联系客户。但关键在于：客户可以决定是否与OpenAI共享更多数据。这是一种协作方式，而不是老大哥式的监控。

此举也是对Anthropic最近数据保留政策的直接回应，该政策允许其在特定条件下保留用户数据30天。这引起了担心敏感信息的企业客户的关注。Anthropic为其政策辩护，称审查通过受控访问进行，仅由少数获批准的审查员执行，并带有完整审计跟踪。但OpenAI的新功能显然是一种竞争性反击，提供了更注重隐私的替代方案。

时机也恰到好处。OpenAI和Anthropic都在筹备IPO，它们在模型能力、安全功能和商业成功方面展开了激烈竞争。Anthropic增长迅速，据报道年收入达到650亿美元，估值约2万亿美元。OpenAI也不甘落后。随着AI在企业工作流程中越来越深入，隐私和安全正成为关键战场。能够在不损害数据隐私的情况下提供强大保护的公司，可能会赢得谨慎客户的青睐。

那么，这对您意味着什么？如果您是企业客户，这是一个令人欣慰的信号，表明AI公司正在倾听您的担忧。您可以在不牺牲数据控制权的情况下获得安全网。对于我们其他人来说，这让我们得以一窥AI安全如何演变——更智能、更细致、更尊重隐私。

要点

• 私有安全处理是OpenAI新的以隐私为中心的安全功能，目前面向部分客户提供预览。
• 它跨多个对话监控AI滥用，而不存储客户数据，扩展了零数据保留（ZDR）政策。
• 该系统通过随时间分析模式来检测分布式恶意请求，无需人工审查对话。
• 这是对Anthropic的30天数据保留政策的直接回应，该政策引发了企业客户的隐私担忧。
• 随着两家公司准备IPO，隐私和安全已成为AI市场中关键的竞争差异化因素。