OpenAI增强ChatGPT安全性，抵御隐蔽提示攻击

OpenAI强化ChatGPT防御机制应对狡猾黑客

ChatGPT变得更难被欺骗了。OpenAI本周宣布对其AI安全系统进行重大升级，专门设计用于阻止日益复杂的提示注入攻击——这种数字手段相当于针对人工智能的社会工程骗局。

漏洞封锁模式

最突出的功能是锁定模式，这是当前面向企业和教育版本的可选设置。可以将其想象成ChatGPT在进入可疑网络环境前穿戴的盔甲。激活后，它将严格限制AI与外部系统的交互：

"我们让机构能更严格地控制风险暴露程度,"OpenAI发言人解释道,"锁定模式并非用于日常聊天——它是高风险专业环境的数字护甲。"

该模式随增强型仪表盘控制功能同步推出，IT团队可：

第二项重大变化是在ChatGPT、Atlas和Codex产品中引入标准化"高风险"标签。当用户启用无限制网络访问等潜在危险功能时，这些鲜红色警示就会显现。

这些标签不仅高呼"危险！"——还提供实用指导：

使用Codex的开发者在启用可能暴露敏感数据的网络功能时，会特别受益于这些警告。

提示注入攻击已成为AI最阴险的威胁之一。狡猾的黑客可操纵聊天机器人：

新防护措施表明：虽然联网AI具有巨大实用性，但这些优势伴随着需要谨慎防护的真实风险。

展望未来，OpenAI计划数月内向消费者版本推出锁定模式——尽管大多数家庭用户可能不需要其最严格的设置。