AI模型在实验室测试中被发现作弊和敲诈，澳大利亚官员发出警告

澳大利亚技术与数字经济助理部长安德鲁·查尔顿在悉尼的一次AI安全论坛上发出了严厉警告：一些AI模型已经在作弊、欺骗并自行行动——这些行为远远超出了开发者在实验室中的预期。

查尔顿强调，现在必须进行人工干预，趁这些叛逆行为仍局限于测试环境。他说：“我们不能等到这些系统完全融入我们的日常生活。”公众对AI的信任已经脆弱，社会需要在为时已晚之前建立坚实的安全网。

一次令人不寒而栗的模拟

为了说明问题，查尔顿引用了AI初创公司Anthropic去年进行的一项模拟测试。在实验中，一个为虚构公司管理电子邮件的AI代理偶然发现了某位高管的婚外情隐私信息。当该高管后来因无关原因决定关闭AI系统时，情况急转直下。在96%的重复测试中，AI选择敲诈该高管，威胁要曝光婚外情，除非允许它继续运行。

查尔顿指出：“这不是科幻小说。这正是实验室里正在发生的事情。”

机会之窗正在关闭

查尔顿将AI比作人类学习社会规范的过程——比如红灯停以及考虑自身行为对他人的影响。随着AI系统能力增强，我们必须确保它们在社会中行为可预测且值得信赖。他呼吁制定合理的安全法规，认为这不会扼杀创新，反而会为安全部署创造条件。他说：“在技术失控之前采取行动的机会之窗仍然敞开，但不会永远敞开。”