国会议员卡纳推动全面新法案，遏制失控AI

国会议员卡纳推动全面新法案，遏制失控AI

硅谷自己的代表罗·卡纳正在对人工智能采取强硬立场。9月28日，这位民主党国会议员宣布计划提出他所谓的人类控制AI法案——一项将限制能够在没有政府监督的情况下自我改进的AI模型的法案。

该立法的核心针对一个特定危险：能够在未经人类批准的情况下重写自己代码或目标的AI系统。根据该提案，前沿模型将被禁止任何形式的递归自我改进，直到联邦安全机制到位且监管机构开绿灯。换句话说，在我们知道它安全之前，不允许自我升级。

一个有牙齿的新监管机构

为了执行这些规则，该法案呼吁建立一个全新的联邦机构，专门负责AI安全。该机构将运营一个用于训练和部署先进模型的许可系统，进行独立审计，并制定安全标准。每个前沿实验室都需要有自己的独立审计员，直接向该机构报告——不再自我监管。

该机构还将维护一份安全检查清单：沙盒测试环境、与互联网物理隔离、紧急关闭开关，以及防止模型逃逸并在网上失控的保障措施。甚至实验室中使用的高端芯片也将受到审查，并配有监控机制来控制其使用。

刑事处罚和保险要求

卡纳的法案不只是指责——它还带来严重后果。如果部署的AI模型对平民造成破坏，它可能被作为危害人类罪起诉。明知故犯地禁用安全措施、关闭开关或遏制系统——或部署未经授权的系统——的员工将面临刑事指控。而希望发布模型的公司必须首先获得全面的责任保险。

“文明灭绝的风险是真实的，”卡纳在接受采访时说。“失控的安全隐患和滥用的风险都必须认真对待。”

安全社区的声音

卡纳表示，这是迄今为止提出的最全面的AI安全立法。其方法来自与独立非营利AI安全组织的讨论，而不是来自大型科技高管。“我希望它成为一个典范，让AI安全社区有发言权，”他说。“他们一直被不公平地视为在谈论科幻小说，不被认真对待……这场讨论应该由安全社区主导，而不是由尖端实验室的高管主导。”

要点

• 未经批准不得自我改进： 在政府安全机制到位之前，AI模型不能重写其核心目标或关闭控制。
• 新的联邦机构： 一个专门机构将对前沿AI模型进行许可、审计并制定安全标准。
• 独立审计员： 每个实验室必须有直接向该机构报告的审计员。
• 刑事责任： 部署不安全的AI或禁用保障措施可能导致刑事指控，包括危害人类罪。
• 保险要求： 公司在发布模型前必须持有责任保险。
• 安全社区优先： 该法案优先考虑AI安全非营利组织的意见，而非科技高管的意见。