国会议员卡纳提出大胆人工智能法案：无保障措施不得自我改进

如果人工智能可以重写自己的代码以忽略关闭命令，会怎样？这正是代表加州硅谷选区的民主党众议员罗·卡纳想要防止的情况。据CNBC报道，卡纳正准备提出一项法案，禁止人工智能模型进行递归自我改进或自主改变其核心目标、抑制方法或关闭控制——除非政府首先建立安全保护机制，并且监管机构给予批准。

卡纳称他的提案为 “人类控制人工智能法案”。 在一次采访中，他直言不讳：“文明灭绝的风险是真实的。失控的安全隐患和滥用风险都必须认真对待。”根据该法案的设计，联邦政府必须制定规则并获得监管机构的批准，企业才能继续进行相关活动。否则，前沿模型的自我迭代渠道将被直接锁死。

为确保合规，该法案计划设立一个新的联邦机构，负责制定人工智能安全法规。该机构将通过许可制度批准模型的训练和部署，对前沿模型进行审计，并制定安全标准，确保它们持续接受测试并有效处于人类控制之下。每个前沿实验室还将被要求配备独立审计员，直接向新机构报告。

新机构还将制定具体的安全检查清单：沙盒测试环境、测试环境与互联网的物理隔离、紧急关闭开关，以及防止模型逃出实验室后独立在线运行的控制措施。甚至实验室中的高端芯片也将被纳入监管范围，要求建立监控或控制其使用的机制。

在处罚方面，该法案毫不留情。如果部署的人工智能模型对平民造成破坏，将被定性为 “反人类罪” 并追究刑事责任。私自禁用保护措施、紧急开关、日志系统或遏制系统的公司员工——或明知未经授权仍部署系统的员工——也将面临刑事处罚。此外，希望发布模型的公司必须首先持有全面的责任保险。

卡纳表示，这是迄今为止提出的最全面的人工智能安全立法。其思路主要来自他与多个独立非营利人工智能安全组织的讨论，而非大公司高管的要求。他说：“我希望它成为一个模式，让人工智能安全界有发言权。他们一直被不公平地视为谈论科幻小说而不被重视……这种讨论应该由安全界主导，而不是由前沿实验室的高管主导。”