YC CEO 对 Anthropic:不要禁止蒸馏,打开前门
YC CEO 对 Anthropic:不要禁止蒸馏,打开前门
Anthropic 希望监管机构打击其所谓的“非法蒸馏”。Y Combinator 总裁 Garry Tan 给出了直率的回应:什么都不做。
9 月,Anthropic 发布了第二份威胁情报报告,指控中国实验室隐藏身份并使用窃取的凭证从尖端模型中提取能力。CEO Dario Amodei 此前已呼吁美国监管机构介入。但在 CNBC 采访中,Tan 持相反观点。“我会什么都不做,”他说。“我们可以争论;应该有一个美国特定的蒸馏机制。”
两个论点:API 控制是越权,作者从未被询问
Tan 的立场很简单:与其禁止蒸馏,不如让美国开源实验室通过“前门”——公开合法地,通过合法授权,而非窃取的凭证——从尖端实验室进行蒸馏。
他的论点基于两点。首先,封闭模型实验室控制用户“能用 API 输出做什么”是越权。用他的话说:“控制用户和客户能用闭源模型 API 的输出做什么,令人窒息。政府在这里有作用——将基于广泛可用数据训练的智能应作为公共产品,而非锁在限制性服务条款后面的理念正常化。”
其次,专有实验室在训练期间也使用了受版权保护的材料,未经任何人许可。Anthropic 在 7 月达成的最近 15 亿美元版权和解就是一个明显例子。
真正的驱动因素:对垄断的恐惧
“AI 的噩梦场景,末日场景,是只剩下一家公司,”Tan 说。“它拥有最好的资本渠道、最好的 AI 研究人员,突然成为垄断巨头。”在他看来,开源权重是一种制衡:“它们处于前沿并推动进步。我们希望这能获得资金,成为好生意。你还需要通过开源权重模型给人们自由和访问权。”
他的声明因时机而具有分量。Anthropic 的威胁报告刚刚发布,美国政府正在考虑对 AI 蒸馏采取行动。YC,作为美国开源创业生态系统的最大支持者,看到 Tan 站出来说“不要禁止它”——实际上是在为整个开源社区发声。
未回答的问题
但 Tan 没有解决一个尖锐的问题:如果美国实验室真的打开了“前门”,而蒸馏后的模型随后被出售或泄露怎么办?如何打开那扇门,开多大,后面是否有墙——Tan 没有给出答案。这就是为什么“什么都不做”听起来随意,但在政策上极其模糊。
要点:
- Anthropic 指责中国实验室“非法蒸馏”,并希望监管机构打击。
- YC 的 Garry Tan 说:不要禁止;让开源实验室通过正当渠道合法获取能力。
- Tan 认为 API 控制是越权,专有实验室也未经许可使用受版权保护的数据进行训练。
- 他担心单一公司 AI 垄断,并将开源权重视为制衡。
- Tan 未回答如何防止蒸馏模型被出售或泄露。