OpenAI新数学AI破解100+难题,引发伦理争议
OpenAI的秘密数学模型:天才还是威胁?
9月22日,OpenAI宣布成立一个数学与AI顾问小组,总部设在普林斯顿高等研究院。该小组由九位数学家组成,将独立于OpenAI运作。但这还不是头条新闻。真正的惊人之处?OpenAI透露,一个自8月28日开始训练的神秘模型已经解决了100多个长期未解决的开放问题,涵盖多个数学领域——包括 notoriously difficult 的纳维-斯托克斯千禧年大奖难题。
数学家对速度感到震惊
OpenAI承认,该模型的进展甚至让公司自己的数学家都措手不及。“我们很惊讶,”该公司表示,这引发了内部关于如何向学术界公布这一消息的讨论。毕竟,数学是基础科学的基石。如果AI能够做出新的数学发现,其影响可能波及每个领域。这就是为什么OpenAI正在谨慎行事,研究如何负责任地部署这些能力。
但并非所有人都在欢呼。早些时候,数学家陶哲轩、邓宇、彼得·舒尔茨等人发表了一封公开信,警告称将开放数学问题作为AI的基准可能会产生负面后果。OpenAI承认这些担忧,称它们凸显了与数学界进行更深入对话的必要性。
顾问小组:独立、无薪且强大
那么谁在这个顾问小组中?九位重量级人物,包括三位菲尔兹奖得主:蒂莫西·高尔斯、马丁·海雷尔和爱德华·威滕。完整名单:弗朗索瓦·查尔斯(巴黎高等师范学院)、卡米洛·德莱利斯(高等研究院)、蒂莫西·高尔斯(法兰西学院、剑桥大学)、马丁·海雷尔(洛桑联邦理工学院、帝国理工学院)、尼基尔·斯里瓦斯塔瓦(伯克利、西蒙斯研究所)、乌尔丽克·蒂尔曼(牛津大学、INI)、拉维·瓦基尔(斯坦福大学)、爱德华·威滕(高等研究院)和梅兰妮·马切特·伍德(哈佛大学)。值得注意的是,只有德莱利斯签署了早先的公开信。
该小组独立于OpenAI运作。他们可以提供主动建议,公开评论OpenAI对数学的影响,甚至调整自己的成员。他们不从OpenAI获得报酬。但是,他们不会就OpenAI内部研究的步伐提供建议。
他们的角色?帮助OpenAI评估新结果的重要性,为数学研究设定学术标准,并建议OpenAI的工具如何支持数学教育和发现。
这对未来意味着什么
OpenAI的举动明确承认,AI进军数学是一把双刃剑。一方面,加速发现的潜力巨大。另一方面,破坏学术规范——或者更糟,滥用强大工具——的风险是真实存在的。通过引入独立专家,OpenAI试图在保持对自身研究控制的同时建立信任。
但最大的问题仍然是:数学界将如何反应一台能够解决他们几十年来苦苦挣扎的问题的机器?只有时间才能证明。目前,所有目光都集中在普林斯顿。
关键点:
- OpenAI成立了一个独立的数学与AI顾问小组,由九位数学家组成,包括三位菲尔兹奖得主。
- 一个自8月28日开始训练的神秘模型在24天内解决了100多个开放数学问题。
- 该小组无薪、独立,可以公开批评OpenAI对数学的影响。
- OpenAI承认数学家对AI在解决开放问题中的作用的担忧。
- 顾问小组将指导OpenAI进行结果审查、学术标准制定以及数学研究工具的开发。