DeepMind的Legg反驳AGI炒作：Astra尚未达到
DeepMind的Legg反驳AGI炒作：Astra尚未达到
关于通用人工智能是否已经到来的口水战爆发了。英伟达CEO Jensen Huang最近祝贺OpenAI的新模型Astra，并宣布AGI已经到来。但Google DeepMind的联合创始人兼首席AGI科学家Shane Legg表示，别急。
在一次新采访中，Legg强烈反驳了这种庆祝。他指出，OpenAI自己的章程将AGI定义为“一个高度自主的系统，在大多数具有经济价值的工作上超越人类。”Astra可以完成许多令人印象深刻的事情，但它是否真正处理了大多数具有经济价值的认知任务，仍是一个未解的问题。
Legg思考AGI的时间比几乎任何人都长。他仍然坚持自己长期以来的预测：在2028年之前达到“最低AGI”的概率约为50%。DeepMind的标准甚至更高——一个拥有人类大脑所有认知能力的系统。
安全不能是事后才考虑的事
Legg不仅给炒作泼了冷水。他还发出了警报。AI能力正在飞速发展，但安全机制和控制框架却滞后了。他警告说，如果没有足够的理解和风险管理，我们可能会发现自己面对更强大的系统时毫无准备。
为了弥补这一差距，DeepMind宣布成立DeepMind研究所。Legg将与DeepMind主席Demis Hassabis和Google高级副总裁James Manyika共同领导该研究所。该研究所将研究AGI的快速发展如何影响科学研究、教育、社会结构和人类福祉。
所以下次有人告诉你AGI已经到来时，记住Legg的警告。竞赛是真实的，但终点线？我们还没到。
关键点
- Shane Legg反驳Jensen Huang的说法，即OpenAI的Astra已实现AGI。
- OpenAI自己的定义要求大多数具有经济价值的任务上超越人类——Astra尚未证明这一点。
- Legg坚持认为有50%的概率在2028年之前实现最低AGI，而DeepMind设定了更高的标准。
- DeepMind成立了一个新研究所，研究AGI的社会影响并确保安全同步发展。