吴恩达批AI灭绝论：科幻色彩浓厚，新一波炒作或为影响监管
吴恩达批AI灭绝论：科幻色彩浓厚，新一波炒作或为影响监管
据彭博社报道，人工智能领域的知名专家吴恩达（Andrew Ng）近日公开批评了一些顶级模型开发商研究人员提出的“AI存在性风险”警告。在他看来，那些关于AI可能导致人类灭绝的担忧，更像是科幻小说的情节，而非严谨的科学结论，甚至可能阻碍技术为社会带来最大利益。
作为谷歌大脑和在线教育平台Coursera的联合创始人，吴恩达指出，在AI热潮的早期，科技行业曾夸大AI的潜在灾难性危害以增加宣传效果，其明显目的是影响监管方向。在接受彭博电视台采访时，他坦言过去两周感到沮丧，认为这波公关活动再次抬头，可能出于类似目的。
考克斯辞职引发新争论
最近，前Anthropic和OpenAI研究员雅各布·考克斯（Jacob Coxon）的高调辞职，将AI安全问题推到了公众视野的中心。考克斯指责他的两位前雇主“拿人命赌博”，因为他们竞相开发超级智能AI；他还表示，一些AI开发者认为这项技术可能在十年内对人类构成致命威胁。
在此背景下，包括Anthropic首席执行官达里奥·阿莫代（Dario Amodei）和OpenAI负责人萨姆·奥尔特曼（Sam Altman）在内的多位AI领袖，呼吁行业放缓前沿模型的开发，并采取更多措施确保未来安全。吴恩达此前曾与阿莫代和奥尔特曼共事。
尽管吴恩达承认AI确实存在风险，包括网络安全威胁，但他强调，对AI导致人类灭绝的担忧“更像科幻而非科学”。
与“放缓”的路线不同，吴恩达认为，行业应在继续推进AI发展的同时，通过受控测试、工程保障和迭代改进来解决可验证的安全问题，并在能产生社会价值的场景中更广泛地应用AI。他建议行业专注于解决实际工程问题，以持续改进和保护技术。
关键要点
- 吴恩达批评AI灭绝论：认为其更像科幻，而非科学，可能阻碍技术造福社会。
- 新一波炒作或为影响监管：吴恩达指出，行业曾夸大AI危害以影响监管，如今类似情况再次出现。
- 考克斯辞职引发关注：前Anthropic和OpenAI研究员指责前雇主“拿人命赌博”，加剧了AI安全争论。
- 吴恩达呼吁务实路线：主张通过受控测试、工程保障和迭代改进来解决安全问题，而非一味放缓发展。