Kimi K3开源2.8万亿参数，连马斯克都点赞

7月28日，月之暗面投下重磅炸弹：他们开源了最强AI模型Kimi K3的模型权重和技术报告。但他们不止于此——他们还发布了三项核心基础设施技术，使训练这一庞然大物成为可能：MoonEP、FlashKDA和AgentEnv。

Kimi K3有何特别之处？

Kimi K3是一个混合专家（MoE）模型，拥有高达2.8万亿参数。这使其成为全球参数规模最大的开源模型。它具备原生视觉理解能力，并支持高达100万token的上下文窗口——足以一次性消化整本书。

该模型于7月17日正式发布，专注于长程编程、知识工作和复杂推理。发布后数小时内，它便登顶Arena（一个AI代码工具评估排行榜），成为首个夺得榜首的中国模型。排行榜运营者Angeloopoulos指出，Kimi K3的发布可能迫使投资者重新思考整个AI格局，并可能引发资本市场洗牌。

埃隆·马斯克从不轻易赞美，他在相关评估报告下留言，称Kimi K3“令人印象深刻”。来自这位特斯拉CEO的赞誉分量十足，他深知前沿科技。

月之暗面不仅发布了模型，还开放了整个工具箱。以下是三项新技术带来的贡献：

MoonEP：一个高效的并行训练框架，帮助扩展模型训练规模而不遇到瓶颈。
FlashKDA：一种知识蒸馏和对齐技术，提升模型性能。
AgentEnv：与KVCache.ai合作开发的智能体沙箱系统。它为大规模智能体工作流提供高保真、隔离的运行时环境，支持快速快照、恢复和分支。这对于后训练和运行智能体任务至关重要。

通过开源模型以及训练基础设施，月之暗面降低了研究人员和开发者处理超大规模模型的门槛。此举将焦点从单纯的模型能力竞争转向更广泛的工程实力和工具链开发竞赛。

对于国内开源生态来说，这是一件大事。它表明中国AI公司不仅正在追赶，而且愿意分享其模型背后的底层技术。这可能会加速整个行业的创新。