月之暗面官方于昨晚正式开源Kimi K3模型。官方发布了Kimi K3的模型权重、技术报告，并开源支撑Kimi K3模型训练的关键Infra技术：MoonEP、FlashKDA和AgentEnv。
PChome 7月28日消息，月之暗面官方于昨晚正式开源Kimi K3模型。官方发布了Kimi K3的模型权重、技术报告，并开源支撑Kimi K3模型训练的关键Infra技术：MoonEP、FlashKDA和AgentEnv。
官方介绍，Kimi K3是一个拥有2.8万亿参数的混合专家（MoE）模型，具备原生视觉理解能力，并支持100万token的上下文窗口。Kimi K3参数规模是Kimi K2.5的3倍左右，团队凭借Kimi Delta Attention、Attention Residuals以及MoonEP等一系列技术创新，规模化效率提升了2.5倍（即在算力最优意义下，单位算力产出智能约等于原来2.5倍）。
同时官方公开模型训练方法即Kimi K3技术报告，可从报告中了解到KDA+AttnRes、Stable LatentMoE、MoonViT-V2、后训练与评估等技术细节及详细论述与消融实验。此外官方还介绍了支撑Kimi K3训练的三项Infra技术：MoonEP、FlashKDA和AgentEnv，覆盖从高性能通信、高性能算子到分布式RL环境的关键链路。其中FlashKDA此前已开源，MoonEP和AgentEnv则随本次发布正式开源。
官方表示：“现在，每个人都可以下载并部署Kimi K3模型，无论是用于内部研发，还是嵌入到面向终端用户的产品中，均可自由使用。”
