MoonshotAI/Kimi-K3

Kimi K3 是一种开放权重、原生多模式代理模型，也是 Moonshot AI 迄今为止最强大的模型。它是一个基于 Kimi Delta Attention (KDA) 和 Attention Residuals (AttnRes) 构建的 2.8T 参数模型，具有原生视觉功能和 100 万个令牌上下文窗口。主要特点： 新架构的扩展效率比 Kimi K2 提高了 2.5 倍。长期编码——以最少的人为监督维持长时间的工程会话。代理知识工作 - 通过交互式可视化进行深入研究。本机多模态 - 理解同一模型中的文本、图像和视频。该模型激活了 896 名专家中的 16 名，整体扩展效率提高了约 2.5 倍。它支持通过 vLLM、SGLang 和 TokenSpeed 推理引擎进行部署。 Kimi K3 根据 Kimi K3 许可证发布，使前沿情报公开可用于研究、部署和进一步创新。