Kimi K3参数达2.8万亿，开源模型规模刷新纪录

这篇公众号长文把 Kimi K3 的技术细节和跑分拆解得最全,核心信息是:2.8万亿参数、目前公开可见的最大开源模型,架构和效率上都做了明显升级。

• 架构上引入 KDA(Kimi Delta Attention)混合线性注意力机制和 Attention Residuals 结构,让长序列、深层网络里的信息流动更顺畅。
• MoE 部分用 Stable LatentMoE 框架进一步稀疏化,896个专家里每次只激活16个,配合训练数据和方法上的改进,算力转化效率相比上一代K2提升约2.5倍。
• 编程能力突出:面对需要长时间推进、涉及大型代码库、多工具调用、失败后自主调整方案的软件工程任务,K3能在很少人工干预下持续推进,尤其擅长把源码和渲染结果对照来定位问题,适合游戏开发、前端工程、CAD设计等场景。
• 知识工作类跑分同样亮眼:GDPval-AA v2 拿到1687分,仅次于 Fable 5 Max 和 GPT-5.6 Sol Max,超过 Opus 4.8 Max的1600分;AA-Briefcase 智能体知识工作评测拿1527分排第二,超过 GPT-5.6 Sol Max的1495分。
• 得益于100万token上下文,K3在不做任何上下文压缩的单智能体设置下,BrowseComp跑到91.2分,是目前该项最好成绩,体现出长周期高难度信息检索的实力。
• 结合前面独立机构的验证,K3 目前呈现的是“国产开源模型第一次在多个维度同时逼近顶尖闭源模型”的信号,尤其编程和长上下文检索能力,值得重度使用coding agent的团队实测对比。