【
智慧城市网 科技动态】7月16日,
北京月之暗面科技有限公司正式发布新一代模型Kimi K3,参数规模达2.8万亿。这是目前全球参数最大的开源模型,标志着我国人工智能模型发展迈出新的一步。
全球参数最大的开源模型,懂得更多、想得更深、答得更准
月之暗面介绍,基于KDA混合线性注意力机制(Kimi Delta Attention)和注意力残差(Attention Residuals)技术构建,Kimi K3原生支持视觉理解,具备100万词元上下文窗口。它是全球首个开源的3万亿级别模型,面向软件工程、知识工作、深度研究、多模态理解等复杂任务场景进行优化,进一步提升了大模型复杂任务的处理能力。
Kimi K3是首个达到2.8万亿参数规模的开源模型。这是Kimi持续推进模型规模边界的最新一步:在过去12个月中的9个月里,Kimi模型都保持着开源模型的规模上限。
“参数越大,能力上限越高,可以提供更智能的模型表现。”有关负责人表示,参数就像人脑里的神经连接,近3万亿参数意味着这个模型能把更多的知识和规律装进“脑子”,懂得更多、想得更深、答得更准。
当前,人工智能技术加速迭代,正迎来爆发式发展。前沿人工智能的发展,正在逐步转向算法创新、工程组织、应用能力和资源效率的综合运用。
据了解,在评测中,Kimi K3综合智能水平接近全球前沿的闭源模型。有关负责人介绍,在训练Kimi K3新一代基座大模型的过程中,其使用了自主研发的底层模型架构,并积累形成了一整套科学的模型训练方法。
通过模型结构、训练方法和数据配方等方面的优化,Kimi K3相较上一代模型整体扩展效率提升约2.5倍,有助于进一步提高算力向模型能力转化的效率。
可参与开放式创作和复杂知识生产
过去一年,全球大模型竞争逐步从单一榜单成绩转向预训练规模、架构效率、复杂任务能力和工程可用性的综合较量。K3的研发重点不是简单扩大参数规模,而是通过模型架构、训练方法等协同优化,将规模优势进一步转化为能力提升。
在评测中,Kimi K3展现出全球领先的综合能力。在参与测试的模型中,Kimi K3综合智能水平仅次于Claude Fable 5和GPT-5.6 Sol两个前沿闭源模型,并在编程、视觉理解、知识工作和长程任务处理等方面表现突出。
Kimi K3具备很强的长程编码能力。在极少人工监督的情况下,Kimi K3可以持续完成长时间工程任务,理解和处理大型代码库,并协调使用终端工具。特别在软件工程场景中,它能够结合源代码、渲染结果、运行日志和测试反馈判断下一步修改方向,适用于前端工程、游戏开发、基础设施优化、科研编程等任务。它在Kernel优化、GPU编译器开发、创作数字作品、芯片设计、科研编程上展示了如何将编码能力转化为开放式软件开发和科学研究能力。
从应用能力看,Kimi K3不仅能够完成明确的代码生成和修改任务,还可进一步参与开放式创作和复杂知识生产。
在数字作品生成场景中,该模型可结合3D推理、编程和视觉能力,将概念、图片或视频转化为交互体验;
在金融研究、产业分析等场景中,可对公司文件、行业数据和长期产业资料进行组织分析,生成可读、可查、可验证的深度报告。
月之暗面表示,该模型完整权重即将发布,模型架构、训练和评测细节将随模型技术报告陆续公布。