跳到正文
IT之家 AI·· 7 天前评分72

华为宣布昇腾 0 Day 支持 Kimi K3.1 Pro 推理部署,2.8 万亿级 MoE 模型能力再进阶

摘要

IT之家 11 月 5 日消息,据华为计算公众号,2026 年 11 月 4 日,月之暗面正式公布 Kimi K3.1 Pro 完整模型权重。昇腾基于 vLLM Ascend、SGLang 同步实现 0 Day 推理适配,支持昇腾 Atlas 800 A3、Atlas 900 A3 SuperPod 超节点以及昇腾 950 超节点系列产品进行 Kimi K3.1 Pro 的推理部署。 围绕模型新增的稀疏注意力、百万级上下文及推理服务需求,昇腾开展算子与框架协同优化,支持用户及开发者在模型发布首日开展部署与应用验证。 IT之家注意到,Kimi K3.1 Pro 是 K3.1 系列的首个模型, 拥有 2.8 万亿参数 ,原生支持视觉理解,具备百万 token 上下文窗口。模型在 K3 基础上进一步扩大后训练规模,在代码开发、3D 创作、金融研究、事实准确性和长程智能体任务等方面实现能力提升。 借助百万级上下文,模型可综合利用长篇文档...

推荐理由

来自IT之家 AI的《华为宣布昇腾 0 Day 支持 Kimi K3.1 Pro 推理部署,2.8 万亿级 MoE 模型能力再进阶》。重点看智能体工作流、模型能力与工程、产品发布。摘要提到:IT之家 11 月 5 日消息,据华为计算公众号,2026 年 11 月 4 日,月之暗面正式公布 Kimi K3.1 Pro 完整模型权重。昇腾基于 vLLM Ascend、SGLang 同步实现 0 Day 推理适配,支持昇腾 Atlas 800 A3、Atlas 900 A3 SuperPod 超节点以及昇腾 950 超节点系列产品进行 Kimi K3.1 Pro 的推理部署。 围绕模型新增的稀疏注意力、百万级上下文及推理服务需求,昇腾开展算子与框架协同优化,支持用户及开发者在模型发布首日开展部署与应用验证。 IT之家注意到,Kimi K3.1 Pro 是 K3.1 系列的首个模型, 拥有 2.8 万亿参数 ,原生支持视觉理解,具备百万 token 上下文窗口。模型在 K3 基础上进一步扩大后训练规模,在代码开发、3D 创作、金融研究、事实准确性和长程智能体任务等方面实现能力提升。 借助百万级上下文,模型可综合利用长篇文档...

本站只提供摘要与原文入口。完整内容请阅读原文。

来源:IT之家 AI · ithome.com