Kimi K3.1 Pro 权重放出:2.8T 参数,百万上下文

2次阅读
没有评论

Moonshot AI 于 11 月 4 日放出 Kimi K3.1 Pro 的权重,模型为 2.8 万亿参数 MoE 架构,上下文可达约 104 万 token,93 层中有 24 层改用稀疏 Gated DSA 注意力。权重已在 Hugging Face 上架,并附 vLLM 与 SGLang 部署方案。

正文完
 0
评论(没有评论)

内容合作 · 项目交流

欢迎开发者、团队与我们联系,一起推动 AI 与机器人领域的优质内容创作与交流。