DeepSeek 开源生产级推理引擎 DeepInfer

智梦发布于 2026-10-22 16:49

2次阅读

DeepSeek 在 10 月 20 日以 Apache 2.0 协议开源生产级推理框架 DeepInfer，硬件首批支持英伟达 SM100 与华为昇腾 950 双通道，国产 NPU 首次与英伟达并列首发；仓库短期内收获超 1 万 GitHub Star，但仅支持离线推理，不含 KV 缓存与负载均衡等在线服务组件。