DeepSeek 在10月20日官宣，在陆续开源一系列大模型、TileLang 编译工具以及推理算子库之后，决定全面开源内部推理框架 DeepInfer。 DeepSeek 指出，推理框架负责统筹调度庞大算力集群，其效率直接决定 AI 服务的算力成本与电力消耗。通过公开内部部署经验，DeepSeek 希望帮助开发者与企业优化大规模推理的吞吐量与延迟，降低算力成本、减少能源消耗，实现“大模型普惠”。 基于 DeepInfer，DeepSeek 官方已跑通 DeepSeek V4.1Flash 的高吞吐、低延迟大规模推理服务；新模型的推理代码和后续优化也将在该框架持续更新。DeepInfer 集成高性能算子与深度优化的推理引擎，支持分布式推理、推测解码、SWA Bounded Replay、结构化输出等能力，同时兼容英伟达与华为昇腾两套平台。同步开源的 deepseek-recipe 编解码组件，与 DeepSeek 官方 API 处理逻辑完整对齐。