PChome 10月20日消息，DeepSeek宣布将内部使用的推理框架DeepInfer全面开源，同步放出配套组件deepseek-recipe。
PChome 10月20日消息，DeepSeek宣布将内部使用的推理框架DeepInfer全面开源，同步放出配套组件deepseek-recipe。
这次开源的不是演示版。DeepInfer正是支撑DeepSeek V4.1 Flash高吞吐、低延迟线上服务的同一套底座，集成自研高性能算子与深度优化推理引擎，支持分布式推理、推测解码、SWA Bounded Replay、异步调度、结构化输出等能力，当前适配英伟达与华为昇腾平台。
对自建推理服务的团队来说，更实用的是deepseek-recipe。它不参与模型计算，只做"协议翻译"——把Chat Completions、Responses、Messages等请求统一转成DeepSeek内部Conversation格式，再编码成V4/V4.1的提示词或token，输出侧按原协议回包，借此对齐官方API行为。
过去企业私有化部署常卡在两处：一是吞吐上不去、显存调度浪费；二是网关层自己拼prompt模板，和官方接口慢慢"漂移"。DeepSeek把内部部署栈拆出来开源，等于把这两块短板补到社区手里。
对中小团队而言，这意味着可以用更接近官方的方式自托管DeepSeek服务；对国产算力侧来说，昇腾兼容也被一并放进了主线路线里。推理框架过去一直躲在模型流量背后，这次算是被摆到台前了。
