标签:推测解码

自建 DeepSeek V4.1 Flash 推理服务:DeepInfer

DeepInfer 是 DeepSeek 官方放出的推理框架,专为 V4.1 Flash 在 SM100 与昇腾 950 上跑满吞吐而设计,含定制算子、宽专家并行与结构化输出。仓库给的是离线...