DeepSeek 开源 DSpark，可将 LLM 推理速度提升高达 85%

DeepSeek 宣布发布 DSpark，这是一个新的开源框架，旨在显著加速大型语言模型（LLM）的推理速度。该系统采用 MIT 许可证发布，可供开发者和研究人员使用。DSpark 采用了一种称为推测解码的技术，允许一个较小的草稿模型提前预测多个 token，从而使大型模型能够并行验证它们，而不是逐个生成每个 token。这减少了延迟并改善了用户体验。

根据 DeepSeek 的测试，DSpark 在 DeepSeek-V4-Flash 模型上将每用户 token 生成速度提升了 60% 到 85%，在更大的 DeepSeek-V4-Pro 模型上提升了 57% 到 78%。这些改进还允许系统在相同硬件上处理更多并发用户。在高流量场景下，DSpark 显著优于以前的方法，避免了旧基线遇到的性能瓶颈。

DSpark 的核心思想是使用一个轻量级的“侦察”模型来猜测接下来的几个 token，然后由大型模型快速验证。这种方法在保持准确性的同时提高了速度。DeepSeek 发布了检查点，表明该技术不仅限于其自己的模型，还可以应用于其他开源权重模型，如阿里巴巴的 Qwen 和谷歌的 Gemma。

虽然推测解码并非新概念，但 DSpark 的创新之处在于使其适用于大规模生产系统。DeepSeek 在其最新模型 DeepSeek-V4-Flash（2840 亿参数）和 DeepSeek-V4-Pro（1.6 万亿参数）上测试了 DSpark，这两个模型都支持高达一百万个 token 的上下文窗口，并取得了显著的性能提升。

这一进展发生在围绕人工智能的地缘政治紧张局势加剧之际，美国政府限制了 Anthropic 和 OpenAI 等公司的新模型。尽管如此，DeepSeek 的开源策略继续影响着全球人工智能的发展。通过以宽松的 MIT 许可证发布 DSpark，DeepSeek 消除了商业和学术使用的障碍，可能加速更快、更高效的人工智能系统的普及。