← 返回圈子

刚刚,DeepSeek V4更新DSpark,推理速度提升80%

刚刚,DeepSeek V4 进行了一次更新。
新推出了投机解码(Speculative Decoding)框架DSpark,并同步开源了支撑该版本的全栈推测性解码框架DeepSpec。
DeepSeek-V4-Pro-DSpark 并非全新架构模型,而是在 DeepSeek-V4-Pro 基础上引入了推测性解码模块。此次更新的重点在于工程落地,而非模型能力本身的迭代。
DSpark 已被部署在 DeepSeek-V4(Flash 和 Pro)的真实线上流量中,大幅加速了大语言模型(LLM)的推理速度。

参考链接:https://github.com/deepseek-ai/DeepSpec/blob/main/DSpark_paper.pdfhttps://github.com/deepseek-ai/DeepSpec

评论区

0 条