北大联合 DeepSeek 开源 DSpark，大模型推理效率大幅跃升

flyyun

      6月28日消息，北京大学与深度求索（DeepSeek）联合推出大模型推理加速框架 DSpark 并完成开源，该技术有效破解大语言模型高并发场景推理效率难题，同等吞吐量条件下可将单用户文本生成速度提升 60% 至 85%，相关论文、训练代码已上线 GitHub 开放共享。