一年后，DeepSeek-R1的每token成本降到了原来的1/32

本文背景介绍了DeepSeek-R1作为一款高效开源推理大模型，其发布后推动了行业趋势。研究目的是探讨英伟达如何通过软硬件协同优化，在Blackwell架构上显著提升DeepSeek-R1的推理性能并降低成本。具体措施包括利用NVIDIA TensorRT-LLM软件、GB200 NVL72系统架构、NVFP4数据格式以及多token预测等技术，优化计算和通信效率。结论表明，通过上述深度协同设计，自2025年1月以来，DeepSeek-R1的吞吐量提升了约36倍，每token成本降至原来的1/32，实现了在多种应用场景中的性能增益。