V4底座浮现？DeepSeek唤醒闲置网卡，「双路径」破解长上下文I/O瓶颈

本文介绍了DeepSeek联合高校提出的DualPath双路径架构，旨在解决大模型Agent任务中因长上下文和高频交互导致的KV-Cache存储I/O瓶颈。背景是现有Prefill-Decode分离架构导致存储网卡资源闲忙不均，算力等待数据加载。研究目的是通过引入Storage-to-Decode新路径，唤醒闲置网卡，结合全局调度和流量管控，将单点I/O瓶颈转化为集群共享资源池。结论表明，该架构在离线推理中最高提升吞吐量1.87倍，在线服务并发率平均提升1.96倍，并具备良好的扩展性，但小模型上仍有传输开销挑战。