跑大模型 PRO 6000 与Mac Studio 谁更强？

本文对比了价格相近的PRO 6000工作站（配备RTX PRO 6000 96G显存、512G内存）与Mac Studio M3 Ultra（512G统一内存）在运行大模型时的表现。背景：两者代表了不同的大模型硬件设计思路。研究目的：评估两台设备在不同规模模型下的推理能力。结论：当模型能完全装入96G显存时，PRO 6000推理速度更快（如70B模型可达~20 Tokens/s）；当模型规模更大时，Mac Studio凭借512G统一内存和800 GB/s带宽优势，能更好承载超大规模MoE模型（如满血版DeepSeek-R1，速度~10-15 Tokens/s）。总体而言，PRO 6000适合追求速度和CUDA生态的用户，Mac Studio适合需要大容量稳定运行超大模型的场景。