黄仁勋倡议的开源联名信，Anthropic为何不愿签名?

本文讨论了AI行业围绕“开放权重”模型的争议，特别是英伟达CEO黄仁勋发起的一封支持开放权重的联名信。众多知名公司如谷歌、Meta、微软等均已签署，但Anthropic明确拒绝。作者分析了“开放权重”的意义，即允许开发者下载、部署和微调模型，而非仅通过API受限使用。文章从背景、研究目的和结论角度展开：背景是行业内对模型是否应该公开权重的辩论，研究目的是解释Anthropic不签名的技术原因，结论是Anthropic的拒绝并非完全反对开源，而是对其前沿模型（如Claude）一旦权重公开后，原始安全措施无法被远程控制，可能被滥用或削弱感到担忧。文章指出，核心分歧在于：开放权重是否必然削弱对强模型安全性的长期控制。最终，讨论将问题从“是否开放”推进到“开放哪一部分模型权重”。