普林斯顿陈丹琦团队：免微调破解长文本衰退，推理性能提升25%

背景：随着大模型上下文窗口的扩展，模型在处理长文本时出现“Context Rot”现象，即性能随输入长度增加而显著衰退。研究目的：为解决此问题，普林斯顿陈丹琦团队提出了一种无需微调的动态注意力缩放解码算法DYSCO，旨在通过干预解码过程来提升模型的长文本推理能力。结论：DYSCO算法通过聚合、选择和重缩放三个阶段，动态聚焦关键上下文，实验表明其在多项长文本基准测试中显著提升模型性能（如相对提升达25%），且计算开销小，为增强大模型长文本处理提供了低成本工程路径。