首页 > 计算机科学

普林斯顿陈丹琦团队:免微调破解长文本衰退,推理性能提升25%

机器学习算法与自然语言处理 2026-03-08 00:29
文章摘要
背景:当前大模型在处理长上下文时,普遍存在“Context Rot”现象,即随着输入长度增加,模型推理性能显著下降。研究目的:普林斯顿陈丹琦团队提出一种免训练的DYSCO解码算法,旨在通过动态调整注意力权重,缓解长文本性能衰退。结论:DYSCO算法在不改变模型参数的情况下,有效提升了Qwen3-8B等模型在128K长文本基准上的推理性能,相对提升高达25%,且计算开销小,具备工程应用潜力。
普林斯顿陈丹琦团队:免微调破解长文本衰退,推理性能提升25%
本站注明稿件来源为其他媒体的文/图等稿件均为转载稿,本站转载出于非商业性的教育和科研之目的,并不意味着赞同其观点或证实其内容的真实性。如转载稿涉及版权等问题,请作者速来电或来函联系。
最新文章
大语言模型的自提升:技术综述与未来展望
大语言模型的自提升:技术综述与未来展望
随着大语言模型(LLMs)的持续演进,单纯依赖人类监督进行模型改进的成本日益高昂,且在可扩展性(Scalabi
2026-04-02
首次!OpenClaw又更新,直接合并QQ官方插件
首次!OpenClaw又更新,直接合并QQ官方插件
任务调度能力进一步完善!
2026-04-02
Book学术官方微信
Book学术文献互助
Book学术文献互助群
群 号:604180095
Book学术
文献互助 智能选刊 最新文献 互助须知 联系我们:info@booksci.cn
Book学术提供免费学术资源搜索服务,方便国内外学者检索中英文文献。致力于提供最便捷和优质的服务体验。
Copyright © 2023 Book学术 All rights reserved.
ghs 京公网安备 11010802042870号 京ICP备2023020795号-1