ICLR2026|LightMem：把大模型「长期记忆」的成本打下来

背景：大模型在长对话、多任务交互场景中面临上下文窗口有限和“lost in the middle”问题，现有外部记忆系统因频繁调用大模型、实时更新维护导致成本高昂，工程上难以承受。研究目的：提出LightMem记忆系统，旨在不牺牲准确率的前提下，通过类人记忆的分层机制，降低token消耗、API调用次数和运行时延，实现效果与效率的平衡。结论：LightMem采用三段式管线（感官记忆过滤冗余、短时记忆主题组织、长时记忆离线更新），在LongMemEval等基准测试中准确率提升最高达29.3%，同时显著降低成本（如token消耗降低最高38倍），为长对话助手等应用提供了可部署的轻量解决方案。