Transformer已死？DeepMind正在押注另一条AGI路线

背景：Transformer模型在长上下文处理、抽象知识层级、适应性及持续学习方面存在局限，特别是灾难性遗忘问题阻碍了AI的持续学习能力。研究目的：谷歌DeepMind团队提出嵌套学习（Nested Learning）框架，基于联想记忆（Associative Memory）概念，旨在通过优化器与架构的协同进化，构建可学习的记忆系统，解决AI模型短期记忆无法转化为长期记忆的问题，实现真正的持续学习。结论：嵌套学习不仅是一种架构创新，更是一种重新理解深度学习的范式，在长上下文和持续学习任务中展现显著优势，可能为AGI（通用人工智能）发展开启新路径，但同时也引发了关于AI安全与伦理的思考。