超越Transformers！谷歌发布「深度学习架构设计」通用框架Miras｜今日热门论文

本文介绍了四篇热门论文的研究成果。首先，谷歌研究团队提出了一种名为Miras的深度学习架构设计通用框架，该框架通过重新概念化神经架构为关联记忆模块，并引入新的注意力偏差配置和遗忘门机制，显著提升了模型性能，甚至超越了Transformers。其次，伊利诺伊大学香槟分校团队研究了工具学习中的奖励设计问题，提出了一种原则性奖励设计方法，显著提升了大型语言模型在工具使用任务中的性能。第三，浙江大学和vivo团队提出了一种通过人类演示增强移动GUI Agent能力的方法，并开发了LearnGUI数据集和LearnAct框架，显著提高了模型在未见场景中的表现。最后，香港科技大学和蚂蚁集团团队提出了一种名为ThoughtMani的管道，通过插入外部思维链来加速大型推理模型的推理过程，同时保持性能并降低计算成本。