不用堆算力,华大新出的 Gengram,重新定义基因组建模
数据派THU
2026-02-27 17:00
文章摘要
背景:基因组基础模型是解码生命密码的核心工具,但现有基于Transformer的模型存在依赖大规模预训练、计算效率低下且在基序检测任务中表现受限等短板。研究目的:华大Genos团队受DeepSeek启发,旨在开发一个轻量级插件Gengram,通过显式的基序记忆机制来提升基因组模型的性能与效率。结论:Gengram作为约2000万参数的轻量条件记忆模块,通过基于k-mer的哈希记忆和局部窗口聚合等创新设计,直接存储和复用多碱基基序,在多项功能基因组学任务中实现了最高22.6%的性能提升,且展现出更高的数据训练效率,为基因组建模提供了革命性的解决方案。
本站注明稿件来源为其他媒体的文/图等稿件均为转载稿,本站转载出于非商业性的教育和科研之目的,并不意味着赞同其观点或证实其内容的真实性。如转载稿涉及版权等问题,请作者速来电或来函联系。