首页 > 医学

Cell Discovery丨陈盛泉/陈洛南团队合作揭示单细胞预训练模型中潜在的安全风险:后门威胁

BioArtMED 2024-12-06 14:30
文章摘要
南开大学陈盛泉副教授团队与中国科学院分子细胞科学卓越创新中心陈洛南研究员合作,在Cell Discovery发表文章,揭示了单细胞预训练模型中潜在的后门攻击风险。研究提出了后门攻击策略scBackdoor,并在scGPT、GeneFormer、scBERT等多个模型上验证了其攻击成功率接近100%。后门攻击通过恶意篡改训练数据或模型,使模型在特定触发条件下输出攻击者指定结果,严重威胁模型的安全性和研究的可信度。研究还提出了多种防御策略,包括数据或模型完整性验证、数据质量控制等,以降低后门攻击的风险。该研究对生物医学研究的准确性和可靠性提出了严峻挑战,未来需要探索更有效的防御方法。
Cell Discovery丨陈盛泉/陈洛南团队合作揭示单细胞预训练模型中潜在的安全风险:后门威胁
本站注明稿件来源为其他媒体的文/图等稿件均为转载稿,本站转载出于非商业性的教育和科研之目的,并不意味着赞同其观点或证实其内容的真实性。如转载稿涉及版权等问题,请作者速来电或来函联系。
Book学术官方微信
Book学术文献互助
Book学术文献互助群
群 号:604180095
Book学术
文献互助 智能选刊 最新文献 互助须知 联系我们:info@booksci.cn
Book学术提供免费学术资源搜索服务,方便国内外学者检索中英文文献。致力于提供最便捷和优质的服务体验。
Copyright © 2023 Book学术 All rights reserved.
ghs 京公网安备 11010802042870号 京ICP备2023020795号-1