AI安全≠科幻危机！人工智能安全需“接地气” | Nature Machine Intelligence
今日新材料
2025-04-21 09:16
文章摘要
本文探讨了人工智能（AI）安全的核心挑战，指出公众对AI安全的误解主要集中在科幻式的“存在性风险”上，而实际上AI安全更应关注现实中的技术问题，如系统漏洞、数据偏见和对抗攻击。研究通过对全球383篇论文的系统分析，发现仅有4.2%的论文涉及存在性风险，而超过75%的研究集中在现实挑战上。文章强调AI安全应被视为技术安全工程的延伸，并提出构建“包容性安全框架”的建议，包括技术、治理和社会层面的改进。未来，AI安全需要在短期和长期内分别解决模型监控工具开发和价值观对齐机制等问题。
本站注明稿件来源为其他媒体的文/图等稿件均为转载稿，本站转载出于非商业性的教育和科研之目的，并不意味着赞同其观点或证实其内容的真实性。如转载稿涉及版权等问题，请作者速来电或来函联系。
京公网安备 11010802042870号
京ICP备2023020795号-1
