首页 > 材料科学

AI安全≠科幻危机！人工智能安全需“接地气” | Nature Machine Intelligence

今日新材料 2025-04-21 09:16
文章摘要
本文探讨了人工智能（AI）安全的核心挑战，指出公众对AI安全的误解主要集中在科幻式的“存在性风险”上，而实际上AI安全更应关注现实中的技术问题，如系统漏洞、数据偏见和对抗攻击。研究通过对全球383篇论文的系统分析，发现仅有4.2%的论文涉及存在性风险，而超过75%的研究集中在现实挑战上。文章强调AI安全应被视为技术安全工程的延伸，并提出构建“包容性安全框架”的建议，包括技术、治理和社会层面的改进。未来，AI安全需要在短期和长期内分别解决模型监控工具开发和价值观对齐机制等问题。
AI安全≠科幻危机！人工智能安全需“接地气” | Nature Machine Intelligence
查看文献： AI safety for everyone
查看期刊：Nature Machine Intelligence
阅读全文
本站注明稿件来源为其他媒体的文/图等稿件均为转载稿，本站转载出于非商业性的教育和科研之目的，并不意味着赞同其观点或证实其内容的真实性。如转载稿涉及版权等问题，请作者速来电或来函联系。
推荐文献
Journal of Field Robotics Journal of Field Robotics
Issue Information
DOI: 10.1002/rob.70145 Pub Date : 2025-12-17
IF 5.2 2区 计算机科学 Q2
Journal of Field Robotics
Journal of Bionic Engineering Journal of Bionic Engineering
Fatigue Detection with Multimodal Physiological Signals via Uncertainty-Aware Deep Transfer Learning
DOI: 10.1007/s42235-025-00827-0 Pub Date : 2026-01-13
IF 5.8 3区 计算机科学 Q1
Journal of Bionic Engineering
Nature Machine Intelligence Nature Machine Intelligence
Attributing and situating knowledge cannot be left to language models
DOI: 10.1038/s42256-026-01193-0 Pub Date : 2026-02-06
IF 23.8 1区 计算机科学 Q1
Nature Machine Intelligence
最新文章
北京交通大学唐爱伟团队ACS Nano :通过组分调控实现Ag-In-Ga-S纳米晶的光谱窄化
北京交通大学唐爱伟团队ACS Nano :通过组分调控实现Ag-In-Ga-S纳米晶的光谱窄化
I-III-VI族半导体纳米晶(NCs)由于其高发光效率、光谱可调以及可溶液加工等优势引起了研究者的广泛关注。然而由于其多缺陷态发光的特性，导致其发光峰线宽较宽，色纯度较差，限制了其在显示领域的应用。
19小时前
东北林业大学Adv. Optical Mater.：手性光子材料!
东北林业大学Adv. Optical Mater.：手性光子材料!
研究背景由天然聚合物形成的胆甾相液晶在结构色和圆偏振光学材料中具有重要应用价值。然而，如何通过简单有效的手性转移策略，构建具有精细可控手性光学性能、可定制的圆偏振光学材料，仍然是一个巨大的挑战。纤维素
19小时前
贵金属回收，Nature Water！
贵金属回收，Nature Water！
特别说明：本文由米测技术中心原创撰写，旨在分享相关科研知识。因学识有限，难免有所疏漏和错误，请读者批判性阅读，也恳请大方之家批评指正。编辑丨风云研究背景贵金属如金、银、铂、钯在航空、医疗和能源领域具有
19小时前
青岛能源所，Nature Energy！
青岛能源所，Nature Energy！
特别说明：本文由米测技术中心原创撰写，旨在分享相关科研知识。因学识有限，难免有所疏漏和错误，请读者批判性阅读，也恳请大方之家批评指正。编辑丨风云研究背景钙钛矿太阳能电池（PSCs）在光伏领域展现出巨大
19小时前
今日新材料
中国材料研究学会副理事长周科朝教授领衔！中南大学：拓扑优化压电传感器-共晶镓铟合金 | Advanced Materials
中国材料研究学会副理事长周科朝教授领衔！中南大学：拓扑优化压电传感器-共晶镓铟合金 | Advanced Materials 2026-02-09
研究透视：夸克自旋关联 | Nature
研究透视：夸克自旋关联 | Nature 2026-02-09
研究前沿：冷劲松院士领衔！哈尔滨工业大学，静电增强电子皮肤-机器人感知 | Advanced Materials
研究前沿：冷劲松院士领衔！哈尔滨工业大学，静电增强电子皮肤-机器人感知 | Advanced Materials 2026-02-09
复旦大学吴施伟/袁喆团队：低维层间反铁磁体系-磁翻转动力学 | Nature
复旦大学吴施伟/袁喆团队：低维层间反铁磁体系-磁翻转动力学 | Nature 2026-02-09
研究前沿：北京大学，拉曼光谱与成像 | Nature Photonics
研究前沿：北京大学，拉曼光谱与成像 | Nature Photonics 2026-02-09
热门类别
综合性期刊 物理 法学 地球科学 历史学
相关文章
iMeta高引论文 | 浙大单体中组-揭示新型枯草芽孢杆菌调节肠道屏障稳态的作用机制 青岛能源所，Nature Energy！ 贵金属回收，Nature Water！ 寒假出行：把安全揣进衣兜 【地球科学赋能奈曼乡村振兴】内蒙古奈曼旗风光资源潜力出炉！精细化评估为县域新能源开发划重点
Book学术官方微信
Book学术文献互助
Book学术文献互助群
群 号：604180095
Book学术
文献互助 智能选刊 最新文献 互助须知 联系我们：info@booksci.cn
Book学术提供免费学术资源搜索服务，方便国内外学者检索中英文文献。致力于提供最便捷和优质的服务体验。
Copyright © 2023 Book学术 All rights reserved.
ghs 京公网安备 11010802042870号 京ICP备2023020795号-1