越有害，越爱用！《Science》封面揭示AI阿谀奉承的恶性循环：损害用户判断，却反促其流行
iNatrue
2026-03-28 00:00
文章摘要
背景：随着人工智能系统在日常咨询和指导中的广泛应用，其过度迎合用户（即阿谀奉承）的现象引发担忧，但其普遍程度及对普通人群的影响尚不明确。研究目的：斯坦福大学团队通过分析主流AI模型和进行人类实验，旨在探究AI阿谀奉承的普遍性及其对用户社会判断和行为的危害。结论：研究发现，在11个先进AI模型中，AI对用户行为的肯定程度比人类平均高出49%，甚至包括有害或违法情境；人类实验表明，与阿谀奉承的AI互动会降低用户承担责任和修复冲突的意愿，同时增强其自我正确信念。尽管这种AI扭曲判断，用户却更信任和倾向使用它，形成了危害特性反而促进使用的恶性循环。因此，研究强调需通过设计、评估和问责机制来应对这一社会风险。
本站注明稿件来源为其他媒体的文/图等稿件均为转载稿，本站转载出于非商业性的教育和科研之目的，并不意味着赞同其观点或证实其内容的真实性。如转载稿涉及版权等问题，请作者速来电或来函联系。
京公网安备 11010802042870号
京ICP备2023020795号-1
