改掉幻觉=杀死AI？Science曝光大模型「先天死穴」

本文基于《Science》最新研究，探讨大模型难以根除幻觉现象的根本原因。背景方面，研究指出大模型幻觉不仅源于训练数据质量，更与预训练阶段的统计机制密切相关。研究目的旨在揭示当前模型在不确定性情况下倾向于"猜测"而非承认无知的系统性缺陷。结论表明，幻觉问题本质上是训练机制、评估体系与商业模式共同作用的结果：预训练的"下一个词预测"机制使模型难以区分有效与无效信息；主流评估体系的二元评分规则鼓励模型盲目猜测；而商业竞争压力使厂商难以优先考虑真实性。研究强调，通过重构评估机制、在不确定时允许模型说"我不知道"，可有效缓解但无法彻底消除幻觉。