为何无法阻止AI瞎编？训练机制导致它很少承认说“我不知道”

背景：AI语言模型常生成看似合理但实际错误的陈述，即“AI幻觉”现象。研究目的：OpenAI与Georgia Tech的研究团队分析幻觉产生机制，发现当前评估体系鼓励模型猜测而非承认不确定性。结论：通过改进评估标准（对“不知道”给予部分得分、错误答案扣分），GPT-5将幻觉率从75%降至26%，证明调整训练机制可有效提升AI可靠性。