「你是专家」竟成AI幻觉毒药？新论文一巴掌揭穿提示词最大骗局

本文探讨了AI模型中“专家人设”提示词的实际效果。背景：过去一年，“你是专家”这类提示词被广泛宣传为提升AI表现的神器，但最新研究揭示了其潜在危害。研究目的：通过实验分析专家人设在不同任务类型中对模型准确率的影响，并探索解决方案。结论：研究发现，专家人设在生成式任务（如安全防御、风格控制）中能提升表现，但在依赖预训练知识的判别式任务（如事实检索、数学计算）中会显著降低准确率，导致模型以专业方式输出错误信息。为此，研究人员提出了PRISM算法，通过意图路由动态分配人设，在保持生成任务优势的同时，确保知识检索的准确性，实现模型性能的优化。