AAAI2026Oral|大模型「爱你在心口难开」？深度隐藏认知让推理更可靠

本文探讨了大语言模型在推理任务中思维链技术的不稳定性问题，指出模型生成的中间步骤可能存在偏差，而表面概率无法可靠反映推理正确性。研究提出模型内部存在一种“隐藏的真伪认知”，即模型在内部激活中隐含对推理正确性的判断。为此，作者设计了一种方法，通过探测模型多层注意力头中的真伪敏感性，构建基于内部表示的置信度预测器，并利用该预测器引导推理路径搜索，以筛选可靠推理链。实验表明，该方法在单模态和多模态推理任务中均能显著提升性能，验证了利用模型内部认知信号增强推理可靠性的有效性。