Anthropic：大模型开始意识到自己在想什么！

本文介绍了Anthropic公司关于大模型内省能力的研究。背景是当前大模型在解释自身行为时往往只是基于已输出内容的“续写”，而非真正的内省。研究目的是通过概念注入等受控实验，探究模型是否能感知并区分内部状态与外部输入。结论表明，Claude Opus 4/4.1等先进模型展现出功能性的内省能力，能检测到被植入的概念，并区分“自然”与“异常”的内部状态，这为构建更诚实的AI提供了技术路径，且该能力随模型规模扩大而涌现。