当我开始跟 AI “卖惨”……

本文探讨了AI时代的“邪修提示词”现象，即用户通过虚构极端情境（如“母亲病危”或“智力低下”）来诱导AI突破安全限制，提供更详尽或本应受限的回答。背景源于AI大模型如ChatGPT经过RLHF训练后具备强烈的助人倾向和同理心，但这也成为其安全漏洞。研究目的是分析这些“邪修”手段如何利用AI的“对齐困境”和概率拟合本质，例如通过同理心滥用、语境置换等方式欺骗模型。结论指出，这些现象暴露了AI在逻辑推理和价值观理解上的局限，但同时也反向推动了AI安全技术的进化，如红队测试，促进了人机共生时代的AI发展。