揭开黑箱之谜：从自然语言处理到大语言模型的可解释性探索

可解释性是破解 AI “黑箱”、解释模型的结构和行为、提升系统可信度与安全性的核心问题，对 AI 技术合规应用与持续优化具有关键意义。该报告系统梳理大语言模型可解释性研究脉络，首先回顾传统自然语言处理领域的可解释方法，并介绍其在对话系统、智能问答等场景的应用；之后，针对大语言模型的能力边界和相应的可解释性新挑战，分享机理可解释性研究框架，重点探讨稀疏自编码器解耦特征重叠、回路分析挖掘特征因果关联、稀疏替代模型构建本质回路等方法，最后展望规模化可解释性研究方向，为大模型可信发展提供理论与技术支撑。