人工智能的的可解释性分析–以自然语言处理为例
Date:
机器学习和深度学习的可解释性指的是以受众可理解的，直截了当的方式解释模型预测值的程度。近年来，深度学习已经在自然语言处理中取得成功应用，大幅度提升了各种任务的性能，但由于其内在复杂性，可理解性和可解释性不够令人满意，也妨碍了深度学习方法的进一步推广。该报告首先介绍什么是可解释性分析，自然语言处理中有哪些可解释性分析任务，可解释性分析的目的，然后从理解模型部件的功能属性、解释模型预测的行为、模型诊断三个方面介绍可解释性分析在自然语言处理领域的发展现状，最后讨论了未来的研究趋势。