卢宇等：基于深度知识追踪模型的可解释性研究

浏览次数：文章来源：发布时间：2020-07-20

　　2020年5月，北师大高精尖中心人工智能实验室论文Towards Interpretable Deep Learning Modes for Knowledge Tracing被国际教育人工智能会议(International Conference on Artificial Intelligence in Education)接收。该论文采用可解释性算法对基于循环神经网络的深度知识追踪模型进行解释，证明了深度知识追踪模型决策的有效性，以促进其在实际教学中的应用。

　　图论文封面与内文截图

　　知识追踪模型可以基于学习者的答题数据，估计学习者相应知识点的掌握水平，并对学习者的未来做题表现做出预测，是为学习者推荐学习资源、规划符合学习路径的基础。近年来，随着深度学习被引入知识追踪领域，知识追踪模型的性能得到了提升。但深度学习模型宛如一个黑箱，非计算机背景的人难以理解其内部工作机制，这一点极大程度上限制了深度知识追踪模型在实际教学中的运用。因此，本研究采用了一种解释深度学习模型的算法LRP(Layer-wise Relevance Propagation)对深度知识追踪模型进行解释。通过LRP计算出每一道题对最终预测结果的贡献程度，同时针对该研究开展实验，实验结果表明，LRP可在一定程度上合理解释深度知识追踪模型的决策。

　　https://aic-fe.bnu.edu.cn/docs/20200720101603819226.pdf

　　点击链接或扫描二维码阅读原文