解释神经网络：分层反向传播集成学习

《IEEE Transactions on Neural Networks and Learning Systems》：Explaining Neural Networks: Hierarchical Backpropagated Ensemble Learning

　　深层神经网络在决策支持中表现优异，但存在可解释性差和局部特征学习不足的问题。本文创新性地将神经网络建模为分层集成结构，提出HBE模型，使每个神经元既作为基础学习单元又参与前序神经元的集成。该框架通过递进式集成提升模型全局性能，实验证明在保持传统集成模型优势的同时，实现了更高效的动态结构和可解释性优化。

　　

摘要：

深度模型以其复杂的结构和端到端优化特性而著称，在基于现实世界数据提供决策支持方面表现出色。然而，它们决策过程的透明度不足以及难以解释单个神经元的作用，限制了其在许多关键和敏感领域的实际应用。本文受到神经网络与集成模型之间相似性的启发——在集成模型中，性能是通过多个“弱学习器”的协作来实现的。本文提出了一种新的视角，将神经网络重新定义为层次化的集成系统。我们提出了层次化反向传播集成（HBE）模型，在该模型中，每个神经元既作为基础学习器，同时也作为前一层神经元集成的一部分。这一框架将集成学习技术应用于神经网络，使每个神经元能够专注于特定的子任务，同时逐步构建出一个满足全局目标的网络。在真实世界数据上的实验结果表明，这种层次结构增强了传统集成模型的有效性，基于集成的解释方法提供了更好的初始化方式以及动态可调的网络结构，从而提高了训练效率。