我国学者在深度学习的不确定性研究方面取得进展

　　相关研究成果以“深度学习的不确定性”和“不确定指导的深度学习”为题，在AAAI/CVPR/NeurIPS/ICLR/TPAMI等会议期刊发表了一系列成果

　　

图1 深层概率分布建模网络

 

 

图2 多模态动态协同方法与理论

　　在国家自然科学基金重点项目（批准号：61732011）资助下，天津大学胡清华研究团队在深度学习不确定性研究方面取得进展。相关研究成果以“深度学习的不确定性”和“不确定指导的深度学习”为题，在AAAI/CVPR/NeurIPS/ICLR/TPAMI等会议期刊发表了一系列成果。

　　开放环境下数据的高度不确定性给机器学习算法的泛化能力和鲁棒性带来了极大的挑战，深度学习模型在处理数据不确定性问题时常表现出脆弱性和弱泛化性，其决策易受到数据不确定性的干扰，基于此，该团队取得以下进展：

　　（1）深度学习不确定度量和信息提取：借助于概率机器学习建模和修复数据不确定性的能力，通过将概率分布建模作为预测表达并与深层模型相结合，提出了深层高斯分布神经网络[TPAMI 2020]和深层非高斯分布神经网络[CVPR 2019, NeurIPS 2018]，从而克服了概率分布建模在端到端深度学习框架下难求导、不稳定、效率低等优化难题，显著提升了深度模型的泛化能力和鲁棒性。研究工作分析了概率分布建模在深度模型中的作用机理，实现了模型效率再优化，将模型核心计算复杂度从立方阶和平方阶分别降低到线性阶和对数阶[CVPR 2020, NeurIPS 2022]。

　　（2）不确定性多模态数据动态融合：揭示了多模态数据具有效用动态特性，提出了基于主观逻辑的多模态不确定性刻画和融合技术，突破了现有多模态协同方法部署后形成“思维定势”的局限。研究工作基于泛化学习理论，理论上证明了动态融合是多模态融合的最优路径，并严格给出了性能提升的理论保证。团队设计的算法在智慧交通、智慧医疗中取得优异性能，相关工作发表在顶级期刊及国际会议[IEEE TPAMI 2022/ICLR 2021/NeurIPS 2021]。