GT-A2T:基于图张量联盟注意力网络的动态图精准表示方法

《IEEE/CAA Journal of Automatica Sinica》:GT-A2T: Graph Tensor Alliance Attention Network

【字体: 时间:2025年11月27日 来源:IEEE/CAA Journal of Automatica Sinica 19.2

编辑推荐:

  本刊推荐一项针对动态图表示学习的重要研究。为解决现有动态图神经网络在时空依赖建模和高阶结构信息利用方面的不足,研究人员提出了GT-A2T(图张量联盟注意力网络)。该模型通过张量积构建统一的时空消息传播框架,并创新性地融合节点特征相关性(FC)与高阶结构相关性(HoSC)形成联盟注意力机制。实验表明,该方法在缺失链接权重估计和链接预测任务中显著优于WDGCN、EvolveGCN等主流模型,为社交网络、交通网络等动态图分析提供了新思路。

  
在当今大数据时代,动态图(DG)已成为社交网络、交通系统和金融交易等领域不可或缺的数据表征形式。这类数据不仅包含复杂的空间连接关系,还蕴含着随时间演变的动态规律。然而,传统动态图神经网络(DGNNs)在捕捉这类数据的时空特性时面临两大挑战:一是采用分离的时空建模方式破坏了时空依赖的整体性,二是过度依赖节点特征而忽略了高阶结构信息的重要性。这些局限使得现有模型在链接权重估计、关系预测等关键任务中的表现难以满足实际应用需求。
针对这一难题,王玲等人发表在《IEEE/CAA Journal of Automatica Sinica》的研究提出了创新性的解决方案——GT-A2T(Graph Tensor Alliance Attention Network)。该模型通过张量运算的巧妙设计,实现了时空依赖的统一建模,并开创性地将特征相关性与结构相关性融合为"联盟注意力"机制,显著提升了动态图表示的准确性与鲁棒性。
研究团队采用了几项核心技术方法:首先构建基于张量积(Tensor Product)的时空消息传播框架,通过M变换(M-transform)和面乘(Face-wise Product)分别处理时间和空间维度的信息传递;其次利用CP张量分解(Canonical Polyadic Tensor Factorization)提取高阶结构相关性;最后通过注意力融合机制将特征注意力(Feature Correlation)与结构注意力(Structural Correlation)结合形成联盟注意力(Alliance Attention)。实验采用Math-overflow、Ask-ubuntu等四个真实动态图数据集,与WDGCN、EvolveGCN等五个基线模型进行对比验证。
时空消息传播框架
研究人员创新性地将动态图表示为邻接张量A∈RN×N×T和节点特征张量X∈RN×d×T,通过定义张量积运算构建统一的消息传播方程:H(l)=σ(O(l-1)H(l-1)W(l-1))。该框架包含两个关键步骤:时间维度的M变换通过带状混合矩阵实现历史信息的加权聚合,空间维度的面乘运算完成邻居节点特征的传播。这种设计确保了每个时间片的表示既包含当前图结构信息,又融合了时间相邻图的上下文特征。
联盟注意力机制
研究提出联盟注意力分数计算公式oijt=(fijt×sijt)/∑k∈N(i)fikt×sikt,其中fijt代表基于节点特征的传统注意力,sijt表示通过CP张量分解提取的归一化结构相关性。该机制使模型在聚合节点特征时同时考虑局部特征相似性和全局结构关联,有效解决了传统方法忽视高阶结构信息的问题。可视化分析显示,联盟注意力能够识别出纯特征方法难以发现的深层节点关联模式。
模型优化与实验验证
采用端到端训练策略优化目标函数?(θ)=Ltask+λ‖A-?‖22+τ‖θ‖22,在四个标准数据集上进行了系统评估。在缺失链接权重估计任务中,GT-A2T在D1数据集上的MAE指标达到0.31534,较最佳基线模型提升6.07%;在链接预测任务中,F1-score达到0.85016,提升幅度达2.09%。消融实验进一步证实了高阶结构相关性的重要性——移除该组件后模型性能下降达5.15%,甚至超过移除特征相关性的影响(2.91%),表明结构信息在动态图表示中具有独特价值。
相关性分布分析
通过可视化D1数据集中前6个节点的注意力分布,研究发现联盟注意力、结构相关性和特征相关性呈现出明显不同的模式。例如节点1的不同邻居在这些相关性指标上表现出显著差异,证明GT-A2T能够捕捉多维度的节点关联特征。这种多角度相关性学习机制使模型能够适应各种复杂的动态图分析场景,为理解动态图中节点交互的深层机制提供了新的视角。
这项研究的重要意义在于突破了传统动态图神经网络的建模局限,通过张量运算的统一框架和联盟注意力机制,实现了时空依赖的协同建模与多源信息的有效融合。GT-A2T在多个真实数据集上的卓越表现,证明了其在动态图分析领域的实用价值与发展潜力。尽管模型性能仍受超参数选择的影响,但研究团队计划通过进化计算等智能优化方法进一步改进这一不足。未来工作中,探索Tucker分解、张量环(Tensor-Ring)等更先进的张量分解方法在捕捉动态图高阶相关性方面的应用,将成为重要的研究方向。这项成果不仅为动态图分析提供了新的技术工具,也为复杂时空数据的表示学习开辟了新的思路。
相关新闻
生物通微信公众号
微信
新浪微博
  • 急聘职位
  • 高薪职位

知名企业招聘

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号