一种节点信息聚合的方法、装置、电子设备及存储介质制造方法及图纸

本申请实施例公开了一种节点信息聚合的方法、装置、电子设备及存储介质，用于注意力机制中考虑了节点信息和拓扑结构信息，使得学习获得的权重更有效，能更好地进行节点信息聚合操作。本申请实施例方法包括：根据基于节点信息的注意力机制，生成基于节点信息的权重；根据基于拓扑结构信息的注意力机制，生成基于拓扑结构信息的权重；根据所述基于节点信息的权重和所述基于拓扑结构信息的权重，计算整体注意力权重；根据所述整体注意力权重，进行节点信息聚合。信息聚合。信息聚合。

【技术实现步骤摘要】
一种节点信息聚合的方法、装置、电子设备及存储介质


[0001]本申请涉及图神经网络领域，尤其涉及一种节点信息聚合的方法、装置、电子设备及存储介质。

技术介绍

[0002]图注意力神经网络(Graph Attention Network，GAT)的特点是将注意力机制引入图神经网络(Graph Neural Network，GNN)，目前GAT的注意力机制都是基于节点信息的，因为参考的特征有限，所以得到的结果也不够准确。比如通过对比节点信息的相似性确定节点间的相对权重，节点信息相似度越大分配的权重也越大，反之越小，之后GAT会利用学到的权重进行节点信息聚合，获得新的节点特征，于是就可以用所学到的特征进行相关任务。

技术实现思路

[0003]本申请实施例提供了一种节点信息聚合的方法、装置、电子设备及存储介质，用于注意力机制中考虑了节点信息和拓扑结构信息，使得学习获得的权重更有效，能更好地进行节点信息聚合操作。
[0004]本申请第一方面提供一种节点信息聚合的方法，可以包括：
[0005]根据基于节点信息的注意力机制，生成基于节点信息的权重；
[0006]根据基于拓扑结构信息的注意力机制，生成基于拓扑结构信息的权重；
[0007]根据所述基于节点信息的权重和所述基于拓扑结构信息的权重，计算整体注意力权重；
[0008]根据所述整体注意力权重，进行节点信息聚合。
[0009]本申请第二方面提供一种节点信息聚合的装置，可以包括：
[0010]生成模块，用于根据基于节点信息的注意力机制，生成基于节点信息的权重；根据基于拓扑结构信息的注意力机制，生成基于拓扑结构信息的权重；
[0011]处理模块，用于根据所述基于节点信息的权重和所述基于拓扑结构信息的权重，计算整体注意力权重；根据所述整体注意力权重，进行节点信息聚合。
[0012]本申请第三方面提供一种电子设备，可以包括本申请第二方面所述的节点信息聚合的装置。
[0013]本申请第四方面提供一种电子设备，可以包括：
[0014]存储有可执行程序代码的存储器；
[0015]与所述存储器耦合的处理器；
[0016]所述处理器用于对应执行如本申请第一方面所述的方法。
[0017]本申请实施例又一方面提供一种计算机可读存储介质，包括指令，当其在处理器上运行时，使得处理器执行本申请第一方面所述的方法。
[0018]本申请实施例又一方面公开一种计算机程序产品，当所述计算机程序产品在计算机上运行时，使得所述计算机执行本申请第一方面所述的方法。
[0019]本申请实施例又一方面公开一种应用发布平台，所述应用发布平台用于发布计算机程序产品，其中，当所述计算机程序产品在计算机上运行时，使得所述计算机执行本申请第一方面所述的方法。
[0020]从以上技术方案可以看出，本申请实施例具有以下优点：
[0021]在本申请实施例中，根据基于节点信息的注意力机制，生成基于节点信息的权重；根据基于拓扑结构信息的注意力机制，生成基于拓扑结构信息的权重；根据所述基于节点信息的权重和所述基于拓扑结构信息的权重，计算整体注意力权重；根据所述整体注意力权重，进行节点信息聚合。在注意力机制中考虑了节点信息和拓扑结构信息，使得学习获得的权重更有效，能更好地进行节点信息聚合操作。
附图说明
[0022]为了更清楚地说明本申请实施例技术方案，下面将对实施例和现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，还可以根据这些附图获得其它的附图。
[0023]图1为本申请实施例中节点信息聚合的方法的一个实施例示意图；
[0024]图2A为本申请实施例中基于节点信息的注意力机制的一个示意图；
[0025]图2B为本申请实施例中拓扑结构系数向量生成的一个示意图；
[0026]图2C为本申请实施例中整体注意力机制的加权过程的示意图；
[0027]图2D为本申请实施例中节点信息聚合的示意图；
[0028]图2E为本申请实施例中模型整体框架的一个示意图；
[0029]图3为本申请NGAT和传统GAT性能对比的一个示意图
[0030]图4为本申请实施例中节点信息聚合的装置的一个实施例示意图；
[0031]图5为本申请实施例中电子设备的一个实施例示意图；
[0032]图6为本申请实施例中电子设备的另一个实施例示意图。
具体实施方式
[0033]本申请实施例提供了一种节点信息聚合的方法、装置、电子设备及存储介质，用于注意力机制中考虑了节点信息和拓扑结构信息，使得学习获得的权重更有效，能更好地进行节点信息聚合操作。
[0034]为了使本
的人员更好地理解本申请方案，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行描述，显然，所描述的实施例仅仅是本申请一部分的实施例，而不是全部的实施例。基于本申请中的实施例，都应当属于本申请保护的范围。
[0035]当前图神经网络(Graph Neural Network，GNN)在图结构数据的处理方式上主要分为谱方法和非谱方法。谱方法是基于图的谱表征，通过图拉普拉斯算子的特征分解，在傅里叶域中定义的卷积运算，需要进行密集的矩阵计算和非局部空间的滤波计算。非谱方法是直接在图上进行卷积而不是在图的谱上。这种方法的挑战之一是如何定义一个运算来确定采样领域大小，并学习两两节点的相对权重，保证参数共享机制。最常见的就是图注意力神经网络(Graph Attention Network，GAT)，其定义了一个一阶采样领域，通过注意力机制对比节点信息确定两两节点的相对权重，再进行节点信息聚合生成新特征，新特征则可以
进行各种相关任务，例如节点分类、节点聚类、链接预测等。而目前注意力机制对权重的判定主要是基于节点信息，而忽视了图的拓扑结构信息，这对图数据的表征学习是不利的。
[0036]图注意力神经网络(GAT)的特点是将注意力机制引入图神经网络(GNN)，目前GAT的注意力机制都是基于节点信息的机制。比如通过对比节点信息的相似性确定节点间的相对权重，节点信息相似度越大分配的权重也越大，反之越小，之后GAT会利用学到的权重进行节点信息聚合，获得新的节点特征，于是就可以用所学到新的节点特征进行相关任务。但是，基于节点信息的注意力机制有很多的弊端，最重要的一点就是忽视了拓扑结构信息，所以导致节点信息聚合结果不够准确。
[0037]传统的GAT的注意力机制是基于节点信息的，这种注意力机制没用充分利用图结构数据。图结构数据中蕴含着丰富的拓扑结构信息，而传统GAT却没有利用，导致传统GAT的性能不够高。
[0038]本申请中的电子设备可称之服务器、用户设备(user equipment，UE)、移动台(mobile station，MS)、移动终端(mobile terminal)、智能终端等，所述电子本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种节点信息聚合的方法，其特征在于，包括：根据基于节点信息的注意力机制，生成基于节点信息的权重；根据基于拓扑结构信息的注意力机制，生成基于拓扑结构信息的权重；根据所述基于节点信息的权重和所述基于拓扑结构信息的权重，计算整体注意力权重；根据所述整体注意力权重，进行节点信息聚合。2.根据权利要求1所述的方法，其特征在于，所述根据基于拓扑结构信息的注意力机制，生成基于拓扑结构信息的权重，包括：利用拓扑结构信息，通过邻接向量和邻接矩阵相乘，得到两两节点之间对应的权重。3.根据权利要求1所述的方法，其特征在于，所述基于节点信息的权重衡量两个节点之间节点信息的相关性；所述基于节点信息的权重越大，表明节点信息相似度越高；所述基于节点信息的权重越小，表明节点信息相似度越低。4.根据权利要求1
‑
3中任一项所述的方法，其特征在于，所述根据所述基于节点信息的权重和所述基于拓扑结构信息的权重，计算整体注意力权重，包括：获取所述基于节点信息的权重和所述基于拓扑结构信息的权重之间的权衡参数；根据所述基于节点信息的权重、所述基于拓扑结构信息的权重，及所述权衡参数，计算整体注意力权重。5.根据权利要求4所述的方法，其特征在于，所述根据所述基于节点信息的权重、所述基于拓扑结构信息的权重，及所述权衡参数，计算整体注意力权重，包括：根据所述第一公式，计算整体注意力权重；所述第一公式为：其中，a
ij
为所述整体注意力权重，r
f
与r
s
为所述权衡参数，f
ij
为节点i的邻居节点j对于节点i的基于节点信息的权重，s
ij
为节点i的邻居节点j对于节点i的基于拓扑结构信息的权重，f
ik...

【专利技术属性】
技术研发人员：陈勇，谢小竹，翁伟，
申请(专利权)人：厦门理工学院，
类型：发明
国别省市：