System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种基于异构图卷积网络的信息传播预测方法技术_技高网
当前位置: 首页 > 专利查询>华侨大学专利>正文

一种基于异构图卷积网络的信息传播预测方法技术

技术编号:42868598 阅读:14 留言:0更新日期:2024-09-27 17:30
本发明专利技术公开了一种基于异构图卷积网络的信息传播预测方法,包括以下步骤:构建并训练基于异构图卷积网络的信息传播预测模型,用于实现信息传播预测;所述信息传播预测模型的预测过程包括:根据用户社交关系和信息传播序列构建异构图;通过双向图卷积网络从异构图中学习到用户节点的表示;通过时序注意力机制获取用户节点的时序特征;通过结构注意力机制获取用户节点的结构特征;融合时序特征和结构特征以获取最新用户节点表示;多头注意力机制根据最新用户节点进行预测,输出当前信息的传播预测序列。本发明专利技术利用双向图卷积网络来学习用户结构特征、利用注意力机制获取用户的时序特征,充分利用用户特征,从而提高信息传播预测的性能。

【技术实现步骤摘要】

本专利技术涉及信息预测领域,尤其涉及一种基于异构图卷积网络的信息传播预测方法


技术介绍

1、信息传播预测可实现对帖文信息在社交网络中传播路径的有效预测,适合应用于引导帖文的传播预测,预判引导帖文传播情况和传播对象。随着互联网的不断发展,信息传播在当代社会中扮演着至关重要的角色。在线社交媒体、新闻平台和其他数字化的信息交流渠道使得信息传播变得更加广泛、快速和复杂,信息传播预测所面临的挑战也逐渐凸显。所以,分析信息传播特征并有效预测传播路径是当前面临的热门问题。现阶段信息传播预测方法主要有四类:基于扩散模型的方法、基于生成过程的方法、基于特征工程的方法和基于深度学习的方法。基于扩散模型的方法旨在通过模拟信息在网络中的传播过程,预测未来可能参与传播的用户,具有代表性的模型主要有独立传播模型和线性阈值模型。虽然扩散模型在一定程度上反映了信息在社交网络上的传播特点,但是,在真实的社交网络中,网络结构可能会随时间变化,而传统的扩散模型通常假定网络结构是静态的。这样的假设在处理动态网络时会影响模型的预测效果。基于生成过程的方法重点在模拟和建模数据的生成过程,强调每个事件在时间上的概率密度,即事件发生的速率,通过观察时间窗口内实际发生的事件概率,来调整生成模型的参数。基于生成过程的方法通常会对网络结构和信息传播的过程做出一些假设,而这些假设可能不符合真实社交网络中的实际情况,可能使得模型对真实情况的适应性下降。基于特征过程的方法通过对社交网络中节点的静态特征进行提取和建模,训练模型以预测节点的信息传播过程。时间序列建模在信息传播方面的预测任务重具有很强的预测能力,但难以捕捉社交网络中节点的异质性,即节点之间的差异性。社交网络中的用户可能具有不同的兴趣、影响力和行为,但基于特征的方法无法充分表达这些异质性,并且可能受制于数据的稀疏性,难以准确建模未观察到的信息传播过程。

2、随着深度学习的快速发展,许多学者尝试将其应用到信息传播预测的研究中,即基于深度学习的方法,取得了较好的效果。cascn等人提出了一种称为循环级联卷积网络的半监督方法,用于获取级联传播序列中用户转发之间的内在联系。wang等人提出级联增强图卷积网络(ce-gcn),用于提取级联上下文的关联来提升信息传播的预测性能。jin等人引入了超图结构来建模社交网络中的复杂交互,并且提出双通道超图神经网络来实现信息传播预测。yuan等人利用图卷积网络来学习由用户间的社交关系和传播关系构建的异构图,并使用多头注意力机制预测信息传播路径。wang等人提出一种多尺度顺序超图注意模块来捕获用户在不同时间尺度的动态偏好。然而,现有的研究中,例如公开号为cn113807616a和cn113850446a的中国专利技术申请,使用深度学习时仍然存在几点不足:(1)仅仅只考虑前向传播对于预测结果的影响,未考虑用户节点的双向关系对其的影响。(2)未充分考虑级联内部的用户结构特征。因此,考虑社交关系图和传播序列图对于信息传播的影响,构建基于异构图卷机网络的信息传播预测模型,有望成为一种新的处理思路,提高预测效果。


技术实现思路

1、本专利技术的目的在于解决现有技术中的问题,提供一种充分考虑用户节点双向关系以及级联内部用户结构特征的方法。

2、本专利技术解决其技术问题所采用的技术方案是:提供一种基于异构图卷积网络的信息传播预测方法,包括以下步骤:

3、构建基于异构图卷积网络的信息传播预测模型;

4、对所述信息传播预测模型进行训练,获得训练好的信息传播预测模型;

5、利用训练好的信息传播预测模型实现信息传播预测;

6、所述信息传播预测模型的预测过程包括:根据用户社交关系和信息传播序列构建异构图;通过双向图卷积网络从异构图中学习到用户节点的表示;通过时序注意力机制获取用户节点的时序特征;通过结构注意力机制获取用户节点的结构特征;融合时序特征和结构特征以获取最新用户节点表示,融合过程通过相关计算控制两个向量的保留率;多头注意力机制根据最新用户节点进行预测,输出当前信息的传播预测序列,传播预测序列由预测认为会浏览或转发当前信息的用户组成。

7、优选的,所述根据用户社交关系和信息传播序列构建异构图,包括以下步骤:

8、根据用户之间的关注行为构建用户社交关系图gf;

9、根据浏览或转发当前信息的用户构建信息传播序列图gr;

10、将当前信息传播的时间范围划分为t个时间区间{(0,t1],...,(tn-1,tn]...,(tt-1,tmax]},其中tmax表示最大观测时间;

11、结合用户社交关系图gf和信息传播序列图gr构造t个时间段的异构图;g=(g1,g2,...,gn),gi表示第i个时间段的异构图,每个异构图包含了该时间段内的用户社交关系和信息传播关系。

12、优选的,所述通过双向图卷积网络从异构图中学习到用户节点的表示,具体为:

13、基于异构图中的用户社交关系和信息传播关系,构建邻接矩阵d∈r|n|×|n|,|n|表示用户的数量;

14、通过双向图卷积获得双向传播的用户节点,表示为:

15、

16、其中,表示前向传播的用户表示,表示后向传播的用户表示,σ表示激活函数,x(l)表示在l层时的用户表示,df表示邻接矩阵d的转置矩阵,d表示用户节点的维度,表示矩阵参数,l表示bi-gcn的层数;为用户最初表示经过正态分布的初始化后得到的用户节点嵌入表示;

17、采用融合门控机制融合双向传播的用户节点表示,得到新的用户表示ji,表示为:

18、

19、其中,⊙表示点积。

20、优选的,所述通过时序注意力机制获取用户节点的时序特征,其特征在于,包括以下步骤:

21、在t个时间区间内分别定义一个位置嵌入,得到嵌入序列p={p1,p1,...pt},

22、对于用户i,通过双向图卷积网络在不同的时间段中获得的用户表示与位置嵌入相结合得到用户i初步时序其中表示用户i在时间段ti的初步用户时序表示;

23、通过时序注意力机制获得最终时序特征,表示为:

24、t′=lookup(ti),

25、

26、其中,是掩码矩阵,并且ti表示用户i转发或浏览消息的时间段;lookup(·)函数用于将时间段转换为时间嵌入,t’表示时间段ti转换后的时间嵌入;是用户i在第ti时间段的表示,是用户i的最终时序特征;d表示维度。

27、优选的,所述通过结构注意力机制获取用户节点的结构特征,包括以下步骤:

28、构建用户及其上下文用户的传播依赖关系,表示为:

29、

30、其中,分别为上文用户变换矩阵和目标用户变换矩阵,分别为用户i和k的最终时序特征表示,<·>表示内积,eki表示用户i及其上下文用户k的传播依赖关系;

31、通过传播依赖关系计算结构特征,表示为:...

【技术保护点】

1.一种基于异构图卷积网络的信息传播预测方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的基于异构图卷积网络的信息传播预测方法,其特征在于,所述根据用户社交关系和信息传播序列构建异构图,包括以下步骤:

3.根据权利要求1所述的基于异构图卷积网络的信息传播预测方法,其特征在于,所述通过双向图卷积网络从异构图中学习到用户节点的表示,具体为:

4.根据权利要求1所述的基于异构图卷积网络的信息传播预测方法,其特征在于,所述通过时序注意力机制获取用户节点的时序特征,其特征在于,包括以下步骤:

5.根据权利要求1所述的基于异构图卷积网络的信息传播预测方法,其特征在于,所述通过结构注意力机制获取用户节点的结构特征,包括以下步骤:

6.根据权利要求1所述的基于异构图卷积网络的信息传播预测方法,其特征在于,所述融合时序特征和结构特征以获得最新用户节点表示ui,表示为:

7.根据权利要求1所述的基于异构图卷积网络的信息传播预测方法,其特征在于,所述多头注意力机制根据最新用户节点进行预测,包括以下步骤:

8.根据权利要求1所述的基于异构图卷积网络的信息传播预测方法,其特征在于,所述对所述信息传播预测模型进行训练,采用交叉熵损失作为目标函数,表示为:

...

【技术特征摘要】

1.一种基于异构图卷积网络的信息传播预测方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的基于异构图卷积网络的信息传播预测方法,其特征在于,所述根据用户社交关系和信息传播序列构建异构图,包括以下步骤:

3.根据权利要求1所述的基于异构图卷积网络的信息传播预测方法,其特征在于,所述通过双向图卷积网络从异构图中学习到用户节点的表示,具体为:

4.根据权利要求1所述的基于异构图卷积网络的信息传播预测方法,其特征在于,所述通过时序注意力机制获取用户节点的时序特征,其特征在于,包括以下步骤:

5.根据权利要求1所述的...

【专利技术属性】
技术研发人员:李弼程丁吴凯曾荣燊皮慧娟王华珍王成
申请(专利权)人:华侨大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1