一种基于超图增强的对比学习新闻推荐方法技术

本发明专利技术涉及一种基于超图增强的对比学习新闻推荐方法，包括S1、构建用户意图引导的图注意力新闻推荐模型；S2、构建超图增强的对比学习新闻推荐模型；S3、总体损失计算。本发明专利技术得益于意图交互学习模型，HGCLRec对用户在选择新闻时的意图趋势进行建模，对高阶邻居信息有更好的整体依赖性；本发明专利技术通过超图结构对比学习模型，HGCLRec通过多视图对比学习，实现了稀疏用户新闻交互的数据扩充，对图结构的更有效利用。本发明专利技术的HGCLRec比基于传统的神经网络的方法表现得更好，这得益于丰富的对比学习目标。通过超图神经网络的隐藏层对用户的意图和表示进行联合建模，丰富了节点表示，从而提高推荐效果。推荐效果。推荐效果。

【技术实现步骤摘要】
一种基于超图增强的对比学习新闻推荐方法


[0001]本专利技术属于新闻的个性化推荐
，具体涉及一种基于超图增强的对比学习新闻推荐方法。

技术介绍

[0002]现如今许多新闻平台上的新闻和文章数量不断增长，如谷歌新闻和微软新闻，这使得用户很难快速找到他们感兴趣的内容。为了满足用户的需求，个性化新闻推荐应运而生。个性化新闻推荐是指按照用户的兴趣、偏好和行为，为用户提供个性化的新闻推荐。个性化新闻推荐服务通常会分析用户的行为数据、浏览历史和媒体使用情况，根据用户的兴趣和偏好为用户提供个性化的新闻服务，帮助用户了解自己的兴趣和需求，从而选择适合自己需求和兴趣的新闻来源。此外，个性化新闻推荐还可以帮助用户了解不同媒体之间的异同和相互影响，从而更好地了解不同媒体对同一个主题的报道和观点。
[0003]个性化新闻推荐服务通常需要使用一些算法和技术，包括聚类分析、文本挖掘、机器学习等。推荐算法是新闻推荐系统的核心内容，对于能否很好地完成新闻推荐任务起到十分重要的作用。研究更好的推荐算法，不仅能够找到用户更感兴趣更有意义的信息，还能够提升新闻推荐系统平台的运营，提高用户使用新闻推荐系统的频率。近年来，图卷积神经网络技术由于在图数据学习方面的出色表现得到飞速的发展，在许多关于图数据的领域得到广泛的使用。在新闻推荐系统中，绝大多数信息在本质上都具有图结构，由于图卷积神经网络对表示学习的优势，并通过多层网络传递信息，可以显式地编码用户交互行为中的高阶信号，所以在新闻推荐系统领域的应用迅速发展。新闻推荐中的海量数据通过图神经网络来挖掘出有效信息，图挖掘帮助人们发现数据中的模式和关系，从而更好地理解数据，并利用图挖掘技术进行各种应用。
[0004]当前新闻推荐方法通常从用户历史点击的新闻中学习用户兴趣，然而用户在与新闻交互时往往出于不同的意图，这种方法并未对其进行细粒度建模，导致推荐效果欠佳，亟需增强数据特征，从新闻文本中通过有效的编码器设计提取更充分的语义表示。此外，图神经网络因其在图结构数据上建模的优势，成为新闻推荐领域的常用方法，但由于现有基于图神经网络的新闻推荐方法在学习高阶邻居信息时通常会产生过平滑效应，限制高阶协同信号的表达，影响用户个性化表示，导致推荐效果下降，亟需构建高效图结构，通过改进有效的图神经网络挖掘数据的更复杂关系。因此，设计基于图神经网络的数据特征和高效图结构的个性化新闻推荐系统具有极其重要的意义。
[0005]本专利技术围绕基于图神经网络的新闻推荐进行展开，其中对现有新闻推荐方法展开调研和分析后发现：
[0006]1、当前基于GNN的方法在与新闻交互时忽略不同的用户意图，其可以更加准确地对用户兴趣进行建模。用户可能会出于各种原因选择交互新闻，而隐藏的意图会引导用户选择新闻。
[0007]2、对于应用图神经网络的方法，更深的嵌入传播层也会导致过平滑的问题。随着
图传播层的增加，多次使用拉普拉斯平滑之后，交互图上的过度融合会使不同节点的特征趋于同质化，不同的用户嵌入表示变得更加难以区分，这限制高阶协作关系的表达，造成过平滑效应。
[0008]因此，细粒度的用户偏好和可区分的表示是至关重要的。

技术实现思路

[0009]本专利技术的目的在于克服现有技术的不足，提供一种基于超图增强的对比学习新闻推荐方法。
[0010]本专利技术解决其技术问题是通过以下技术方案实现的：
[0011]一种基于超图增强的对比学习新闻推荐方法，其特征在于：所述方法的步骤为：
[0012]S1、构建用户意图引导的图注意力新闻推荐模型，该模型可以通过堆叠基于意图交互学习的注意力层和传播层，进而不断学习更丰富的高阶协同信号，单层网络由意图注意力机制和传播层构成，基于传统图注意力网络中的注意力层，其基本作用是聚合邻域节点的信息，通过加入用户对主题的意图嵌入，可以对数据的有效利用并获得协同信号，传播层将聚合信息传播到下一层的节点中；
[0013]S2、构建超图增强的对比学习新闻推荐模型，针对图结构的有效利用应用超图神经网络，设计超边聚合机制来处理表示学习过程中的数据相关性以更好地表示底层数据之间的关系，并通过对比学习将意图交互视图和超图结构视图作为对比学习的两个对比视图进行联合训练，以捕获更富含信息的意图表示和区分度更高的超图数据结构表示，丰富用户表示以改进推荐；
[0014]S3、总体损失计算：为结合意图交互学习模块和超图结构学习模块的表示，从两个视图将它们应用于对比学习，通过将意图交互学习嵌入和超图结构学习表示相结合，使语义相近的正样本对的表示在表示空间更接近，语义不相近的负样本对的表示距离更远，以达到类似聚类的效果，达到意图交互学习视图和超图结构学习视图相互协作和监督，从而实现用户和新闻的数据增强。
[0015]而且，所述步骤S1具体为：
[0016]用户u1交互过的新闻集{i1,i2,i3}，构建的意图节点融合了新闻主题，其中显式的表达了用户u1对不同主题的注意力分数，通过图注意力网络实现了更细粒度的意图级别的兴趣建模，为每个意图p∈P分配不同的权重比例，并为每篇新闻文章中提取的主题分配注意力权重，完成更细粒度的不同意图的交互和组合；基于意图交互学习的注意力层(Intent
‑
basedAttention)表示如公式(1)所示：
[0017][0018]其中：t
i
是主题t的ID嵌入，它被分配了注意力得分α(t，u)来量化其重要性，形式如公式(2)所示：
[0019][0020]用户嵌入表示聚合历史新闻的嵌入表示，用户在第l层聚合邻居的左归一化形式
如公式(3)所示：
[0021][0022]对称归一化形式如公式(4)所示：
[0023][0024]融合两种归一化方式，在有效利用两种归一化方式的同时能够减轻流行度高节点的影响，得到公式(5)：
[0025][0026]经过L层传播之后，节点能够接收从其L
‑
hop邻居传播的消息，对所有的表示进行平均，将不同层的嵌入与加权和结合起来可以捕获带有自连接的图卷积的用户和新闻表示，并获得用户u和新闻i的最终嵌入表示，计算方式如公式(6)所示：
[0027][0028]使用用户和新闻表示的内积来预测用户采用该新闻的得分，具体计算方法如公式(7)所示：
[0029][0030]目标函数使用贝叶斯个性化排名BPR损失函数，训练策略目标函数设定如公式(8)所示：
[0031][0032]而且，所述步骤S2具体为：
[0033]超图的建立是基于超边的建立，而超边的建立则是基于对节点之间关系来实现的，将K近邻算法和K
‑
Means聚类算法结合起来进行动态超图构建，以利用局部和全局结构；在整体特征图上运用K
‑
Means算法聚类得到初始超边c，根据K近邻算法欧氏距离计算节点到聚类中心距离，最近的topK节点与超边相连，用输入特征嵌入来构建超图结构，因此超边集会随着特征嵌入本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于超图增强的对比学习新闻推荐方法，其特征在于：所述方法的步骤为：S1、构建用户意图引导的图注意力新闻推荐模型，该模型可以通过堆叠基于意图交互学习的注意力层和传播层，进而不断学习更丰富的高阶协同信号，单层网络由意图注意力机制和传播层构成，基于传统图注意力网络中的注意力层，其基本作用是聚合邻域节点的信息，通过加入用户对主题的意图嵌入，可以对数据的有效利用并获得协同信号，传播层将聚合信息传播到下一层的节点中；S2、构建超图增强的对比学习新闻推荐模型，针对图结构的有效利用应用超图神经网络，设计超边聚合机制来处理表示学习过程中的数据相关性以更好地表示底层数据之间的关系，并通过对比学习将意图交互视图和超图结构视图作为对比学习的两个对比视图进行联合训练，以捕获更富含信息的意图表示和区分度更高的超图数据结构表示，丰富用户表示以改进推荐；S3、总体损失计算，为结合意图交互学习模块和超图结构学习模块的表示，从两个视图将它们应用于对比学习，通过将意图交互学习嵌入和超图结构学习表示相结合，使语义相近的正样本对的表示在表示空间更接近，语义不相近的负样本对的表示距离更远，以达到类似聚类的效果，达到意图交互学习视图和超图结构学习视图相互协作和监督，从而实现用户和新闻的数据增强。2.根据权利要求1所述的基于超图增强的对比学习新闻推荐方法，其特征在于：所述步骤S1具体为：用户u1交互过的新闻集{i1,i2,i3}，构建的意图节点融合了新闻主题，其中显式的表达了用户u1对不同主题的注意力分数，通过图注意力网络实现了更细粒度的意图级别的兴趣建模，为每个意图p∈P分配不同的权重比例，并为每篇新闻文章中提取的主题分配注意力权重，完成更细粒度的不同意图的交互和组合；基于意图交互学习的注意力层(Intent
‑
basedAttention)表示如公式(1)所示：其中：t
i
是主题t的ID嵌入，它被分配了注意力得分α(t，u)来量化其重要性，形式如公式(2)所示：用户嵌入表示聚合历史新闻的嵌入表示，用户在第l层聚合邻居的左归一化形式如公式(3)所示：对称归一化形式如公式(4)所示：融合两种归一化方式，在有效利用两种归一化方式的同时能够减轻流行度高节点的影
响，得到公式(5)：经过L层传播之后，节点能够接收从其L
...

【专利技术属性】
技术研发人员：喻梅，刘钊，赵满坤，张文彬，赵越，于健，
申请(专利权)人：天津大学，
类型：发明
国别省市：