一种基于图神经网络和兴趣注意力网络的会话推荐方法技术

本发明专利技术提供一种基于图神经网络和兴趣注意力网络的会话推荐方法，包括以下步骤：S1、收集用户点击物品的历史会话序列数据集进行预处理；S2、将用户的历史会话序列数据建模为会话有向图进行数据初始化；S3、将会话有向图输入到图神经网络中得到会话有向图中每一个物品节点的图嵌入向量；S4、将图嵌入向量送入兴趣注意力网络中并采用注意力层进行加权区分，得到用户长期兴趣偏好向量，并取当前会话中最后一个点击物品的图嵌入向量作为当前兴趣偏好向量，将两者进行融合得到最终用户会话表示；S5、将最终用户会话表示通过预测模块计算所有候选物品的推荐概率值并根据概率值进行排序，将概率值最大的物品推荐给用户。本申请能提高会话推荐结果准确性。能提高会话推荐结果准确性。能提高会话推荐结果准确性。

【技术实现步骤摘要】
一种基于图神经网络和兴趣注意力网络的会话推荐方法


[0001]本专利技术涉及会话推荐
，具体涉及一种基于图神经网络和兴趣注意力网络的会话推荐方法。

技术介绍

[0002]近年来，随着数字经济和人工智能的飞速发展，人们每天会面临海量信息。大数据时代给人们的生活、学习、工作等方面带来巨大便利的同时，随之也产生了严重的信息过载(Information Overload)问题。如何快速有效地从复杂多样的数据中获取有价值的信息成为了当前大数据发展的主要难题。
[0003]解决信息过载问题的一个非常有潜力的方法就是推荐系统。其根据用户的需求、兴趣等，将用户感兴趣的信息、产品等推荐给用户，而且不需要用户提供明确的需求。和搜索引擎相比，推荐系统可以通过研究用户的兴趣偏好，进行算法建模，由算法模型发现用户的兴趣爱好，从而引导用户找到自己所需的信息。
[0004]传统的推荐方法是根据所有用户物品的历史交互数据来建模用户对物品的长期且静态的兴趣偏好，主要包括协同过滤、基于内容的推荐方法和混合推荐方法。其中，最经典的算法是协同过滤，如矩阵分解等。协同过滤是目前应用最广泛的推荐算法，但同时也存在严重的数据稀疏和冷启动问题。此外，经典的协同过滤算法采用浅层的模型，无法学习到用户和物品之间的深层次的特征信息。基于内容的推荐方法通过寻找与用户的历史交互物品相似的物品来进行推荐，但此方法需要有效的特征提取，传统的浅层模型依赖于人工设计并提取特征，其有效性和可扩展性都非常有限，制约了基于内容的推荐方法的性能。
[0005]推荐系统一般都倾向于利用所有用户对物品的交互历史来进行用户兴趣建模，这种做法一般认为用户的所有历史交互对其当前的兴趣爱好都同等重要，但在现实生活中，用户对物品的选择不仅取决于其长期的历史偏好，而且还取决于近期的短期偏好，这种短期偏好在用户所有历史行为数据中通常只占小部分，另一方面，用户对物品的兴趣偏好往往是动态的，而不是静态的，其兴趣是随着时间的推移而发生变化的。
[0006]为解决上述问题，基于会话的推荐作为推荐算法应运而生，与上述推荐方法所不同的是，基于会话的推荐从用户的历史行为中生成的会话中学习用户的兴趣偏好，每个会话由多个用户
‑
物品交互数据组成，这些交互在连续的一段时间内同时发生并且每一个会话都是具有明确边界的交互列表。基于会话的推荐方法旨在捕捉用户短期且动态的兴趣偏好，从而提供更及时、更准确的推荐。
[0007]由于会话数据都是随着时间推移的序列数据，从物品之间相邻的角度来看，物品序列可以转换为图结构数据，其中每个物品可以与一个或多个后续物品连接，连续的物品之间有一条边连接。基于序列图，使用图神经网络可以通过迭代传播捕获物品之间的转换关系，并且学习具有代表性的物品嵌入向量。
[0008]当前基于会话的推荐方法中，一般认为用户的行为受两种因素影响：一种是在短时期内不会发生变化的用户长期兴趣偏好，这是用户的一般性兴趣；另一种是用户的短期
兴趣偏好，代表用户当前的兴趣，动态性比较强。
[0009]而本申请的专利技术人经过研究发现，目前基于图神经网络的会话推荐模型中存在以下问题：(1)根据用户有限的会话信息，如何高效地为用户提供更加准确的物品推荐；(2)基于图神经网络，如何更有效地获取物品之间的转换关系；(3)如何有效地提取用户长期兴趣偏好并且和当前兴趣偏好进行融合。

技术实现思路

[0010]针对现有基于图神经网络的会话推荐模型中存在的技术问题，本专利技术提供一种基于图神经网络和兴趣注意力网络的会话推荐方法，该方法考虑到用户点击物品与物品之间的转换关系，通过使用一种兴趣注意力网络来捕获用户长期的兴趣偏好，并且与短期的当前会话信息进行融合，从而更准确地表示用户兴趣和意图，提高会话推荐结果的准确性，更好地为用户提供服务。
[0011]为了解决上述技术问题，本专利技术采用了如下的技术方案：
[0012]一种基于图神经网络和兴趣注意力网络的会话推荐方法，包括以下步骤：
[0013]S1、收集用户点击物品的历史会话序列数据集，并对数据集进行预处理；
[0014]S2、将用户的历史会话序列数据建模为会话有向图，并对会话有向图进行数据初始化，其中会话有向图的节点表示用户在会话中点击的物品，会话有向图节点之间的边表示用户点击物品的顺序关系；
[0015]S3、将会话有向图输入到图神经网络中得到会话有向图中每一个物品节点的图表示向量即图嵌入向量，此时每一个物品节点的图嵌入向量包含了物品之间的上下文转换关系；
[0016]S4、将图神经网络输出的图嵌入向量送入基于多头自注意力机制和前馈神经网络的兴趣注意力网络中，采用注意力层对物品的图嵌入向量进行加权区分，通过兴趣注意力网络捕获用户长期的全局兴趣偏好向量即长期兴趣偏好向量s
g
，并且取当前会话中最后一个点击物品的图嵌入向量作为当前兴趣表示向量即当前兴趣偏好向量s
l
，将用户长期兴趣偏好向量s
g
和当前兴趣偏好向量s
l
进行融合，得到最终的用户会话表示；
[0017]S5、将最终的用户会话表示通过预测模块计算所有候选物品的推荐概率值，将概率值最大的物品推荐给用户，以此进行物品个性化推荐，且上述所有步骤搭建的方法模型使用交叉熵损失函数进行训练。
[0018]进一步，所述步骤S1中对数据集进行预处理包括：将会话序列长度为1的会话进行删除，将交互少于5次的物品进行删除，将会话序列中最后一个物品提取出来作为数据集的标签。
[0019]进一步，所述步骤S2中对会话有向图进行数据初始化包括以下步骤：
[0020]S21、根据所有用户对物品点击的重复次数，为会话有向图中的每一条边进行加权，然后通过除以物品节点的度来对权重进行归一化处理，得到归一化后的入度矩阵和出度矩阵其中，表示n
×
n的二维实数空间；
[0021]S22、将会话中的物品经过统一嵌入层映射到d维的嵌入空间中，得到每一个物品的嵌入向量[v1,v2,...,v
i
,...,v
n
]，其中，表示维度为d的一维实数空间。
[0022]进一步，所述步骤S3具体包括将会话有向图输入到门控图神经网络，从而捕获物品之间图结构关系特征即物品之间的上下文转换关系，首先对于会话有向图中t时刻的每个节点v
t
，不同节点之间的信息传递过程为：
[0023][0024]其中，Concat表示向量之间的拼接操作，分别表示节点v
t
的入度矩阵和出度矩阵的第t行向量，表示d
×
d的二维实数空间，b
(I)
、表示偏置向量，表示d维的一维实数空间；然后，将a
t
和会话有向图中前一时刻的节点v
t
‑1输入到门控图神经网络中，得到图神经网络的输出h
t
，具体计算过程如下：
[00本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于图神经网络和兴趣注意力网络的会话推荐方法，其特征在于，包括以下步骤：S1、收集用户点击物品的历史会话序列数据集，并对数据集进行预处理；S2、将用户的历史会话序列数据建模为会话有向图，并对会话有向图进行数据初始化，其中会话有向图的节点表示用户在会话中点击的物品，会话有向图节点之间的边表示用户点击物品的顺序关系；S3、将会话有向图输入到图神经网络中得到会话有向图中每一个物品节点的图表示向量即图嵌入向量，此时每一个物品节点的图嵌入向量包含了物品之间的上下文转换关系；S4、将图神经网络输出的图嵌入向量送入基于多头自注意力机制和前馈神经网络的兴趣注意力网络中，采用注意力层对物品的图嵌入向量进行加权区分，通过兴趣注意力网络捕获用户长期的全局兴趣偏好向量即长期兴趣偏好向量s
g
，并且取当前会话中最后一个点击物品的图嵌入向量作为当前兴趣表示向量即当前兴趣偏好向量s
l
，将用户长期兴趣偏好向量s
g
和当前兴趣偏好向量s
l
进行融合，得到最终的用户会话表示；S5、将最终的用户会话表示通过预测模块计算所有候选物品的推荐概率值，将概率值最大的物品推荐给用户，以此进行物品个性化推荐，且上述所有步骤搭建的方法模型使用交叉熵损失函数进行训练。2.根据权利要求1所述的基于图神经网络和兴趣注意力网络的会话推荐方法，其特征在于，所述步骤S1中对数据集进行预处理包括：将会话序列长度为1的会话进行删除，将交互少于5次的物品进行删除，将会话序列中最后一个物品提取出来作为数据集的标签。3.根据权利要求1所述的基于图神经网络和兴趣注意力网络的会话推荐方法，其特征在于，所述步骤S2中对会话有向图进行数据初始化包括以下步骤：S21、根据所有用户对物品点击的重复次数，为会话有向图中的每一条边进行加权，然后通过除以物品节点的度来对权重进行归一化处理，得到归一化后的入度矩阵和出度矩阵其中，表示n
×
n的二维实数空间；S22、将会话中的物品经过统一嵌入层映射到d维的嵌入空间中，得到每一个物品的嵌入向量[v1,v2,
…
,v
i
,
…
,v
n
]，其中，表示维度为d的一维实数空间。4.根据权利要求3所述的基于图神经网络和兴趣注意力网络的会话推荐方法，其特征在于，所述步骤S3具体包括将会话有向图输入到门控图神经网络，从而捕获物品之间图结构关系特征即物品之间的上下文转换关系，首先对于会话有向图中t时刻的每个节点v
t
，不同节点之间的信息传递过程为：其中，Concat表示向量之间的拼接操作，分别表示节点v
t
的入度矩阵和出度矩阵的第t行向量，表示d
×
d的二维实数空间，表示偏置向量，表示d维的一维实数空间；然后，将a
t
和会话有向图中前一时刻的节点v
t
‑1输入到门控图神经网络中，得到图神经网络的输出h
t
，具体计算过程如
下：z
t
＝σ(W
z
a
t
+U
z
v
t
‑1)r
t
＝σ(W
r
a
t
+U
r
v
t
‑1))其中，及均为可学习的参数矩阵，分别表示2d
×
d和d
×
d的二维实数空间，σ(
·
)表示sigmoid激活函数，tanh表示双曲正切激活函数，
⊙
表示矩阵对应元素位置相乘，z
t
和...

【专利技术属性】
技术研发人员：崔少国，独潇，
申请(专利权)人：重庆师范大学，
类型：发明
国别省市：