一种基于评论和自注意力机制的推荐方法技术

本发明专利技术公开了一种基于评论和自注意力机制的推荐方法，通过利用用户和物品的交互行为分别获得用户与物品的表征矩阵，应用用户—评论的自注意力模块得到用户与评论之间的隐式关系，丰富用户的表征矩阵；将处理后的用户表征矩阵与物品表征矩阵拼接起来，并将其作为联合表征矩阵输入到全连接层中，经过计算得到用户对物品的预测评分；对预测评分进行降序排列，选取评分最高的N个商品进行推荐。本发明专利技术通过使用自注意力机制处理评论，使模型的性能优于现有的技术下的推荐模型，最终提高了真实环境下推荐物品的准确度。境下推荐物品的准确度。境下推荐物品的准确度。

【技术实现步骤摘要】
一种基于评论和自注意力机制的推荐方法


[0001]本专利技术涉及神经网络和机器学习
，尤其涉及一种基于评论和自注意力机制的推荐方法。

技术介绍

[0002]基于协同过滤的推荐协同过滤是基于邻域的，用户和项目的评分通过相似项目或用户计算,主要从用户与物品的静态交互数据中挖掘潜在的关联，但是忽略了用户在与物品产生交互时的动态偏好变化。例如，当用户购买了某品牌商品，基于协同过滤的方法只能推荐相似属性的商品或推荐其他用户在购买该品牌商品时购买的其他商品。这种方法简单方便，但是未在细粒度上建模用户本身的偏好，导致推荐结果往往单一且无法打动用户。因此基于模型的协同过滤推荐方法得到越来越多的关注。矩阵分解算法被应用在推荐领域，它一般通过训练得到用户和物品的潜在表征向量，并将获得的表征应用在下游任务中。
[0003]在信息爆炸的今天，基于协同过滤的方法通常没有考虑到用户的在一段时间段的用户兴趣偏好的变化，随着信息量和活跃用户增多，这种方法因为数据稀疏性和可伸缩性的限制，导致性能下降、推荐低质量、不准确预测。另外，用户在与物品产生交互的时间、地点、评论等交互信息都可能会影响用户当时的选择。由于交互信息在自然界中可能是高维的，推荐系统需要在复杂的环境中学习到用户的兴趣偏好。例如，当用户喜欢某件短袖，但是在冬天为该用户推荐喜欢的短袖是不合时宜的，因此如何有效地利用交互信息成为了研究的重点之一。

技术实现思路

[0004]本专利技术目的就是为了弥补已有技术的缺陷，提供一种基于评论和自注意力机制的推荐方法，以解决现有技术基于矩阵分解的推荐方法仅利用了用户与物品的评分矩阵，而忽略了其它交互信息的技术问题。
[0005]本专利技术是通过以下技术方案实现的：
[0006]一种基于评论和自注意力机制的推荐方法，具体包括以下步骤：
[0007]步骤1、利用用户和物品的交互行为分别获得用户与物品的嵌入表示向量；
[0008]步骤2、利用用户的嵌入表示向量和从用户的评论中挖掘到的用户语义信息获得用户的表征矩阵，利用物品的嵌入表示向量获得物品的表征矩阵；
[0009]步骤3、应用用户
‑
评论的自注意力模块得到用户与评论之间的隐式关系，丰富用户的表征矩阵；
[0010]步骤4、将处理后的用户表征矩阵与物品表征矩阵拼接起来，并将其作为联合表征矩阵输入到全连接层中，经过计算得到用户对物品的预测评分；
[0011]步骤5、计算预测值与真实值之间的差值并建立模型的损失函数，当所述损失函数未满足预设条件时，将其他数据的预测值输入至模型进行模型训练，直至所述损失函数满足预设条件时，将模型用于评分预测。
[0012]步骤1所述的利用用户和物品的交互行为分别获得用户与物品的嵌入表示向量，具体过程如下：
[0013]步骤1.1、获取物品序列：
[0014]I＝(I1,I2,
…
,I
n
)
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(1)
[0015]公式(1)中，I1,I2,
…
,I
n
代表对应序号的物品，I为所有物品的集合；
[0016]获取用户序列：
[0017]U＝(U1,U2,
…
,U
m
)
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(2)
[0018]公式(2)中，U1,U2,
…
,U
m
代表对应序号的用户，I为所有物品的集合；
[0019]步骤1.2、使用物品序列和用户序列构建邻接矩阵Y，获取用户嵌入表示向量：
[0020]e
u
＝f(yW
e；u
)
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(3)
[0021]公式(3)中，y∈Y，为交互矩阵,W
e；u
为权重参数，f(
·
)为映射函数，e
u
为最终获得的用户嵌入表示向量；
[0022]获取物品嵌入表示向量：
[0023]e
i
＝f(yW
e；i
)
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(4)
[0024]公式(4)中，y∈Y，为交互矩阵,W
e；i
为权重参数，f(
·
)为映射函数，e
i
为最终获得的物品嵌入表示向量。
[0025]步骤2所述的利用用户的嵌入表示向量和从用户的评论中挖掘到的用户语义信息获得用户的表征矩阵，利用物品的嵌入表示向量获得物品的表征矩阵，具体过程如下：
[0026]步骤2.1、从用户的评论中挖掘用户语义信息：
[0027]H
u；i
＝σ(a
u；i
H
i
)
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(5)
[0028]公式(5)中，a
ui
为权重参数,H
i
为处理后的评论向量矩阵，σ(
·
)为映射函数，H
u；i
为最终获得的用户语义信息；
[0029]步骤2.2、获取用户表征矩阵：
[0030][0031]公式(6)中，f(
·
)为卷积函数，W
c；u
是权重参数，e
u
为用户嵌入表示向量，H
u；i
为用户语义信息，表示将e
u
和H
u；i
拼接在一起，b
c；u
为偏置参数；
[0032]步骤2.3、获取物品表征矩阵：
[0033]c
i
＝f(W
c；i
e
i
+b
c；i
)
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(7)
[0034]式中，f(
·
)为卷积函数，其中W
c；i
是权重参数，e
i
为物品嵌入表示向量，b
c；i
为偏置参数。
[0035]步骤3所述的应用用户
‑
评论的自注意力模块得到用户与评论之间的隐式关系，丰富用户的表征矩阵，具体过程如下：
[0036]步骤3.1、获取自注意力权重：
[0037][0038]公式(8)中，是将用户表征矩阵c
u
和物品表征矩阵c
i
拼接后得到的表征矩阵，Q
w
是可学习的权重参数，α为计算得到的自注意力分数,a、b、m分别代表对应序号的用户表征或物品表征向量，M为用户语义信息数量；
[0039]步骤3.2、丰富用户的表本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于评论和自注意力机制的推荐方法，其特征在于：具体包括以下步骤：步骤1、利用用户和物品的交互行为分别获得用户与物品的嵌入表示向量；步骤2、利用用户的嵌入表示向量和从用户的评论中挖掘到的用户语义信息获得用户的表征矩阵，利用物品的嵌入表示向量获得物品的表征矩阵；步骤3、应用用户
‑
评论的自注意力模块得到用户与评论之间的隐式关系，丰富用户的表征矩阵；步骤4、将处理后的用户表征矩阵与物品表征矩阵拼接起来，并将其作为联合表征矩阵输入到全连接层中，经过计算得到用户对物品的预测评分；步骤5、计算预测值与真实值之间的差值并建立模型的损失函数，当所述损失函数未满足预设条件时，将其他数据的预测值输入至模型进行模型训练，直至所述损失函数满足预设条件时，将模型用于评分预测。2.根据权利要求1所述的一种基于评论和自注意力机制的推荐方法，其特征在于：步骤1所述的利用用户和物品的交互行为分别获得用户与物品的嵌入表示向量，具体过程如下：步骤1.1、获取物品序列：I＝(I1，I2，...，I
n
)
ꢀꢀꢀꢀꢀꢀꢀꢀ
(1)公式(1)中，I1，I2，...，I
n
代表对应序号的物品，I为所有物品的集合；获取用户序列：U＝(U1，U2，...，U
m
)
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(2)公式(2)中，U1，U2，...，U
m
代表对应序号的用户，I为所有物品的集合；步骤1.2、使用物品序列和用户序列构建邻接矩阵Y，获取用户嵌入表示向量：e
u
＝f(yW
e；u
)
ꢀꢀꢀꢀꢀꢀꢀꢀ
(3)公式(3)中，y∈Y，为交互矩阵，W
e；u
为权重参数，f(
·
)为映射函数，e
u
为最终获得的用户嵌入表示向量；获取物品嵌入表示向量：e
i
＝f(yW
e；i
)
ꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(4)公式(4)中，y∈Y，为交互矩阵，W
e；i
为权重参数，f(
·
)为映射函数，e
i
为最终获得的物品嵌入表示向量。3.根据权利要求2所述的一种基于评论和自注意力机制的推荐方法，其特征在于：步骤2所述的利用用户的嵌入表示向量和从用户的评论中挖掘到的用户语义信息获得用户的表征矩阵，利用物品的嵌入表示向量获得物品的表征矩阵，具体过程如下：步骤2.1、从用户的评论中挖掘用户语义信息：H
u；i
＝σ(a
u；i
H
i
)
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(5)公式(5)中，a
ui
为权重参数，H
i
为处理后的评论向量矩阵，σ(
·
)为映射函数，H
u；i
为最终获得的用户语义信息；步骤2.2、获取用户表征矩阵：公式(6)中，f(
·...

【专利技术属性】
技术研发人员：吴国栋，贺壮壮，涂立静，李景霞，
申请(专利权)人：安徽农业大学，
类型：发明
国别省市：