一种融合物品受众特征的深度学习推荐方法及系统技术方案

本发明专利技术提出一种融合物品受众特征的深度学习推荐方法及系统，属于推荐技术领域。包括有数据收集及数据清洗；转化评分为隐式反馈矩阵；获取物品的历史交互用户列表；运用注意力机制，自适应计算物品的个性化受众特征；通过线性回归与向量内积学习数据中的低阶特征；设计特征交互层以显式地进行特征交叉；利用多层全连接神经网络进一步学习高阶特征；融合低阶和高阶特征信息输出目标用户对物品的预测值；对预测集合排序，进行top

【技术实现步骤摘要】
一种融合物品受众特征的深度学习推荐方法及系统
[0001]本专利技术属于推荐
，具体的说是一种融合物品受众特征的深度学习推荐方法及系统。

技术介绍

[0002]信息爆炸时代,如何从海量信息中快速过滤出适合用户的个性化产品和服务从而提高用户体验,是互联网数字平台需要解决的首要问题。推荐模型作为重要的决策支持工具,能够基于用户的历史行为(如评价,点击或浏览商品等)预测出用户接受推荐商品的可能性,从而有效缓解信息过载。目前,推荐系统已被广泛应用于电子商务、网络营销、新闻平台等诸多领域。
[0003]尽管引入深度学习的方法有效增强了模型对数据进行非线性建模的能力,但这些模型难以有效捕获数据内部蕴含的价值信息,因为它们只是简单地将用户特征和物品特征映射为低维稠密向量,未强调推荐应用背后的机理引导以及对用户与物品的历史交互信息的有效挖掘。许多模型将用户与物品的交互信息仅用于模型参数的优化过程,而忽略了数据中潜在的协同信息,其能够揭示用户之间的行为相似性,这严重阻碍了模型性能的进一步提升。其次,现有的基于深度学习的推荐模型主要利用向量拼接与神经网络相结合的方式来提取高阶特征。然而,随着神经网络层数的加深,在网络前向传播过程中可能存在信息丢失的问题。同时,神经网络通常是以隐式方式进行特征交叉,过程难以控制,因此可能会出现无法有效学习多种特征组合的情况。

技术实现思路

[0004]针对上述问题，本专利技术一种融合物品受众特征的深度学习推荐方法及系统，包括数据采集及处理模块、模型训练模块、模型预测模块以及推荐模块，其设置于服务器中，而服务器与多个数据库相连，所述数据库连接多个智能终端：
[0005]所述智能终端用于采集用户的行为数据，并交由数据库进行储存；
[0006]所述数据库用于存储用户的历史行为信息，并交由服务器进行处理
[0007]所述数据采集及处理模块，用于对数据库的数据信息进行加工处理，以获得满足系统需要的标准化数据；
[0008]所述模型训练模块，用于对标准化数据进行建模并训练直到模型收敛；
[0009]所述模型预测模块，用于利用完成训练的模型对用户的个性化偏好进行预测；
[0010]所述推荐模块，用于根据预测评分值大小进行排序并形成推荐物品列表，以提高用户满意度。
[0011]本专利技术所述的深度学习推荐系统，所述数据处理模块，用于将用户对物品的反馈信息转换为数值为0或1的隐式反馈矩阵其中数值为1代表用户与物品产生过交互，数值为0则代表用户与物品为产生过交互，|U|表示用户数，|I|表示物品数。采集物品的历史交互用户集合，并将物品和用户信息转换为低维稠密的特征向量e，其主要处理步骤如下：
[0012]S1：获取所有数据信息：用户id、物品id、评分信息、物品的历史交互用户集合H；
[0013]S2：根据评分信息生成隐式反馈矩阵R；
[0014]S3：将用户id转换为onehot向量x
u
；
[0015]S4：将项目id转换为onehot向量x
i
；
[0016]S5：将用户集合H中的用户分别转换为各自的onehot向量；
[0017]S6：随机初始化符合高斯分布的用户和物品的映射矩阵W
u
、W
i
[0018]S7：将onehot向量转换为低维稠密的特征向量e，方式如下所示：
[0019]e
u
＝W
u
x
u
[0020]本专利技术所述的深度学习推荐系统，所述模型训练模块由物品受众特征聚合模块、低阶特征提取模块、特征交互模块、全连接神经网络模块、模型参数更新模块。
[0021]所述物品受众特征聚合模块包括如下几个步骤：
[0022]S1：利用基于多层感知机的注意力机制计算目标用户与物品的历史交互用户的相关性系数，方式如下所示：
[0023]s
k
＝h
T
σ(W
pool
f(e
u
，e
k
，e
u
⊙
e
k
)+b)
[0024]其中,σ分别为权重矩阵、偏置向量、回归系数以及激活函数,e
u
为目标用户u的特征向量,t代表隐藏层的神经元个数,激活函数σ选择ReLU来增强非线性表达能力,f(x)为向量拼接操作函数,
⊙
代表向量对应元素积；
[0025]S2：通过softmax函数将相关性系数进行归一化得到注意力分布a
k
，方式如下所示：
[0026][0027]S3：根据注意力分布a
k
，通过加权求和获取物品的受众特征向量，方式如下所示：
[0028][0029]其中为物品i的历史交互用户集合，K为与物品i有交互的用户数量，为用户k的特征向量。
[0030]所述低阶特征提取模块，用于通过线性回归和向量内积学习数据中的低阶特征信息，其表达式如下：
[0031][0032]其中,x为将目标用户和物品的one
‑
hot向量拼接后的向量,e
u
，e
i
分别为目标用户和物品的特征向量,为物品受众的特征向量,为回归系数,
·
表示向量内积运算。
[0033]所述特征交互模块，用于进行显式地特征交叉来获取高阶特征信息并通过残差连接以保持信息在神经网络前向传播过程中的完整性，具体包含以下几个步骤：
[0034]S1：将目标用户的特征向量e
u
、物品的特征向量e
i
以及物品的受众特征向量并对所有输入向量进行堆叠,形成一个特定矩阵E；
[0035]S2：通过计算矩阵中任意两特征向量之间的对应元素积来进行显式的特征交叉,并将前一层的输出矩阵作为后一层的输入；
[0036]S3：利用残差连接将各层的输出矩阵融合成特征组合信息向量p：
[0037][0038]其中，n特征交互层的层数,为第i层的输出矩阵，表示矩阵的第j行。
[0039]所述全连接神经网络模块，用于在特征组合信息向量p的基础上通过多层非线性神经网络进一步学习数据中的高阶特征，其表达式如下：
[0040]Z1＝σ1(W1p+b1)
[0041]Z2＝σ2(W2Z1+b2)
[0042]Z
H
＝σ
H
(W
H
‑1Z
H
‑1+b
H
‑
1)
[0043]其中,H代表全连接神经网络的层数,p为特征交互层的输出,W
H
，b
H
，σ
H
分别代表第H层的权重矩阵、偏置向量、激活函数。最后，结合低阶和高阶特征信息输出预测值。
[0044]所述模型参数更新模块，用于根据损失值更新模型参数直至收敛，具体本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种融合物品受众特征的深度学习推荐方法及系统，其特征在于，包括数据采集及处理模块、模型训练模块、模型预测模块以及推荐模块，其设置于服务器中，而服务器与多个数据库相连，所述数据库连接多个智能终端；所述智能终端用于采集用户的行为数据，并交由数据库进行储存；所述数据库用于存储用户的历史行为信息，并交由服务器进行处理；所述数据采集及处理模块，用于对数据库的数据信息进行加工处理，以获得满足系统需要的标准化数据；所述模型训练模块，用于对标准化数据进行建模并训练直到模型收敛；所述模型预测模块，用于利用完成训练的模型对用户的个性化偏好进行预测；所述推荐模块，用于根据预测评分值大小进行排序并形成推荐物品列表，以提高用户满意度。2.根据权利要求1所述的一种融合物品受众特征的深度学习推荐方法及系统，其特征在于，所述数据采集及处理模块，用于将用户对物品的反馈信息转换为数值为0或1的隐式反馈矩阵其中数值为1代表用户与物品产生过交互，数值为0则代表用户与物品为产生过交互，|U|表示用户数，|I|表示物品数。采集物品的历史交互用户集合，并将物品和用户信息转换为低维稠密的特征向量e，其主要处理步骤如下：S1：获取所有数据信息：用户id、物品id、评分信息、物品的历史交互用户集合H；S2：根据评分信息生成隐式反馈矩阵R；S3：将用户id转换为onehot向量x
u
；S4：将项目id转换为onehot向量x
i
；S5：将用户集合H中的用户分别转换为各自的onehot向量；S6：随机初始化符合高斯分布的用户和物品的映射矩阵W
u
、W
i
S7：将onehot向量转换为低维稠密的特征向量e，方式如下所示：e
u
＝W
u
x
u。
3.根据权利要求1所述的一种融合物品受众特征的深度学习推荐方法及系统，其特征在于，所述模型训练模块由物品受众特征聚合模块、低阶特征提取模块、特征交互模块、全连接神经网络模块、模型参数更新模块，所述物品受众特征聚合模块包括如下几个步骤：S1：利用基于多层感知机的注意力机制计算目标用户与物品的历史交互用户的相关性系数，方式如下所示：s
k
＝h
T
σ(W
pool
f(e
u
，e
k
，e
u
⊙
e
k
)+b)其中，其中,σ分别为权重矩阵、偏置向量、回归系数以及激活函数,e
u
为目标用户u的特征向量,t代表隐藏层的神经元个数,激活函数σ选择ReLU来增强非线性表达能力,f(x)为向量拼接操作函数,
⊙
代表向量对应元素积；S2：通过softmax函数将相关性系数进行归一化得到注意力分布a
k
，方式如下所示：S3：根据注意力分布a
k
，通过加权求和获取物品的受众特征向量，方式如下所示：
其中为物品i的历史交互用户集合，K为与物品i有交互的用户数量，为用户k的特征向量。所述低阶特征提取模块，用...

【专利技术属性】
技术研发人员：邓江洲，王永，陈俊谕，郭琦，伍奇，陈思彤，张雪，
申请(专利权)人：重庆邮电大学，
类型：发明
国别省市：