一种信息推荐方法、装置、电子设备及存储介质制造方法及图纸

本申请公开了一种信息推荐方法，应用于排序模型，所述排序模型包括输入层、全连接层、交互层和拼接模块，所述信息推荐方法包括：利用输入层生成输入信息的特征嵌入向量；将特征嵌入向量输入交互层，利用交互层对所有特征嵌入向量进行拼接得到目标向量，并对目标向量执行元素之间的多头注意力机制的计算得到交互层输出；将特征嵌入向量输入全连接层，利用全连接层对特征嵌入向量进行矩阵相乘得到全连接层输出；利用拼接模块对交互层输出和全连接层输出进行拼接得到输入信息的排名得分，并根据排名得分输出信息推荐结果。本申请能够提高信息推荐的精准度。本申请还公开了一种信息推荐装置、一种电子设备及一种存储介质，具有以上有益效果。

【技术实现步骤摘要】
一种信息推荐方法、装置、电子设备及存储介质
本申请涉及机器学习领域，特别涉及一种信息推荐方法、装置、一种电子设备及一种存储介质。
技术介绍
通过个性化推荐算法能够帮助用户找到其喜欢的内容，提升用户的在线时长和留存率。个性化推荐算法基于排序模型实现，利用排序模型对备选信息打分并排序，将排序前N名的备选信息作为推荐内容并推送至客户端。相关技术中，主要利用基于AutoInt算法的排序模型进行排序计算，但是由于AutoInt算法操作的最小单元是特征嵌入向量，需要所有特征嵌入向量大小相同，这种限制特征嵌入向量大小的方式将会影响特征嵌入向量的表达，降低信息推荐的精准度。因此，如何提高信息推荐的精准度是本领域技术人员目前需要解决的技术问题。
技术实现思路
本申请的目的是提供一种信息推荐方法、装置、一种电子设备及一种存储介质，能够提高信息推荐的精准度。为解决上述技术问题，本申请提供一种信息推荐方法，应用于排序模型，所述排序模型包括输入层、全连接层、交互层和拼接模块，所述信息推荐方法包括：利用所述输入层生成输入信息的特征嵌入向量；将所述特征嵌入向量输入所述交互层，利用所述交互层对所有所述特征嵌入向量进行拼接得到目标向量，并对所述目标向量执行元素之间的多头注意力机制的计算得到交互层输出；将所述特征嵌入向量输入所述全连接层，利用所述全连接层对所述特征嵌入向量进行矩阵相乘得到全连接层输出；利用所述拼接模块对所述交互层输出和所述全连接层输出进行拼接得到所述输入信息的排名得分，并根据所述排名得分输出信息推荐结果。可选的，利用所述输入层生成输入信息的特征嵌入向量，包括：在所述输入层的嵌入层中将所述输入信息表示为独热编码，并对所述独热编码进行特征嵌入向量转化得到初始特征嵌入向量；在所述输入层的加权拼接模块中根据所述输入信息的数据类型对所述初始特征嵌入向量执行对应的加权操作得到所述特征嵌入向量。可选的，根据所述输入信息的数据类型对所述初始特征嵌入向量执行对应的加权操作得到所述特征嵌入向量，包括：判断所述输入信息是否为不分段的数值型数据；若是，则将所述初始特征嵌入向量与所述输入信息的原始数值相乘，得到所述特征嵌入向量；若否，则将所述初始特征嵌入向量乘以1，得到所述特征嵌入向量。可选的，对所述目标向量执行元素之间的多头注意力机制的计算得到交互层输出，包括：将所述目标向量分别与所述排序模型的query矩阵和key矩阵进行矩阵内积计算得到第一结果和第二结果，并将所述第一结果的第i个元素和所述第二结果的第k个元素进行哈达码积计算得到映射函数；对所述映射函数进行softmax计算得到注意力权重；将所述目标向量与所述排序模型的value矩阵得到分数权重进行矩阵内积计算得到第三结果；对所述注意力权重和所述第三结果进行加权计算得到多头注意力机制中每一个头下的元素自注意力表达，并将所有所述元素自注意力表达相乘得到所述交互层输出。可选的，在利用所述输入层生成输入信息的特征嵌入向量之前，还包括：接收推荐请求，并确定所述推荐请求对应的请求者画像；将所述请求者画像分别与多个备选资源的资源画像进行组合得到所述请求对；对所述请求对进行特征提取得到所述输入信息。可选的，根据所述排名得分输出信息推荐结果，包括：按照所述排名得分从高到低的顺序对所述备选资源进行排序，得到资源推荐顺序，并根据所述资源推荐顺序输出所述信息推荐结果。可选的，利用所述拼接模块对所述交互层输出和所述全连接层输出进行拼接得到所述输入信息的排名得分，包括：利用所述拼接模块对所述交互层输出和所述全连接层输出进行拼接得到拼接结果，对所述拼接结果进行加权计算得到所述输入信息的排名得分。本申请还提供了一种信息推荐装置，所述信息推荐装置中包括排序模型，所述排序模型包括输入层、全连接层、交互层和拼接模块；其中，所述输入层用于生成输入信息的特征嵌入向量；所述交互层用于对所有所述特征嵌入向量进行拼接得到目标向量，并对所述目标向量执行元素之间的多头注意力机制的计算得到交互层输出；所述全连接层用于对所述特征嵌入向量进行矩阵相乘得到全连接层输出；所述拼接模块用于对所述交互层输出和所述全连接层输出进行拼接得到所述输入信息的排名得分，并根据所述排名得分输出信息推荐结果。本申请还提供了一种存储介质，其上存储有计算机程序，所述计算机程序执行时实现上述信息推荐方法执行的步骤。本申请还提供了一种电子设备，包括存储器和处理器，所述存储器中存储有计算机程序，所述处理器调用所述存储器中的计算机程序时实现上述信息推荐方法执行的步骤。本申请提供了一种信息推荐方法，应用于排序模型，所述排序模型包括输入层、全连接层、交互层和拼接模块，所述信息推荐方法包括：利用所述输入层生成输入信息的特征嵌入向量；将所述特征嵌入向量输入所述交互层，利用所述交互层对所有所述特征嵌入向量进行拼接得到目标向量，并对所述目标向量执行元素之间的多头注意力机制的计算得到交互层输出；将所述特征嵌入向量输入所述全连接层，利用所述全连接层对所述特征嵌入向量进行矩阵相乘得到全连接层输出；利用所述拼接模块对所述交互层输出和所述全连接层输出进行拼接得到所述输入信息的排名得分，并根据所述排名得分输出信息推荐结果。本申请利用输入层生成输入信息的特征嵌入向量，在交互层中将所有的特征嵌入向量拼接为目标向量，以便对目标向量执行多头注意力的计算操作。由于本申请基于所有特征嵌入向量拼接后的目标向量进行计算，不再依赖两两特征嵌入向量之间的计算，因此本申请无需限定特征嵌入向量的大小。本申请利用交互层输出和全连接层输出确定输入信息的排名得分，进而得到信息推荐结果。本申请不对特征嵌入向量的大小进行限制，能够使得特征嵌入向量蕴含的信息得到充分的表达，进而提高了信息推荐的精准度。本申请同时还提供了一种信息推荐装置、一种电子设备和一种存储介质，具有上述有益效果，在此不再赘述。附图说明为了更清楚地说明本申请实施例，下面将对实施例中所需要使用的附图做简单的介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。图1为本申请实施例所提供的一种信息推荐系统的架构图；图2为本申请实施例所提供的一种信息推荐方法的流程图；图3为本申请实施例所提供的一种排序模型的结构示意图；图4为本申请实施例所提供的一种特征嵌入向量的获取方法的流程图；图5为本申请实施例所提供的一种交互层计算过程的流程图；图6为本申请实施例所提供的一种交互层计算原理示意图；图7为本申请实施例所提供的一种直播平台的直播间推荐方法的流程图；图8为本申请实施例所提供的一种电子设备的结构图。具体实施方式为使本申请实施例的目的、技术方案和优点更本文档来自技高网...

【技术保护点】
1.一种信息推荐方法，其特征在于，应用于排序模型，所述排序模型包括输入层、全连接层、交互层和拼接模块，所述信息推荐方法包括：/n利用所述输入层生成输入信息的特征嵌入向量；/n将所述特征嵌入向量输入所述交互层，利用所述交互层对所有所述特征嵌入向量进行拼接得到目标向量，并对所述目标向量执行元素之间的多头注意力机制的计算得到交互层输出；/n将所述特征嵌入向量输入所述全连接层，利用所述全连接层对所述特征嵌入向量进行矩阵相乘得到全连接层输出；/n利用所述拼接模块对所述交互层输出和所述全连接层输出进行拼接得到所述输入信息的排名得分，并根据所述排名得分输出信息推荐结果。/n

【技术特征摘要】
1.一种信息推荐方法，其特征在于，应用于排序模型，所述排序模型包括输入层、全连接层、交互层和拼接模块，所述信息推荐方法包括：
利用所述输入层生成输入信息的特征嵌入向量；
将所述特征嵌入向量输入所述交互层，利用所述交互层对所有所述特征嵌入向量进行拼接得到目标向量，并对所述目标向量执行元素之间的多头注意力机制的计算得到交互层输出；
将所述特征嵌入向量输入所述全连接层，利用所述全连接层对所述特征嵌入向量进行矩阵相乘得到全连接层输出；
利用所述拼接模块对所述交互层输出和所述全连接层输出进行拼接得到所述输入信息的排名得分，并根据所述排名得分输出信息推荐结果。


2.根据所述权利要求1所述信息推荐方法，其特征在于，利用所述输入层生成输入信息的特征嵌入向量，包括：
在所述输入层的嵌入层中将所述输入信息表示为独热编码，并对所述独热编码进行特征嵌入向量转化得到初始特征嵌入向量；
在所述输入层的加权拼接模块中根据所述输入信息的数据类型对所述初始特征嵌入向量执行对应的加权操作得到所述特征嵌入向量。


3.根据所述权利要求2所述信息推荐方法，其特征在于，根据所述输入信息的数据类型对所述初始特征嵌入向量执行对应的加权操作得到所述特征嵌入向量，包括：
判断所述输入信息是否为不分段的数值型数据；
若是，则将所述初始特征嵌入向量与所述输入信息的原始数值相乘，得到所述特征嵌入向量；
若否，则将所述初始特征嵌入向量乘以1，得到所述特征嵌入向量。


4.根据所述权利要求1所述信息推荐方法，其特征在于，对所述目标向量执行元素之间的多头注意力机制的计算得到交互层输出，包括：
将所述目标向量分别与所述排序模型的query矩阵和key矩阵进行矩阵内积计算得到第一结果和第二结果，并将所述第一结果的第i个元素和所述第二结果的第k个元素进行哈达码积计算得到映射函数；
对所述映射函数进行softmax计算得到注意力权重；
将所述目标向量与所述排序模型的value矩阵得到分数权重进行矩阵内积计算得到第三结果；
对所述注意力权重和所述第三结果进行加权...

【专利技术属性】
技术研发人员：王国瑞，
申请(专利权)人：腾讯音乐娱乐科技深圳有限公司，
类型：发明
国别省市：广东;44