基于渐进采样的可变形注意序列推荐方法及系统技术方案

本申请提出一种基于渐进采样的可变形注意序列推荐方法及系统，该方法包括：获取目标用户的在不同时间下与物品交互的历史交互序列，并对历史交互序列进行标准化处理，生成多个包含物品和位置信息的嵌入序列；在每个嵌入序列中确定多个采样参考点，并通过针对位置和特征的轻量级抽样网络在每个嵌入序列的每个时间步生成采样点；通过预设的多个可变注意力渐进采样DAPS模块更新采样点，包括通过各个DAPS模块依次逐步求精采样点；基于采样点的逐步求精对推荐模型进行优化训练，通过训练完成的推荐模型输出针对目标用户的推荐结果。该方法基于渐进采样的可变形的注意力模型进行序列推荐，提高了序列推荐的灵活性、效率和准确性。性。性。

【技术实现步骤摘要】
基于渐进采样的可变形注意序列推荐方法及系统


[0001]本申请涉及人工智能
，尤其涉及一种基于渐进采样的可变形注意序列推荐方法及系统。

技术介绍

[0002]目前，序列推荐在物品推荐领域中已应用的较为普遍，序列推荐是一种通过建模用户行为与物品在时间序列上的模式，以给用户推荐相关物品的一种推荐系统范式。它可以应用到多种应用中，例如，在电商网站中向用户推荐可能购买的商品。
[0003]相关技术中，在进行序列推荐时，通常是采用基于RNN、CNN或Transformer等神经网络模型的方式实现序列推荐，然而，上述相关的序列推荐方案可能导致引入一些关联噪声，导致降低了推荐模型输出的推荐结果的准确性，推荐结果与用户的真实兴趣偏差较大。并且，在实际应用中处理的数据量较大时，模型训练的过程较为困难且消耗的时间和空间资源等较大。
[0004]因此，如何更加便捷的通过序列推荐生成与用户的真实兴趣更相符的推荐结果，成为目前亟需解决的问题。

技术实现思路

[0005]本申请旨在至少在一定程度上解决相关技术中的技术问题之一。
[0006]为此，本申请的第一个目的在于提出一种基于渐进采样的可变形注意序列推荐方法，该方法以可变的方式从序列中采样键值对，以建立适合于每个查询的稀疏注意力机制，并跨层重逐步完善抽样策略，以降低学习的困难程度，提高了序列推荐的灵活性、效率和准确性。
[0007]本申请的第二个目的在于提出一种基于渐进采样的可变形注意序列推荐系统。
[0008]本申请的第三个目的在于提出一种非临时性计算机可读存储介质。
[0009]为达上述目的，本申请的第一方面实施例提出了一种基于渐进采样的可变形注意序列推荐方法，包括以下步骤：
[0010]获取目标用户的在不同时间下与物品交互的历史交互序列，并对所述历史交互序列进行标准化处理，生成多个包含物品和位置信息的嵌入序列；
[0011]在每个所述嵌入序列中确定多个采样参考点，并基于所述采样参考点，通过针对位置和特征的轻量级抽样网络在每个所述嵌入序列的每个时间步生成采样点；
[0012]通过预设的多个可变注意力渐进采样DAPS模块更新所述采样点，包括通过各个所述DAPS模块依次逐步求精采样点，以完善抽样策略；
[0013]基于采样点的逐步求精对推荐模型进行优化训练，通过训练完成的推荐模型输出针对所述目标用户的推荐结果。
[0014]可选地，在本申请的一个实施例中，所述对所述历史交互序列进行标准化处理，生成多个包含物品和位置信息的嵌入序列，包括：将所述历史交互序列按照固定长度截断为
多个序列，并对截断出的多个序列进行对齐；在对齐后的序列中基于嵌入矩阵的方式嵌入物品信息和位置信息，生成包含物品嵌入和位置嵌入的输入序列；对所述输入序列进行防止过拟合处理和层规范化处理，生成所述嵌入序列。
[0015]可选地，在本申请的一个实施例中，通过以下公式确定所述采样参考点：
[0016]S
′
(i，j)
＝n
′
+i*π
j
/k，i∈1，...，k
[0017]其中，π
j
＝j
‑
n
′
，
[0018]其中，S
′
(i，j)
表示在第j个时间步的第i个采样参考点，n
′
表示任一嵌入序列的第一个非零的位置，π
j
表示在第j个时间步处查询序列中存在意义的长度，k表示采样参考点的数量。
[0019]可选地，在本申请的一个实施例中，所述通过针对位置和特征的轻量级抽样网络在每个所述嵌入序列的每个时间步生成采样点，包括：通过所述轻量级抽样网络中的两个聚合层根据任一嵌入序列的序列特征预测采样点的偏移，并通过基于通道的全局聚合层压缩和提取全局序列信息，以生成所述任一嵌入序列对应的偏移；通过按照元素排列的偏移与对应的采样参考点相加计算偏移点，将每个时间步下的所述偏移点作为对应的时间步生成的采样点。
[0020]可选地，在本申请的一个实施例中，所述通过各个所述DAPS模块依次逐步求精采样点，包括：在确定初始组的采样点之后，每个所述DAPS模块按照排列顺序，将相邻的前一个DAPS模块输出的采样点作为当前DAPS模块的输入采样点；每个所述DAPS模块根据自身的查询特征学习偏移量，并且每个所述DAPS模块将对应的所述输入采样点与自身的所述偏移量相加，获得更新后的采样点。
[0021]可选地，在本申请的一个实施例中，所述基于采样点的逐步求精对推荐模型进行优化训练，包括：以所述嵌入序列作为所述推荐模型的输入，以所述采样点的逐步求精过程中得到的偏移序列作为所述推荐模型的输出，并将所述推荐模型训练过程中的损失函数设置为参考标注ground
‑
truth的负对数似然函数。
[0022]为达上述目的，本申请的第二方面实施例提出了一种基于渐进采样的可变形注意序列推荐系统，包括以下模块：
[0023]获取模块，用于获取目标用户的在不同时间下与物品交互的历史交互序列，并对所述历史交互序列进行标准化处理，生成多个包含物品和位置信息的嵌入序列；
[0024]生成模块，用于在每个所述嵌入序列中确定多个采样参考点，并基于所述采样参考点，通过针对位置和特征的轻量级抽样网络在每个所述嵌入序列的每个时间步生成采样点；
[0025]更新模块，用于通过预设的多个可变注意力渐进采样DAPS模块更新所述采样点，包括通过各个所述DAPS模块依次逐步求精采样点，以完善抽样策略；
[0026]输出模块，用于基于采样点的逐步求精对推荐模型进行优化训练，通过训练完成的推荐模型输出针对所述目标用户的推荐结果。
[0027]可选地，在本申请的一个实施例中，所述获取模块，具体用于：将所述历史交互序列按照固定长度截断为多个序列，并对截断出的多个序列进行对齐；在对齐后的序列中基于嵌入矩阵的方式嵌入物品信息和位置信息，生成包含物品嵌入和位置嵌入的输入序列；对所述输入序列进行防止过拟合处理和层规范化处理，生成所述嵌入序列。
[0028]可选地，在本申请的一个实施例中，所述生成模块，具体用于：通过所述轻量级抽样网络中的两个聚合层根据任一嵌入序列的序列特征预测采样点的偏移，并通过基于通道的全局聚合层压缩和提取全局序列信息，以生成所述任一嵌入序列对应的偏移；通过按照元素排列的偏移与对应的采样参考点相加计算偏移点，将每个时间步下的所述偏移点作为对应的时间步生成的采样点。
[0029]为了实现上述实施例，本申请第三方面实施例还提出了一种非临时性计算机可读存储介质，其上存储有计算机程序，计算机程序被处理器执行时实现上述实施例中的基于渐进采样的可变形注意序列推荐方法。
[0030]本申请的实施例提供的技术方案至少带来以下有益效果：本申请以可变的方式从序列中采样键值对，以建立适合于每个查询的稀疏注意力机制，并跨层重逐步本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于渐进采样的可变形注意序列推荐方法，其特征在于，包括以下步骤：获取目标用户的在不同时间下与物品交互的历史交互序列，并对所述历史交互序列进行标准化处理，生成多个包含物品和位置信息的嵌入序列；在每个所述嵌入序列中确定多个采样参考点，并基于所述采样参考点，通过针对位置和特征的轻量级抽样网络在每个所述嵌入序列的每个时间步生成采样点；通过预设的多个可变注意力渐进采样DAPS模块更新所述采样点，包括通过各个所述DAPS模块依次逐步求精采样点，以完善抽样策略；基于采样点的逐步求精对推荐模型进行优化训练，通过训练完成的推荐模型输出针对所述目标用户的推荐结果。2.根据权利要求1所述的基于渐进采样的可变形注意序列推荐方法，其特征在于，所述对所述历史交互序列进行标准化处理，生成多个包含物品和位置信息的嵌入序列，包括：将所述历史交互序列按照固定长度截断为多个序列，并对截断出的多个序列进行对齐；在对齐后的序列中基于嵌入矩阵的方式嵌入物品信息和位置信息，生成包含物品嵌入和位置嵌入的输入序列；对所述输入序列进行防止过拟合处理和层规范化处理，生成所述嵌入序列。3.根据权利要求1所述的基于渐进采样的可变形注意序列推荐方法，其特征在于，通过以下公式确定所述采样参考点：S
′
(i，j)
＝n
′
+i*π
j
/k，i∈1，...，k其中，π
j
＝j
‑
n
′
，其中，S
′
(i，j)
表示在第j个时间步的第i个采样参考点，n
′
表示任一嵌入序列的第一个非零的位置，π
j
表示在第j个时间步处查询序列中存在意义的长度，k表示采样参考点的数量。4.根据权利要求1所述的基于渐进采样的可变形注意序列推荐方法，其特征在于，所述通过针对位置和特征的轻量级抽样网络在每个所述嵌入序列的每个时间步生成采样点，包括：通过所述轻量级抽样网络中的两个聚合层根据任一嵌入序列的序列特征预测采样点的偏移，并通过基于通道的全局聚合层压缩和提取全局序列信息，以生成所述任一嵌入序列对应的偏移；通过按照元素排列的偏移与对应的采样参考点相加计算偏移点，将每个时间步下的所述偏移点作为对应的时间步生成的采样点。5.根据权利要求1所述的基于渐进采样的可变形注意序列推荐方法，其特征在于，所述通过各个所述DAPS模块依次逐步求精采样点，包括：在确定...

【专利技术属性】
技术研发人员：邵洲，刘佳，
申请(专利权)人：北京智谱华章科技有限公司，
类型：发明
国别省市：