【技术实现步骤摘要】
本专利技术属于专题知识推荐，具体涉及一种多特征注意力融合表示用户兴趣的个性化专题知识推荐方法。
技术介绍
1、个性化专题知识推荐系统主要对用户的历史点击行为进行分析和预测，为用户推荐可能感兴趣的专题知识，一定程度上解决专题知识检索和查询数据过载的问题。一般来说，根据用户的兴趣和偏好对用户进行专题知识推荐，可以使用户快速获取到自己感兴趣的专题内容。因此，在个性化专题知识推荐中，用户兴趣的准确捕获是至关重要的。准确建模用户的兴趣和偏好，实现用户兴趣特征的充分表示，才能为用户提供精准化个性化的专题知识推荐服务。此外，由于专题信息特征的类别多样性，只考虑专题知识的单一信息特征无法准确对专题表示和用户兴趣表示进行准确建模。专题涉及的多种特征，如标题文本、摘要、类别、子类别等，可以用来丰富专题知识的语义表示，从而帮助更加准确地对用户兴趣进行建模，提高专题内容推荐的质量。因此，如何有效利用专题知识的多种特征信息，实现对候选专题和用户兴趣的建模，进而学习用户对候选专题的兴趣评分预测，对于完成精准的个性化专题知识推荐具有重要的意义。
技术实现思路
1、针对目前专题知识推荐系统忽略专题类别、子类别等信息在用户兴趣细粒度匹配中的作用的问题，本专利技术提供了一种多特征注意力融合表示用户兴趣的个性化专题知识推荐方法。
2、为了达到上述目的，本专利技术采用了下列技术方案：
3、多特征注意力融合表示用户兴趣的个性化专题知识推荐方法，包括以下步骤：
4、步骤s1，利用编码器对专
5、步骤s2，基于多层感知器对专题类别、专题子类别的内容建模，分别学习专题类别、专题子类别的特征表示；
6、步骤s3，通过注意力机制融合专题标题、专题摘要、专题类别、专题子类别的特征表示，建模候选专题表示；
7、步骤s4，根据步骤s1～步骤s3，同样地融合用户点击的历史专题内容，建模点击专题内容的表示，利用多头自注意力学习点击专题内容间的相关性，建模用户兴趣表示；
8、步骤s5，根据学习到的候选专题表示和用户兴趣表示，计算用户对候选集专题的评分，根据评分高低进行排序，生成候选专题的推荐列表。
9、进一步，所述步骤s1中利用编码器对专题标题、专题摘要的文本内容建模，学习专题标题、专题摘要的特征表示，具体步骤为：
10、步骤1.1，基于glove预训练模型，对专题标题的文本内容进行初始化，词向量表示为：
11、et＝[w1,w2,...,wm] (1)
12、式(1)中，wm表示标题中第个词的向量特征表示；
13、步骤1.2，通过卷积神经网络捕获专题标题文本内容单词间的局部上下文关系，词wi的上下文表示定义为：
14、
15、式(2)中，relu为非线性激活函数，w(i-d):(i+d)是从位置(i-d)到(i+d)词向量的拼接，(2d+1)为卷积核窗口大小，mt和bt分别表示对专题标题进行卷积神经网络的卷积核和偏置项；
16、步骤1.3，考虑到不同单词对于专题标题表示的贡献不同，词wi的贡献分数表示为：
17、
18、式(3)中，qt、wt、b′t为可训练参数；
19、步骤1.4，定义词wi的注意力权重为：
20、
21、式(4)中，为词wi在专题标题文本内容所有单词中的归一化注意力权重，m是专题标题文本内容所有单词的个数，exp是指数函数；
22、步骤1.5，使用注意力机制将专题标题文本内容的所有单词表示进行融合，定义专题标题文本内容的表示如下：
23、
24、式(5)中，为词wi在专题标题文本内容所有单词中的归一化注意力权重，描述了不同单词对于专题标题文本表示的贡献程度，m是专题标题文本内容所有单词的个数；
25、步骤1.6，重复步骤1.1～步骤1.5，计算专题摘要文本内容的表示ra。
26、进一步，所述步骤s2中基于多层感知器对专题类别、专题子类别的内容建模，分别学习专题类别、专题子类别的特征表示，具体步骤为：
27、步骤2.1，根据专题的类别c，初始化类别向量为ec，通过mlp获得专题的类别特征表示rc，定义为：
28、rc＝relu(vcec+bc) (6)
29、式(6)中，vc和bc是可训练参数；
30、步骤2.2，根据专题的子类别s，初始化子类别向量为es，通过mlp获得专题的子类别特征表示rs，定义为：
31、rs＝relu(vses+bs) (7)
32、式(7)中，vs和bs是可训练参数。
33、进一步，所述步骤s3中通过注意力机制融合专题标题、专题摘要、专题类别、专题子类别的特征表示，建模候选专题表示，具体步骤为：
34、步骤3.1，考虑到不同特征对于专题的特征表示贡献不同，专题类别的贡献分数hc为：
35、hc＝pt tanh(vtrc+bt) (8)
36、式(8)中，p、vt、bt为可训练参数；
37、步骤3.2，重复步骤3.1，分别计算专题标题、专题摘要、专题子类别的贡献分数为ht、ha和hs；
38、步骤3.4，定义专题类别的注意力权重γc为：
39、
40、式(9)中，exp是指数函数；
41、步骤3.5，重复步骤3.4，分别计算专题标题、专题摘要、专题子类别在专题所有特征中的归一化注意力权重为γt、γa和γs；
42、步骤3.6，使用注意力机制将专题的多种特征进行融合，定义专题的特征表示如下：
43、r＝γtrt+γara+γcrc+γsrs (10)
44、式(10)中，γt是专题标题特征在专题所有特征中的归一化注意力权重，γa是专题摘要特征在专题所有特征中的归一化注意力权重，γs是专题子类别特征在专题所有特征中的归一化注意力权重。
45、进一步，所述步骤s4中根据步骤s1～步骤s3，同样地融合用户点击的历史专题内容，建模点击专题内容的表示，利用多头自注意力学习点击专题内容间的相关性，建模用户兴趣表示，具体步骤为：
46、步骤4.1，根据用户历史点击专题的多种特征，学习得到点击专题的表示[r1,r2,...,rl]；使用卷积神经网络cnn对点击专题及其上下文建模，第i次点击专题的上下文表示si定义为：
47、si＝relu(mrr(i-d):(i+d)+br) (11)
48、式(11)中，relu为非线性激活函数，r(i-d):(i+d)是从位置(i-d)到(i+d)点击专题表示的拼接，(2d+1)为卷积核窗口大小；mr和br分别表示对专题进行卷积神经网络的卷积核和偏置项。
49、步骤4.2，利用多头自注本文档来自技高网...
【技术保护点】
1.多特征注意力融合表示用户兴趣的个性化专题知识推荐方法，其特征在于，包括以下步骤：
2.根据权利要求1所述的多特征注意力融合表示用户兴趣的个性化专题知识推荐方法，其特征在于：所述步骤S1中利用编码器对专题标题、专题摘要的文本内容建模，学习专题标题、专题摘要的特征表示，具体步骤为：
3.根据权利要求1所述的多特征注意力融合表示用户兴趣的个性化专题知识推荐方法，其特征在于：所述步骤S2中基于多层感知器对专题类别、专题子类别的内容建模，分别学习专题类别、专题子类别的特征表示，具体步骤为：
4.根据权利要求1所述的多特征注意力融合表示用户兴趣的个性化专题知识推荐方法，其特征在于：所述步骤S3中通过注意力机制融合专题标题、专题摘要、专题类别、专题子类别的特征表示，建模候选专题表示，具体步骤为：
5.根据权利要求1所述的多特征注意力融合表示用户兴趣的个性化专题知识推荐方法，其特征在于：所述步骤S4中根据步骤S1～步骤S3，同样地融合用户点击的历史专题内容，建模点击专题内容的表示，利用多头自注意力学习点击专题内容间的相关性，建模用户兴趣表示，具
6.根据权利要求1所述的多特征注意力融合表示用户兴趣的个性化专题知识推荐方法，其特征在于：所述步骤S5中根据学习到的候选专题表示和用户兴趣表示，计算用户对候选集专题的评分，根据评分高低进行排序，生成候选专题的推荐列表，具体步骤为：
...【技术特征摘要】
1.多特征注意力融合表示用户兴趣的个性化专题知识推荐方法，其特征在于，包括以下步骤：
2.根据权利要求1所述的多特征注意力融合表示用户兴趣的个性化专题知识推荐方法，其特征在于：所述步骤s1中利用编码器对专题标题、专题摘要的文本内容建模，学习专题标题、专题摘要的特征表示，具体步骤为：
3.根据权利要求1所述的多特征注意力融合表示用户兴趣的个性化专题知识推荐方法，其特征在于：所述步骤s2中基于多层感知器对专题类别、专题子类别的内容建模，分别学习专题类别、专题子类别的特征表示，具体步骤为：
4.根据权利要求1所述的多特征注意力融合表示用户兴趣的个性化专题知识推荐方法，其特征在于：所述步骤...
【专利技术属性】
技术研发人员：郑建兴，李敏，邢欣，米鑫，刘经天，
申请(专利权)人：山西大学，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。