System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种基于个性化联邦学习的社交网络舆情分析方法及系统技术方案_技高网

一种基于个性化联邦学习的社交网络舆情分析方法及系统技术方案

技术编号:44116233 阅读:2 留言:0更新日期:2025-01-24 22:39
本发明专利技术公开了一种基于个性化联邦学习的社交网络舆情分析方法及系统,属于舆情分析技术领域。本发明专利技术在参与者端和服务器端分别采取动态层级聚合与超网络更新机制,将参与者端与服务器端相结合,共同处理非独立同分布数据造成的数据偏差问题,降低对模型聚合造成的负面影响,得到适应各个用户习惯的社会网络舆情分析模型用于社交网络舆情分析。

【技术实现步骤摘要】

本专利技术涉及舆情分析,尤其涉及一种基于个性化联邦学习的社交网络舆情分析方法及系统


技术介绍

1、社交网络舆情分析是一种基于社交媒体和网络平台的舆情分析方法,通过收集、整理和分析大规模用户在社交媒体上发布的言论、观点和情感信息,了解用户对特定话题、事件或产品的态度、情绪和倾向,以适应性地给予相关信息供用户浏览、使用。随着大数据驱动的人工智能的快速发展,保护个人隐私和数据安全已经成为社交网络舆情分析领域中一个新的关注话题,研究者们都重点指出了社交网络中潜在的安全与隐私问题。尽管已经有一些方法在保护用户隐私安全,如加强数据安全保护、强化用户隐私保护、限制数据的收集与使用等,但这些方法都存在一些各自的缺陷,如黑客攻击和技术漏洞可能导致用户数据被盗用或泄露,社交网络平台提供更加严格的隐私政策和设置选项,会降低用户体验等。此外,现有保护方法忽略了参与者端逐渐增强的算力,只考虑了如何在服务器端保护数据隐私问题。然而,参与者端的数据隐私保护在安全领域也拥有举足轻重的地位,近年倍受关注。因此,联邦学习应运而生。

2、联邦学习是一种协作式机器学习方法,允许多个参与方协同训练机器学习模型,同时保留其原始训练数据在本地,而不需要将数据集中到一个中央服务器。这一方法通过分布式计算来迭代地训练特定机器学习模型,允许大量参与者在保护隐私的同时合作。在联邦学习中,用户的原始数据不需要被传输到中央服务器,而是在各个本地终端上进行模型训练,这保障了每个参与者的数据隐私和安全。然而,由于数据分散在不同的终端,通常情况下这些数据并不具有相同的分布,这是因为不同终端采集的数据因用户社交网络结构、兴趣领域、习惯或其他因素而异。这种数据的非独立同分布性导致每个终端的模型训练方向不一致,最终可能影响模型的泛化性能。


技术实现思路

1、本专利技术的目的在于克服现有技术中的不足,提供一种基于个性化联邦学习的社交网络舆情分析方法及系统,以解决社交网络舆情分析过程中因非独立同分布数据造成数据偏差影响模型泛化性能的问题。

2、为解决上述技术问题,本专利技术是采用下述方案实现的:

3、本专利技术提供一种基于个性化联邦学习的社交网络舆情分析方法,所述方法由参与者终端执行,包括:

4、步骤a:利用本地社交网络数据进行模型训练,生成本地模型;

5、步骤b:根据本地社交网络数据分布将本地模型分为权重头层和全替身体层,生成层级权重矩阵;

6、步骤c:将本地模型上传给服务器以生成全局模型;

7、步骤d:接收服务器下发的全局模型,根据全局模型、本地模型和层级权重矩阵动态层级聚合更新本地模型;

8、步骤e:循环步骤c至步骤d直至达到最大迭代轮数,得到最终本地模型;

9、步骤f:应用最终本地模型进行社交网络舆情分析。

10、可选地,还包括:在步骤a之前对本地社交网络数据进行预处理;预处理包括:

11、利用线性插值方法对本地社交网络数据进行缺失值处理;

12、利用词袋模型对缺失值处理后的本地社交网络数据进行特征提取,对提取特征进行标准化处理。

13、可选地,动态层级聚合更新的公式为:

14、

15、其中,表示第个参与者终端的层级权重矩阵,表示第个参与者终端第轮本地模型,表示点乘矩阵,表示服务器下发给第个参与者终端第轮全局模型,表示轮数。

16、可选地,第个参与者终端的层级权重矩阵的更新公式为:

17、

18、其中,表示权重头层的学习率,表示第个参与者终端在第轮用了%的本地社交网络数据进行计算,表示交叉熵损失函数。

19、本专利技术还提供一种基于个性化联邦学习的社交网络舆情分析方法,所述方法由服务器执行,包括:

20、步骤a:接收参与者终端上传的本地模型,根据本地模型生成或更新模型矩阵;

21、步骤b:根据本地模型和超网络生成模型权重矩阵;

22、步骤c:根据模型权重矩阵和模型矩阵生成全局模型,将全局模型下发给参与者终端以动态层级聚合更新本地模型;

23、步骤d:循环步骤a至c直至达到最大迭代次数。

24、可选地,接收参与者终端上传的本地模型,根据本地模型生成或更新模型矩阵,包括:

25、接收参与者终端上传的本地模型,根据本地模型聚合生成或更新模型矩阵;

26、其中,模型矩阵为:

27、

28、式中,表示第个参与者终端本地模型,,表示参与者终端的数量,代表第个参与者终端本地模型的第层模型参数,,表示参与者终端本地模型的层数。

29、可选地,模型权重矩阵为:

30、

31、其中,表示第个参与者终端模型权重矩阵,表示第个参与者终端第层模型权重集合;表示第个参与者终端关于第个模型的第层参数的权重,,。

32、可选地,全局模型的生成公式为:

33、

34、其中,表示对应下发给第个参与者终端的全局模型。

35、本专利技术还提供一种基于个性化联邦学习的社交网络舆情分析系统,包括服务器和参与者终端,服务器与若干参与者终端通讯连接;

36、服务器被配置为执行步骤a:接收参与者终端上传的本地模型,根据本地模型生成或更新模型矩阵;步骤b:根据本地模型和超网络生成模型权重矩阵;步骤c:根据模型权重矩阵和模型矩阵生成全局模型,将全局模型下发给参与者终端以动态层级聚合更新本地模型;步骤d:循环步骤a至c直至达到最大迭代次数;

37、参与者终端被配置为执行步骤a:利用本地社交网络数据进行模型训练,生成本地模型;步骤b:根据本地社交网络数据分布将本地模型分为权重头层和全替身体层,生成层级权重矩阵;步骤c:将本地模型上传给服务器以生成全局模型;步骤d:接收服务器下发的全局模型,根据全局模型、本地模型和层级权重矩阵动态层级聚合更新本地模型;步骤e:循环步骤c至步骤d直至达到最大迭代轮数,得到最终本地模型;步骤f:应用最终本地模型进行社交网络舆情分析。

38、与现有技术相比,本专利技术所达到的有益效果为:

39、1、本专利技术在参与者端和服务器端分别采取动态层级聚合与超网络更新机制,将参与者端与服务器端相结合,共同处理非独立同分布数据造成的数据偏差问题,降低对模型聚合造成的负面影响,得到适应各个用户习惯的社会网络舆情分析模型。

40、2、本专利技术在服务器端使用的是超网络更新机制,可以使服务器端选择适用于不同数据类型的模型或特征提取器,从而更好地处理多样性的社交网络数据,并且使用超网络可以根据当前任务的特点自动选择或调整合适的模型,以最大程度地提高模型性能。

41、3、本专利技术在参与者端使用的是动态层级聚合,可以筛选优异数据,允许每个参与者自主决定本地模型更新的层数,并决定何时将其模型参数传递到上一级聚合层,这提供了更大的灵活性,以适应不同参与者的计算能力和数据分布,只有模型本文档来自技高网...

【技术保护点】

1.一种基于个性化联邦学习的社交网络舆情分析方法,其特征在于,所述方法由参与者终端执行,包括:

2.根据权利要求1所述基于个性化联邦学习的社交网络舆情分析方法,其特征在于,还包括:在步骤A之前对本地社交网络数据进行预处理;预处理包括:

3.根据权利要求1所述基于个性化联邦学习的社交网络舆情分析方法,其特征在于,动态层级聚合更新的公式为:

4.根据权利要求3所述基于个性化联邦学习的社交网络舆情分析方法,其特征在于,第个参与者终端的层级权重矩阵的更新公式为:

5.一种基于个性化联邦学习的社交网络舆情分析方法,其特征在于,所述方法由服务器执行,包括:

6.根据权利要求5所述基于个性化联邦学习的社交网络舆情分析方法,其特征在于,接收参与者终端上传的本地模型,根据本地模型生成或更新模型矩阵,包括:

7.根据权利要求6所述基于个性化联邦学习的社交网络舆情分析方法,其特征在于,模型权重矩阵为:

8.根据权利要求7所述基于个性化联邦学习的社交网络舆情分析方法,其特征在于,全局模型的生成公式为:

9.一种基于个性化联邦学习的社交网络舆情分析系统,其特征在于,包括服务器和参与者终端,服务器与若干参与者终端通讯连接;

...

【技术特征摘要】

1.一种基于个性化联邦学习的社交网络舆情分析方法,其特征在于,所述方法由参与者终端执行,包括:

2.根据权利要求1所述基于个性化联邦学习的社交网络舆情分析方法,其特征在于,还包括:在步骤a之前对本地社交网络数据进行预处理;预处理包括:

3.根据权利要求1所述基于个性化联邦学习的社交网络舆情分析方法,其特征在于,动态层级聚合更新的公式为:

4.根据权利要求3所述基于个性化联邦学习的社交网络舆情分析方法,其特征在于,第个参与者终端的层级权重矩阵的更新公式为:

5.一种基于个性化联邦学习的社交网络舆情分析方...

【专利技术属性】
技术研发人员:瞿治国丁健
申请(专利权)人:南京信息工程大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1