一种应用于云架构下的边缘学习建模训练方法及系统技术方案

本发明专利技术提供了一种应用于云架构下的边缘学习建模训练方法及系统，包括：当接收到开始训练的指令时，通过MEC节点进行边缘联邦学习的初始化；当所述初始化显示完成时，通过多个客户端节点训练多个第一本地模型，生成多个第二本地模型发送给MEC节点遍历多个客户端节点进行稳定性评估，生成多个稳定性评定值对多个第二本地模型进行筛选，生成多个第三本地模型；根据多个第三本地模型进行聚合，生成全局模型；判断全局模型是否达到收敛状态；当全局模型收敛，生成全局模型训练完成指令。通过稳定性评估对聚合的模型进行筛选，选择稳定性较高的模型，避免了恶意攻击节点对于模型精度的损失，达到了在MEC节点上训练出高精度模型的技术效果。技术效果。技术效果。

【技术实现步骤摘要】
一种应用于云架构下的边缘学习建模训练方法及系统


[0001]本专利技术涉及边缘学习
，具体涉及一种应用于云架构下的边缘学习建模训练方法及系统。

技术介绍

[0002]在云架构下，边缘计算(MEC)是一种新架构，可将云计算(CC)服务扩展到更靠近数据源的位置。MEC与深度学习(DL)相结合是一种很有前途的技术，并被广泛用于多种应用中。然而，在启用MEC的传统深度学习架构中，数据生产者必须经常与第三方、边缘或云服务器发送和共享数据，以训练他们的模型。由于高带宽要求、合法化和隐私漏洞，这种架构通常是不切实际的。联邦学习(FL)概念最近已成为一种很有前途的解决方案，可用于缓解不必要的带宽损失、数据隐私和合法化等问题。FL可以通过集中式服务器在分布式客户端之间共同训练模型，同时保持数据本地化。因此，FL可以被视为MEC范式中的一个刺激因素，因为它支持协作学习和模型优化。
[0003]目前的边缘学习一方面由于边缘通信环境的复杂性、客户端设备本地存算硬件资源有限；另一方面，由于不同客户端设备上本地数据存在数量和质量上的差异，导致不同客户端参与训练后，进而导致模型精度难以保障。
[0004]综上所述，现有技术中存在如何在MEC节点上训练出高精度的模型的技术问题。

技术实现思路

[0005]本申请提供了一种应用于云架构下的边缘学习建模训练方法，用于针对解决现有技术中存在如何在MEC节点上训练出高精度的模型的技术问题。
[0006]鉴于上述问题，本申请提供了一种应用于云架构下的边缘学习建模训练方法及系统。
[0007]本申请的第一个方面，提供了一种应用于云架构下的边缘学习建模训练方法，其中，应用于云架构下的边缘学习建模训练系统，所述系统包括MEC节点和客户端节点集合，包括：
[0008]多个客户端节点基于边缘联邦学习模型训练多个第一本地模型，生成对应的多个第二本地模型发送给MEC节点；
[0009]所述MEC节点依次对所述多个客户端节点进行稳定性评估，生成多个稳定性评定值；
[0010]所述MEC节点根据所述多个稳定性评定值对所述多个第二本地模型进行筛选，生成多个第三本地模型；
[0011]根据所述多个第三本地模型进行聚合，生成全局模型，并判断所述全局模型是否达到收敛状态；
[0012]当所述全局模型收敛，生成全局模型训练完成指令。
[0013]本申请的第二个方面，提供了一种应用于云架构下的边缘学习建模训练系统，其
中，包括多个客户端节点和MEC节点节点，任意一个所述多个客户端节点包括本地模型训练模块，所述MEC节点节点包括稳定性评估模块，模型聚合模块，贡献值评估模块，还包括：
[0014]所述本地模型训练模块用于多个客户端节点基于边缘联邦学习模型训练多个第一本地模型，生成对应的多个第二本地模型发送给MEC节点；
[0015]所述稳定性评估模块用于所述MEC节点依次对所述多个客户端节点进行稳定性评估，生成多个稳定性评定值；
[0016]所述稳定性评估模块用于所述MEC节点根据所述多个稳定性评定值对所述多个第二本地模型进行筛选，生成多个第三本地模型；
[0017]所述模型聚合模块用于根据所述多个第三本地模型进行聚合，生成全局模型，并判断所述全局模型是否达到收敛状态，当所述全局模型收敛，生成全局模型训练完成指令；
[0018]所述贡献值评估模块用于遍历所述多个第三本地模型对应的多个客户端节点进行贡献值评定，生成多个贡献值。
[0019]本申请中提供的一个或多个技术方案，至少具有如下技术效果或优点：
[0020]本申请实施例提供的技术方案中，MEC节点对各个客户端节点进行稳定性评估后，依据稳定性评估值筛选较为可靠的模型进行聚合得到全局模型，当全局模型收敛时，确定边缘学习训练完成。通过稳定性评估对聚合的模型进行筛选，选择稳定性较高的模型，避免了恶意攻击节点对于模型精度的损失，达到了在MEC节点上训练出高精度的模型的技术效果。
附图说明
[0021]图1为本申请提供的一种应用于云架构下的边缘学习建模训练方法流程示意图；
[0022]图2为本申请提供的一种应用于云架构下的边缘学习建模训练方法中边缘联邦学习的初始化的流程示意图；
[0023]图3为本申请提供的一种应用于云架构下的边缘学习建模训练方法中获取多个第二本地模型的流程示意图；
[0024]图4为本申请提供的一种应用于云架构下的边缘学习建模训练方法的逻辑示意图；
[0025]图5为本申请提供的一种应用于云架构下的边缘学习建模训练系统的结构示意图。
[0026]附图标记说明：本地模型训练模块51，稳定性评估模块52，模型聚合模块53，贡献值评估模块54。
具体实施方式
[0027]本申请通过提供了一种应用于云架构下的边缘学习建模训练方法及系统，稳定性评估对聚合的模型进行筛选，选择稳定性较高的模型，避免了恶意攻击节点对于模型精度的损失，达到了在MEC节点上训练出高精度的模型的技术效果，解决了现有技术中存在如何在MEC节点上训练出高精度的模型的技术问题。
[0028]实施例一
[0029]如图1所示，本申请提供了一种应用于云架构下的边缘学习建模训练方法，其中，
应用于云架构下的边缘学习建模训练系统，所述系统包括MEC节点和客户端节点集合，包括步骤：
[0030]S100：多个客户端节点基于边缘联邦学习模型训练多个第一本地模型，生成对应的多个第二本地模型发送给MEC节点；
[0031]进一步的，如图3所示，基于所述多个客户端节点基于边缘联邦学习模型训练多个第一本地模型，生成对应的多个第二本地模型发送给MEC节点，步骤S100包括步骤：
[0032]S110：根据所述第一模型和所述第一模型参数，生成所述多个第一本地模型，其中，所述多个第一本地模型和所述多个客户端节点一一对应；
[0033]S120：在所述多个客户端节点中的任意一个客户端节点，采集多组本地客户端数据集；
[0034]S130：根据所述多组本地客户端数据集对与所述任意一个客户端节点对应的第一本地模型进行训练，生成第二本地模型，添加进所述多个第二本地模型；
[0035]S140：将所述多个第二本地模型发送至所述MEC节点。
[0036]具体而言，多个第一本地模型指的是与多个客户端节点一一对应的多个本地模型，即MEC节点发送至多个客户端节点的第一模型和以及对应的模型参数所搭建的模型，理论而言，多个第一本地模型的模型框架和模型参数是完全相同的。
[0037]多个第二本地模型指的是多个客户端节点采集本地的是数据集开展训练得到的模型，多个第二本地模型由于是通过多个客户端节点采用不同的本地数据训练而成，因此模型参数应该并不相同，边缘学习训练模型需要通过多轮训练，每轮训练都需要通过客户端节点对其上一轮的本地模型进行训练更新。优选的，客户端节点k第t轮学习时更新后的本地模本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种应用于云架构下的边缘学习建模训练方法，其特征在于，应用于云架构下的模型训练系统，所述系统包括MEC节点和客户端节点集合，所述方法包括：多个客户端节点基于边缘联邦学习模型训练多个第一本地模型，生成对应的多个第二本地模型发送给MEC节点；所述MEC节点依次对所述多个客户端节点进行稳定性评估，生成多个稳定性评定值；所述MEC节点根据所述多个稳定性评定值对所述多个第二本地模型进行筛选，生成多个第三本地模型；根据所述多个第三本地模型进行聚合，生成全局模型，并判断所述全局模型是否达到收敛状态；当所述全局模型收敛，生成全局模型训练完成指令。2.如权利要求1所述的方法，其特征在于，所述方法还包括：通过所述MEC节点生成第一联邦学习任务，发送给客户端节点集合，获取反馈信息，其中，所述反馈信息包括同意参与训练或拒绝参与训练；当所述同意参与训练的数量满足预设数量时，对同意参与训练客户端节点设定相同初始信任值，生成所述多个客户端节点；加载第一模型和第一模型参数，发送至所述多个客户端节点，生成初始化完成信息。3.如权利要求2所述的方法，其特征在于，所述多个客户端节点基于边缘联邦学习模型训练多个第一本地模型，生成多个第二本地模型发送给所述MEC节点，包括：根据所述第一模型和所述第一模型参数，生成所述多个第一本地模型，其中，所述多个第一本地模型和所述多个客户端节点一一对应；在所述多个客户端节点中的任意一个客户端节点，采集多组本地客户端数据集；根据所述多组本地客户端数据集对与所述任意一个客户端节点对应的第一本地模型进行训练，生成第二本地模型，添加进所述多个第二本地模型；将所述多个第二本地模型发送至所述MEC节点。4.如权利要求1所述的方法，其特征在于，所述MEC节点依次对所述多个客户端节点进行稳定性评估，生成多个稳定性评定值，包括：根据所述多个第二本地模型，提取多组第二本地模型参数；获取模型参数参考基准；根据所述模型参数参考基准，遍历所述多组第二本地模型参数计算余弦相似度，生成所述多个稳定性评定值。5.如权利要求1所述的方法，其特征在于，所述根据所述多个稳定性评定值对所述多个第二本地模型进行筛选，生成多个第三本地模型，包括：设定可靠评定值阈值；遍历所述多个稳定性评定值，判断是否满足所述可靠评定值阈值；若满足，将稳定性评定值对应的第二本地模型添加进所述多个第三本地模型；若不满足，将稳定性评定值对应的第二本地模型丢弃，并将对应的客户端节点信任值减少。6.如权利要求1所述的方法，其特征在于，所述根据所述多个第三本地模型进行聚合，生成全局模型，包括：
遍历所述多个第三本地模型对应的多个客户端节点进行贡献值评定，生成多个贡献值；获取模型聚合公式：其中，表征客户端节点k第t轮学习时的本地模型，表征第t
‑
1轮训练中节点K的贡献值，ω
t
表征聚合后的全局模型，N是余弦相似度大于阈值的本地模型的数量，λ0为校正因子；根据所述模型聚合公式和所述多个贡献值，对所述多个第三本地模型进行聚合，生成所述全局模型。7.如权利要求1所述的方法，其特征在于，还包括：当所述全局模型未收敛，采集预设组别测试数据集；获取模型精度...

【专利技术属性】
技术研发人员：汤俊华，杨木兰，
申请(专利权)人：汤俊华，
类型：发明
国别省市：