本发明专利技术涉及人工智能技术领域，提供一种基于分层次联邦学习的数据保护方法、装置、设备及介质，能够通过分层次联邦学习分析保证各参与方在不共享数据的前提下进行隐私保护下的联邦建模，通过联邦系统中加密机制下的模型参数交换方式联合建立一个全局共享模型，各客户端自有数据不出本地，且建好的模型为所有参与方共享使用，进而实现对数据的有效保护。进而实现对数据的有效保护。进而实现对数据的有效保护。
【技术实现步骤摘要】
基于分层次联邦学习的数据保护方法、装置、设备及介质
[0001]本专利技术涉及人工智能
，尤其涉及一种基于分层次联邦学习的数据保护方法、装置、设备及介质。
技术介绍
[0002]人工智能应用可采集大量的用户身份证、人脸特征、指纹特征、声纹特征、虹膜特征等具有强个人属性的生物特征信息。这些隐私信息具有唯一性和不变性，在数据共享使用与数据流转过程中一旦被泄露或者滥用，将会对社会和公民权益造成严重危害。
技术实现思路
[0003]鉴于以上内容，有必要提供一种基于分层次联邦学习的数据保护方法、装置、设备及介质，旨在保护隐私数据的安全。
[0004]一种基于分层次联邦学习的数据保护方法，应用于数据保护系统，所述数据保护系统包括应用层、汇聚层、客户端层，所述基于分层次联邦学习的数据保护方法包括：
[0005]所述应用层进行模型参数请求分解，并向所述汇聚层的多个联合训练模型发送分解后的模型参数请求；
[0006]所述汇聚层根据所述模型参数请求，通过与所述客户端层进行参数共享以对所述多个联合训练模型进行参数聚合，得到聚合模型参数；
[0007]所述汇聚层将所述聚合模型参数加密反馈至所述应用层。
[0008]根据本专利技术优选实施例，所述汇聚层包括至少一台聚合服务器，所述客户端层包括至少一个客户端，每台聚合服务器对应于至少一个客户端；所述汇聚层根据所述模型参数请求，通过与所述客户端层进行参数共享以对所述多个联合训练模型进行参数聚合，得到聚合模型参数包括：
[0009]对于每个聚合服务器，所述聚合服务器获取至少一个联合训练模型，并对每个联合训练模型进行初始化处理，得到初始全局模型参数；
[0010]所述聚合服务器将所述初始全局模型参数传递至对应的每个客户端；
[0011]每个客户端获取训练数据，并结合所述聚合服务器根据每个客户端的训练数据及所述初始全局模型参数进行模型训练，得到每个客户端的中间参数；
[0012]每个客户端加密对应的中间参数，得到每个客户端的加密参数；
[0013]每个客户端将对应的加密参数发送至所述聚合服务器；
[0014]所述聚合服务器对每个客户端的加密参数进行聚合处理，得到所述聚合模型参数。
[0015]根据本专利技术优选实施例，所述结合所述聚合服务器根据每个客户端的训练数据及所述初始全局模型参数进行模型训练，得到每个客户端的中间参数包括：
[0016]每个客户端获取对应的初始模型；
[0017]每个客户端将所述初始全局模型参数确定为对应初始模型的初始参数，并利用每
个客户端的训练数据训练对应的初始模型，得到每个客户端对应的更新参数；
[0018]每个客户端将对应的更新参数加密传递至所述聚合服务器进行聚合处理，得到当前聚合参数；
[0019]所述聚合服务器将所述当前聚合参数加密发送至每个客户端进行迭代训练，直至对应的损失函数达到收敛，停止训练，得到每个客户端的中间参数。
[0020]根据本专利技术优选实施例，所述聚合服务器将所述当前聚合参数加密发送至每个客户端进行迭代训练包括：
[0021]A、每个客户端获取对应的当前模型；
[0022]B、每个客户端将所述当前聚合参数确定为对应当前模型的当前参数，并利用每个客户端的训练数据训练对应的当前模型，得到每个客户端对应的更新参数；
[0023]C、每个客户端将对应的更新参数加密传递至所述聚合服务器进行聚合处理，得到更新的所述当前聚合参数；
[0024]D、所述聚合服务器将所述当前聚合参数加密发送至每个客户端进行迭代训练；
[0025]F、重复执行A
‑
D。
[0026]根据本专利技术优选实施例，所述方法还包括：
[0027]对于每个客户端，所述客户端获取训练过程中对应模型的实际输出结果，及获取对应模型的期望输出结果；
[0028]所述客户端计算所述实际输出结果与所述期望输出结果的差值；
[0029]当所述实际输出结果与所述期望输出结果的差值不再减小时，所述客户端确定对应损失函数达到收敛。
[0030]根据本专利技术优选实施例，所述每个客户端加密对应的中间参数，得到每个客户端的加密参数包括：
[0031]每个客户端采用基于差分隐私的Fed Avg算法加密对应的中间参数，得到每个客户端的加密参数。
[0032]根据本专利技术优选实施例，所述聚合服务器对每个客户端的加密参数进行聚合处理，得到所述聚合模型参数包括：
[0033]所述聚合服务器计算每个客户端的加密参数的平均值，得到所述聚合模型参数。
[0034]一种基于分层次联邦学习的数据保护装置，运行于数据保护系统，所述数据保护系统包括应用层、汇聚层、客户端层，所述基于分层次联邦学习的数据保护装置包括：
[0035]所述应用层，用于进行模型参数请求分解，并向所述汇聚层的多个联合训练模型发送分解后的模型参数请求；
[0036]所述汇聚层，用于根据所述模型参数请求，通过与所述客户端层进行参数共享以对所述多个联合训练模型进行参数聚合，得到聚合模型参数；
[0037]所述汇聚层，还用于将所述聚合模型参数加密反馈至所述应用层。
[0038]一种计算机设备，所述计算机设备包括：
[0039]存储器，存储至少一个指令；及
[0040]处理器，执行所述存储器中存储的指令以实现所述基于分层次联邦学习的数据保护方法。
[0041]一种计算机可读存储介质，所述计算机可读存储介质中存储有至少一个指令，所
述至少一个指令被计算机设备中的处理器执行以实现所述基于分层次联邦学习的数据保护方法。
[0042]由以上技术方案可以看出，本专利技术能够通过分层次联邦学习分析保证各参与方在不共享数据的前提下进行隐私保护下的联邦建模，通过联邦系统中加密机制下的模型参数交换方式联合建立一个全局共享模型，各客户端自有数据不出本地，且建好的模型为所有参与方共享使用，进而实现对数据的有效保护。
附图说明
[0043]图1是本专利技术基于分层次联邦学习的数据保护方法的较佳实施例的流程图。
[0044]图2是本专利技术数据保护系统的一个示意图。
[0045]图3是本专利技术基于分层次联邦学习的数据保护方法的另一较佳实施例的流程图。
[0046]图4是本专利技术基于分层次联邦学习的数据保护装置的较佳实施例的功能模块图。
[0047]图5是本专利技术实现基于分层次联邦学习的数据保护方法的较佳实施例的计算机设备的结构示意图。
具体实施方式
[0048]为了使本专利技术的目的、技术方案和优点更加清楚，下面结合附图和具体实施例对本专利技术进行详细描述。
[0049]如图1所示，是本专利技术基于分层次联邦学习的数据保护方法的较佳实施例的流程图。根据不同的需求，该流程图中步骤的顺序可以改变，某些步骤可以省略。
[0050]所述基于分层次联邦学习的数据本文档来自技高网...
【技术保护点】
【技术特征摘要】
1.一种基于分层次联邦学习的数据保护方法，应用于数据保护系统，其特征在于，所述数据保护系统包括应用层、汇聚层、客户端层，所述基于分层次联邦学习的数据保护方法包括：所述应用层进行模型参数请求分解，并向所述汇聚层的多个联合训练模型发送分解后的模型参数请求；所述汇聚层根据所述模型参数请求，通过与所述客户端层进行参数共享以对所述多个联合训练模型进行参数聚合，得到聚合模型参数；所述汇聚层将所述聚合模型参数加密反馈至所述应用层。2.如权利要求1所述的基于分层次联邦学习的数据保护方法，其特征在于，所述汇聚层包括至少一台聚合服务器，所述客户端层包括至少一个客户端，每台聚合服务器对应于至少一个客户端；所述汇聚层根据所述模型参数请求，通过与所述客户端层进行参数共享以对所述多个联合训练模型进行参数聚合，得到聚合模型参数包括：对于每个聚合服务器，所述聚合服务器获取至少一个联合训练模型，并对每个联合训练模型进行初始化处理，得到初始全局模型参数；所述聚合服务器将所述初始全局模型参数传递至对应的每个客户端；每个客户端获取训练数据，并结合所述聚合服务器根据每个客户端的训练数据及所述初始全局模型参数进行模型训练，得到每个客户端的中间参数；每个客户端加密对应的中间参数，得到每个客户端的加密参数；每个客户端将对应的加密参数发送至所述聚合服务器；所述聚合服务器对每个客户端的加密参数进行聚合处理，得到所述聚合模型参数。3.如权利要求2所述的基于分层次联邦学习的数据保护方法，其特征在于，所述结合所述聚合服务器根据每个客户端的训练数据及所述初始全局模型参数进行模型训练，得到每个客户端的中间参数包括：每个客户端获取对应的初始模型；每个客户端将所述初始全局模型参数确定为对应初始模型的初始参数，并利用每个客户端的训练数据训练对应的初始模型，得到每个客户端对应的更新参数；每个客户端将对应的更新参数加密传递至所述聚合服务器进行聚合处理，得到当前聚合参数；所述聚合服务器将所述当前聚合参数加密发送至每个客户端进行迭代训练，直至对应的损失函数达到收敛，停止训练，得到每个客户端的中间参数。4.如权利要求3所述的基于分层次联邦学习的数据保护方法，其特征在于，所述聚合服务器将所述当前聚合参数加密发送至每个客户端进行迭代训练包括：A、每个客户端获取对应的当前模型；B、每个客户端将所述...
【专利技术属性】
技术研发人员：张建雄，杨震，李洁，
申请(专利权)人：天翼物联科技有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。