【技术实现步骤摘要】
专利技术涉及一种联邦学习，尤指一种保护数据摘要的联邦学习系统及其方法。
技术介绍
1、联邦学习(federated learning，fl)藉由透过中央协作(orchestration)的跨设备及分布式学习(distributed learning)解决许多隐私和资料共享的问题。现有的联邦学习系统大多假设客户之间的协作设置可以容忍客户(moderator)临时断开其与协调者(moderator)之间的连接。
2、然而，实务上，由于商业竞争或其他非技术性原因，可能会发生客户长时间缺席或离开的情况。当数据在客户之间不平衡、偏斜(skewed)或非独立且相同分布(nonindependent and identically distributed，non-iid)时，性能下降可能会很严重。
3、当协调者需要评估模型并将其发布给消费者时会出现另一个问题。由于协调者无法存取私人的客户数据，当客户停止协作时，代表性数据将丢失，从而导致联邦学习的梯度更新大幅度的偏差和长期训练退化。在训练过程中记住梯度的简单方法不是一个合适的解决方案，因为随着迭代的进行，梯度很快地变得不具代表性。
4、总体而言，目前的联邦学习仍无法在以下三种场景的组合中具有良好的表现：(1)不可靠的客户；(2)删除客户后的训练；及(3)增加客户后的训练。
技术实现思路
1、为了解决上述的问题，本专利技术提供一种可透过自动化网格修复不理想几何网格图案的保护数据摘要的联邦学习系统及其方法，以解决上
2、有鉴于此，本专利技术提出一种保护数据摘要(digest)的联邦学习系统及其方法，这是一种联邦学习框架，藉由在协调者处合成代表性客户资料解决客户离开的问题。本专利技术提出一种特征混合的解决方案以减少隐私问题，并使用特征干扰的方法来保护摘要。
3、依据本专利技术实施例的一种保护数据摘要的联邦学习方法包括下列步骤：协调装置发送通用模型至多个客户装置，每个客户装置执行摘要生成器，从而依据多个原始数据产生多个编码特征，每个客户装置执行训练程序，训练程序包括：依据原始数据、编码特征、对应编码特征的多个卷标及出席客户损失函数更新通用模型以产生客户模型，当收到摘要请求时，选择至少二编码特征计算特征加权和、计算特征加权和与噪声的总和、选择至少二卷标计算卷标加权和，将总和及标签加权和作为摘要发送至协调装置，及发送客户模型的更新参数至协调装置，以及协调装置执行下列步骤：判断客户装置中的缺席客户及出席客户，依据通用模型、缺席客户的摘要及缺席客户损失函数产生替代模型，依据出席客户的客户模型的更新参数及替代模型的更新参数执行聚合运算以产生聚合模型，及依据协调装置损失函数训练聚合模型以更新通用模型。
4、依据本专利技术实施例的一种保护数据摘要的联邦学习系统包括多个客户装置及一协调装置。每个客户装置包括第一处理器及第一通讯电路。第一处理器用于执行摘要生成器，从而依据多个原始数据产生多个编码特征。第一处理器更用于依据原始数据、编码特征、对应编码特征的多个卷标及出席客户损失函数更新通用模型以产生客户模型。当收到摘要请求时，第一处理器更用于选择至少二编码特征计算特征加权和、计算特征加权和与噪声的总和、选择至少二卷标中计算卷标加权和。第一通讯电路电性连接于第一处理器。第一通讯电路用于将总和及标签加权和作为摘要发送至协调装置，以及发送客户模型的更新参数至协调装置。协调装置通讯连接每个客户装置。协调装置包括第二通讯电路及第二处理器。第二通讯电路用于发送通用模型至每个客户装置。第二处理器电性连接于第二通讯电路。第二处理器用于判断客户装置中的缺席客户及出席客户，依据通用模型、缺席客户的摘要及缺席客户损失函数产生替代模型，依据出席客户的客户模型的更新参数及替代模型的更新参数执行聚合运算以产生聚合模型，以及依据协调装置损失函数训练聚合模型以更新通用模型。
5、以上之关于本揭露内容之说明及以下之实施方式之说明系用以示范与解释本专利技术之精神与原理，并且提供本专利技术之专利申请范围更进一步之解释。
本文档来自技高网...【技术保护点】
1.一种保护数据摘要的联邦学习方法，包括：
2.根据权利要求1所述的保护数据摘要的联邦学习方法，还包括：依据差分隐私的拉普拉斯机制或高斯机制产生所述噪声。
3.根据权利要求1所述的保护数据摘要的联邦学习方法，其中所述通用模型包括第一特征撷取器、第二特征撷取器及分类器；且依据所述些原始数据、所述些编码特征、对应所述些编码特征的所述些卷标及所述出席客户损失函数更新所述通用模型以产生所述客户模型包括：
4.根据权利要求1所述的保护数据摘要的联邦学习方法，其中所述通用模型包括第一特征撷取器、第二特征撷取器及分类器；且依据所述缺席客户的所述摘要及缺席客户损失函数产生所述替代模型包括：
5.根据权利要求1所述的保护数据摘要的联邦学习方法，其中依据所述出席客户的所述客户模型的所述更新参数及所述替代模型的所述更新参数执行所述聚合运算以产生所述聚合模型包括：
6.根据权利要求1所述的保护数据摘要的联邦学习方法，其中依据协调装置损失函数训练所述聚合模型以更新所述通用模型包括：
7.一种保护数据摘要的联邦学习系统，包括︰
<...【技术特征摘要】
1.一种保护数据摘要的联邦学习方法，包括：
2.根据权利要求1所述的保护数据摘要的联邦学习方法，还包括：依据差分隐私的拉普拉斯机制或高斯机制产生所述噪声。
3.根据权利要求1所述的保护数据摘要的联邦学习方法，其中所述通用模型包括第一特征撷取器、第二特征撷取器及分类器；且依据所述些原始数据、所述些编码特征、对应所述些编码特征的所述些卷标及所述出席客户损失函数更新所述通用模型以产生所述客户模型包括：
4.根据权利要求1所述的保护数据摘要的联邦学习方法，其中所述通用模型包括第一特征撷取器、第二特征撷取器及分类器；且依据所述缺席客户的所述摘要及缺席客户损失函数产生所述替代模型包括：
5.根据权利要求1所述的保护数据摘要的联邦学习方法，其中依据所述出席客户的所述客户...
【专利技术属性】
技术研发人员：许之凡，陈维超，张明清，
申请(专利权)人：英业达科技有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。