联邦学习建模优化方法、设备、介质及计算机程序产品技术

本申请公开了一种联邦学习建模优化方法、设备、介质及计算机程序产品，所述联邦学习建模优化方法应用于第一设备，所述联邦学习建模优化方法包括：获取第一方待训练本地模型对应的第一方本地模型预测值；基于对所述第一方本地模型预测值进行随机数加密生成的第一方随机数加密值，与第二设备进行加密值交换，获得第二方随机数加密值；基于所述第二方随机数加密值生成的第二方随机数加密中间参数，与所述第二设备进行加密中间参数交换，获得第一方随机数加密中间参数；基于所述第一方随机数加密中间参数，优化所述第一方待训练本地模型，获得第一方联邦模型。本申请解决了基于联邦学习构建模型时安全性低的技术问题。

【技术实现步骤摘要】
联邦学习建模优化方法、设备、介质及计算机程序产品
本申请涉及金融科技(Fintech)的人工智能
，尤其涉及一种联邦学习建模优化方法、设备、介质及计算机程序产品。
技术介绍
随着金融科技，尤其是互联网科技金融的不断发展，越来越多的技术(如分布式、人工智能等)应用在金融领域，但金融业也对技术提出了更高的要求，如对金融业对应待办事项的分发也有更高的要求。随着计算机技术的不断发展，联邦学习的应用也越来越广泛，目前，在通过联邦学习进行模型构建时，参与联邦学习的标签拥有方通常需要将同态加密的标签发送至无标签的特征拥有方，进而特征拥有方基于同态加密的标签计算同态加密的梯度和同态加密的损失，并将同态加密的梯度和同态加密的损失发送至标签拥有方，进而标签拥有方对同态加密的梯度和同态加密的损失进行解密后，将明文状态的模型梯度和模型损失发送至特征拥有方后，特征拥有方即可更新本地模型，但是，若特征拥有方在接收同态加密的标签后，将己方想要知道的密文内容(同态加密的标签)代替同态加密的梯度和同态加密的损失发送至标签拥有方，进而标签拥有方进行解密后，将解密结果反馈至特征拥有方，特征拥有方即可套取标签拥有方的样本标签，也即，在构建模型的整个联邦学习过程中存在解密接口，进而特征拥有方可通过解密接口套取标签拥有方的隐私数据，进而将导致作为标签拥有方的隐私数据的样本标签发生泄露，所以，当前基于联邦学习构建模型的方法仍存在安全隐患。
技术实现思路
本申请的主要目的在于提供一种联邦学习建模优化方法、设备、介质及计算机程序产品，旨在解决现有技术中基于联邦学习构建模型时安全性低的技术问题。为实现上述目的，本申请提供一种联邦学习建模优化方法，所述联邦学习建模优化方法应用于第一设备，所述联邦学习建模优化方法包括：获取第一方待训练本地模型对应的第一方本地模型预测值；基于对所述第一方本地模型预测值进行随机数加密生成的第一方随机数加密值，与第二设备进行加密值交换，获得第二方随机数加密值，其中，所述第二方随机数加密值由所述第二设备对第二方待训练本地模型对应的第二方本地模型预测值以及样本标签进行随机数加密获得，以供所述第二设备获取所述第一方随机数加密值；基于所述第二方随机数加密值生成的第二方随机数加密中间参数，与所述第二设备进行加密中间参数交换，获得第一方随机数加密中间参数，其中，所述第一方随机数加密中间参数由所述第二设备基于所述第一方随机数加密值生成，以供所述第二设备基于所述第二方随机数加密中间参数，优化所述第二方待训练本地模型，获得第二方联邦模型；基于所述第一方随机数加密中间参数，优化所述第一方待训练本地模型，获得第一方联邦模型。为实现上述目的，本申请提供一种联邦学习建模优化方法，所述联邦学习建模优化方法应用于第二设备，所述联邦学习建模优化方法包括：获取第二方待训练本地模型对应的第二方本地模型预测值和所述第二方本地模型预测值对应的样本标签；基于对所述第二方本地模型预测值和所述样本标签进行随机数加密生成的第二方随机数加密值，与第一设备进行加密值交换，获得第一方随机数加密值，其中，所述第一方随机数加密值由所述第一设备对第一方待训练本地模型对应的第一方本地模型预测值进行随机数加密获得，以供所述第一设备获取所述第二方随机数加密值；基于所述第一方随机数加密值生成的第一方随机数加密中间参数，与所述第一设备进行加密中间参数交换，获得第二方随机数加密中间参数，其中，所述第二方随机数加密中间参数由所述第一设备基于所述第二方随机数加密值生成，以供所述第一设备基于所述第一方随机数加密中间参数，优化所述第一方待训练本地模型，获得第一方联邦模型；基于所述第二方随机数加密中间参数，优化所述第二方待训练本地模型，获得第二方联邦模型。本申请还提供一种联邦学习建模优化装置，所述联邦学习建模优化装置为虚拟装置，且所述联邦学习建模优化装置应用于第一设备，所述联邦学习建模优化装置包括：获取模块，用于获取第一方待训练本地模型对应的第一方本地模型预测值；加密值交换模块，用于基于对所述第一方本地模型预测值进行随机数加密生成的第一方随机数加密值，与第二设备进行加密值交换，获得第二方随机数加密值，其中，所述第二方随机数加密值由所述第二设备对第二方待训练本地模型对应的第二方本地模型预测值以及样本标签进行随机数加密获得，以供所述第二设备获取所述第一方随机数加密值；加密中间参数交换模块，用于基于所述第二方随机数加密值生成的第二方随机数加密中间参数，与所述第二设备进行加密中间参数交换，获得第一方随机数加密中间参数，其中，所述第一方随机数加密中间参数由所述第二设备基于所述第一方随机数加密值生成，以供所述第二设备基于所述第二方随机数加密中间参数，优化所述第二方待训练本地模型，获得第二方联邦模型；优化模块，用于基于所述第一方随机数加密中间参数，优化所述第一方待训练本地模型，获得第一方联邦模型。本申请还提供一种联邦学习建模优化装置，所述联邦学习建模优化装置为虚拟装置，且所述联邦学习建模优化装置应用于第二设备，所述联邦学习建模优化装置包括：获取模块，用于获取第二方待训练本地模型对应的第二方本地模型预测值和所述第二方本地模型预测值对应的样本标签；加密值交换模块，用于基于对所述第二方本地模型预测值和所述样本标签进行随机数加密生成的第二方随机数加密值，与第一设备进行加密值交换，获得第一方随机数加密值，其中，所述第一方随机数加密值由所述第一设备对第一方待训练本地模型对应的第一方本地模型预测值进行随机数加密获得，以供所述第一设备获取所述第二方随机数加密值；加密中间参数交换模块，用于基于所述第一方随机数加密值生成的第一方随机数加密中间参数，与所述第一设备进行加密中间参数交换，获得第二方随机数加密中间参数，其中，所述第二方随机数加密中间参数由所述第一设备基于所述第二方随机数加密值生成，以供所述第一设备基于所述第一方随机数加密中间参数，优化所述第一方待训练本地模型，获得第一方联邦模型；优化模块，用于基于所述第二方随机数加密中间参数，优化所述第二方待训练本地模型，获得第二方联邦模型。本申请还提供一种联邦学习建模优化设备，所述联邦学习建模优化设备为实体设备，所述联邦学习建模优化设备包括：存储器、处理器以及存储在所述存储器上并可在所述处理器上运行的所述联邦学习建模优化方法的程序，所述联邦学习建模优化方法的程序被处理器执行时可实现如上述的联邦学习建模优化方法的步骤。本申请还提供一种介质，所述介质为可读存储介质，所述可读存储介质上存储有实现联邦学习建模优化方法的程序，所述联邦学习建模优化方法的程序被处理器执行时实现如上述的联邦学习建模优化方法的步骤。本申请还提供一种计算机程序产品，包括计算机程序，所述计算机程序被处理器执行时实现如上述的联邦学习建模优化方法的步骤。本申请提供了一种联邦学习建模优化方法、设备、介质及计算机程序产品，相比于现有技术采用的参与联邦学习的标签拥有方通本文档来自技高网...

【技术保护点】
1.一种联邦学习建模优化方法，其特征在于，所述联邦学习建模优化方法应用于第一设备，所述联邦学习建模优化方法包括：/n获取第一方待训练本地模型对应的第一方本地模型预测值；/n基于对所述第一方本地模型预测值进行随机数加密生成的第一方随机数加密值，与第二设备进行加密值交换，获得第二方随机数加密值，其中，所述第二方随机数加密值由所述第二设备对第二方待训练本地模型对应的第二方本地模型预测值以及样本标签进行随机数加密获得，以供所述第二设备获取所述第一方随机数加密值；/n基于所述第二方随机数加密值生成的第二方随机数加密中间参数，与所述第二设备进行加密中间参数交换，获得第一方随机数加密中间参数，其中，所述第一方随机数加密中间参数由所述第二设备基于所述第一方随机数加密值生成，以供所述第二设备基于所述第二方随机数加密中间参数，优化所述第二方待训练本地模型，获得第二方联邦模型；/n基于所述第一方随机数加密中间参数，优化所述第一方待训练本地模型，获得第一方联邦模型。/n

【技术特征摘要】
1.一种联邦学习建模优化方法，其特征在于，所述联邦学习建模优化方法应用于第一设备，所述联邦学习建模优化方法包括：
获取第一方待训练本地模型对应的第一方本地模型预测值；
基于对所述第一方本地模型预测值进行随机数加密生成的第一方随机数加密值，与第二设备进行加密值交换，获得第二方随机数加密值，其中，所述第二方随机数加密值由所述第二设备对第二方待训练本地模型对应的第二方本地模型预测值以及样本标签进行随机数加密获得，以供所述第二设备获取所述第一方随机数加密值；
基于所述第二方随机数加密值生成的第二方随机数加密中间参数，与所述第二设备进行加密中间参数交换，获得第一方随机数加密中间参数，其中，所述第一方随机数加密中间参数由所述第二设备基于所述第一方随机数加密值生成，以供所述第二设备基于所述第二方随机数加密中间参数，优化所述第二方待训练本地模型，获得第二方联邦模型；
基于所述第一方随机数加密中间参数，优化所述第一方待训练本地模型，获得第一方联邦模型。


2.如权利要求1所述联邦学习建模优化方法，其特征在于，所述基于对所述第一方本地模型预测值进行随机数加密生成的第一方随机数加密值，与第二设备进行加密值交换，获得第二方随机数加密值的步骤包括：
基于预设第一方随机数和预设第二方密钥对中的公钥，对所述第一方本地模型预测值进行随机数加密，获得第一方随机数加密值；
基于所述第一方随机数加密值，与所述第二设备进行加密值交换，获得所述第二方随机数加密值。


3.如权利要求2所述联邦学习建模优化方法，其特征在于，所述基于预设第一方随机数和预设第二方密钥对中的公钥，对所述第一方本地模型预测值进行随机数加密，获得第一方随机数加密值的步骤包括：
基于所述预设第二方密钥对中的公钥，对所述第一方本地模型预测值进行同态加密，获得第一方同态加密模型预测值；
将所述第一方同态加密模型预测值和所述预设第一方随机数进行混合，生成所述第一方随机数加密值。


4.如权利要求1所述联邦学习建模优化方法，其特征在于，所述基于所述第二方随机数加密值生成的第二方随机数加密中间参数，与所述第二设备进行加密中间参数交换，获得第一方随机数加密中间参数的步骤包括：
基于预设第一方密钥对中的私钥和公钥、所述第二方随机数加密值以及所述第一方本地模型预测值，生成第二方随机数加密中间参数；
基于所述第二方随机数加密中间参数，与所述第二设备进行加密中间参数交换，获得所述第一方随机数加密中间参数。


5.如权利要求4所述联邦学习建模优化方法，其特征在于，所述基于所述预设第一方密钥对中的私钥和公钥、所述第二方随机数加密值、所述第一方本地模型预测值，生成第二方随机数加密中间参数的步骤包括：
基于所述预设第一方密钥对中的私钥，对所述第二方随机数加密值进行解密，获得第二方随机数混合值；
基于所述第一方本地模型预测值和所述第二方随机数混合值，生成第二方随机数混合中间参数；
基于所述预设第一方密钥对中的公钥，对所述第二方随机数混合中间参数进行加密，获得所述第二方随机数加密中间参数。


6.如权利要求1所述联邦学习建模优化方法，其特征在于，所述基于所述第一方随机数加密中间参数，优化所述第一方待训练本地模型，获得第一方联邦模型的步骤包括：
对所述第一方随机数加密中间参数进行随机数消除，获得第一方加密中间参数；
基于所述第一方加密中间参数和所述第一方本地模型预测值对应的第一方本地样本，生成第一方加密梯度；
基于所述第一方加密梯度，优化所述第一方待训练本地模型，获得所述第一方联邦模型。


7.如权利要求6所述联邦学习建模优化方法，其特征在于，所述基于所述第一方加密梯度，优化所述第一方待训练本地模型，获得所述第一方联邦模型的步骤包括：
基于所述第一方加密梯度，对所述第一方待训练本地模型进行模型参数更新，并判断模型参数更新后的第一方待训练本地模型是否满足预设训练结束条件；
若满足，则将所述模型参数更新后的第一方待训练本地模型作为所述第一方联邦模型；
若不满足，则返回执行所述获取第一方待训练本地模型对应的第一方本地模型预测值的步骤。


8.如权利要求1所述联邦学习建模优化方法，其特征在于，所述第一方联邦模型包括由预设第二方密钥对中的公钥加密的第一方加密模型参数，所述第二方联邦模型包括由预设第一方密钥对中的公钥加密的第二方加密模型参数，
在所述基于所述第一方随机数加密中间参数，优化所述第一方待训练本地模型，获得第一方联邦模型的步骤之后，所述联邦学习建模优化方法还包括：
获取第一方待预测样本，并基于所述第一方待预测样本和所述第一方加密模型参数，生成第一方加密模型输出值；
将所述第一方加密模型输出值和所述第一方待预测样本的目标样本ID发送至所述第二设备，以供所述第二设备基于所述目标样本ID对应的第二方待预测样本和所述第二方加密模型参数，生成第二方加密模型输出值，并基于所述预设第二方密钥对中的私钥，对所述第一方加密模型输出值进行解密，获得第一方模型输出值；
接收所述第二设备发送的第二方加密模型输出值以及第一方模型输出值，并基于所述预设第一方密钥对中的私钥，对所述第二方加密模型输出值进行解密，获得第二方模型输出值；
基于所述第一方模型输出值和所述第二方模型输出值，生成联邦预测结果。


9.一种联邦学习建模优化方法，其特征在于，所述联邦学习建模优化方法应用于第二设备，所述联邦学习建模优化方法包括：
获取第二方待训练本地模型对应的第二方本地模型预测值和所述第二方本地模型预测值对应的样本标签；
基于对所述第二方本地模型预测值和所述样本标签进行随机数加密生成的第二方随机数加密值，与第一设备进行加密值交换，获得第一方随机数加密值，其中，所述第一方随机数加密值由所述第一设备对第一方待训练本地模型对应的第一方本地模型预测值进行随机数加密获得，以供所述第一设备...

【专利技术属性】
技术研发人员：谭明超，马国强，范涛，陈天健，杨强，
申请(专利权)人：深圳前海微众银行股份有限公司，
类型：发明
国别省市：广东;44