一种信息的处理方法、装置及设备制造方法及图纸

本说明书实施例公开了一种信息的处理方法、装置及设备，该方法包括：获取待保护的目标模型对应的历史旁路信息，基于历史旁路信息和预先训练的隐私保护模型，对历史旁路信息进行隐私保护处理，得到隐私保护后的旁路信息，隐私保护模型是联合判别器，通过目标模型的旁路信息样本和预设的损失函数进行模型训练得到；当目标模型运行时，获取当前运行的目标模型对应的旁路信息中包含的信息所属的信息类型，并基于获取的信息类型，确定与该信息类型相匹配的旁路信息处理策略；基于与该信息类型相匹配的旁路信息处理策略和隐私保护后的旁路信息，对当前运行的目标模型对应的旁路信息进行处理，以保护当前运行的目标模型对应的旁路信息。息。息。

An information processing method, device and equipment

【技术实现步骤摘要】
一种信息的处理方法、装置及设备


[0001]本文件涉及计算机
，尤其涉及一种信息的处理方法、装置及设备。

技术介绍

[0002]近年来，人工智能技术得到了广泛应用，例如，生物识别技术，具体如基于人脸识别或指纹识别的门禁设备、人脸识别支付以及FaceID解锁等，以生物识别技术为例，大部份生物识别系统的核心部分是深度学习模型，因此，如果深度学习模型一旦泄漏(例如目标模型的结构和目标模型的功能被定位，则目标模型就更容易被攻破)，就会造成用户和商户的财产、信息的损失。
[0003]目前，深度学习模型的隐私保护方式通常是对深度学习模型的关键信息(如深度学习模型的结构、深度学习模型的权重以及深度学习模型的功能等)进行直接保护，例如，对深度学习模型的结构和权重进行混淆和加密，使得深度学习模型的结构和权重难以被解析和获取，但是，上述方式仅仅保护了事先定义的一些机器学习模型的关键信息，而且，深度学习模型除了包括关键信息外还包括其它信息，攻击者通过对上述信息的获取、解析和分析，也可能得到深度学习模型的关键信息，基于此，需要提供一种对模型对应的旁路信息进行隐私保护，以防止旁路信息引起模型关键信息泄漏的技术方案。

技术实现思路

[0004]本说明书实施例的目的是提供一种对模型对应的旁路信息进行隐私保护，以防止旁路信息引起模型关键信息泄漏的技术方案。
[0005]为了实现上述技术方案，本说明书实施例是这样实现的：
[0006]本说明书实施例提供的一种信息的处理方法，所述方法包括：获取待保护的目标模型对应的历史旁路信息，所述历史旁路信息是所述目标模型运行过程中产生的未经加密处理的历史信息或者所述目标模型运行过程中产生的容易获取且不需要进行信息保护处理的历史信息。基于所述历史旁路信息和预先训练的隐私保护模型，对所述历史旁路信息进行隐私保护处理，得到隐私保护后的旁路信息，所述隐私保护模型是联合判别器，通过所述目标模型的旁路信息样本和预设的损失函数进行模型训练得到。当所述目标模型运行时，获取当前运行的所述目标模型对应的旁路信息中包含的信息所属的信息类型，并基于获取的信息类型，确定与所述信息类型相匹配的旁路信息处理策略。基于与所述信息类型相匹配的旁路信息处理策略和所述隐私保护后的旁路信息，对当前运行的所述目标模型对应的旁路信息进行处理，以保护当前运行的所述目标模型对应的旁路信息。
[0007]本说明书实施例提供的一种信息的处理方法，应用于服务器，所述方法包括：获取待保护的目标模型对应的历史旁路信息，所述历史旁路信息是所述目标模型运行过程中产生的未经加密处理的历史信息或者所述目标模型运行过程中产生的容易获取且不需要进行信息保护处理的历史信息。基于所述历史旁路信息和预先训练的隐私保护模型，对所述历史旁路信息进行隐私保护处理，得到隐私保护后的旁路信息，所述隐私保护模型是联合
判别器，通过所述目标模型的旁路信息样本和预设的损失函数进行模型训练得到。将所述隐私保护后的旁路信息发送给部署有所述目标模型的目标设备，所述隐私保护后的旁路信息用于触发所述目标设备在运行所述目标模型是时，获取当前运行的所述目标模型对应的旁路信息中包含的信息所属的信息类型，并基于获取的信息类型，确定与所述信息类型相匹配的旁路信息处理策略，基于与所述信息类型相匹配的旁路信息处理策略和所述隐私保护后的旁路信息，对当前运行的所述目标模型对应的旁路信息进行处理，以保护当前运行的所述目标模型对应的旁路信息。
[0008]本说明书实施例提供的一种信息的处理方法，应用于部署有待保护的目标模型的目标设备，所述方法包括：接收服务器发送的隐私保护后的旁路信息，所述隐私保护后的旁路信息是所述服务器基于所述目标模型对应的历史旁路信息和预先训练的隐私保护模型，对所述历史旁路信息进行隐私保护处理后得到，所述历史旁路信息是所述目标模型运行过程中产生的未经加密处理的历史信息或者所述目标模型运行过程中产生的容易获取且不需要进行信息保护处理的历史信息，所述隐私保护模型是联合判别器，通过所述目标模型的旁路信息样本和预设的损失函数进行模型训练得到。当所述目标模型运行时，获取当前运行的所述目标模型对应的旁路信息中包含的信息所属的信息类型，并基于获取的信息类型，确定与所述信息类型相匹配的旁路信息处理策略。基于与所述信息类型相匹配的旁路信息处理策略和所述隐私保护后的旁路信息，对当前运行的所述目标模型对应的旁路信息进行处理，以保护当前运行的所述目标模型对应的旁路信息。
[0009]本说明书实施例提供的一种信息的处理装置，所述装置包括：历史信息获取模块，获取待保护的目标模型对应的历史旁路信息，所述历史旁路信息是所述目标模型运行过程中产生的未经加密处理的历史信息或者所述目标模型运行过程中产生的容易获取且不需要进行信息保护处理的历史信息。隐私保护模块，基于所述历史旁路信息和预先训练的隐私保护模型，对所述历史旁路信息进行隐私保护处理，得到隐私保护后的旁路信息，所述隐私保护模型是联合判别器，通过所述目标模型的旁路信息样本和预设的损失函数进行模型训练得到。策略获取模块，当所述目标模型运行时，获取当前运行的所述目标模型对应的旁路信息中包含的信息所属的信息类型，并基于获取的信息类型，确定与所述信息类型相匹配的旁路信息处理策略。旁路信息处理模块，基于与所述信息类型相匹配的旁路信息处理策略和所述隐私保护后的旁路信息，对当前运行的所述目标模型对应的旁路信息进行处理，以保护当前运行的所述目标模型对应的旁路信息。
[0010]本说明书实施例提供的一种信息的处理装置，所述装置包括：历史信息获取模块，获取待保护的目标模型对应的历史旁路信息，所述历史旁路信息是所述目标模型运行过程中产生的未经加密处理的历史信息或者所述目标模型运行过程中产生的容易获取且不需要进行信息保护处理的历史信息。隐私保护模块，基于所述历史旁路信息和预先训练的隐私保护模型，对所述历史旁路信息进行隐私保护处理，得到隐私保护后的旁路信息，所述隐私保护模型是联合判别器，通过所述目标模型的旁路信息样本和预设的损失函数进行模型训练得到。信息发送模块，将所述隐私保护后的旁路信息发送给部署有所述目标模型的目标设备，所述隐私保护后的旁路信息用于触发所述目标设备在运行所述目标模型是时，获取当前运行的所述目标模型对应的旁路信息中包含的信息所属的信息类型，并基于获取的信息类型，确定与所述信息类型相匹配的旁路信息处理策略，基于与所述信息类型相匹配
的旁路信息处理策略和所述隐私保护后的旁路信息，对当前运行的所述目标模型对应的旁路信息进行处理，以保护当前运行的所述目标模型对应的旁路信息。
[0011]本说明书实施例提供的一种信息的处理装置，部署有待保护的目标模型，所述装置包括：信息接收模块，接收服务器发送的隐私保护后的旁路信息，所述隐私保护后的旁路信息是所述服务器基于所述目标模型对应的历史旁路信息和预先训练的隐私保护模型，对所述历史旁路信息进行隐私保护处理后得到，所述历史旁路信息是所述目标模型运行过程中产生的未经加密处理的历史信息或者所述目标模型运行过程中产生本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种信息的处理方法，所述方法包括：获取待保护的目标模型对应的历史旁路信息，所述历史旁路信息是所述目标模型运行过程中产生的未经加密处理的历史信息或者所述目标模型运行过程中产生的容易获取且不需要进行信息保护处理的历史信息；基于所述历史旁路信息和预先训练的隐私保护模型，对所述历史旁路信息进行隐私保护处理，得到隐私保护后的旁路信息，所述隐私保护模型是联合判别器，通过所述目标模型的旁路信息样本和预设的损失函数进行模型训练得到；当所述目标模型运行时，获取当前运行的所述目标模型对应的旁路信息中包含的信息所属的信息类型，并基于获取的信息类型，确定与所述信息类型相匹配的旁路信息处理策略；基于与所述信息类型相匹配的旁路信息处理策略和所述隐私保护后的旁路信息，对当前运行的所述目标模型对应的旁路信息进行处理，以保护当前运行的所述目标模型对应的旁路信息。2.根据权利要求1所述的方法，所述信息类型包括所述目标模型的体积，所述基于与所述信息类型相匹配的旁路信息处理策略和所述隐私保护后的旁路信息，对当前运行的所述目标模型对应的旁路信息进行处理，包括：如果当前所述目标模型的体积小于所述隐私保护后的旁路信息中指示的所述目标模型的基准体积，则基于与所述信息类型相匹配的旁路信息处理策略，对当前所述目标模型的体积进行扩充处理，直到当前所述目标模型的体积达到所述目标模型的基准体积，得到处理后的旁路信息。3.根据权利要求1所述的方法，所述信息类型包括所述目标模型运行时所占用的内存和/或运行时长，所述基于与所述信息类型相匹配的旁路信息处理策略和所述隐私保护后的旁路信息，对当前运行的所述目标模型对应的旁路信息进行处理，包括：如果当前所述目标模型运行所占用的内存小于所述隐私保护后的旁路信息中指示的所述目标模型的基准内存，则基于与所述信息类型相匹配的旁路信息处理策略中的malloc函数，对当前所述目标模型运行所占用的内存进行扩充处理，直到当前所述目标模型运行所占用的内存达到所述目标模型的基准内存，得到处理后的旁路信息；和/或，如果当前所述目标模型的运行时长小于所述隐私保护后的旁路信息中指示的所述目标模型的基准运行时长，则基于与所述信息类型相匹配的旁路信息处理策略中的sleep函数，对当前所述目标模型的运行时长进行扩充处理，直到当前所述目标模型的运行时长达到所述目标模型的基准运行时长，得到处理后的旁路信息。4.根据权利要求1所述的方法，所述信息类型包括所述目标模型的输入图像的尺寸和/或所述目标模型的输出图像的尺寸，所述基于与所述信息类型相匹配的旁路信息处理策略和所述隐私保护后的旁路信息，对当前运行的所述目标模型对应的旁路信息进行处理，包括：如果当前所述目标模型的输入图像的尺寸小于所述隐私保护后的旁路信息中指示的所述目标模型的基准输入图像尺寸，则基于与所述信息类型相匹配的旁路信息处理策略，对所述目标模型的输入图像的尺寸进行缩放处理，直到当前所述目标模型的输入图像的尺
寸达到所述目标模型的基准输入图像尺寸，得到处理后的旁路信息；和/或，如果当前所述目标模型的输出图像的尺寸小于所述隐私保护后的旁路信息中指示的所述目标模型的基准输出图像尺寸，则基于与所述信息类型相匹配的旁路信息处理策略，对当前所述目标模型的输出图像的尺寸进行缩放处理，直到当前所述目标模型的输出图像的尺寸达到所述目标模型的基准输出图像尺寸，得到处理后的旁路信息。5.根据权利要求1所述的方法，所述信息类型包括所述目标模型的运行次数，所述基于与所述信息类型相匹配的旁路信息处理策略和所述隐私保护后的旁路信息，对当前运行的所述目标模型对应的旁路信息进行处理，包括：如果当前所述目标模型的运行次数小于所述隐私保护后的旁路信息中指示的所述目标模型的基准运行次数，则基于与所述信息类型相匹配的旁路信息处理策略，对当前所述目标模型的运行次数进行调整，直到当前所述目标模型的运行次数达到所述目标模型的基准运行次数，得到处理后的旁路信息。6.根据权利要求1
‑
5中任一项所述的方法，所述方法还包括：基于预设的信息扰动策略对所述处理后的旁路信息中未进行信息处理的信息进行扰动处理，得到扰动后的旁路信息；将扰动后的旁路信息进行加密处理，并将加密的扰动后的旁路信息传输给指定设备。7.根据权利要求1所述的方法，所述方法还包括：获取所述目标模型的旁路信息样本；将所述旁路信息样本输入到所述隐私保护模型中，得到隐私保护后的旁路信息样本；将所述旁路信息样本和隐私保护后的旁路信息样本输入到判别器中，得到相应的输出结果，并基于所述输出结果和预设的损失函数判断所述隐私保护模型和所述判别器是否收敛，如果否，则基于所述旁路信息样本和所述损失函数继续对所述隐私保护模型和所述判别器进行训练，直到所述隐私保护模型和所述判别器收敛，得到训练后的所述隐私保护模型，所述输出结果包括所述旁路信息样本是否经过隐私保护处理，以及所述目标模型的关键信息的预测结果，所述目标模型的关键信息包括所述目标模型的结构和功能。8.根据权利要求7所述的方法，所述损失函数由旁路信息的分布函数、对抗损失函数、关键信息预测损失函数和基于先验margin的损失函数中的一项或多项构成，所述旁路信息的分布函数基于最小化所述旁路信息样本与隐私保护后的旁路信息样本之间的数据分布确定，所述对抗损失函数基于对所述旁路信息样本是否经过隐私保护处理的输出结果的准确率确定，所述关键信息预测损失函数基于所述目标模型的关键信息的预测结果的准确率确定，所述基于先验margin的损失函数基于所述旁路信息样本与隐私保护后的旁路信息样本之间的差异小于预设的margin确定。9.根据权利要求7所述的方法，所述目标模型为进行生物识别处理的模型，所述隐私保护模型是通过多层感知机MLP构建，所述判别器是通过多层感知机MLP构建。10.根据权利要求1所述的方法，所述基于所述历史旁路信息和预先训练的隐私保护模型，对所述历史旁路信息进行隐私保护处理，得到隐私保护后的旁路信息，包括：分别计算所述历史旁路信息中包含的不同信息类型的信息的平均值；将计算得到的所述历史旁路信息中包含的不同信息类型的信息的平均值输入到预先训练的隐私保护模型中，得到隐私保护后的旁路信息。
11.一种信息的处理方法，应用于服务器，所述方法包括：获取待保护的目标模型对应的历史旁路信息，所述历史旁路信息是所述目标模型运行过程中产生的未经加密处理的历史信息或者所述目标模型运行过程中产生的容易获取且不需要进行信息保护处理的历史信息；基于所述历史旁路信息和预先训练的隐私保护模型，对所述历史旁路信息进行隐私保护处理，得到隐私保护后的旁路信息，所述隐私保护模型是联合判别器，通过所述目标模型的旁路信息样本和预设的损失函数进行模型训练得到；将所述隐私保护后的旁路信息发送给部署有所述目标模型的目标设备，所述隐私保护后的旁路信息用于触发所述目标设备在运行所述目标模型是时，获取当前运行的所述目标模型对应的旁路信息中包含的信息所属的信息类型，并基于获取的信息类型，确定与所述信息类型相匹配的旁路信息处理策略，基于与所述信息类型相匹配的旁路信息处理策略和所述隐私保护后的旁路信息，对当前运行的所述目标模型对应的旁路信息进行处理，以保护当前运行的所述目标模型对应的旁路信息。12.一种信息的处理方法，应用于部署有待保护的目标模型的目标设备，所述方法包括：接收服务器发送的隐私保护后的旁路信息，所述隐私保护后的旁路信息是所述服务器基于所述目标模型对应的历史旁路信息和预先训练的隐私保护模型，对所述历史旁路信息进行隐私保护处理后得到，所述历史旁路信息是所述目标模型运行过程中产生的未经加密处理的历史信息或者所述目标模型运行过程中产生的容易获取且不需要进行信息保护处理的历史信息，所述隐私保护模型是联合判别器，通过所述目标模型的旁路信息样本和预设的损失函数进行模型训练得到；当所述目标模型运行时，获取当前运行的所述目标模型对应的旁路信息中包含的信息所属的信息类型，并基于获取的信息类型，确定与所述信息类型相匹配的旁路信息处理策略；基于与所述信息类型相匹配的旁路信息处理策略和所述隐私保护后的旁路信息，对当前运行的所述目标模型对应的旁路信息进行处理，以保护当前运行的所述目标模型对应的旁路信息。13.一种信息的处理装置，所述装置包括：历史信息获取模块，获取待保护的目标模型对应的历史旁路信息，所述历史旁路信息是所述目标模型运行过程中产生的未经加密处理的历史信息或者所述目标模型运行过程中产生的容易获取且不需要进行信息保护处理的历史信息；隐私保护模块，基于所述历史旁路信息和预先训练的隐私保护模型，对所述历史旁路信息进行隐私保护处理，得到隐私保护后的旁路信息，所述隐私保护模型是联合判别器，通过所述目标模型的旁路信息样本和预设的损失函数进行模型训练得到；策略获取模块，当所述目标模型运行时...

【专利技术属性】
技术研发人员：曹佳炯，丁菁汀，
申请(专利权)人：支付宝杭州信息技术有限公司，
类型：发明
国别省市：