隐私计算、隐私数据和联邦学习的可视化交互建模方法技术

本申请涉及隐私计算、隐私数据及联邦学习技术领域，具体涉及一种隐私计算、隐私数据和联邦学习的可视化交互建模方法。该方法包括：建立与联邦学习模型相关联的初始模型；通过拖拉标准组件或者输入代码来执行对初始模型的逻辑流程的一次或者多次调整操作从而得到调整后模型，并且针对每一次调整操作，在执行该调整操作之前或者之后基于全局约束条件进行自动化报错和/或自动化调整，全局约束条件至少基于与联邦学习模型相关联的联邦学习框架；基于调整后模型的逻辑流程提供至少一个探测节点，以及基于至少一个探测节点选择调整后模型的逻辑流程的部分或者全部并且输出所选择部分的仿真结果的可视化内容。如此降低开发门槛和提高建模效率。槛和提高建模效率。槛和提高建模效率。

【技术实现步骤摘要】
隐私计算、隐私数据和联邦学习的可视化交互建模方法


[0001]本申请涉及隐私计算、隐私数据及联邦学习
，具体涉及一种隐私计算、隐私数据和联邦学习的可视化交互建模方法。

技术介绍

[0002]隐私计算(Privacy Computing)指的是在保证数据提供方不泄露原始数据的前提下对数据进行分析计算的一系列技术，保证数据在流通和融合过程中“可用不可见”。隐私计算在通常意义上涵盖以保护数据隐私的同时实现计算任务为目的所使用的一系列广泛的技术。隐私计算结合计算机科学、人工智能以及云计算等技术的发展，在数据查询和机器学习中取得了重大进展，在诸多应用场景下提供了对数据的安全获取和对数据隐私的保护。常见的隐私计算技术包括如联邦学习(Federated Learning，FL)、安全多方计算(Secure Multi
‑
Party Computation，SMPC)、秘密共享(Secret Sharing)、可信执行环境(Trusted Execution Environment，TEE)、差分隐私(Differential Privacy，DP)、同态加密(Homomorphic Encryption，HE)等。其中联邦学习指的是在确保数据不离开安全控制范围例如数据不传递到外部的前提下实现多方协同构建联邦学习模型。另一方面，随着对数据安全和隐私信息保护的日益重视以及《数据安全法》和《个人信息保护法》等相关法律法规的推出，隐私数据例如涉及个人信息或敏感信息的个人隐私数据等，在数据处理、数据通信、数据交互等各方面也面临更高的隐私保护和数据安全的要求。
[0003]隐私计算、隐私数据相关处理以及联邦学习技术一般与机器学习技术结合，利用机器学习技术如人工智能和深度学习等在收集大量训练数据来训练模型方面的优势，例如可以借助于分散在多个不同个体的数据训练统一的机器学习模型。为了更好地实现隐私计算、隐私数据和联邦学习与机器学习技术之间的结合，开发者往往需要兼具机器学习相关知识和对隐私计算和联邦学习技术的理解。为了降低开发过程的难度，也降低对开发者有关知识和经验的要求，从而帮助用户理解隐私计算和联邦学习背后的原理并提升用户信任度，需要一种隐私计算、隐私数据和联邦学习的可视化交互建模方法，能够较为直观地展现联邦学习的训练过程和模型效果，还能够让开发者精确高效地诊断模型异常、改进模型性能从而降低开发门槛和提高建模效率。

技术实现思路

[0004]第一方面，本申请实施例提供了一种可视化交互建模方法，应用于联邦学习和隐私计算。所述可视化交互建模方法包括：通过导入空白模板、导入预设模板、导入已有模型或者输入已有代码来建立与联邦学习模型相关联的初始模型；通过拖拉标准组件或者输入代码来执行对所述初始模型的逻辑流程的一次或者多次调整操作从而得到调整后模型，并且针对所述一次或者多次调整操作中的每一次调整操作，在执行该调整操作之前或者在执行该调整操作之后基于全局约束条件进行自动化报错和/或自动化调整，其中所述全局约束条件至少基于与所述联邦学习模型相关联的联邦学习框架，所述自动化报错包括识别不
符合所述全局约束条件的调整操作并发出可视化警告，所述自动化调整包括校正不符合所述全局约束条件的调整操作并发出可视化通告；基于所述调整后模型的逻辑流程提供至少一个探测节点，以及基于所述至少一个探测节点选择所述调整后模型的逻辑流程的部分或者全部并且输出所述调整后模型的逻辑流程的所选择部分的仿真结果的可视化内容。
[0005]第一方面所描述的技术方案，通过全局约束条件以及基于此的自动化报错或者自动化调整，确保了调整后模型满足该联邦学习框架有关方面的要求，从而使得用户可以不需要深入理解隐私计算和联邦学习背后的原理就能根据自身需求和偏好来对初始模型的逻辑流程做出调整，进而降低开发门槛和提高建模效率，并且通过可视化警告、可视化通告和所选择部分的仿真结果的可视化内容，从而使得用户直观地看到调整后模型存在的异常和问题以及能对整体或部分逻辑流程的运行效果进行评估，从而让开发者精确高效地诊断模型异常及后续的调整提供参考。
[0006]根据第一方面的技术方案的一种可能的实现方式，本申请实施例还提供了，所述调整后模型的逻辑流程的所选择部分的仿真结果包括所述调整后模型的逻辑流程的所选择部分的参数配置、运算结果、数据流记录、控制流日志。
[0007]根据第一方面的技术方案的一种可能的实现方式，本申请实施例还提供了，所述调整后模型的逻辑流程包括从初始步骤到结束步骤的多个步骤，所述至少一个探测节点位于所述初始步骤之前、所述结束步骤之后或者所述多个步骤中任意两个紧邻步骤之间。
[0008]根据第一方面的技术方案的一种可能的实现方式，本申请实施例还提供了，所述调整后模型的逻辑流程的所选择部分包括所述调整后模型的逻辑流程的从所述初始步骤到所述至少一个探测节点的部分，所述调整后模型的逻辑流程的从所述至少一个探测节点到所述结束步骤的部分，或者所述调整后模型的逻辑流程的在所述至少一个探测节点中的任意两个紧邻探测节点之间的部分。
[0009]根据第一方面的技术方案的一种可能的实现方式，本申请实施例还提供了，所述可视化交互建模方法还包括：针对所述一次或者多次调整操作中的每一次调整操作，模拟执行该调整操作后的当前模型的逻辑流程的全流程运行过程并获得所述当前模型的逻辑流程的全流程运行过程的参数配置、运算结果、数据流记录和控制流日志。
[0010]根据第一方面的技术方案的一种可能的实现方式，本申请实施例还提供了，所述全局约束条件还包括：所述调整后模型的逻辑流程是有向无环图DAG，所述调整后模型的逻辑流程满足资源约束条件，所述调整后模型的逻辑流程满足安全约束条件。
[0011]根据第一方面的技术方案的一种可能的实现方式，本申请实施例还提供了，所述资源约束条件是基于算力资源、存储资源和网络通信资源，所述安全约束条件是基于所述联邦学习框架和用户偏好。
[0012]根据第一方面的技术方案的一种可能的实现方式，本申请实施例还提供了，所述全局约束条件还基于以下至少一项：总数据量、数据位宽、加解密算法类型、所述联邦学习模型的应用场景、用户行业需求。
[0013]根据第一方面的技术方案的一种可能的实现方式，本申请实施例还提供了，所述调整后模型的逻辑流程的所选择部分的仿真结果还包括所述调整后模型的逻辑流程的所选择部分的运行所占用的算力资源、存储资源和网络通信资源。
[0014]根据第一方面的技术方案的一种可能的实现方式，本申请实施例还提供了，所述
可视化交互建模方法还包括：在呈现给用户的可视化界面上提供包括多种标准组件的组件栏以及包括所述初始模型的建模区域，其中所述组件栏所包括的多种标准组件可被拖拉到所述建模区域来执行对所述初始模型的逻辑流程的调整操作。
[0015]根据第一方面的技术方案的一种可能的实现方式，本申请实施例还提供了，所述多种组件包括以下至少一项：数据处理组件、特征工程组件、纵向联邦学习组件、横向联邦学习组件、联邦本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种可视化交互建模方法，应用于联邦学习和隐私计算，其特征在于，所述可视化交互建模方法包括：通过导入空白模板、导入预设模板、导入已有模型或者输入已有代码来建立与联邦学习模型相关联的初始模型；通过拖拉标准组件或者输入代码来执行对所述初始模型的逻辑流程的一次或者多次调整操作从而得到调整后模型，并且针对所述一次或者多次调整操作中的每一次调整操作，在执行该调整操作之前或者在执行该调整操作之后基于全局约束条件进行自动化报错和/或自动化调整，其中所述全局约束条件至少基于与所述联邦学习模型相关联的联邦学习框架，所述自动化报错包括识别不符合所述全局约束条件的调整操作并发出可视化警告，所述自动化调整包括校正不符合所述全局约束条件的调整操作并发出可视化通告；基于所述调整后模型的逻辑流程提供至少一个探测节点，以及基于所述至少一个探测节点选择所述调整后模型的逻辑流程的部分或者全部并且输出所述调整后模型的逻辑流程的所选择部分的仿真结果的可视化内容。2.根据权利要求1所述的可视化交互建模方法，其特征在于，所述调整后模型的逻辑流程的所选择部分的仿真结果包括所述调整后模型的逻辑流程的所选择部分的参数配置、运算结果、数据流记录、控制流日志。3.根据权利要求2所述的可视化交互建模方法，其特征在于，所述调整后模型的逻辑流程包括从初始步骤到结束步骤的多个步骤，所述至少一个探测节点位于所述初始步骤之前、所述结束步骤之后或者所述多个步骤中任意两个紧邻步骤之间。4.根据权利要求3所述的可视化交互建模方法，其特征在于，所述调整后模型的逻辑流程的所选择部分包括所述调整后模型的逻辑流程的从所述初始步骤到所述至少一个探测节点的部分、所述调整后模型的逻辑流程的从所述至少一个探测节点到所述结束步骤的部分、或者所述调整后模型的逻辑流程的在所述至少一个探测节点中的任意两个紧邻探测节点之间的部分。5.根据权利要求1所述的可视化交互建模方法，其特征在于，所述可视化交互建模方法还包括：针对所述一次或者多次调整操作中的每一次调整操作，模拟执行该调整操作后的当前模型的逻辑流程的全流程运行过程并获得所述当前模型的逻辑流程的全流程运行过程的参数配置、运算结果、数据流记录和控制流日志。6.根据权利要求5所述的可视化交互建模方法，其特征在于，所述全局约束条件还包括：所述调整后模型的逻辑流程是有向无环图DAG，所述调整后模型的逻辑流程满足资源约束条件，所述调整后模型的逻辑流程满足安全约束条件。7.根据权利要求6所述的可视化交互建模方法，其特征在于，所述资源约束条件是基于算力资源、存储资源和网络通信资源，所述安全约束条...

【专利技术属性】
技术研发人员：李婷婷，王寰，赵彬，
申请(专利权)人：深圳致星科技有限公司，
类型：发明
国别省市：