模型稳定性解释方法、装置、设备及存储介质制造方法及图纸

本申请公开了一种模型稳定性解释方法、装置、设备和存储介质，该方法包括：在接收到模型稳定性解释指令时，确定待解释模型，确定与所述待解释模型各层矩阵关联的条件数；确定所述待解释模型的输入数据，并确定对所述输入数据进行扰动的扰动数据；基于待解释模型的条件数和所述扰动数据，确定所述待解释模型的稳定性解释结果，以基于所述稳定性解释结果优化所述待解释模型。本申请在部署人工智能算法模型之前，对人工智能算法模型的应用可靠性进行准确验证以及校验，避免直接部署稳定性低的模型而造成的安全隐患，以避免人工智能算法模型的应用风险，解决了现有技术中都是直接部署人工智能算法模型，造成人工智能算法模型的应用风险的技术问题。

【技术实现步骤摘要】
模型稳定性解释方法、装置、设备及存储介质
本申请涉及金融科技(Fintech)的人工智能
，尤其涉及一种模型稳定性解释方法、装置、设备及存储介质。
技术介绍
随着金融科技，尤其是互联网科技金融的不断发展，越来越多的技术应用在金融领域，但金融业也对技术提出了更高的要求，如金融业对模型稳定性解释也有更高的要求。人工智能算法模型在对抗攻击样本(对抗样本指的是样本参入特定噪声数据)时，极容易发生误判，例如，人脸识别程序将加有噪音数据的A判别成为C，而现有人工智能算法模型都是直接部署而忽视由于误判造成的安全隐患，很显然，这会对人工智能算法模型的应用可靠性带来风险。
技术实现思路
本申请的主要目的在于提供一种模型稳定性解释方法、装置、设备和存储介质，旨在解决现有技术中都是直接部署人工智能算法模型，造成人工智能算法模型的应用风险的技术问题。为实现上述目的，本申请提供一种模型稳定性解释方法，所述模型稳定性解释方法包括：在接收到模型稳定性解释指令时，确定待解释模型，并确定与所述待解释模型各层矩阵关联的条件数；确定所述待解释模型的输入数据，并确定对所述输入数据进行扰动的扰动数据；基于所述待解释模型的条件数和所述扰动数据，确定所述待解释模型的稳定性解释结果，以基于所述稳定性解释结果优化所述待解释模型。可选地，所述在接收到模型稳定性解释指令时，确定待解释模型，并确定与所述待解释模型各层矩阵关联的条件数的步骤，包括：在接收到模型稳定性解释指令时，确定待解释模型，并确定与所述待解释模型各层矩阵关联的条件数；其中，所述条件数通过待解释模型中各层矩阵的最大特征值确定。可选地，所述确定所述待解释模型的输入数据，并确定对所述输入数据进行扰动的扰动数据的步骤，包括：确定所述待解释模型的输入数据，并从所述模型稳定性解释指令中提取扰动关联信息；基于所述扰动关联信息和所述输入数据，确定所述待解释模型的扰动数据。可选地，所述基于所述扰动关联信息和所述输入数据，确定所述待解释模型的扰动数据的步骤，包括：从所述扰动关联信息中提取扰动幅度信息；基于所述扰动幅度信息，所述输入数据以及预设噪声数据生成规则，生成所述待解释模型的扰动数据。可选地，所述基于所述扰动关联信息和所述输入数据，确定所述待解释模型的扰动数据的步骤，包括：从所述扰动关联信息中提取扰动方向信息；基于所述扰动方向信息，所述输入数据以及预设噪声数据生成规则，生成所述待解释模型的扰动数据。可选地，所述基于所述待解释模型的条件数和所述扰动数据，确定所述待解释模型的稳定性解释结果，以基于所述稳定性解释结果优化所述待解释模型的步骤，包括：确定所述扰动数据与所述输入数据的关联度，并确定所述关联度与所述待解释模型的条件数的关联关系；若所述关联关系为所述扰动数据与所述输入数据的关联度大，所述待解释模型的条件数大时，确定所述待解释模可选地，所述待解释模型为待解释人脸识别模型；所述基于所述待解释模型的条件数和所述扰动数据，确定所述待解释模型的稳定性解释结果，以基于所述稳定性解释结果优化所述待解释模型的步骤，包括：基于所述待解释人脸识别模型的条件数和所述扰动数据，确定所述待解释人脸识别模型的人脸识别稳定性解释结果。本申请还提供一种模型稳定性解释装置，所述模型稳定性解释装置包括：第一确定模块，用于在接收到模型稳定性解释指令时，确定待解释模型，并确定与所述待解释模型各层矩阵关联的条件数；第二确定模块，用于确定所述待解释模型的输入数据，并确定对所述输入数据进行扰动的扰动数据；第三确定模块，用于基于所述待解释模型的条件数和所述扰动数据，确定所述待解释模型的稳定性解释结果，以基于所述稳定性解释结果优化所述待解释模型。可选地，所述第一确定模块包括：第一确定单元，用于在接收到模型稳定性解释指令时，确定待解释模型，并确定与所述待解释模型各层矩阵关联的条件数；其中，所述条件数通过待解释模型中各层矩阵的最大特征值确定。可选地，所述第二确定模块包括：第二确定单元，用于确定所述待解释模型的输入数据，并从所述模型稳定性解释指令中提取扰动关联信息；第三确定单元，用于基于所述扰动关联信息和所述输入数据，确定所述待解释模型的扰动数据。可选地，所述第二确定单元包括：提取子单元，用于从所述扰动关联信息中提取扰动幅度信息；生成子单元，用于基于所述扰动幅度信息，所述输入数据以及预设噪声数据生成规则，生成所述待解释模型的扰动数据。可选地，所述生成子单元用于实现：从所述扰动关联信息中提取扰动方向信息；基于所述扰动方向信息，所述输入数据以及预设噪声数据生成规则，生成所述待解释模型的扰动数据。可选地，所述第三确定模块包括：第四确定单元，用于确定所述扰动数据与所述输入数据的关联度，并确定所述关联度与所述待解释模型的条件数的关联关系；第五确定单元，用于若所述关联关系为所述扰动数据与所述输入数据的关联度大，所述待解释模型的条件数大时，确定所述待解释模可选地，所述待解释模型为待解释人脸识别模型；所述第三确定模块包括：第六确定单元，用于基于所述待解释人脸识别模型的条件数和所述扰动数据，确定所述待解释人脸识别模型的人脸识别稳定性解释结果。本申请还提供一种模型稳定性解释设备，所述模型稳定性解释设备为实体节点设备，所述模型稳定性解释设备包括：存储器、处理器以及存储在所述存储器上并可在所述处理器上运行的所述模型稳定性解释方法的程序，所述模型稳定性解释方法的程序被处理器执行时可实现如上述的模型稳定性解释方法的步骤。本申请还提供一种存储介质，所述存储介质上存储有实现上述模型稳定性解释方法的程序，所述模型稳定性解释方法的程序被处理器执行时实现如上述的模型稳定性解释方法的步骤。本申请还提供一种计算机程序产品、包括计算机程序，该计算机程序被处理器执行时实现上述的模型稳定性解释方法的步骤。本申请提供一种模型稳定性解释方法、装置、设备及存储介质，与现有技术中都是直接部署人工智能算法模型，造成人工智能算法模型的应用风险相比，在本申请中，在部署人工智能算法模型之前，对模型的稳定性、可靠性进行测试，具体地，在接收到模型稳定性解释指令时，确定待解释模型各层矩阵关联的条件数，并确定待解释模型的输入数据，以及对所述输入数据进行扰动的扰动数据，进而，基于所述待解释模型的条件数和所述扰动数据，确定所述待解释模型的稳定性解释结果，以基于所述稳定性解释结果优化所述待解释模型，也即，在本申请中，通过确定输入数据对应的扰动数据，对模型的条件数的影响，来确定和解释待解释模型的稳定性，进而优化所述待解释模型，也即，在部署人工智能算法模型之前，对人工智能算法模型的应用可靠性进行准确验证以及校验，避免直接部署稳定性低的模型而造成的安全隐患，以避免人工智能算法模本文档来自技高网...

【技术保护点】
1.一种模型稳定性解释方法，其特征在于，所述模型稳定性解释方法包括：/n在接收到模型稳定性解释指令时，确定待解释模型，并确定与所述待解释模型各层矩阵关联的条件数；/n确定所述待解释模型的输入数据，并确定对所述输入数据进行扰动的扰动数据；/n基于所述待解释模型的条件数和所述扰动数据，确定所述待解释模型的稳定性解释结果，以基于所述稳定性解释结果优化所述待解释模型。/n

【技术特征摘要】
1.一种模型稳定性解释方法，其特征在于，所述模型稳定性解释方法包括：
在接收到模型稳定性解释指令时，确定待解释模型，并确定与所述待解释模型各层矩阵关联的条件数；
确定所述待解释模型的输入数据，并确定对所述输入数据进行扰动的扰动数据；
基于所述待解释模型的条件数和所述扰动数据，确定所述待解释模型的稳定性解释结果，以基于所述稳定性解释结果优化所述待解释模型。


2.如权利要求1所述的模型稳定性解释方法，其特征在于，所述在接收到模型稳定性解释指令时，确定待解释模型，并确定与所述待解释模型各层矩阵关联的条件数的步骤，包括：
在接收到模型稳定性解释指令时，确定待解释模型，并确定与所述待解释模型各层矩阵关联的条件数；
其中，所述条件数通过待解释模型中各层矩阵的最大特征值确定。


3.如权利要求1所述的模型稳定性解释方法，其特征在于，所述确定所述待解释模型的输入数据，并确定对所述输入数据进行扰动的扰动数据的步骤，包括：
确定所述待解释模型的输入数据，并从所述模型稳定性解释指令中提取扰动关联信息；
基于所述扰动关联信息和所述输入数据，确定所述待解释模型的扰动数据。


4.如权利要求3所述的模型稳定性解释方法，其特征在于，所述基于所述扰动关联信息和所述输入数据，确定所述待解释模型的扰动数据的步骤，包括：
从所述扰动关联信息中提取扰动幅度信息；
基于所述扰动幅度信息，所述输入数据以及预设噪声数据生成规则，生成所述待解释模型的扰动数据。


5.如权利要求3所述的模型稳定性解释方法，其特征在于，所述基于所述扰动关联信息和所述输入数据，确定所述待解释模型的扰动数据的步骤，包括：
从所述扰动关联信息中提取扰动方向信息；
基于所述扰动方向信息，所述输入数据以及预设噪声数据生成规则，生成所述待解释模型的扰动数据。


6.如权利要求1所述的模型稳定性解释方法，其特征在于，所述基于所述待解释模型的条件数和所述扰动数据，确定所述待解释模型的稳定性解释结果，以基于所述稳定性解释结果优化所述待解释模型的步骤，包括：
...

【专利技术属性】
技术研发人员：张天豫，范力欣，吴锦和，
申请(专利权)人：深圳前海微众银行股份有限公司，
类型：发明
国别省市：广东;44