一种针对网络模型的攻防对抗仿真测试方法及系统技术方案

本说明书实施例提供了一种针对网络模型的攻防对抗仿真测试方法及系统。网络模型部署在防御方平台中，网络模型向各用户公开提供针对业务数据的预测服务。在仿真测试方法中，攻击方平台伪装成用户，基于攻击算法向防御方平台发送业务请求，业务请求携带待预测的业务数据。防御方平台，接收攻击方平台发送的业务请求，并通过网络模型确定业务数据的预测结果，基于预测结果向攻击方平台发送反馈数据。攻击方平台在接收到反馈数据时，且在反馈数据满足预设条件时调整攻击算法，例如在攻击失败时调整攻击算法的运行逻辑，采用不同的方式继续攻击。同时，防御方平台也对业务请求的处理过程进行异常检测，当检测到异常时采取对应的防御措施。措施。措施。

【技术实现步骤摘要】
一种针对网络模型的攻防对抗仿真测试方法及系统


[0001]本说明书一个或多个实施例涉及计算机
，尤其涉及一种针对网络模型的攻防对抗仿真测试方法及系统。

技术介绍

[0002]以深度学习为代表的人工智能(Artificial Intelligence，AI)模型，在例如面部识别、机器翻译和推荐系统等多种场景下，取得了非常好的性能表现。但是，AI模型在受到攻击时表现非常不稳定，甚至攻击者可以让模型输出他们想要的结果。
[0003]因此，希望能有改进的方案，可以更好地模拟实际中针对网络模型的对抗攻击，以便更好地找到对抗实际攻击的方法。

技术实现思路

[0004]本说明书一个或多个实施例描述了一种针对网络模型的攻防对抗仿真测试方法及系统，以更好地模拟实际中针对网络模型的对抗攻击，找到对抗实际攻击的更优方法。具体的技术方案如下。
[0005]第一方面，实施例提供了一种针对网络模型的攻防对抗仿真测试方法，包括攻击方平台和防御方平台，所述网络模型部署在所述防御方平台，所述方法包括：
[0006]所述攻击方平台，基于攻击算法向所述防御方平台发送业务请求，所述业务请求携带待预测的业务数据；
[0007]所述防御方平台，接收所述攻击方平台发送的业务请求，并通过所述网络模型确定所述业务数据的预测结果，基于所述预测结果向所述攻击方平台发送反馈数据，对所述业务请求的处理过程进行异常检测；
[0008]所述攻击方平台，接收所述防御方平台针对所述业务请求发送的反馈数据，并在所述反馈数据满足预设条件时调整所述攻击算法，继续执行所述基于攻击算法向所述防御方平台发送业务请求的步骤。
[0009]在一种实施方式中，在对所述业务请求的处理过程进行异常检测之后，还包括：
[0010]当检测到异常时，基于检测的异常信息执行预设的防御方案；
[0011]在执行预设的防御方案之后，当检测到异常未排除时调整所述防御方案，继续执行调整后的防御方案。
[0012]在一种实施方式中，所述对所述业务请求的处理过程进行异常检测的步骤，包括：
[0013]基于接收到的业务请求和/或对应的预测结果，进行异常检测。
[0014]在一种实施方式中，所述在所述反馈数据满足预设条件时调整所述攻击算法的步骤，包括：
[0015]当所述反馈数据满足预设的攻击失败条件时，对所述攻击算法中的运行逻辑进行调整。
[0016]在一种实施方式中，所述基于攻击算法向所述防御方平台发送业务请求的步骤，
包括：
[0017]基于多个不同的攻击算法向所述防御方平台分别发送业务请求；
[0018]所述在所述反馈数据满足预设条件时调整所述攻击算法的步骤，包括：
[0019]当接收到的针对不同的攻击算法的反馈数据中，存在满足预设的攻击成功条件的第一反馈数据时，将所述第一反馈数据对应的第一攻击算法作为后续攻击使用的攻击算法，停止使用其他攻击算法。
[0020]在一种实施方式中，在停止使用其他攻击算法之后，所述方法还包括：
[0021]当后续接收到的针对所述第一攻击算法的反馈数据满足预设的攻击失败条件时，对所述第一攻击算法中的运行逻辑进行调整。
[0022]在一种实施方式中，所述基于多个不同的攻击算法向所述防御方平台分别发送业务请求的步骤，包括：
[0023]基于多个不同的攻击算法，在不同的攻击算法对应的设定流量限制下，向所述防御方平台分别发送业务请求；其中，多个攻击算法对应的设定流量的总和小于总设定流量。
[0024]在一种实施方式中，所述将所述第一反馈数据对应的第一攻击算法作为后续攻击使用的攻击算法，停止使用其他攻击算法的步骤，包括：
[0025]基于总剩余流量，增大所述第一攻击算法对应的剩余流量，并将其他攻击算法对应的剩余流量设置为0。
[0026]在一种实施方式中，该方法还包括：
[0027]所述攻击方平台，统计预设时段内攻击成功的次数，并将所述次数发送至指定设备；
[0028]所述防御方平台，统计所述预设时段内防御成功的次数，并将所述次数发送至所述指定设备；
[0029]所述指定设备，基于所述攻击方平台攻击成功的次数，以及所述防御方平台防御成功的次数，对针对所述网络模型的攻防对抗仿真测试过程进行评估。
[0030]第二方面，实施例提供了一种针对网络模型的攻防对抗仿真测试系统，包括攻击方平台和防御方平台，所述网络模型部署在所述防御方平台，所述系统包括：
[0031]所述攻击方平台，用于基于攻击算法向所述防御方平台发送业务请求，所述业务请求携带待预测的业务数据；
[0032]所述防御方平台，用于接收所述攻击方平台发送的业务请求，并通过所述网络模型确定所述业务数据的预测结果，基于所述预测结果向所述攻击方平台发送反馈数据，对所述业务请求的处理过程进行异常检测；
[0033]所述攻击方平台，用于接收所述防御方平台针对所述业务请求发送的反馈数据，并在所述反馈数据满足预设条件时调整所述攻击算法，继续基于攻击算法向所述防御方平台发送业务请求。
[0034]在一种实施方式中，所述防御方平台还用于：
[0035]在对所述业务请求的处理过程进行异常检测之后，当检测到异常时，基于检测的异常信息执行预设的防御方案；在执行预设的防御方案之后，当检测到异常未排除时调整所述防御方案，继续执行调整后的防御方案。
[0036]在一种实施方式中，所述攻击方平台，基于攻击算法向所述防御方平台发送业务
请求时，包括：
[0037]基于多个不同的攻击算法向所述防御方平台分别发送业务请求；
[0038]所述攻击方平台，在所述反馈数据满足预设条件时调整所述攻击算法时，包括：
[0039]当接收到的针对不同的攻击算法的反馈数据中，存在满足预设的攻击成功条件的第一反馈数据时，将所述第一反馈数据对应的第一攻击算法作为后续攻击使用的攻击算法，停止使用其他攻击算法。
[0040]在一种实施方式中，所述攻击方平台，还用于统计预设时段内攻击成功的次数，并将所述次数发送至指定设备；
[0041]所述防御方平台，还用于统计所述预设时段内防御成功的次数，并将所述次数发送至所述指定设备，以使得所述指定设备基于所述攻击方平台攻击成功的次数，以及所述防御方平台防御成功的次数，对针对所述网络模型的攻防对抗仿真测试过程进行评估。
[0042]第三方面，实施例提供了一种计算机可读存储介质，其上存储有计算机程序，当所述计算机程序在计算机中执行时，令计算机执行第一方面中任一项所述的方法。
[0043]第四方面，实施例提供了一种计算设备，包括存储器和处理器，所述存储器中存储有可执行代码，所述处理器执行所述可执行代码时，实现第一方面中任一项所述的方法。
[0044]本说明书实施例提供的方法及装置中，攻击方平台基于攻击算法向防御方平台发送业务请求，并接收反馈数据，在反馈本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种针对网络模型的攻防对抗仿真测试方法，包括攻击方平台和防御方平台，所述网络模型部署在所述防御方平台，所述方法包括：所述攻击方平台，基于攻击算法向所述防御方平台发送业务请求，所述业务请求携带待预测的业务数据；所述防御方平台，接收所述攻击方平台发送的业务请求，并通过所述网络模型确定所述业务数据的预测结果，基于所述预测结果向所述攻击方平台发送反馈数据，对所述业务请求的处理过程进行异常检测；所述攻击方平台，接收所述防御方平台针对所述业务请求发送的反馈数据，并在所述反馈数据满足预设条件时调整所述攻击算法，继续执行所述基于攻击算法向所述防御方平台发送业务请求的步骤。2.根据权利要求1所述的方法，在对所述业务请求的处理过程进行异常检测之后，还包括：当检测到异常时，基于检测的异常信息执行预设的防御方案；在执行预设的防御方案之后，当检测到异常未排除时调整所述防御方案，继续执行调整后的防御方案。3.根据权利要求1所述的方法，所述对所述业务请求的处理过程进行异常检测的步骤，包括：基于接收到的业务请求和/或对应的预测结果，进行异常检测。4.根据权利要求1所述的方法，所述在所述反馈数据满足预设条件时调整所述攻击算法的步骤，包括：当所述反馈数据满足预设的攻击失败条件时，对所述攻击算法中的运行逻辑进行调整。5.根据权利要求1所述的方法，所述基于攻击算法向所述防御方平台发送业务请求的步骤，包括：基于多个不同的攻击算法向所述防御方平台分别发送业务请求；所述在所述反馈数据满足预设条件时调整所述攻击算法的步骤，包括：当接收到的针对不同的攻击算法的反馈数据中，存在满足预设的攻击成功条件的第一反馈数据时，将所述第一反馈数据对应的第一攻击算法作为后续攻击使用的攻击算法，停止使用其他攻击算法。6.根据权利要求5所述的方法，在停止使用其他攻击算法之后，所述方法还包括：当后续接收到的针对所述第一攻击算法的反馈数据满足预设的攻击失败条件时，对所述第一攻击算法中的运行逻辑进行调整。7.根据权利要求5所述的方法，所述基于多个不同的攻击算法向所述防御方平台分别发送业务请求的步骤，包括：基于多个不同的攻击算法，在不同的攻击算法对应的设定流量限制下，向所述防御方平台分别发送业务请求；其中，多个攻击算法对应的设定流量的总和小于总设定流量。8.根据权利要求7所述的方法，所述将所述第一反馈数据对应的第一攻击算法作为后续攻击使用的攻击算法，停止使用其他攻击算法的步骤，包括：基于总剩余流量，增大所述第一攻击算法对应的剩余流量，并将其他攻击算法对应的
剩余流量设置为0。9.根据权利要求1所述的方法，其中还...

【专利技术属性】
技术研发人员：李志峰，崔世文，孟昌华，王维强，
申请(专利权)人：支付宝杭州信息技术有限公司，
类型：发明
国别省市：