一种基于Graphomer的工业控制系统异常检测方法技术方案

本发明专利技术公开了一种基于Graphomer的工业控制系统异常检测方法，在初始阶段，云服务器基于异常检测模型给出初始化参数包括异常检测模型参数q0，和一些有助于联邦学习聚合模型的参数。该基于Graphomer的工业控制系统异常检测方法，通过利用并发性关联规则构建各种数据之间的关联图，更加有效的表示数据之间的关联关系，建立了一个基于Graphomer的工业系统异常检测模型；该模型能够有效地检测工业系统的异常，且能够解释异常，寻找异常源头；通过开发了一个联邦学习框架，另外，通过这个框架可以参考同一模型经过不同数据源训练后的参数，能够很好地保护训练过程中工业数据的安全性和隐私性，从而构建了一个安全性强、准确性高的异常检测模型。高的异常检测模型。高的异常检测模型。

【技术实现步骤摘要】
一种基于Graphomer的工业控制系统异常检测方法


[0001]本专利技术涉及工业生产
，具体为一种基于Graphomer的工业控制系统异常检测方法。

技术介绍

[0002]工业互联网实现了工业领域和互联网的紧密结合，代表了工业运行效率和创新的前景范式。工业控制系统通过结合机器学习与网络技术，将设备、数据和人员等工业要素连接起来，并允许应用分析工具和网络技术来管理工业操作和提供新的增值服务，在生产应用中起着极其重要的作用。随着工作时间的推移，生产领域的关键设备容易发生各种故障，例如零件老化、外界环境影响和人为操作不当等等，这些故障可能导致设备的某些机械性能降低，甚至出现瘫痪的情况，从而引起不必要的生产中止，造成经济损失；
[0003]在工业互联网的大背景下，工业控制系统正向着智能化的方向转型升级，大大提高了生产效率，提升了经济效益；然而，在带来效益的同时也增加了网络入侵攻击的风险，并且随着运作时间的推移，工控设备容易发生各种故障，这些入侵、故障等异常可能导致工业控制系统的瘫痪，造成巨大的经济损失；因此，有必要为工业控制系统设计有效的异常检测模型。

技术实现思路

[0004](一)解决的技术问题
[0005]针对现有技术的不足，本专利技术提供了一种基于Graphomer的工业控制系统异常检测方法，具备通过故障诊断技术能够识别系统的故障原因，从而及时处理故障，降低损失等优点，解决了网络入侵、故障等异常可能导致工业控制系统的瘫痪，造成巨大的经济损失的问题。
[0006](二)技术方案
[0007]为实现上述通过故障诊断技术能够识别系统的故障原因，从而及时处理故障，降低损失目的，本专利技术提供如下技术方案：一种基于Graphomer的工业控制系统异常检测方法，其特征在于，包括以下步骤：
[0008]S1、系统框架工作流程
[0009]S1.1、系统初始化
[0010]在初始阶段，云服务器基于异常检测模型给出初始化参数包括异常检测模型参数q0，和一些有助于联邦学习聚合模型的参数，如学习率η，衰减指数ρ1，ρ2∈[0，1)，用于稳定的小常数ζ，损失函数L，批量大小B，贡献率α
k
，通信回合数R，本地数据总量大小N
k
；
[0011]S1.2、本体模型训练
[0012]每一个工业代理A
k
接收来自于云服务器的初始化参数，然后使用本地的私有数据D
k
训练异常检测模型；详细训练过程在算法2给出；由于工业代理属于边缘服务器，因此拥有足够的计算能力支撑本地模型训练；
[0013]S1.3、模型参数聚合
[0014]根据所有工业代理的贡献率，云服务器将所有参数进行聚合，然后将聚合后的参数下发给所有的工业代理；
[0015]S1.4、本地模型更新
[0016]本地代理接收到第r轮的聚合参数，使用相同的离线本地多模态数据进行模型更新，重新上传更新好的模型参数；经过R轮的模型参数交互，确定最终的多模态异常检测模型。
[0017]S2、数据行为关联规则构建
[0018]利用滑动窗口切割采集的多模态数据，根据不同数据切片下表现出的不同数据行为组合，构建数据行为之间的关联规则表；
[0019]S3、多模态关联图构建
[0020]选择其中一组切片数据，根据关联规则表构建数据之间的关联图作为Graphomer模型的输入；
[0021]S4、基于Graphomer的点预测
[0022]为了检测点异常，我们利用了Graphomer能够实现预测的功能，预测每个时间点的预期行为，从而识别异常，并且找出异常源头；Graphormer[42]是对Transformer进行了改动，加入了图结构信息编码，从而有效的使用图的结构信息，图结构信息编码有三种，分别是中心编码、空间编码和边编码；
[0023]S5、故障溯源
[0024]故障溯源可以视为二分类问题，即判断当前时刻不同节点是否异常；通过把预测值转换成异常分数，可以给节点打上正常或异常标签，根据节点的预测标签构建收敛函数来训练模型。
[0025]优选的，所述步骤S1中，系统框架工作流程主要包括两种类型的实体，即云服务器C和工业代理A
k
，k∈K，将多个工业控制系统的工业代理连接同一个云服务器，共同构建一个异常检测模型。
[0026]优选的，所述步骤S1中，负责建立一个全面的异常检测模型。初始化时，创建初始化参数下发至各个工业代理；第r轮训练时，联合在每个工业代理在本地训练好的模型参数然后下发至各个工业代理。
[0027]优选的，所述步骤S1中，通过云服务器和每个工业代理之间进行R轮(经验所得的最优轮数)交互，经过参数的训练、聚合、交互，获得最终的异常检测模型。
[0028]优选的，所述步骤S2中，工业代理A
k
中的本地数据定义为使用一个长度为B，步长为l的滑动窗口截取数据D
k
，获得X个长度为B的数据切片，其中，其中，floor(
·
)表示取整函数，D
X
表示经过滑动窗口处理后的总数据集。
[0029]优选的，所述步骤S3中，从数据切片中选择任意一个切片数据D
x
，D
x
∈D
x
作为训练批次，在当前数据批次中，我们取前B
‑
1长度作为异常检测模型的输入为
[0030]x
(B)
＝[s1，s2，
…
，s
(B
‑
1)
]。
[0031]优选的，所述步骤S4中，在Graphormer中，使用中心编码表示节点在图中的重要程度，在输入层中，将节点特征和由可学习的度向量相加；
[0032][0033]优选的，所述步骤S4中，在Graphormer中，使用空间编码来表示节点的全局位置关系，不仅仅考虑当前节点与相邻节点之间的局部关系，通过计算节点之间的最小路径来表示节点v
i
，v
j
的空间关系，如果两个节点没有关联则将A
i，j
表示为Query
‑
Key乘积矩阵A中第i行第j列元素，我们有：
[0034][0035]其中是一个通过可学习的权重矩阵，并且在所有层之间共享；h
i
是中心编码的输出结果。
[0036]优选的，所述步骤S4中，为了更好地将边缘特征编码到注意图层中，在Graphormer中，使用边编码来表示节点的相关性；首先找出两个节点v
i
，v
j
之间的最短路径SP
i，j
＝(e1，e2，...，e
M
)并计算出边缘特征点积的平均值和可学嵌入路径。
[0037](三)有益效果
[0038]与现有技术相比，本专利技术提供了一种基于Gr本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于Graphomer的工业控制系统异常检测方法，其特征在于，包括以下步骤：S1、系统框架工作流程S1.1、系统初始化在初始阶段，云服务器基于异常检测模型给出初始化参数包括异常检测模型参数q0，和一些有助于联邦学习聚合模型的参数，如学习率η，衰减指数ρ1，ρ2∈[0，1)，用于稳定的小常数ζ，损失函数批量大小B，贡献率α
k
，通信回合数R，本地数据总量大小N
k
；S1.2、本体模型训练每一个工业代理A
k
接收来自于云服务器的初始化参数，然后使用本地的私有数据D
k
训练异常检测模型；详细训练过程在算法2给出；由于工业代理属于边缘服务器，因此拥有足够的计算能力支撑本地模型训练；S1.3、模型参数聚合根据所有工业代理的贡献率，云服务器将所有参数进行聚合，然后将聚合后的参数下发给所有的工业代理；S1.4、本地模型更新本地代理接收到第r轮的聚合参数，使用相同的离线本地多模态数据进行模型更新，重新上传更新好的模型参数；经过R轮的模型参数交互，确定最终的多模态异常检测模型。S2、数据行为关联规则构建利用滑动窗口切割采集的多模态数据，根据不同数据切片下表现出的不同数据行为组合，构建数据行为之间的关联规则表；S3、多模态关联图构建选择其中一组切片数据，根据关联规则表构建数据之间的关联图作为Graphomer模型的输入；S4、基于Graphomer的点预测为了检测点异常，我们利用了Graphomer能够实现预测的功能，预测每个时间点的预期行为，从而识别异常，并且找出异常源头；Graphormer[42]是对Transformer进行了改动，加入了图结构信息编码，从而有效的使用图的结构信息，图结构信息编码有三种，分别是中心编码、空间编码和边编码；S5、故障溯源故障溯源可以视为二分类问题，即判断当前时刻不同节点是否异常；通过把预测值转换成异常分数，可以给节点打上正常或异常标签，根据节点的预测标签构建收敛函数来训练模型。2.根据权利要求1所述的一种基于Graphomer的工业控制系统异常检测方法，其特征在于，所述步骤S1中，系统框架工作流程主要包括两种类型的实体，即云服务器C和工业代理A
k
，k∈K，将多个工业控制系统的工业代理连接同一个云服务器，共同构建一个异常检测模型。3.根据权利要求1所述的一种基于Graphomer的工业控制系统异常检测方法，其特征在于，所述步骤S1中，负责建立一个全面的异常检测模型。初始化时，创建初始化参数下发至各个工业代理；第r轮训练时，联合在每个工业代理在本地训练好的模型参数然后下
发至各个工业代理。4.根据权利要求1所述的一种基...

【专利技术属性】
技术研发人员：蔡君，钟纬键，罗建桢，廖丽平，刘燕，李双喜，
申请(专利权)人：奇安信科技集团股份有限公司，
类型：发明
国别省市：