【技术实现步骤摘要】
本专利技术涉及电力变压器故障诊断，具体涉及一种基于知识蒸馏与协同增量学习的变压器故障诊断方法。
技术介绍
1、近年来，计算机技术与传感技术发展迅猛，随着大量智能设备在电力系统内的大规模部署，在线监测、智能巡检等电力物联网所采集的实时数据量呈指数级增长，但随之而来也带来许多挑战：首先，深度学习模型部署对计算资源要求较高，难以在资源受限的边缘端实现，而轻量级模型则面临着特征提取能力不足、泛化能力有限的问题；其次，变压器故障类型多样且复杂，如局放信号受缺陷几何特征、外部电场条件及缺陷位置设备材料等因素影响较大，可能导致新出现的样本与模型学习的样本差异显著，重新训练所需的资源配置在边缘侧难以满足；此外，将大量监测数据传输至云端进行集中处理，虽然能解决计算与存储能力问题，但数据传输过程中会占用大量通信带宽，造成通信信道负载过重，而边缘端计算资源有限，难以应对高计算需求的任务。如何在边缘计算环境中有效处理和利用这些数据是目前亟需解决的问题。
2、为缓解数据传输压力，合理分配计算资源并提高系统运行效率，可采用云边协同的方式，指在云计算和边缘计算之间实现协同工作的一种运行机制。核心思想是在于整合云计算与边缘计算的优势，实现更为灵活高效的数据处理与计算能力。在云边协同架构下，边缘端负责数据的实时处理和初步分析，仅将重要的识别结果或摘要数据上传至云端，减轻数据传输压力，优化通信资源的利用。
3、然而，单纯的云边协同仍然面临一些问题，随着电力系统的运行，与模型学习样本差异较大的新样本数据不断增加，现有的诊断模型可能会出现失准的
技术实现思路
1、本专利技术的目的是为了解决边缘计算环境中模型更新的难题，提供一种基于知识蒸馏与协同增量学习的变压器故障诊断方法。按照本专利技术的技术方案，通过协同增量学习机制实现云端与边缘端模型的同步更新，确保了模型在边缘计算环境中能够持续有效地学习和适应新样本，提升故障诊断的准确性。
2、为了实现上述目的，本专利技术提供了一种基于知识蒸馏与协同增量学习的变压器故障诊断方法，该方法包括以下步骤：
3、(1)利用现场采集的变压器历史数据，构建云端高性能模型和轻量级模型的训练数据集；
4、(2)在边缘侧部署初始状态的轻量级模型，等待云端下发经过训练的模型参数；
5、(3)在云端构建模式识别模型，并将数据集输入高性能模型进行训练，随后通过知识蒸馏技术，用高性能模型指导轻量级模型的训练，完成训练后将模型参数保存到云端；
6、(4)通过无线通讯将云端训练好的轻量级模型权重参数下发至边缘侧，实现模型部署；
7、(5)边缘侧设备在接收到监测数据后，先对原始数据进行适当处理，再输入识别模型进行故障识别，根据模型输出结果，判断最高类别概率是否超过80％，若超过80％，则执行步骤(6)；若低于80％，则转至步骤(7)；
8、(6)将边缘侧的识别结果加密后上传至云端，并将对应的监测数据存储在本地数据库中，根据需要上传至云端，同时向运维人员发送故障类型提示，以便进行后续维护和检修工作；
9、(7)当边缘侧模型的输出结果可信度不达标时，将输入数据和输出结果加密后上传至云端，由云端高性能模型进行判别，若结果达标，则通过增量学习的方式更新轻量级模型；若结果不达标，则由运维人员对数据进行判别和标注，通过增量学习的方式更新高性能模型后，重复步骤(3)至(5)，以实现边缘侧轻量级模型的同步更新。
10、优选地，在步骤(1)中，以局部放电数据为例，将采集的原始局放数据通过局部放电信号可用式(1)表示：
11、s(t)＝f(t)+ε(t) (1)
12、其中，s(t)为含有噪声的局部放电监测信号；f(t)为信号的有效部分；ε(t)为噪声信号。
13、优选地，对含噪信号s(n)进行离散小波变换，得到下式(2)：
14、∫s(t)ψj,k(t)dt＝∫f(t)ψj,k(t)dt+∫ε(t)ψj,k(t)dt (2)
15、其中，ψj,k(t)为小波基函数；j为小波基函数的尺度参数；k为小波基函数的平移参数。
16、优选地，小波去噪的目标即为最大限度地消除噪声信号ε(t)的影响，从而保留有效信号f(t)，小波去噪过程包括以下三个部分：
17、1)小波分解：首先，将待处理的信号s通过小波变换分解成不同尺度和频率的子带信号，分解后的信号称为近似系数和细节系数，近似系数ai为信号的低频部分，近似系数主要反映了信号的整体趋势，而细节系数di则反映了信号的细节和高频成分；
18、2)阈值处理：在小波域中，通常假设信号的细节系数主要包含噪声，而近似系数主要包含信号的有效信息；
19、3)重构信号：经过阈值处理后，将处理后的近似系数和细节系数通过小波逆变换进行重构，得到去噪后的信号s`。
20、优选地，在步骤(3)中，利用历史数据对高性能模型进行训练，通过最小化轻量级模型与高性能模型的软标签输出差异实现先验知识的继承。
21、优选地，软标签是数值在0到1之间的概率标签形式，相较于常规神经网络输出的0和1的二值标签，既表明类别属性，又蕴含了不同类别间的隐含信息。
22、优选地，神经网络通过使用“softmax”层来输出各类型概率，其表达式为：
23、
24、式中：zi,zj为数据输入网络后的logits输出；qi为softmax的输出，即模型预测结果。
25、优选地，引入蒸馏温度t后，softmax表达式变为：
26、
27、随着蒸馏温度t值增大，模型的输出结果分布会越平缓，分布熵变小；
28、并在先验知识的指导下，尽量缩小硬标签输出与真实标签间的差异，其函数表达式如下：
29、
30、losshard＝-∑ipilogqi (7)
31、式中pi为标签。
32、优选地，采用知识蒸馏训练时，首先教师网络在蒸馏温度t＝t下预测一个软标签，软标签作为知识传递给学生网络；然后在蒸馏温度t＝t下，将学生网络的预测结果与教师网络的软标签通过计算得到蒸馏损失losssoft。
33、优选地，将学生网络在蒸馏温度t＝1时得到的结果与真实标签通过计算得到分类损失losshard，由于训练过程中两种损失函数所提供的梯度量不同，因此计算总损失函数loss时，需要在蒸馏损失losssoft前乘以t2，总损失函数表达式如下：
34、loss＝αlhard+(1-α)t2lsoft (8)
35、式中α为权重系数。
36、与现有技术相本文档来自技高网...
【技术保护点】
1.一种基于知识蒸馏与协同增量学习的变压器故障诊断方法，其特征在于，该方法包括以下步骤：
2.根据权利要求1所述的基于知识蒸馏与协同增量学习的变压器故障诊断方法，其特征在于，在步骤(1)中，以局部放电数据为例，将采集的原始局放数据通过局部放电信号可用式(1)表示：
3.根据权利要求2所述的基于知识蒸馏与协同增量学习的变压器故障诊断方法，其特征在于，对含噪信号s(n)进行离散小波变换，得到下式(2)：
4.根据权利要求3所述的基于知识蒸馏与协同增量学习的变压器故障诊断方法，其特征在于，小波去噪的目标即为最大限度地消除噪声信号ε(t)的影响，从而保留有效信号f(t)，小波去噪过程包括以下三个部分：
5.根据权利要求1所述的基于知识蒸馏与协同增量学习的变压器故障诊断方法，其特征在于，在步骤(3)中，利用历史数据对高性能模型进行训练，通过最小化轻量级模型与高性能模型的软标签输出差异实现先验知识的继承。
6.根据权利要求5所述的基于知识蒸馏与协同增量学习的变压器故障诊断方法，其特征在于，软标签是数值在0到1之间的概率标签形式，相较
7.根据权利要求6所述的基于知识蒸馏与协同增量学习的变压器故障诊断方法，其特征在于，神经网络通过使用“softmax”层来输出各类型概率，其表达式为：
8.根据权利要求7所述的基于知识蒸馏与协同增量学习的变压器故障诊断方法，其特征在于，引入蒸馏温度T后，softmax表达式变为：
9.根据权利要求8所述的基于知识蒸馏与协同增量学习的变压器故障诊断方法，其特征在于，采用知识蒸馏训练时，首先教师网络在蒸馏温度T＝t下预测一个软标签，软标签作为知识传递给学生网络；然后在蒸馏温度T＝t下，将学生网络的预测结果与教师网络的软标签通过计算得到蒸馏损失Losssoft。
10.根据权利要求9所述的基于知识蒸馏与协同增量学习的变压器故障诊断方法，其特征在于，将学生网络在蒸馏温度T＝1时得到的结果与真实标签通过计算得到分类损失Losshard，由于训练过程中两种损失函数所提供的梯度量不同，因此计算总损失函数Loss时，需要在蒸馏损失Losssoft前乘以T2，总损失函数表达式如下：
...【技术特征摘要】
1.一种基于知识蒸馏与协同增量学习的变压器故障诊断方法，其特征在于，该方法包括以下步骤：
2.根据权利要求1所述的基于知识蒸馏与协同增量学习的变压器故障诊断方法，其特征在于，在步骤(1)中，以局部放电数据为例，将采集的原始局放数据通过局部放电信号可用式(1)表示：
3.根据权利要求2所述的基于知识蒸馏与协同增量学习的变压器故障诊断方法，其特征在于，对含噪信号s(n)进行离散小波变换，得到下式(2)：
4.根据权利要求3所述的基于知识蒸馏与协同增量学习的变压器故障诊断方法，其特征在于，小波去噪的目标即为最大限度地消除噪声信号ε(t)的影响，从而保留有效信号f(t)，小波去噪过程包括以下三个部分：
5.根据权利要求1所述的基于知识蒸馏与协同增量学习的变压器故障诊断方法，其特征在于，在步骤(3)中，利用历史数据对高性能模型进行训练，通过最小化轻量级模型与高性能模型的软标签输出差异实现先验知识的继承。
6.根据权利要求5所述的基于知识蒸馏与协同增量学习的变压器故障诊断方法，其特征在于，软标签是数值在0到1之间的概率标签形式，相较于常规神...
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。