System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本申请涉及故障检测领域,特别是涉及一种针对于暖通系统的故障检测模型的构建方法及应用。
技术介绍
1、暖通是建筑的一个组成部分包括:供暖、通风、空气调节三个方面,对应的,暖通系统指的是建筑物内负责暖气、通风及空气调节的系统,其可为建筑物内部提供热量,使室内温度保持在适宜的水平;还可实现室内外空气的交换,以维持室内空气的质量和良好的舒适度;还可控制室内的温度、湿度、洁净度和空气流速等参数,使其符合人体舒适和某些特定环境的要求。建筑监测系统的广泛安装使得大量建筑运行数据可被收集,为智能建筑运行管理方法带来了前景,其中数据驱动的故障诊断方法在暖通系统中也得到了应用,进而实现可以通过数据分析快速准确检测暖通系统故障的效果。
2、目前主流的故障检测模型是通过监督学习算法建立监测变量(如流量、温度和压力)与运行条件(如正常或故障)之间的映射关系,但是这种监督学习的方式应用受限于需要足够的标注数据,然而标签标注工作劳动密集且需要广泛领域知识,导致此类监督学习模型的标注数据量短缺。
3、为了解决标注数据量短缺的问题,可采用迁移学习或者半监督学习的方法,其中迁移学习基于从相似建筑的运行数据中获取标注数据量,然而不同运行系统在各自的使用场景下是存在显著差异的,进而导致迁移学习方式得到的模型的故障检测结果不佳。其中半监督学习则是在有限标注数据情况下利用未标注数据提高模型故障检测的性能,但这些方法的性能在很大程度上依旧取决于初始标注数据的数量和质量,当初始标注数据极其有限且代表性不足时,可能产生误导性伪标签,依旧会导致最终的故障检
4、相较以上方式,自监督学习的方式更适合标注数据量少的故障检测场景,自监督学习通过制定 pretext tasks 从数据本身生成代理标签,在此基础上设计预训练模型为下游分类任务提取有意义的数据表征,可以释放大量未标注数据的潜力。然而暖通系统的运行数据属于表格数据,且表格数据中值可能是独立的也可能是相关的,这就导致了自监督学习的方式在暖通系统的故障检测模型中也存在诸多缺陷:
5、1)目前的自监督学习方法将输入样本视为个体实体,仅仅关注实例级特征。例如,在分析暖通系统的运行数据时,可能只是单独考虑某个时刻某个监测点(如某个房间的温度传感器数据)的特征,而没有考虑到该监测点数据与其他相关监测点(如同一楼层其他房间的温度、湿度,或者该房间的通风量等数据)之间的关联,即忽略了与不同样本相关的上下文信息。这种孤立地看待样本的方式,可能导致无法全面准确地把握暖通系统的运行状态,从而影响故障检测的准确性。
6、2)目前的自监督学习方法仅关注一种特定的 pretext task 进行表征学习。比如,可能只是专注于数据重建任务,通过学习原始数据和损坏数据之间的关系来提取特征。然而,暖通系统是一个复杂的系统,其运行数据包含多种信息。仅仅依靠一种任务进行学习,忽略了多个 pretext tasks 之间相互作用的潜在好处。例如,对比相似性匹配任务可以从不同样本的相似性和差异性角度挖掘特征,如果不结合这个任务,模型可能无法充分学习到能够区分正常和故障状态的关键特征,从而限制了模型的表征提取能力,最终影响故障检测的效果。
技术实现思路
1、本申请实施例提供了一种针对于暖通系统的故障检测模型的构建方法及应用,基于transformer 搭建自监督表征学习的模型,且优化模型架构提高了暖通系统的故障检测的效率和质量。
2、第一方面,本申请实施例提供了一种针对于暖通系统的故障检测模型的构建方法,包括以下步骤:
3、获取暖通系统的未标注数据以及标注数据;
4、构建骨干编码器并基于骨干编码器搭建预训练框架,其中骨干编码器为增加上下文注意力模块的transformer模型,其中预训练框架包括数据增强单元、对比相似度匹配预训练任务线以及数据重建预训练任务线,且对比相似度匹配预训练任务线和数据重建预训练任务线协同共享骨干编码器;
5、将未标注数据输入到预训练框架中进行自监督学习直到满足优化目标得到优化参数的骨干编码器,其中未标注数据的原始数据输入数据增强模块中进行数据增强得到增强数据,增强数据和原始数据输入到对比相似度匹配预训练任务线中计算对比相似度损失,增强数据和原始数据输入到数据重建预训练任务线中计算数据重建损失,以数据重建损失和对比相似度损失的权重和的最小值为优化目标;
6、基于优化参数的骨干编码器构建故障检测架构,将标注数据输入到故障检测架构中进行监督学习直到满足训练条件得到针对于暖通系统的故障检测模型,其中故障检测架构在优化参数的骨干编码器的顶部连接多层感知器。
7、第二方面,本申请实施例提供了一种针对于暖通系统的故障检测方法,包括以下步骤:将暖通数据的运行数据输入到针对于暖通系统的故障检测模型中得到故障类别。
8、本专利技术的主要贡献和创新点如下:
9、本申请实施例提出的故障检测模型的骨干编码器通过在自注意力模块上嵌入上下文注意力模块,使故障检测模型能够挖掘输入的暖通系统的运行数据之间的上下文表征,此外,关于该故障检测模型的训练过程采用自监督学习的方式,在骨干编码器的自监督预训练过程中设计了一种联合数据增强策略以提高输入数据的多样性,促进 p预训练任务从未标记数据中学习更广泛的表征。同时,制定了两个协同的预训练任务线,即对比相似性匹配和数据重建,从未标记数据中提取判别性表征,最后,骨干编码器可将从未标记数据中学习到的对诊断有益的表征用于暖通系统的故障检测场景。
10、换言之,本方案提供了一种基于transformer模型改进的骨干编码器,该骨干编码器可以从暖通系统的未标注数据中提取与不同样本相关的上下文信息;本方案提供了一种骨干编码器的预训练任务,设计了一种联合数据增强策略来提高输入的未标注数据的多样性,从而促进预训练框架的两个预训练任务线可以从未标记数据中学习更广泛的表征,且本方案的预训练框架中包括比对相似性匹配预训练任务线和数据重建预训练任务线,可以从不同角度函数知识提取,以增强骨干编码器的判别能力;本方案基于骨干编码器构建得到的故障检测模型经过实验数据验证可在有限的标注数据的基础上,准确地对暖通系统的故障进行检测。
11、本申请的一个或多个实施例的细节在以下附图和描述中提出,以使本申请的其他特征、目的和优点更加简明易懂。
本文档来自技高网...【技术保护点】
1.一种针对于暖通系统的故障检测模型的构建方法,其特征在于,包括以下步骤:
2.根据权利要求1所述的针对于暖通系统的故障检测模型的构建方法,其特征在于,骨干编码器包括依次连接的多层编码层,每一编码层包括依次连接的自注意力模块以及上下文注意力模块,其中自注意力模块由多头自注意力层、逐位置前馈层、层归一化和残差连接组成,其中上下文注意力模块由多头上下文注意力层、逐位置前馈层、层归一化和残差连接组成。
3.根据权利要求2所述的针对于暖通系统的故障检测模型的构建方法,其特征在于,输入到骨干编码器的未标注数据的多个样本的原始数据在经过自注意力模块进行自注意力机制处理后,每个样本的所有特征在多头上下文注意力层进行嵌入连接。
4.根据权利要求1所述的针对于暖通系统的故障检测模型的构建方法,其特征在于,数据增强模块采用CutMix对未标注数据的原始数据进行数据增强得到CutMix版数据,采用Mixup对CutMix版数据的嵌入向量进行数据增强得到增强数据。
5.根据权利要求4所述的针对于暖通系统的故障检测模型的构建方法,其特征在于,对于未标注数据中
6.根据权利要求1所述的针对于暖通系统的故障检测模型的构建方法,其特征在于,对比相似度匹配预训练任务线包括原始编码映射分支、增强编码映射分支以及比对空间,其中原始编码映射分支和增强映射分支的结构相同,均含有相同参数的骨干编码器和映射模块,原始编码映射分支用于输入未标注数据每一样本的原始数据,增强映射分支用于输入对应当前样本的增强数据,未标注数据的每一样本的原始数据输入到原始编码映射分支的骨干编码器中提取原始编码特征,原始编码特征经过映射模块映射至比对空间内;对应当前样本的增强数据输入到增强编码映射分支提取映射编码特征,映射编码特征经过映射模块映射至比对空间内,比对空间内计算当前样本的正样本对和负样本对的对比相似性损失。
7.根据权利要求6所述的针对于暖通系统的故障检测模型的构建方法,其特征在于,正样本对为通过数据增强模块增强当前样本的原始数据得到的增强数据同当前样本的原始数据组成的数据对,负样本对为通过数据增强模块增强其他样本的原始数据得到的增强数据同当前样本的原始数据组成的数据对。
8.根据权利要求6所述的针对于暖通系统的故障检测模型的构建方法,其特征在于,数据重建预训练任务线共享对比相似度匹配预训练任务线的增强映射分支的骨干编码器,且在增强映射分支的骨干编码器后连接一个解码器,未标注数据的每一样本的增强数据输入到增强编码映射分支提取映射编码特征,每一样本的原始数据和对应的映射编码特征输入到解码器中计算数据重建损失。
9.根据权利要求1所述的针对于暖通系统的故障检测模型的构建方法,其特征在于,暖通系统的标注数据和未标注数据为表格形式的运行数据,暖通系统的标注数据为标注有暖通系统的故障类别的运行数据,故障检测架构的损失函数为交叉熵损失。
10.一种针对于暖通系统的故障检测方法,其特征在于,包括以下步骤:
...【技术特征摘要】
1.一种针对于暖通系统的故障检测模型的构建方法,其特征在于,包括以下步骤:
2.根据权利要求1所述的针对于暖通系统的故障检测模型的构建方法,其特征在于,骨干编码器包括依次连接的多层编码层,每一编码层包括依次连接的自注意力模块以及上下文注意力模块,其中自注意力模块由多头自注意力层、逐位置前馈层、层归一化和残差连接组成,其中上下文注意力模块由多头上下文注意力层、逐位置前馈层、层归一化和残差连接组成。
3.根据权利要求2所述的针对于暖通系统的故障检测模型的构建方法,其特征在于,输入到骨干编码器的未标注数据的多个样本的原始数据在经过自注意力模块进行自注意力机制处理后,每个样本的所有特征在多头上下文注意力层进行嵌入连接。
4.根据权利要求1所述的针对于暖通系统的故障检测模型的构建方法,其特征在于,数据增强模块采用cutmix对未标注数据的原始数据进行数据增强得到cutmix版数据,采用mixup对cutmix版数据的嵌入向量进行数据增强得到增强数据。
5.根据权利要求4所述的针对于暖通系统的故障检测模型的构建方法,其特征在于,对于未标注数据中的每一样本,数据增强模块的数据增强公式如下:
6.根据权利要求1所述的针对于暖通系统的故障检测模型的构建方法,其特征在于,对比相似度匹配预训练任务线包括原始编码映射分支、增强编码映射分支以及比对空间,其中原始编码映射分支和增强映射分支的结构相同,均含有相同参数的骨干编码器和映射模块,原始编码映射分支用于输入...
【专利技术属性】
技术研发人员:黄晶,陈青海,吴恒,赖卿欢,熊远强,张浩,
申请(专利权)人:杭州经纬信息技术股份有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。