【技术实现步骤摘要】
本专利技术涉及用于解释由工业自动化系统的机器学习模型引发的警报的系统和方法。
技术介绍
1、当前的工业自动化系统被设计为引发警报以指示与正在进行的工业过程相关的安全或性能问题、以及其他问题。机器学习驱动的系统通过被训练为更快地预测异常行为来增强这一能力，导致警报的激增。人工操作者分析警报，以根据他们的经验确定要采取的适当动作。根据操作者的专业知识，分析可能需要相当长的时间。此外，操作者可能无法确定响应于警报而要采取的适当动作。延迟或不适当的响应可能导致灾难性条件或工厂关闭。另一方面，对警报的过度响应可能导致资源被浪费在非关键问题上。
技术实现思路
1、为了更好地解决这些问题中的一个或多个，在第一方面，提供了一种用于解释由工业自动化系统的机器学习模型引发的警报的解释器系统，该解释器系统被配置为：
2、从机器学习模型接收模型输出，该机器学习模型被训练为预测工业自动化系统中的异常行为并且引发警报；
3、使用至少一个预测解释技术来处理模型输出，以标识对模型输出有贡献的至少一个有影响特征；
4、使用所标识的至少一个有影响特征来从与工业自动化系统相关的至少一个机器可读信息源中提取上下文信息；以及
5、准备所提取的上下文信息以显示给工业自动化系统的操作者，以使得操作者能够响应于警报而选择要采取的适当动作以确保工业自动化系统的适当功能。
6、以这种方式，向操作者提供了关于工业自动化系统的状态和功能的增强信息以用于将警报情境化，基于该增强信
7、在一个示例中，使用至少一个预测解释技术来处理模型输出包括使用lime技术来标识至少一个有影响特征。附加地或备选地，使用至少一个预测解释技术来处理模型输出可以包括使用shap技术来标识至少一个有影响特征。应当理解，在其他示例中，也可以使用其他这样的技术。在这种技术的背景下，“有影响特征”可以被备选地描述为“重要特征”或“贡献特征”，即对模型输出贡献最大的特征或输入。在预测解释技术将特征重要性或权重分配给多个特征或输入的情况下，只有那些指标高于预定阈值的特征或输入可以被标识为有影响特征。
8、从至少一个机器可读信息源中提取上下文信息可以包括从一个或多个数据库中和/或从一个或多个知识库中提取信息。特别地，机器可读信息源可以由历史数据库、操作者日志、审计跟踪和/或本体(例如，知识图)提供，诸如本文中描述的那些。信息的提取可以由信息提取器来执行，诸如本文中描述的过去事件标识符、知识图管理器或p&id注释器。如本文所述，所提取的信息因此可以包括以下中的一个或多个：类似过去事件的过程数据(例如，时间序列数据)；类似过去事件的元数据(例如，时间序列数据)；响应于类似过去事件而采取的过去操作者动作；类似过去事件的故障诊断数据；在类似过去事件期间与至少一个有影响过程变量相关或与其相结合而出现的过程变量；涉及警报或受到警报影响的过程设备和/或仪器。
9、从至少一个机器可读信息源中提取上下文信息可以包括提取与至少一个过去事件相关的信息，该至少一个过去事件类似于与要被解释的警报相关联的事件。在下文中，为了简洁起见，与要被解释的警报相关联的事件可以称为“当前事件”。类似过去事件可以被视为涉及相同类型的事件的历史事件，也就是说，涉及与当前事件相同的信号或过程变量中的至少一些的事件、和/或观察到的关于这些信号或过程变量的类似可测量变化。与至少一个过去事件相关的所提取的信息然后可以被准备作为上下文信息显示给操作者。以这种方式，操作者能够从类似过去事件中学习，以便更有效地响应于当前事件。
10、提取与至少一个过去事件相关的信息可以包括首先标识与当前事件相似的至少一个过去事件。标识至少一个过去事件可以包括应用至少一个相似性函数和/或距离函数以确定当前事件与存储在过去事件数据库中的至少一个候选过去事件之间的相似性和/或距离。过去事件的数据库可以包括历史数据库。数据库和/或其内容因此用于提供上述机器可读信息源。在一个示例中，z归一化欧几里得(euclidean)距离函数被用于测量当前事件与存储在数据库中的至少一个候选过去事件之间的距离。其他可能的备选距离函数包括动态时间扭曲(如果段的长度不同)。相似性函数或距离函数可以将相似性指标或距离指标分别归因于多个候选事件中的每个，从而选择要提取的至少一个类似过去事件。可以基于多个候选事件的相似性或距离指标对多个候选事件排序或过滤。例如，可以对候选过去事件进行排序，并且选择排序靠前的候选中的一个或多个。附加地或备选地，仅分别具有高于预定阈值的相似性指标或低于预定阈值的距离指标的那些候选可以被选择用于提取。
11、为了从数据库中检索至少一个类似过去事件，信息提取可以包括采用搜索算法来定位至少一个类似过去事件。采用搜索算法可以包括基于表征当前事件的数据来制定搜索查询。例如，制定搜索查询可以包括获取至少一个有影响特征的过程数据，并且使用所获取的过程数据来制定搜索查询。制定搜索查询可以包括将所获取的过程数据约束到时间窗口。时间窗口可以例如以当前事件作为中值使用四分位距方法(例如，使用箱线图)来确定。当前事件的时间窗口可以根据由机器学习模型提供的预测来确定。备选地，时间窗口可以被描述为解释窗口。时间窗口可以具有起始时间和结束时间。时间窗口可以相对于固定参考点来限定，例如一天的开始。起始时间和结束时间可以由操作者通过剪切表示事件的趋势来确定。
12、提取与至少一个类似过去事件相关的信息可以包括提取与至少一个过去事件相结合而收集的过程数据。在一个示例中，其中所标识的至少一个有影响特征与由工业自动化系统执行的工业过程的过程变量(即，有影响过程变量)相关联，所提取的过程数据可以包括有影响过程变量的过程数据。附加地或备选地，提取信息可以包括标识与至少一个有影响特征相结合而出现在至少一个机器可读信息源中的至少一个相关过程变量，其中所提取的过程数据包括相关过程变量的过程数据。所提取的过程数据可以包括例如时间序列数据。对于与当前事件相关联的至少一个有影响特征，所提取的时间序列数据可以被约束到持续时间等于时间序列数据的持续时间的时间段。为此，如上所述，可以为当前事件确定时间窗口，并且时间窗口用于约束从至少一个机器可读信息源中提取的过程数据。在一个示例中，使用四分位距方法来确定时间窗口。过程数据可以从存储这样的数据的数据库中提取，诸如本文中描述的历史数据库。虽然本公开使用术语“过程变量”，但应当理解，在一些工业自动化上下文中，这备选地被描述为“信号”。
13、提取与至少一个类似过去事件相关的信息可以包括标识与至少一个类似过去事件相结合而采取的至少一个过去操作者动作。标识至少一个过去操作者动作可以包括搜索审计跟踪，该审计跟踪记录与过去事件相结合而采取的过去操作者动作。用作机器可读信息源的审计跟踪可以形成工业自动化系统和/或解释器系统的一部分。一旦被标识，至少一个类似过去事件就本文档来自技高网...
【技术保护点】
1.一种用于解释由工业自动化系统的机器学习模型(152)引发的警报的解释器系统(100)，所述解释器系统被配置为：
2.根据权利要求1所述的解释器系统，还被配置为提取与至少一个过去事件相关的信息作为所述上下文信息的一部分，所述至少一个过去事件类似于与要被解释的警报相关联的事件，其中与所述要被解释的警报相关联的所述事件包括当前事件。
3.根据权利要求2所述的解释器系统，还被配置为采用搜索算法来在数据库中定位至少一个类似过去事件，并且基于表征所述当前事件的数据来针对所述搜索算法制定搜索查询。
4.根据权利要求3所述的解释器系统，还被配置为：
5.根据权利要求4所述的解释器系统，还被配置为：以所述当前事件作为中值，使用四分位距方法来确定所述时间窗口。
6.根据权利要求2至5中任一项所述的解释器系统，还被配置为标识与所述至少一个类似过去事件相结合而采取的至少一个过去操作者动作。
7.根据前述权利要求中任一项所述的解释器系统，还被配置为从描述所述工业自动化系统的本体中提取信息作为所述上下文信息的一部分。
8
9.根据权利要求8所述的解释器系统，其中所提取的信息包括与所标识的实体相关的资产信息。
10.根据前述权利要求中任一项所述的解释器系统，还被配置为从与所述工业自动化系统相关的至少一个管道和仪器图中提取信息作为所述上下文信息的一部分。
11.根据权利要求10所述的解释器系统，被配置为：通过注释所述至少一个管道和仪器图以指示其中所包括的所述上下文信息，来准备所提取的上下文信息用于显示。
12.根据前述权利要求中任一项所述的解释器系统，其中所述上下文信息包括过程数据，并且其中所述解释器系统被配置为：通过准备示出所述过程数据随时间变化的图表，来准备所述所提取的上下文信息用于显示给操作者。
13.根据前述权利要求中任一项所述的解释器系统，还包括反馈收集器，所述反馈收集器被配置为：从所述操作者收集关于所述上下文信息的反馈并且使用所述反馈来改进后续解释。
14.一种用于解释由工业自动化系统的机器学习模型引发的警报的方法，所述方法包括：
15.一种计算机程序产品，包括指令，所述指令在由计算系统执行时引起所述计算系统执行根据权利要求14所述的方法。
...【技术特征摘要】
1.一种用于解释由工业自动化系统的机器学习模型(152)引发的警报的解释器系统(100)，所述解释器系统被配置为：
2.根据权利要求1所述的解释器系统，还被配置为提取与至少一个过去事件相关的信息作为所述上下文信息的一部分，所述至少一个过去事件类似于与要被解释的警报相关联的事件，其中与所述要被解释的警报相关联的所述事件包括当前事件。
3.根据权利要求2所述的解释器系统，还被配置为采用搜索算法来在数据库中定位至少一个类似过去事件，并且基于表征所述当前事件的数据来针对所述搜索算法制定搜索查询。
4.根据权利要求3所述的解释器系统，还被配置为：
5.根据权利要求4所述的解释器系统，还被配置为：以所述当前事件作为中值，使用四分位距方法来确定所述时间窗口。
6.根据权利要求2至5中任一项所述的解释器系统，还被配置为标识与所述至少一个类似过去事件相结合而采取的至少一个过去操作者动作。
7.根据前述权利要求中任一项所述的解释器系统，还被配置为从描述所述工业自动化系统的本体中提取信息作为所述上下文信息的一部分。
8.根据权利要求7所述的解释器系统，还被配置为在所述本体中标识至少一个实体，所述至少...
【专利技术属性】
技术研发人员：桑托纳·萨尔卡，海迪尔·阿布夸克，鲁本·鲍里森，迪维亚谢尔·沙玛，马塞洛·迪克斯，钱德里卡·凯·尔，迪普蒂·玛杜斯卡，玛丽·克里斯廷·普拉腾纽斯莫尔，本杰明·克洛珀，
申请(专利权)人：ABB瑞士股份有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。