System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本专利技术涉及日志分析,尤其涉及一种多源日志关联分析方法、装置、设备及存储介质。
技术介绍
1、多源日志是指来自不同系统、应用或设备的日志数据,在一个复杂的系统环境中,通常会有多个源头产生日志数据,例如应用程序、操作系统、网络设备等,这些日志数据可能具有不同的格式和结构。关联分析是一种数据分析方法,用于发现不同数据之间的关联关系和模式,通过关联分析,可以揭示数据集中的相关性,帮助理解数据之间的依赖关系和共现规律。
2、然而,虽然现有日志平台可以对单一系统的日志进行分析处理,但无法跨系统关联分析。大多数的日志数据通常会分散在多个系统内,且单一业务可能会涉及多个不同的系统。现有的日志平台主要是针对单系统设计,由于系统日志数据彼此隔离,缺乏统一的跟踪标识,无法还原完整的服务调用链路,导致从数据采集、处理、查询分析等环节上都难以有效支持跨源日志的关联分析。
3、因此,现有技术还有待于改进和发展。
技术实现思路
1、本专利技术的主要目的在于解决现有技术的日志平台主要是针对单系统设计,由于系统日志数据彼此隔离,缺乏统一的跟踪标识,无法还原完整的服务调用链路,导致从数据采集、处理、查询分析等环节上都难以有效支持跨源日志的关联分析的问题。
2、本专利技术第一方面提供了一种多源日志关联分析方法,包括:获取多个系统的接口和接口定义,并根据所述接口定义获取接口信息;根据所述接口信息生成调用关系有向图,并获取接口调用链路;根据所述接口采集多源日志,对所述多源日志进行结构
3、可选的,在本专利技术第一方面的第一种实现方式中,所述获取多个系统的接口和接口定义,并根据所述接口定义获取所述接口的接口信息的步骤包括:从所述系统的多个代码库或多个接口文档中提取可用的接口和接口定义;对所述接口定义进行解析,提取接口的服务流程并形成接口信息。
4、可选的,在本专利技术第一方面的第二种实现方式中,所述根据所述接口信息生成调用关系有向图,并根据所述调用关系有向图获取接口调用链路的步骤包括:将所述接口信息转化为图数据库中的节点和边;将所述节点表示为接口操作,将所述边表示为接口之间的调用关系,根据所述节点和边生成调用关系有向图;根据所述调用关系有向图对接口服务进行递归查找,获取接口调用链路。
5、可选的,在本专利技术第一方面的第三种实现方式中,所述将所述边表示为接口之间的调用关系的步骤包括:获取接口的参数和返回值,任选两个接口作为第一接口和第二接口,判断所述第一接口的返回值是否作为所述第二接口的参数;若是,则所述第一接口和所述第二接口之间存在调用关系;重复判断所述接口的参数和返回值,直至获取所有接口之间的调用关系。
6、可选的,在本专利技术第一方面的第四种实现方式中,所述根据所述接口采集多源日志,对所述多源日志进行结构化处理,得到结构化日志的步骤包括:根据所述接口采集多个系统的日志形成多源日志,并针对不同格式的日志定义解析表达式;根据所述解析表达提取所述多源日志的字段信息,并根据所述字段信息生成解析结果;根据所述解析结果对所述多源日志进行结构化处理,得到结构化日志。
7、可选的,在本专利技术第一方面的第五种实现方式中,所述将所述结构化日志与所述接口调用链路进行关联匹配,形成调用案例,对所述调用案例进行分析并展示的步骤包括:将所述结构化日志与所述接口调用链路进行匹配,将成功匹配的结构化日志按照时间顺序进行排列,并根据成功匹配的结构化日志形成调用案例;对所述调用案例进行分析,并将所述结构化日志以案例列表展示,将所述接口调用链路以案例图展示。
8、可选的,在本专利技术第一方面的第六种实现方式中,所述对所述调用案例进行分析的步骤包括:对所述调用案例进行统计分析,得到接口调用链路的关键指标;根据所述关键指标绘制时间序列图,并根据所述时间序列图分析所述关键指标的变化情况。
9、本专利技术第二方面提供了一种多源日志关联分析装置,包括:获取模块,用于获取多个系统的接口和接口定义,并根据所述接口定义获取接口信息;查询模块,用于根据所述接口信息生成调用关系有向图,并获取接口调用链路;处理模块,用于根据所述接口采集多源日志,对所述多源日志进行结构化处理,得到结构化日志;分析模块,用于将所述结构化日志与所述接口调用链路进行关联匹配,形成调用案例,对所述调用案例进行分析并展示。
10、可选的,在本专利技术第二方面的第一种实现方式中,所述获取模块包括:提取单元,用于从所述系统的多个代码库或多个接口文档中提取可用的接口和接口定义;解析单元,用于对所述接口定义进行解析,提取接口的服务流程并形成接口信息。
11、可选的,在本专利技术第二方面的第二种实现方式中,所述查询模块包括:转化单元,用于将所述接口信息转化为图数据库中的节点和边;关系表示单元,用于将所述节点表示为接口操作,将所述边表示为接口之间的调用关系,根据所述节点和边生成调用关系有向图;递归查找单元,用于根据所述调用关系有向图对接口服务进行递归查找,获取接口调用链路。
12、可选的,在本专利技术第二方面的第三种实现方式中,所述关系表示单元包括:参数判断子单元,用于获取接口的参数和返回值,任选两个接口作为第一接口和第二接口,判断所述第一接口的返回值是否作为第二接口的参数;关系确认子单元,用于若是,则所述第一个接口和所述第二个接口之间存在调用关系;关系获取子单元,重复判断所述接口的参数和返回值,直至获取所有接口之间的调用关系。
13、可选的,在本专利技术第二方面的第四种实现方式中,所述处理模块包括:定义单元,用于根据所述接口采集多个系统的日志形成多源日志,并针对不同格式的日志定义解析表达式;提取单元,用于根据所述解析表达提取所述多源日志的字段信息,并根据所述字段信息生成解析结果;结构化处理单元,用于根据所述解析结果对所述多源日志进行结构化处理,得到结构化日志。
14、可选的,在本专利技术第二方面的第五种实现方式中,所述分析模块包括:匹配单元,用于将所述结构化日志与所述接口调用链路进行匹配,将成功匹配的结构化日志按照时间顺序进行排列,并根据成功匹配的结构化日志形成调用案例;展示单元,用于对所述调用案例进行分析,并将所述结构化日志以案例列表展示,将所述接口调用链路以案例图展示。
15、可选的,在本专利技术第二方面的第六种实现方式中,所述展示单元包括:统计分析子单元,用于对所述调用案例进行统计分析,得到接口调用链路的关键指标;绘制子单元,用于根据所述关键指标绘制时间序列图,并根据所述时间序列图分析所述关键指标的变化情况。
16、本专利技术第三方面提供了一种多源日志关联分析设备,包括:存储器和至少一个处理器,所述存储器中存储有计算机可读指令,所述存储器和所述至少一个处理器通过线路互连;所述至少一个处理器调用所述存储器中的所述计算机可读指令,以使得所述多源日志关联分析设备执行如上所述多源日志关联分析本文档来自技高网...
【技术保护点】
1.一种多源日志关联分析方法,其特征在于,所述多源日志关联分析方法包括:
2.根据权利要求1所述多源日志关联分析方法,其特征在于,所述获取多个系统的接口和接口定义,并根据所述接口定义获取所述接口的接口信息的步骤包括:
3.根据权利要求1所述多源日志关联分析方法,其特征在于,所述根据所述接口信息生成调用关系有向图,并根据所述调用关系有向图获取接口调用链路的步骤包括:
4.根据权利要求3所述多源日志关联分析方法,其特征在于,所述将所述边表示为接口之间的调用关系的步骤包括:
5.根据权利要求1所述多源日志关联分析方法,其特征在于,所述根据所述接口采集多源日志,对所述多源日志进行结构化处理,得到结构化日志的步骤包括:
6.根据权利要求1所述多源日志关联分析方法,其特征在于,所述将所述结构化日志与所述接口调用链路进行关联匹配,形成调用案例,对所述调用案例进行分析并展示的步骤包括:
7.根据权利要求6所述多源日志关联分析方法,其特征在于,所述对所述调用案例进行分析的步骤包括:
8.一种多源日志关联分析装置,其
9.一种多源日志关联分析设备,其特征在于,包括存储器和至少一个处理器,所述存储器中存储有计算机可读指令;
10.一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机可读指令,其特征在于,所述计算机可读指令被处理器执行时实现如权利要求1-7中任一项所述多源日志关联分析方法的各个步骤。
...【技术特征摘要】
1.一种多源日志关联分析方法,其特征在于,所述多源日志关联分析方法包括:
2.根据权利要求1所述多源日志关联分析方法,其特征在于,所述获取多个系统的接口和接口定义,并根据所述接口定义获取所述接口的接口信息的步骤包括:
3.根据权利要求1所述多源日志关联分析方法,其特征在于,所述根据所述接口信息生成调用关系有向图,并根据所述调用关系有向图获取接口调用链路的步骤包括:
4.根据权利要求3所述多源日志关联分析方法,其特征在于,所述将所述边表示为接口之间的调用关系的步骤包括:
5.根据权利要求1所述多源日志关联分析方法,其特征在于,所述根据所述接口采集多源日志,对所述多源日志进行结构化处理,得到结构化日志的步骤包括:...
【专利技术属性】
技术研发人员:钱忠杰,姚广,赵严,
申请(专利权)人:上海东普信息科技有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。