System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本申请涉及大数据处理领域,特别是涉及一种处理引擎的选择方法、装置、计算机设备、存储介质。
技术介绍
1、在大数据分析过程中,从一开始的只能通过各个处理引擎各自的客户端进行查询,发展到了现在的集成至客户端统一在一个平台进行访问,更加方便了数据开发及分析,但随着大数据处理引擎越来越多,用户在大数据平台进行数据开发及分析时需要对处理引擎选择,在使用不合适的处理引擎处理数据时,会造成一定的计算资源的浪费。
技术实现思路
1、基于此,有必要针对上述技术问题,提供了一种处理引擎的选择方法、装置、计算机设备、存储介质,可以提高处理效率,节约资源。
2、第一方面,本申请提供了一种处理引擎的选择方法。所述方法包括:
3、接收数据库访问语句;
4、获取所述数据库访问语句中的关键字,基于所述数据库访问语句中的关键字确定所述数据库访问语句的类型;
5、基于所述数据库访问语句的类型将所述数据库访问语句发送至对应的第一处理引擎;
6、监测第一处理引擎的运行状态,在所述第一处理引擎故障的情况下,根据预设的引擎稳定性序列进行更新处理,将所述第一处理引擎更新为第二处理引擎。
7、在其中一个实施例中,所述根据预设的引擎稳定性序列进行更新处理,将所述第一处理引擎更换为第二处理引擎包括:获取每一个处理引擎的资源信息,所述处理引擎按照资源信息排序形成引擎稳定性序列;
8、在所述第一处理引擎故障的情况下,根据引擎稳定性序列自动更新至下一个计算
9、在其中一个实施例中,所述根据预设的引擎稳定性序列进行更新处理,将所述第一处理引擎更新为第二处理引擎包括:
10、获取所述第一处理引擎的报错日志,基于所述报错日志确定所述第一处理引擎的故障类型;
11、获取每一个处理引擎的资源信息,所述处理引擎按照资源信息排序形成引擎稳定性序列;
12、基于所述故障类型确定所述引擎稳定性序列中的目标处理引擎,所述目标处理引擎为所述引擎稳定性序列中排序第一且与故障类型相匹配的处理引擎。
13、在其中一个实施例中,在所述数据库访问语句的类型为查询语言的情况下,所述基于所述数据库访问语句的类型将所述数据库访问语句发送至对应的第一处理引擎之后,所述方法还包括:
14、获取数据库访问语句在第一处理引擎中的处理步骤,基于所述处理步骤中的关键词得到操作类型;
15、获取第一处理资源的资源信息、第一处理资源的历史处理数据;
16、基于所述第一处理资源的资源信息、第一处理资源的历史处理数据,分配所述操作类型对应的权重、第一处理引擎的复杂基准值;
17、基于所述操作类型、所述操作类型对应的权重,计算数据库访问语句在第一处理引擎中的复杂度,在计算结果大于所述复杂基准值的情况下,将所述第一处理引擎更换为第二处理引擎。
18、在其中一个实施例中,所述方法还包括:
19、解析数据库访问语句,得到所述数据库访问语句的抽象语法树;
20、比较第一处理引擎和第二处理引擎的数据库语法规则,在所述比较结果存在语法不同的情况下,获取关系映射表,所述关系映射表用于表征所述第一处理引擎与第二处理引擎之间的数据库语法转换关系;
21、基于所述关系映射表对所述抽象语法树优化,得到优化语法树;
22、对所述优化语法树进行改写得到与所述第二处理引擎相匹配的数据库访问语句。
23、在其中一个实施例中,所述基于所述关系映射表对所述抽象语法树优化,得到优化语法树包括:
24、对所述抽象语法树中的所有父节点进行遍历,获取与所述父节点关联的子节点以确定所述父节点与所述子节点组成的语法信息;
25、基于关系映射表,对所述语法信息进行优化以更新所述父节点和所述子节点,得到所述优化语法树。
26、第二方面,本申请还提供了一种处理引擎的选择装置,所述装置包括:
27、接收模块,用于接收数据库访问语句;
28、获取模块,用于获取所述数据库访问语句中的关键字,基于所述数据库访问语句中的关键字确定所述数据库访问语句的类型;
29、发送模块,用于基于所述数据库访问语句的类型将所述数据库访问语句发送至对应的第一处理引擎;
30、选择模块,用于监测第一处理引擎的运行状态,在所述第一处理引擎故障的情况下,根据预设的引擎稳定性序列进行更新处理,将所述第一处理引擎更新为第二处理引擎。
31、在其中一个实施例中,所述根据预设的引擎稳定性序列进行更新处理,将所述第一处理引擎更换为第二处理引擎包括:获取每一个处理引擎的资源信息,所述处理引擎按照资源信息排序形成引擎稳定性序列;
32、在所述第一处理引擎故障的情况下,根据引擎稳定性序列自动更新至下一个计算引擎。
33、在其中一个实施例中,所述根据预设的引擎稳定性序列进行更新处理,将所述第一处理引擎更新为第二处理引擎包括:
34、获取所述第一处理引擎的报错日志,基于所述报错日志确定所述第一处理引擎的故障类型;
35、获取每一个处理引擎的资源信息,所述处理引擎按照资源信息排序形成引擎稳定性序列;
36、基于所述故障类型确定所述引擎稳定性序列中的目标处理引擎,所述目标处理引擎为所述引擎稳定性序列中排序第一且与故障类型相匹配的处理引擎。
37、在其中一个实施例中,在所述数据库访问语句的类型为查询语言的情况下,所述基于所述数据库访问语句的类型将所述数据库访问语句发送至对应的第一处理引擎之后,所述装置还包括:
38、获取数据库访问语句在第一处理引擎中的处理步骤,基于所述处理步骤中的关键词得到操作类型;
39、获取第一处理资源的资源信息、第一处理资源的历史处理数据;
40、基于所述第一处理资源的资源信息、第一处理资源的历史处理数据,分配所述操作类型对应的权重、第一处理引擎的复杂基准值;
41、基于所述操作类型、所述操作类型对应的权重,计算数据库访问语句在第一处理引擎中的复杂度,在计算结果大于所述复杂基准值的情况下,将所述第一处理引擎更换为第二处理引擎。
42、在其中一个实施例中,所述装置还包括:
43、解析数据库访问语句,得到所述数据库访问语句的抽象语法树;
44、比较第一处理引擎和第二处理引擎的数据库语法规则,在所述比较结果存在语法不同的情况下,获取关系映射表,所述关系映射表用于表征所述第一处理引擎与第二处理引擎之间的数据库语法转换关系;
45、基于所述关系映射表对所述抽象语法树优化,得到优化语法树;
46、对所述优化语法树进行改写得到与所述第二处理引擎相匹配的数据库访问语句。
47、在其中一个实施例中,所述基于所述关系映射表对所述抽象语法树优化,得到优化语法树包括:
48、本文档来自技高网...
【技术保护点】
1.一种处理引擎的选择方法,其特征在于,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,所述根据预设的引擎稳定性序列进行更新处理,将所述第一处理引擎更换为第二处理引擎包括:
3.根据权利要求1所述的方法,其特征在于,所述根据预设的引擎稳定性序列进行更新处理,将所述第一处理引擎更新为第二处理引擎包括:
4.根据权利要求1所述的方法,其特征在于,在所述数据库访问语句的类型为查询语言的情况下,所述基于所述数据库访问语句的类型将所述数据库访问语句发送至对应的第一处理引擎之后,所述方法还包括:
5.根据权利要求1所述的方法,其特征在于,所述方法还包括:
6.根据权利要求5所述的方法,其特征在于,所述基于所述关系映射表对所述抽象语法树优化,得到优化语法树包括:
7.一种处理引擎的选择装置,其特征在于,所述装置包括:
8.根据权利要求7所述的装置,其特征在于,所述根据预设的引擎稳定性序列进行更新处理,将所述第一处理引擎更换为第二处理引擎包括:
9.根据权利要求7所述的装置,其特征在于,所述
10.根据权利要求7所述的装置,其特征在于,在所述数据库访问语句的类型为查询语言的情况下,所述基于所述数据库访问语句的类型将所述数据库访问语句发送至对应的第一处理引擎之后,所述装置还包括:
11.根据权利要求7所述的装置,其特征在于,所述装置还包括:
12.根据权利要求11所述的装置,其特征在于,所述基于所述关系映射表对所述抽象语法树优化,得到优化语法树包括:
13.一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至6中任一项所述的方法的步骤。
14.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至6中任一项所述的方法的步骤。
15.一种计算机程序产品,包括计算机程序,其特征在于,该计算机程序被处理器执行时实现权利要求1至6中任一项所述的方法的步骤。
...【技术特征摘要】
1.一种处理引擎的选择方法,其特征在于,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,所述根据预设的引擎稳定性序列进行更新处理,将所述第一处理引擎更换为第二处理引擎包括:
3.根据权利要求1所述的方法,其特征在于,所述根据预设的引擎稳定性序列进行更新处理,将所述第一处理引擎更新为第二处理引擎包括:
4.根据权利要求1所述的方法,其特征在于,在所述数据库访问语句的类型为查询语言的情况下,所述基于所述数据库访问语句的类型将所述数据库访问语句发送至对应的第一处理引擎之后,所述方法还包括:
5.根据权利要求1所述的方法,其特征在于,所述方法还包括:
6.根据权利要求5所述的方法,其特征在于,所述基于所述关系映射表对所述抽象语法树优化,得到优化语法树包括:
7.一种处理引擎的选择装置,其特征在于,所述装置包括:
8.根据权利要求7所述的装置,其特征在于,所述根据预设的引擎稳定性序列进行更新处理,将所述第一处理引擎更换为第二处理引擎包括:
9.根据权利要求7...
【专利技术属性】
技术研发人员:周真锋,任何强,申根荣,
申请(专利权)人:企查查科技股份有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。