System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本申请涉及数据处理,具体而言,涉及一种数据处理方法以及服务器。
技术介绍
1、我们的计算机已经从信息时代走到数据时代,除了处理企业日常的数据业务,互联网海量数据和企业的业务数据中的价值需要进一步挖掘。
2、而数据挖掘的前置工作,就需要通过数据仓库技术(extract-load-transform,简称etl)进行数据处理工作,数据处理在各行各业都是必不可少的生产内容,随着各行业的融合,跨界的数据处理已经是当前急需解决的问题。
3、但是各行业间往往存在自己的处理技术,无法实现跨界数据的处理,处理不同行业的数据往往需要不同的技术,导致需要较长时间对不同行业的数据进行处理,同时处理过程中需要较多资源。
技术实现思路
1、本申请的目的在于,针对上述现有技术中的不足,提供一种数据处理方法以及服务器,以实现处理多种行业的数据,提高计算效率,降低计算成本。
2、为实现上述目的,本申请实施例采用的技术方案如下:
3、第一方面,本申请一实施例提供了一种数据处理方法,所述方法包括:
4、获取待处理业务的流程模型文件;
5、对所述流程模型文件进行解析,得到所述待处理业务对应的数据处理任务的配置信息,所述数据处理任务的配置信息包括:所述数据处理任务中至少两个处理节点的镜像地址;
6、向预设执行引擎的服务器发送远程调用请求,所述远程调用请求包括:所述至少两个处理节点的镜像地址,所述远程调用请求用于使得所述服务器基于所述至少两
7、接收所述预设执行引擎的服务器发送所述数据处理结果。
8、在一种可能的实现方式中,所述数据处理任务的配置信息还包括:所述至少两个处理节点的资源信息;
9、所述向预设执行引擎的服务器发送远程调用请求之前,所述方法还包括:
10、根据所述至少两个处理节点的资源信息,对所述至少两个处理节点进行资源分配,得到所述至少两个处理节点的运行资源信息;
11、相应的,所述远程调用请求中还包括:所述至少两个处理节点的运行资源信息,用于使得所述服务器基于所述至少两个处理节点的运行资源信息,执行所述至少两个处理节点的功能插件,得到所述待处理业务的数据处理结果。
12、在一种可能的实现方式中,所述方法还包括:
13、向所述执行引擎的服务器发送远程任务监测请求,以使得所述执行引擎的服务器基于所述远程任务监测请求对所述预设容器进行监测,得到所述预设待处理业务的任务处理状态;
14、接收所述执行引擎的服务器发送任务监测响应,所述任务监测响应中包括:所述任务处理状态。
15、在一种可能的实现方式中,所述获取待处理业务的流程模型文件,包括:
16、根据所述待处理业务的标识,从预设的流程数据库中获取所述流程模型文件。
17、在一种可能的实现方式中,所述根据所述待处理业务的标识,从预设的流程数据库中获取所述流程模型文件,包括:
18、根据第一客户端上传的业务流程图,生成所述流程模型文件;
19、将所述流程模型文件以及所述待处理业务的标识,存储至所述预设的流程数据库中。
20、第二方面,本申请一实施例提供了另一种数据处理方法,所述方法包括:
21、接收预设的任务服务器发送的远程调用请求,所述远程调用请求包括:至少两个处理节点的镜像地址,所述至少两个处理节点的镜像地址为:所述任务服务器对待处理业务的流程模型文件进行解析,得到所述待处理业务对应的数据处理任务的配置信息中的镜像地址;
22、基于所述至少两个处理节点的镜像地址,获取所述至少两个处理节点的镜像文件;
23、基于所述至少两个处理节点的镜像文件在预设容器内中创建所述至少两个处理节点的功能插件;
24、执行所述至少两个处理节点的功能插件,得到所述待处理业务的数据处理结果;
25、向所述任务服务器发送的所述数据处理结果。
26、在一种可能的实现方式中,所述基于所述至少两个处理节点的镜像地址,获取所述至少两个处理节点的镜像文件,包括;
27、基于所述至少两个处理节点的镜像地址,从预设的节点插件数据库中获取所述至少两个处理节点的镜像文件。
28、在一种可能的实现方式中,所述基于所述至少两个处理节点的镜像地址,从预设的节点插件数据库中获取所述至少两个处理节点的镜像文件之前,所述方法还包括:
29、接收第二客户端上传的每个处理节点的数据处理功能脚本;
30、根据所述每个处理节点的数据处理功能脚本,构建所述每个处理节点的镜像文件;
31、将所述每个处理节点的镜像文件存储至所述预设的节点插件数据库中,得到所述每个处理节点的镜像地址。
32、第三方面,本申请另一实施例提供了一种数据处理装置,所述装置包括:
33、第一获取模块,用于获取待处理业务的流程模型文件;
34、解析模块,用于对所述流程模型文件进行解析,得到所述待处理业务对应的数据处理任务的配置信息,所述数据处理任务的配置信息包括:所述数据处理任务中至少两个处理节点的镜像地址;
35、第一发送模块,用于向预设执行引擎的服务器发送远程调用请求,所述远程调用请求包括:所述至少两个处理节点的镜像地址,所述远程调用请求用于使得所述服务器基于所述至少两个处理节点的镜像地址,获取所述至少两个处理节点的镜像文件,并基于所述至少两个处理节点的镜像文件在预设容器内中创建所述至少两个处理节点的功能插件,进而执行所述至少两个处理节点的功能插件,得到所述待处理业务的数据处理结果;
36、第一接收模块,用于接收所述预设执行引擎的服务器发送所述数据处理结果。
37、第四方面,本申请另一实施例提供了一种数据处理装置,所述装置包括:
38、第二接收模块,用于接收预设的任务服务器发送的远程调用请求,所述远程调用请求包括:至少两个处理节点的镜像地址,所述至少两个处理节点的镜像地址为:所述任务服务器对待处理业务的流程模型文件进行解析,得到所述待处理业务对应的数据处理任务的配置信息中的镜像地址;
39、第二获取模块,基于所述至少两个处理节点的镜像地址,获取所述至少两个处理节点的镜像文件;
40、创建模块,用于基于所述至少两个处理节点的镜像文件在预设容器内中创建所述至少两个处理节点的功能插件;
41、执行模块,用于执行所述至少两个处理节点的功能插件,得到所述待处理业务的数据处理结果;
42、第二发送模块,用于向所述任务服务器发送的所述数据处理结果。
43、第五方面,本申本文档来自技高网...
【技术保护点】
1.一种数据处理方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,所述数据处理任务的配置信息还包括:所述至少两个处理节点的资源信息;
3.根据权利要求1所述的方法,其特征在于,所述方法还包括:
4.根据权利要求1所述的方法,其特征在于,所述获取待处理业务的流程模型文件,包括:
5.根据权利要求4所述的方法,其特征在于,所述根据所述待处理业务的标识,从预设的流程数据库中获取所述流程模型文件,包括:
6.一种数据处理方法,其特征在于,包括:
7.根据权利要求6所述的方法,其特征在于,所述基于所述至少两个处理节点的镜像地址,获取所述至少两个处理节点的镜像文件,包括;
8.根据权利要求7所述的方法,其特征在于,所述基于所述至少两个处理节点的镜像地址,从预设的节点插件数据库中获取所述至少两个处理节点的镜像文件之前,所述方法还包括:
9.一种任务服务器,其特征在于,包括:处理器和存储器,所述存储器存储有所述处理器可执行的机器可读指令,当服务器运行时,所述处理器执行所述机器可读指令
10.一种执行服务器,其特征在于,包括:处理器和存储器,所述存储器存储有所述处理器可执行的机器可读指令,当服务器运行时,所述处理器执行所述机器可读指令,以执行如权利要求1至8任一所述的数据处理方法的步骤。
...【技术特征摘要】
1.一种数据处理方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,所述数据处理任务的配置信息还包括:所述至少两个处理节点的资源信息;
3.根据权利要求1所述的方法,其特征在于,所述方法还包括:
4.根据权利要求1所述的方法,其特征在于,所述获取待处理业务的流程模型文件,包括:
5.根据权利要求4所述的方法,其特征在于,所述根据所述待处理业务的标识,从预设的流程数据库中获取所述流程模型文件,包括:
6.一种数据处理方法,其特征在于,包括:
7.根据权利要求6所述的方法,其特征在于,所述基于所述至少两个处理节点的镜像地址,获取所述至少两个处理...
【专利技术属性】
技术研发人员:郑睿博,张弓,刘康,王林,陈星,
申请(专利权)人:中煤西安地下空间科技发展有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。