System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种基于集群的大数据云平台构建方法、集群及平台技术_技高网

一种基于集群的大数据云平台构建方法、集群及平台技术

技术编号:41771040 阅读:1 留言:0更新日期:2024-06-21 21:47
本申请提供一种基于集群的大数据云平台构建方法、集群及平台,该方法中,管理集群获取客户端发送的大数据云平台构建指令;其中,大数据云平台构建指令包括目标大数据组件的标识、目标集群的标识以及目标集群的地址;管理集群根据大数据云平台构建指令,确定客户集群中与目标集群的标识对应的目标集群,并在目标集群上创建与目标大数据组件的标识对应的容器载体。解决了现有技术中的构建大数据云平台的方法需要预先耗费大量时间在分布式集群上部署CDH集群软件,并在接收到客户需要使用大数据云平台的请求时才会下载并在分布式集群上安装大数据组件的安装包,导致大数据云平台的构建过程出现耗时长的问题。

【技术实现步骤摘要】

本申请涉及大数据,尤其涉及一种基于集群的大数据云平台构建方法、集群及平台


技术介绍

1、随着大数据技术的发展,大数据技术在各个行业的应用中体现出越来越重要的价值。大数据技术长久以来依赖于被称为大数据组件的开源系统和工具实现,而大数据组件通常部署在分布式集群上,从而使得分布式集群成为一个可供使用的大数据云平台。

2、现有技术在构建大数据云平台时,需要预先将一个拥有集群自动化安装、中心化管理、集群监控、报警功能的软件——cloudera’s distribution including apachehadoop(简称cdh)集群部署在分布式集群上,并在接收到客户端发送的大数据云平台使用请求时,下载并在分布式集群上安装与客户需求匹配的大数据组件的安装包,以使得分布式集群成为一个符合客户需求的大数据云平台。

3、但是,现有技术中的构建大数据云平台的方法需要预先耗费大量时间在分布式集群上部署cdh集群软件,并在接收到客户需要使用大数据云平台的请求时才会下载并在分布式集群上安装符合客户需求的大数据组件的安装包,导致大数据云平台的构建过程出现耗时长的问题。


技术实现思路

1、本申请提供一种基于集群的大数据云平台构建方法、集群及平台,用于解决现有技术中的构建大数据云平台的方法需要预先耗费大量时间在分布式集群上部署cdh集群软件,并在接收到客户需要使用大数据云平台的请求时才会下载并在分布式集群上安装符合客户需求的大数据组件的安装包,导致大数据云平台的构建过程出现耗时长的问题

2、第一方面,本申请提供一种基于集群的大数据云平台构建方法,包括:

3、管理集群获取客户端发送的大数据云平台构建指令;所述大数据云平台构建指令包括目标大数据组件的标识、目标集群的标识以及所述目标集群的地址;

4、所述管理集群根据所述大数据云平台构建指令,确定客户集群中与所述目标集群的标识对应的目标集群,并在所述目标集群上创建与所述目标大数据组件的标识对应的容器载体。

5、在上述的基于集群的大数据云平台构建方法的优选技术方案中,所述管理集群根据所述大数据云平台构建指令,确定客户集群中与所述目标集群的标识对应的目标集群,并在所述目标集群上创建与所述目标大数据组件的标识对应的容器载体,包括:

6、所述管理集群上的管理控制器根据所述大数据云平台构建指令,在所述管理集群上创建与所述大数据云平台构建指令对应的管理控制器实例,并向所述管理控制器实例发送所述大数据云平台构建指令;

7、所述管理控制器实例根据所述大数据云平台构建指令,确定所述客户集群中与所述目标集群的标识对应的目标集群,并在所述目标集群上创建与所述目标大数据组件的标识对应的容器载体。

8、在上述的基于集群的大数据云平台构建方法的优选技术方案中,还包括:

9、所述管理控制器获取查询指令,并根据所述查询指令中的待查询集群的标识和待查询大数据组件的标识,确定所述管理集群上的与所述待查询集群的标识和所述待查询大数据组件的标识对应的查询管理控制器实例,并将所述查询指令发送至所述查询管理控制器实例;

10、所述查询管理控制器实例根据所述查询指令,确定所述待查询集群上与所述待查询大数据组件的标识对应的待查询容器载体,并根据自定义资源类型中与所述待查询容器载体对应的状态字段,生成待查询大数据组件状态反馈信息;

11、所述管理控制器获取所述查询管理控制器实例发送的所述待查询大数据组件状态反馈信息,并将所述待查询大数据组件状态反馈信息发送至所述客户端。

12、在上述的基于集群的大数据云平台构建方法的优选技术方案中,所述在所述目标集群上创建与所述目标大数据组件的标识对应的容器载体,包括:

13、所述管理控制器实例在所述目标集群上创建与所述目标大数据组件的标识对应的配置管理文件;

14、所述管理控制器实例在所述目标集群上创建与所述目标大数据组件的标识对应的资源对象文件;

15、所述管理控制器实例在所述目标集群上创建与所述目标大数据组件的标识对应的创建部署文件;

16、所述管理控制器实例根据所述配置管理文件、所述资源对象文件以及所述创建部署文件,创建与所述目标大数据组件的标识对应的容器载体。

17、在上述的基于集群的大数据云平台构建方法的优选技术方案中,所述方法还包括:

18、所述管理控制器实例监测所述创建部署文件的状态,并根据所述创建部署文件的状态,更新自定义资源类型中与所述目标大数据组件的标识对应的容器载体对应的状态字段。

19、在上述的基于集群的大数据云平台构建方法的优选技术方案中,所述管理控制器实例在所述目标集群上创建与所述目标大数据组件的标识对应的配置管理文件,包括:

20、所述管理控制器实例获取与所述目标大数据组件的标识对应的目标配置管理模板文件;

21、所述管理控制器实例判断是否存在一个配置管理文件与预设配置管理文件的命名空间相同,且与所述预设配置管理文件的名称相同;

22、所述管理控制器实例在判断出存在一个配置管理文件与所述预设配置管理文件的命名空间相同,且与所述预设配置管理文件的名称相同时,根据所述目标配置管理模板文件更新与所述预设配置管理文件的命名空间相同,且与所述预设配置管理文件的名称相同的配置管理文件,并将更新后的配置管理文件确定为与所述目标大数据组件的标识对应的配置管理文件;或者,

23、所述管理控制器实例在判断出不存在一个配置管理文件与所述预设配置管理文件的命名空间相同,且与所述预设配置管理文件的名称相同时,通过所述目标配置管理模板文件创建所述与所述目标大数据组件的标识对应的配置管理文件。

24、在上述的基于集群的大数据云平台构建方法的优选技术方案中,所述管理控制器实例在所述目标集群上创建与所述目标大数据组件的标识对应的资源对象文件,包括:

25、所述管理控制器实例获取与所述目标大数据组件的标识对应的目标资源对象模板文件;

26、所述管理控制器实例判断是否存在一个资源对象文件与预设资源对象文件的命名空间相同,且与所述预设资源对象文件的名称相同;

27、所述管理控制器实例在判断出存在一个资源对象文件与所述预设资源对象文件的命名空间相同,且与所述预设资源对象文件的名称相同时,根据所述目标资源对象模板文件更新与所述预设资源对象文件的命名空间相同,且与所述预设资源对象文件的名称相同的资源对象文件,并将更新后的资源对象文件确定为与所述目标大数据组件的标识对应的资源对象文件;或者,

28、所述管理控制器实例在判断出不存在一个资源对象文件与所述预设资源对象文件的命名空间相同,且与所述预设资源对象文件的名称相同时,通过所述目标资源对象模板文件创建所述与所述目标大数据组件的标识对应的资源对象文件。

29、在上述的基于集群的大数据云平台构建方法的优选技术方案中,所述管本文档来自技高网...

【技术保护点】

1.一种基于集群的大数据云平台构建方法,其特征在于,包括:

2.根据权利要求1所述的基于集群的大数据云平台构建方法,其特征在于,所述管理集群根据所述大数据云平台构建指令,确定客户集群中与所述目标集群的标识对应的目标集群,并在所述目标集群上创建与所述目标大数据组件的标识对应的容器载体,包括:

3.根据权利要求2所述的基于集群的大数据云平台构建方法,其特征在于,还包括:

4.根据权利要求2所述的基于集群的大数据云平台构建方法,其特征在于,所述在所述目标集群上创建与所述目标大数据组件的标识对应的容器载体,包括:

5.根据权利要求4所述的基于集群的大数据云平台构建方法,其特征在于,所述方法还包括:

6.根据权利要求4所述的基于集群的大数据云平台构建方法,其特征在于,所述管理控制器实例在所述目标集群上创建与所述目标大数据组件的标识对应的配置管理文件,包括:

7.根据权利要求4所述的基于集群的大数据云平台构建方法,其特征在于,所述管理控制器实例在所述目标集群上创建与所述目标大数据组件的标识对应的资源对象文件,包括:>

8.根据权利要求4所述的基于集群的大数据云平台构建方法,其特征在于,所述管理控制器实例在所述目标集群上创建与所述目标大数据组件的标识对应的创建部署文件,包括:

9.一种管理集群,其特征在于,包括:

10.根据权利要求9所述的管理集群,其特征在于,

11.根据权利要求9所述的管理集群,其特征在于,所述管理控制器实例,具体用于:

12.根据权利要求11所述的管理集群,其特征在于,所述管理控制器实例,还用于:

13.根据权利要求11所述的管理集群,其特征在于,所述管理控制器实例,具体用于:

14.根据权利要求11所述的管理集群,其特征在于,所述管理控制器实例,具体用于:

15.根据权利要求11所述的管理集群,其特征在于,所述管理控制器实例,具体用于:

16.一种基于集群的大数据云平台,其特征在于,包括:

...

【技术特征摘要】

1.一种基于集群的大数据云平台构建方法,其特征在于,包括:

2.根据权利要求1所述的基于集群的大数据云平台构建方法,其特征在于,所述管理集群根据所述大数据云平台构建指令,确定客户集群中与所述目标集群的标识对应的目标集群,并在所述目标集群上创建与所述目标大数据组件的标识对应的容器载体,包括:

3.根据权利要求2所述的基于集群的大数据云平台构建方法,其特征在于,还包括:

4.根据权利要求2所述的基于集群的大数据云平台构建方法,其特征在于,所述在所述目标集群上创建与所述目标大数据组件的标识对应的容器载体,包括:

5.根据权利要求4所述的基于集群的大数据云平台构建方法,其特征在于,所述方法还包括:

6.根据权利要求4所述的基于集群的大数据云平台构建方法,其特征在于,所述管理控制器实例在所述目标集群上创建与所述目标大数据组件的标识对应的配置管理文件,包括:

7.根据权利要求4所述的基于集群的大数据云平台构建方法,其特征在于,所述...

【专利技术属性】
技术研发人员:邢云阳
申请(专利权)人:中国联合网络通信集团有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1