System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本申请涉及计算机,尤其涉及一种针对集群的管控服务方法、装置、计算机设备、计算机可读存储介质。
技术介绍
1、随着大数据的发展,人们采用大规模集群处理高负载和大规模数据。这些集群通常包括大量的计算机节点,这些计算机节点协同工作以提供高性能计算和分布式服务。
2、集群中的各个节点都需要处理来自客户端或其他节点的请求。请求较多时容易出现大量响应延迟。
3、需要说明的是,上述内容并不必然是现有技术,也不用于限制本申请的专利保护范围。
技术实现思路
1、本申请实施例提供一种针对集群的管控服务方法、装置、计算机设备、计算机可读存储介质,以解决或缓解上面提出的一项或更多项技术问题。
2、本申请实施例的一个方面提供了一种针对集群的管控服务方法,所述方法包括:
3、创建processor线程、requestchannel线程、第一requesthandler线程和第二requesthandler线程;
4、通过processor线程和requestchannel线程将请求传送至所述第一requesthandler线程;
5、通过所述第一requesthandler线程处理该请求,并返回与该请求对应的处理结果;
6、通过所述processor线程监控该请求在所述processor线程和第一requesthandler线程的处理时间;
7、在处理时间触发条件的情况下,为所述requestchannel线程绑定
8、在所述processor线程接到新请求且所述requestchannel线程绑定目标标记的情况下,通过所述requestchannel线程将该新请求传送给所述第二requesthandler线程,以使所述第二requesthandler线程处理该新请求,并返回与该新请求对应的处理结果。
9、可选地,所述第一requesthandler线程和所述第二requesthandler线程分别被拆分为多个子线程的线程池;
10、对应地,通过所述第一requesthandler线程处理该请求,并返回与该请求对应的处理结果,包括:
11、将该请求分解为多个子任务;
12、根据所述多个子任务,从所述第一requesthandler线程对应的线程池中取出多个子线程;及
13、通过所述多个子线程处理所述多个子任务,一个子线程用于处理所述多个子任务的其中一个。
14、可选地,所述processor线程配置有newconnections线程、selector线程,newconnections线程注册到所述selector线程;其中:
15、所述newconnections线程用于提供连接实例,为客户端的请求提供通道;
16、所述selector线程配置有channelmarker线程;其中:
17、channelmarker线程用于监控所述连接实例对应的processor线程和第一requesthandler线程的处理时间,并根据该处理时间确定是否为所述requestchannel线程绑定目标标记。
18、可选地,所述连接实例用于生产指定的若干个topic下的数据,或者,所述连接实例用于消费指定的若干个partition中的数据。
19、可选地,所述集群为包括多个数据中心的kafka集群,其中,每个数据中心对应多个topic,topic对应多个partition,每个partition对应有存储位置不同的多个副本;对应地,所述方法还包括:
20、获取kafka集群的运行信息,所述运行信息包括数据中心流量负载、topic流量信息、副本流量信息;
21、根据所述kafka集群的运行信息和预设配置策略,生成所述kafka集群的副本放置策略。
22、可选地,所述方法还包括:
23、检查所述kafka集群中各个副本的放置位置;及
24、在各个副本的放置位置和副本放置策略不匹配的情况下,对放置位置不匹配的副本进行迁移。
25、可选地,所述方法还包括:
26、在数据中心之间迁移副本的情形下,以topic为单位进行副本迁移;
27、在以topic为单位的副本迁移过程中,维持topic下的各数据的偏移量的一致性。
28、可选地,所述方法还包括:
29、在以topic为单位进行副本迁移的过程中,根据kafka集群的运行状态动态调整迁移速度。
30、可选地,同一个partition包括领导者副本和从属者副本,领导者副本和从属者副本分别位于不同数据中心;对应地,所述方法还包括:
31、响应于客户端的读请求,通过领导者副本为读请求选择与所述客户端最近的从属者副本;
32、将所述从属者副本的地址返回给客户端,以便客户端从所述从属者副本中读取数据。
33、可选地,所述方法还包括:
34、根据生产请求和消费请求生产监控数据,并将监控数据实时存储到数据分析系统中;
35、通过对所述监控数据进行时间切片,以获取指定时间内所述集群的数据使用信息;
36、通过所述监控数据获取每个topic的使用情况,以找出冗余topic;和/或
37、通过所述监控数据管理和修正topic使用权限。
38、本申请实施例的另一个方面提供了一种针对集群的管控服务装置,所述装置包括:
39、创建模块,用于创建processor线程、requestchannel线程、第一requesthandler线程和第二requesthandler线程;
40、第一传送模块,用于通过processor线程和requestchannel线程将请求传送至所述第一requesthandler线程;
41、处理模块,用于通过所述第一requesthandler线程处理该请求,并返回与该请求对应的处理结果;
42、监控模块,用于通过所述processor线程监控该请求在所述processor线程和第一requesthandler线程的处理时间;
43、标记模块,用于在处理时间触发条件的情况下,为所述requestchannel线程绑定目标标记;
44、第二传送模块,用于在所述processor线程接到新请求且所述requestchannel线程绑定目标标记的情况下,通过所述requestchannel线程将该新请求传送给所述第二requesthandler线程,以使所述第二requesthandler线程处理该新请求,并返回与该新请求对应的处理结果。
45、本申请实施例的另一个方面提供了一种计算机设备,包括:
46、至少一个处理器;及
47、与所述至少一个本文档来自技高网...
【技术保护点】
1.一种针对集群的管控服务方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于:
3.根据权利要求1所述的方法,其特征在于,所述Processor线程配置有newConnections线程、Selector线程,newConnections线程注册到所述Selector线程;其中:
4.根据权利要求3所述的方法,其特征在于,所述连接实例用于生产指定的若干个Topic下的数据,或者,所述连接实例用于消费指定的若干个Partitio n中的数据。
5.根据权利要求1至4任意一项所述的方法,其特征在于,所述集群为包括多个数据中心的Kafka集群,其中,每个数据中心对应多个Topic,Topic对应多个Partition,每个Partition对应有存储位置不同的多个副本;对应地,所述方法还包括:
6.根据权利要求5所述的方法,其特征在于,所述方法还包括:
7.根据权利要求5所述的方法,其特征在于,所述方法还包括:
8.根据权利要求6所述的方法,其特征在于,所述方法还包括:
9.
10.根据权利要求1至4任意一项所述的方法,其特征在于,所述方法还包括:
11.一种针对集群的管控服务装置,其特征在于,所述装置包括:
12.一种计算机设备,其特征在于,包括:
13.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质内存储有计算机指令,所述计算机指令被处理器执行时实现如权利要求1至10中任一项所述的方法。
...【技术特征摘要】
1.一种针对集群的管控服务方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于:
3.根据权利要求1所述的方法,其特征在于,所述processor线程配置有newconnections线程、selector线程,newconnections线程注册到所述selector线程;其中:
4.根据权利要求3所述的方法,其特征在于,所述连接实例用于生产指定的若干个topic下的数据,或者,所述连接实例用于消费指定的若干个partitio n中的数据。
5.根据权利要求1至4任意一项所述的方法,其特征在于,所述集群为包括多个数据中心的kafka集群,其中,每个数据中心对应多个topic,topic对应多个partition,每个partition对应有存储位置不同的多个副本;对应地,所述方法还包括:
...【专利技术属性】
技术研发人员:张辰安,刘博为,
申请(专利权)人:上海幻电信息科技有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。