System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 针对集群的管控服务方法和装置制造方法及图纸_技高网

针对集群的管控服务方法和装置制造方法及图纸

技术编号:39940978 阅读:9 留言:0更新日期:2024-01-08 22:33
本申请实施例了提供一种针对集群的管控服务方法,该方法包括:通过Pr ocessor线程和RequestChannel线程将请求传送至所述第一RequestHandler线程;通过第一RequestHandler线程处理该请求,并返回与请求对应的处理结果;通过Processor线程监控该请求在所述Processor线程和第一RequestHandler线程的处理时间;在处理时间触发条件的情况下,为所述RequestChannel线程绑定目标标记;在所述Processor线程接到新请求且所述RequestChannel线程绑定目标标记的情况下,通过所述requestChannel线程将该新请求传送给所述第二RequestHandler线程,以使所述第二RequestHandler线程处理该新请求,并返回与该新请求对应的处理结果。本申请实施例的技术方案通过设置两个requestHa ndler进行线程隔离,保证慢请求与正常请求在不同的requesHandler线程中处理,正常请求不会受到影响。

【技术实现步骤摘要】

本申请涉及计算机,尤其涉及一种针对集群的管控服务方法、装置、计算机设备、计算机可读存储介质。


技术介绍

1、随着大数据的发展,人们采用大规模集群处理高负载和大规模数据。这些集群通常包括大量的计算机节点,这些计算机节点协同工作以提供高性能计算和分布式服务。

2、集群中的各个节点都需要处理来自客户端或其他节点的请求。请求较多时容易出现大量响应延迟。

3、需要说明的是,上述内容并不必然是现有技术,也不用于限制本申请的专利保护范围。


技术实现思路

1、本申请实施例提供一种针对集群的管控服务方法、装置、计算机设备、计算机可读存储介质,以解决或缓解上面提出的一项或更多项技术问题。

2、本申请实施例的一个方面提供了一种针对集群的管控服务方法,所述方法包括:

3、创建processor线程、requestchannel线程、第一requesthandler线程和第二requesthandler线程;

4、通过processor线程和requestchannel线程将请求传送至所述第一requesthandler线程;

5、通过所述第一requesthandler线程处理该请求,并返回与该请求对应的处理结果;

6、通过所述processor线程监控该请求在所述processor线程和第一requesthandler线程的处理时间;

7、在处理时间触发条件的情况下,为所述requestchannel线程绑定目标标记;

8、在所述processor线程接到新请求且所述requestchannel线程绑定目标标记的情况下,通过所述requestchannel线程将该新请求传送给所述第二requesthandler线程,以使所述第二requesthandler线程处理该新请求,并返回与该新请求对应的处理结果。

9、可选地,所述第一requesthandler线程和所述第二requesthandler线程分别被拆分为多个子线程的线程池;

10、对应地,通过所述第一requesthandler线程处理该请求,并返回与该请求对应的处理结果,包括:

11、将该请求分解为多个子任务;

12、根据所述多个子任务,从所述第一requesthandler线程对应的线程池中取出多个子线程;及

13、通过所述多个子线程处理所述多个子任务,一个子线程用于处理所述多个子任务的其中一个。

14、可选地,所述processor线程配置有newconnections线程、selector线程,newconnections线程注册到所述selector线程;其中:

15、所述newconnections线程用于提供连接实例,为客户端的请求提供通道;

16、所述selector线程配置有channelmarker线程;其中:

17、channelmarker线程用于监控所述连接实例对应的processor线程和第一requesthandler线程的处理时间,并根据该处理时间确定是否为所述requestchannel线程绑定目标标记。

18、可选地,所述连接实例用于生产指定的若干个topic下的数据,或者,所述连接实例用于消费指定的若干个partition中的数据。

19、可选地,所述集群为包括多个数据中心的kafka集群,其中,每个数据中心对应多个topic,topic对应多个partition,每个partition对应有存储位置不同的多个副本;对应地,所述方法还包括:

20、获取kafka集群的运行信息,所述运行信息包括数据中心流量负载、topic流量信息、副本流量信息;

21、根据所述kafka集群的运行信息和预设配置策略,生成所述kafka集群的副本放置策略。

22、可选地,所述方法还包括:

23、检查所述kafka集群中各个副本的放置位置;及

24、在各个副本的放置位置和副本放置策略不匹配的情况下,对放置位置不匹配的副本进行迁移。

25、可选地,所述方法还包括:

26、在数据中心之间迁移副本的情形下,以topic为单位进行副本迁移;

27、在以topic为单位的副本迁移过程中,维持topic下的各数据的偏移量的一致性。

28、可选地,所述方法还包括:

29、在以topic为单位进行副本迁移的过程中,根据kafka集群的运行状态动态调整迁移速度。

30、可选地,同一个partition包括领导者副本和从属者副本,领导者副本和从属者副本分别位于不同数据中心;对应地,所述方法还包括:

31、响应于客户端的读请求,通过领导者副本为读请求选择与所述客户端最近的从属者副本;

32、将所述从属者副本的地址返回给客户端,以便客户端从所述从属者副本中读取数据。

33、可选地,所述方法还包括:

34、根据生产请求和消费请求生产监控数据,并将监控数据实时存储到数据分析系统中;

35、通过对所述监控数据进行时间切片,以获取指定时间内所述集群的数据使用信息;

36、通过所述监控数据获取每个topic的使用情况,以找出冗余topic;和/或

37、通过所述监控数据管理和修正topic使用权限。

38、本申请实施例的另一个方面提供了一种针对集群的管控服务装置,所述装置包括:

39、创建模块,用于创建processor线程、requestchannel线程、第一requesthandler线程和第二requesthandler线程;

40、第一传送模块,用于通过processor线程和requestchannel线程将请求传送至所述第一requesthandler线程;

41、处理模块,用于通过所述第一requesthandler线程处理该请求,并返回与该请求对应的处理结果;

42、监控模块,用于通过所述processor线程监控该请求在所述processor线程和第一requesthandler线程的处理时间;

43、标记模块,用于在处理时间触发条件的情况下,为所述requestchannel线程绑定目标标记;

44、第二传送模块,用于在所述processor线程接到新请求且所述requestchannel线程绑定目标标记的情况下,通过所述requestchannel线程将该新请求传送给所述第二requesthandler线程,以使所述第二requesthandler线程处理该新请求,并返回与该新请求对应的处理结果。

45、本申请实施例的另一个方面提供了一种计算机设备,包括:

46、至少一个处理器;及

47、与所述至少一个本文档来自技高网...

【技术保护点】

1.一种针对集群的管控服务方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于:

3.根据权利要求1所述的方法,其特征在于,所述Processor线程配置有newConnections线程、Selector线程,newConnections线程注册到所述Selector线程;其中:

4.根据权利要求3所述的方法,其特征在于,所述连接实例用于生产指定的若干个Topic下的数据,或者,所述连接实例用于消费指定的若干个Partitio n中的数据。

5.根据权利要求1至4任意一项所述的方法,其特征在于,所述集群为包括多个数据中心的Kafka集群,其中,每个数据中心对应多个Topic,Topic对应多个Partition,每个Partition对应有存储位置不同的多个副本;对应地,所述方法还包括:

6.根据权利要求5所述的方法,其特征在于,所述方法还包括:

7.根据权利要求5所述的方法,其特征在于,所述方法还包括:

8.根据权利要求6所述的方法,其特征在于,所述方法还包括:

9.根据权利要求5所述的方法,其特征在于,同一个Partition包括领导者副本和从属者副本,领导者副本和从属者副本分别位于不同数据中心;对应地,所述方法还包括:

10.根据权利要求1至4任意一项所述的方法,其特征在于,所述方法还包括:

11.一种针对集群的管控服务装置,其特征在于,所述装置包括:

12.一种计算机设备,其特征在于,包括:

13.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质内存储有计算机指令,所述计算机指令被处理器执行时实现如权利要求1至10中任一项所述的方法。

...

【技术特征摘要】

1.一种针对集群的管控服务方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于:

3.根据权利要求1所述的方法,其特征在于,所述processor线程配置有newconnections线程、selector线程,newconnections线程注册到所述selector线程;其中:

4.根据权利要求3所述的方法,其特征在于,所述连接实例用于生产指定的若干个topic下的数据,或者,所述连接实例用于消费指定的若干个partitio n中的数据。

5.根据权利要求1至4任意一项所述的方法,其特征在于,所述集群为包括多个数据中心的kafka集群,其中,每个数据中心对应多个topic,topic对应多个partition,每个partition对应有存储位置不同的多个副本;对应地,所述方法还包括:

...

【专利技术属性】
技术研发人员:张辰安刘博为
申请(专利权)人:上海幻电信息科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1