System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 数据分类方法及装置制造方法及图纸_技高网

数据分类方法及装置制造方法及图纸

技术编号:44272841 阅读:1 留言:0更新日期:2025-02-14 22:13
本申请公开了一种数据分类方法及装置,方法包括:接收查询请求,将查询请求存储至请求队列;查询请求包括对象标识以及集合标识;判断请求队列是否满足预设聚合条件;若满足预设聚合条件,将请求队列包含的多个查询请求按照预设聚合维度进行聚合处理,得到聚合处理的聚合查询请求,执行聚合查询请求,得到聚合查询结果;预设聚合维度包括:对象标识维度或者集合标识维度;将聚合查询结果进行拆分处理,得到多个对象查询结果,将多个对象查询结果分别返回给对应的查询请求。通过将查询请求按照预设聚合维度进行聚合处理,可以将多个查询请求聚合为一个聚合查询请求,大大减少了并发查询请求,提高查询处理效率。

【技术实现步骤摘要】

本申请涉及请求聚合,具体涉及一种数据分类方法及装置


技术介绍

1、当发布任务,需要从集合中查询目标对象时,一般采用数据分类方式来筛选任务的目标对象,如将多个对象作为一个集合,从集合中圈选出目标对象,再向目标对象发布任务。

2、现有的任务在分类时,采用的是直接判断某个对象是否在某个集合内,判断时采用独立的分类查询接口进行判断,当查询位于请求高峰时,如发起多个请求,对应的多个独立查询接口都进行查询,会使得qps(queries-per-second,每秒查询率)非常高,由于查询业务处理能力有限,无法支持大量的请求量,导致非常多的查询失败,严重影响了任务发布等相关功能,以及处理效率。


技术实现思路

1、鉴于上述问题,提出了本申请实施例以便提供一种克服上述问题或者至少部分地解决上述问题的数据分类方法及装置。

2、根据本申请实施例的第一方面,提供了一种数据分类方法,其包括:

3、接收查询请求,将查询请求存储至请求队列;查询请求包括对象标识以及集合标识;

4、判断请求队列是否满足预设聚合条件;

5、若满足预设聚合条件,将请求队列包含的多个查询请求按照预设聚合维度进行聚合处理,得到聚合处理的聚合查询请求,执行聚合查询请求,得到聚合查询结果;预设聚合维度包括:对象标识维度或者集合标识维度;

6、将聚合查询结果进行拆分处理,得到多个对象查询结果,将多个对象查询结果分别返回给对应的查询请求。

7、可选地,判断请求队列是否满足预设聚合条件进一步包括:

8、判断请求队列中存储第一条查询请求的时间与当前时间的差值是否达到预设时长,或者,判断请求队列中相同对象标识或者相同集合标识的查询请求个数是否达到预设个数;

9、若达到预设时长或者达到预设个数,确定请求队列满足预设聚合条件。

10、可选地,若预设聚合维度为对象标识维度;

11、将请求队列包含的多个查询请求按照预设聚合维度进行聚合处理,得到聚合处理的聚合查询请求,执行聚合查询请求,得到聚合查询结果进一步包括:

12、将请求队列中各查询请求按照对象标识维度进行聚合处理,得到多参数的聚合查询请求;多参数包含一个对象标识以及多个集合标识;

13、执行聚合查询请求,得到各集合是否包含对象标识的聚合查询结果。

14、可选地,若维度为集合标识维度;

15、将请求队列包含的多个查询请求按照预设聚合维度进行聚合处理,得到聚合处理的聚合查询请求,执行聚合查询请求,得到聚合查询结果进一步包括:

16、将请求队列中各查询请求按照集合标识维度进行聚合处理,得到多参数的聚合查询请求;多参数包含一个集合标识以及多个对象标识;

17、执行聚合查询请求,得到各对象标识是否位于集合的聚合查询结果。

18、可选地,将聚合查询结果进行拆分处理,得到多个对象查询结果,将多个对象查询结果分别返回给对应的查询请求进一步包括:

19、将聚合查询结果进行拆分处理,得到多个对象查询结果;

20、根据对象查询结果中包含的对象标识和集合标识,确定对应的查询请求,将多个对象查询结果分别返回给对应的查询请求。

21、可选地,请求队列为多个;

22、接收查询请求,将查询请求存储至请求队列进一步包括:

23、接收查询请求,将查询请求按照对象标识或者集合标识存储至对应请求队列。

24、可选地,方法还包括:

25、基于分布式线程对请求队列进行监控,判断请求队列的长度是否大于最大长度阈值;

26、若大于最大长度阈值,进行分布式线程动态扩容处理;

27、判断请求队列的长度是否小于最小长度阈值;

28、若小于最小长度阈值,进行分布式线程动态缩容处理。

29、可选地,方法还包括:

30、将各对象按照预设划分条件划分至不同集合,每个集合包含多个对象标识;每个集合包含集合标识;预设划分条件根据对象信息确定。

31、根据本申请实施例的第二方面,提供了一种数据分类装置,其包括:

32、存储模块,适于接收查询请求,将查询请求存储至请求队列;查询请求包括对象标识以及集合标识;

33、判断模块,适于判断请求队列是否满足预设聚合条件;

34、聚合模块,适于若满足预设聚合条件,将请求队列包含的多个查询请求按照预设聚合维度进行聚合处理,得到聚合处理的聚合查询请求,执行聚合查询请求,得到聚合查询结果;预设聚合维度包括:对象标识维度或者集合标识维度;

35、拆分模块,适于将聚合查询结果进行拆分处理,得到多个对象查询结果,将多个对象查询结果分别返回给对应的查询请求。

36、根据本申请实施例的第三方面,提供了一种计算设备,包括:处理器、存储器、通信接口和通信总线,所述处理器、所述存储器和所述通信接口通过所述通信总线完成相互间的通信;

37、所述存储器用于存放至少一可执行指令,所述可执行指令使所述处理器执行上述数据分类方法对应的操作。

38、根据本申请实施例的第四方面,提供了一种计算机存储介质,所述存储介质中存储有至少一可执行指令,所述可执行指令使处理器执行如上述数据分类方法对应的操作。

39、根据本申请实施例的第五方面,提供了一种计算机程序产品,包括至少一可执行指令,所述可执行指令使处理器执行如上述数据分类方法对应的操作。

40、根据本申请的提供的数据分类方法及装置,通过将查询请求按照预设聚合维度进行聚合处理,可以将多个查询请求聚合为一个聚合查询请求,大大减少了并发查询请求,提高查询处理效率。

41、上述说明仅是本申请技术方案的概述,为了能够更清楚了解本申请的技术手段,而可依照说明书的内容予以实施,并且为了让本申请的上述和其它目的、特征和优点能够更明显易懂,以下特举本申请的具体实施方式。

本文档来自技高网...

【技术保护点】

1.一种数据分类方法,其包括:

2.根据权利要求1所述的方法,其中,所述判断所述请求队列是否满足预设聚合条件进一步包括:

3.根据权利要求1或2所述的方法,其中,若所述预设聚合维度为对象标识维度;

4.根据权利要求1或2所述的方法,其中,若所述维度为集合标识维度;

5.根据权利要求1-4中任一项所述的方法,其中,所述将所述聚合查询结果进行拆分处理,得到多个对象查询结果,将所述多个对象查询结果分别返回给对应的查询请求进一步包括:

6.根据权利要求1-5中任一项所述的方法,其中,所述请求队列为多个;

7.根据权利要求1-6中任一项所述的方法,其中,所述方法还包括:

8.根据权利要求1-7中任一项所述的方法,其中,所述方法还包括:

9.一种数据分类装置,其包括:

10.一种计算设备,包括:处理器、存储器、通信接口和通信总线,所述处理器、所述存储器和所述通信接口通过所述通信总线完成相互间的通信;

11.一种计算机存储介质,所述存储介质中存储有至少一可执行指令,所述可执行指令使处理器执行如权利要求1-8中任一项所述的数据分类方法对应的操作。

12.一种计算机程序产品,包括至少一可执行指令,所述可执行指令使处理器执行如权利要求1-8中任一项所述的数据分类方法对应的操作。

...

【技术特征摘要】

1.一种数据分类方法,其包括:

2.根据权利要求1所述的方法,其中,所述判断所述请求队列是否满足预设聚合条件进一步包括:

3.根据权利要求1或2所述的方法,其中,若所述预设聚合维度为对象标识维度;

4.根据权利要求1或2所述的方法,其中,若所述维度为集合标识维度;

5.根据权利要求1-4中任一项所述的方法,其中,所述将所述聚合查询结果进行拆分处理,得到多个对象查询结果,将所述多个对象查询结果分别返回给对应的查询请求进一步包括:

6.根据权利要求1-5中任一项所述的方法,其中,所述请求队列为多个;

7.根据权利要求1-6中任一项...

【专利技术属性】
技术研发人员:杨帆
申请(专利权)人:上海哔哩哔哩科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1