System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 任务处理方法、装置、电子设备、存储介质以及程序产品制造方法及图纸_技高网

任务处理方法、装置、电子设备、存储介质以及程序产品制造方法及图纸

技术编号:41731538 阅读:2 留言:0更新日期:2024-06-19 12:53
本公开提供了任务处理方法、装置、电子设备、存储介质以及程序产品,涉及人工智能技术领域,尤其涉及深度学习、大语言模型、负载均衡等技术领域。具体实现方案为:在确定当前处理状态为空闲状态的情况下,确定当前时间节点;在确定当前时间节点处于任务调取节点的情况下,向负载均衡器发送任务调取请求;以及利用大语言模型处理关于目标任务的任务信息,目标任务的任务信息是利用负载均衡器响应于任务调取请求得到的。

【技术实现步骤摘要】

本公开涉及人工智能,尤其涉及深度学习、大语言模型、负载均衡等,具体涉及任务处理方法、装置、电子设备、存储介质以及程序产品


技术介绍

1、人工智能技术是一门综合学科,涉及领域广泛,既有硬件层面的技术也有软件层面的技术。人工智能技术一般包括大语言模型技术,对预训练模型微调后可以广泛应用于人工智能各大领域。例如,文本处理、语义理解、机器翻译、人机交互等。利用大语言模型处理各个不同领域的任务,需要对时效、成本等因素进行综合考虑。


技术实现思路

1、本公开提供了一种任务处理方法、装置、电子设备、存储介质以及程序产品。

2、根据本公开的一方面,提供了一种任务处理方法,包括:在确定当前处理状态为空闲状态的情况下,确定当前时间节点;在确定上述当前时间节点处于任务调取节点的情况下,向负载均衡器发送任务调取请求;以及利用大语言模型处理关于目标任务的任务信息,上述目标任务的任务信息是利用上述负载均衡器响应于上述任务调取请求得到的。

3、根据本公开的另一方面,提供了一种任务处理方法,包括:响应于接收到由任务处理器发送的任务调取请求,从任务缓存器中获取关于目标任务的任务信息,其中,上述任务调取请求是在确定当前处理状态为空闲状态的情况下,确定当前时间节点,在确定上述当前时间节点处于上述任务调取节点的情况下生成的;以及向上述任务处理器发送上述目标任务的任务信息,以便装载于上述任务处理器中的大语言模型处理上述任务信息。

4、根据本公开的另一方面,提供了一种任务处理装置,包括:节点确定模块,用于在确定当前处理状态为空闲状态的情况下,确定当前时间节点;请求发送模块,用于在确定上述当前时间节点处于任务调取节点的情况下,向负载均衡器发送任务调取请求;以及任务处理模块,用于利用大语言模型处理关于目标任务的任务信息,上述目标任务的任务信息是利用上述负载均衡器响应于上述任务调取请求得到的。

5、根据本公开的另一方面,提供了一种任务处理装置,包括:请求获取模块,用于响应于接收到由任务处理器发送的任务调取请求,从任务缓存器中获取关于目标任务的任务信息,上述任务调取请求是在确定当前处理状态为空闲状态的情况下,确定当前时间节点,在确定上述当前时间节点处于上述任务调取节点的情况下生成的;以及任务发送模块,用于向上述任务处理器发送上述目标任务的任务信息,以便装载于上述任务处理器中的大语言模型处理上述任务信息。

6、根据本公开的另一方面,提供了一种电子设备,包括:至少一个处理器;以及与上述至少一个处理器通信连接的存储器;其中,上述存储器存储有可被上述至少一个处理器执行的指令,上述指令被上述至少一个处理器执行,以使上述至少一个处理器能够执行如本公开的方法。

7、根据本公开的另一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,上述计算机指令用于使上述计算机执行如本公开的方法。

8、根据本公开的另一方面,提供了一种计算机程序产品,包括计算机程序,上述计算机程序在被处理器执行时实现如本公开的方法。

9、应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

本文档来自技高网...

【技术保护点】

1.一种任务处理方法,包括:

2.根据权利要求1所述的方法,还包括:

3.根据权利要求1或2所述的方法,还包括:

4.根据权利要求1至3中任一项所述的方法,其中,所述负载均衡器包括任务调取接口;

5.根据权利要求2所述的方法,还包括:

6.一种任务处理方法,包括:

7.根据权利要求6所述的方法,还包括:

8.根据权利要求7所述的方法,还包括:

9.根据权利要求7或8所述的方法,还包括:

10.根据权利要求6至9中任一项所述的方法,其中,所述从任务缓存器中获取关于目标任务的任务信息,包括:

11.一种任务处理装置,包括:

12.根据权利要求11所述的装置,还包括:

13.根据权利要求11或12所述的装置,还包括:

14.根据权利要求11至13中任一项所述的装置,其中,所述负载均衡器包括任务调取接口;

15.根据权利要求12所述的装置,还包括:

16.一种任务处理装置,包括:

17.根据权利要求16所述的装置,还包括:

18.根据权利要求17所述的装置,还包括:

19.根据权利要求17或18所述的装置,还包括:

20.根据权利要求16至19中任一项所述的装置,其中,所述请求获取模块包括:

21.一种电子设备,包括:

22.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1至10中任一项所述的方法。

23.一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现根据权利要求1至10中任一项所述的方法。

...

【技术特征摘要】

1.一种任务处理方法,包括:

2.根据权利要求1所述的方法,还包括:

3.根据权利要求1或2所述的方法,还包括:

4.根据权利要求1至3中任一项所述的方法,其中,所述负载均衡器包括任务调取接口;

5.根据权利要求2所述的方法,还包括:

6.一种任务处理方法,包括:

7.根据权利要求6所述的方法,还包括:

8.根据权利要求7所述的方法,还包括:

9.根据权利要求7或8所述的方法,还包括:

10.根据权利要求6至9中任一项所述的方法,其中,所述从任务缓存器中获取关于目标任务的任务信息,包括:

11.一种任务处理装置,包括:

12.根据权利要求11所述的装置,还包括:

13.根据权利要求11或12所述的装置,还包括:

<...

【专利技术属性】
技术研发人员:王洋韩超张雷卢璞彭建坤丁鑫哲刘其文
申请(专利权)人:北京百度网讯科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1