System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本公开涉及人工智能,尤其涉及深度学习、大语言模型、负载均衡等,具体涉及任务处理方法、装置、电子设备、存储介质以及程序产品。
技术介绍
1、人工智能技术是一门综合学科,涉及领域广泛,既有硬件层面的技术也有软件层面的技术。人工智能技术一般包括大语言模型技术,对预训练模型微调后可以广泛应用于人工智能各大领域。例如,文本处理、语义理解、机器翻译、人机交互等。利用大语言模型处理各个不同领域的任务,需要对时效、成本等因素进行综合考虑。
技术实现思路
1、本公开提供了一种任务处理方法、装置、电子设备、存储介质以及程序产品。
2、根据本公开的一方面,提供了一种任务处理方法,包括:在确定当前处理状态为空闲状态的情况下,确定当前时间节点;在确定上述当前时间节点处于任务调取节点的情况下,向负载均衡器发送任务调取请求;以及利用大语言模型处理关于目标任务的任务信息,上述目标任务的任务信息是利用上述负载均衡器响应于上述任务调取请求得到的。
3、根据本公开的另一方面,提供了一种任务处理方法,包括:响应于接收到由任务处理器发送的任务调取请求,从任务缓存器中获取关于目标任务的任务信息,其中,上述任务调取请求是在确定当前处理状态为空闲状态的情况下,确定当前时间节点,在确定上述当前时间节点处于上述任务调取节点的情况下生成的;以及向上述任务处理器发送上述目标任务的任务信息,以便装载于上述任务处理器中的大语言模型处理上述任务信息。
4、根据本公开的另一方面,提供了一种任务处理装置,包括:
5、根据本公开的另一方面,提供了一种任务处理装置,包括:请求获取模块,用于响应于接收到由任务处理器发送的任务调取请求,从任务缓存器中获取关于目标任务的任务信息,上述任务调取请求是在确定当前处理状态为空闲状态的情况下,确定当前时间节点,在确定上述当前时间节点处于上述任务调取节点的情况下生成的;以及任务发送模块,用于向上述任务处理器发送上述目标任务的任务信息,以便装载于上述任务处理器中的大语言模型处理上述任务信息。
6、根据本公开的另一方面,提供了一种电子设备,包括:至少一个处理器;以及与上述至少一个处理器通信连接的存储器;其中,上述存储器存储有可被上述至少一个处理器执行的指令,上述指令被上述至少一个处理器执行,以使上述至少一个处理器能够执行如本公开的方法。
7、根据本公开的另一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,上述计算机指令用于使上述计算机执行如本公开的方法。
8、根据本公开的另一方面,提供了一种计算机程序产品,包括计算机程序,上述计算机程序在被处理器执行时实现如本公开的方法。
9、应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
本文档来自技高网...【技术保护点】
1.一种任务处理方法,包括:
2.根据权利要求1所述的方法,还包括:
3.根据权利要求1或2所述的方法,还包括:
4.根据权利要求1至3中任一项所述的方法,其中,所述负载均衡器包括任务调取接口;
5.根据权利要求2所述的方法,还包括:
6.一种任务处理方法,包括:
7.根据权利要求6所述的方法,还包括:
8.根据权利要求7所述的方法,还包括:
9.根据权利要求7或8所述的方法,还包括:
10.根据权利要求6至9中任一项所述的方法,其中,所述从任务缓存器中获取关于目标任务的任务信息,包括:
11.一种任务处理装置,包括:
12.根据权利要求11所述的装置,还包括:
13.根据权利要求11或12所述的装置,还包括:
14.根据权利要求11至13中任一项所述的装置,其中,所述负载均衡器包括任务调取接口;
15.根据权利要求12所述的装置,还包括:
16.一种任务处理装置,包括:
17.根据权利要求
18.根据权利要求17所述的装置,还包括:
19.根据权利要求17或18所述的装置,还包括:
20.根据权利要求16至19中任一项所述的装置,其中,所述请求获取模块包括:
21.一种电子设备,包括:
22.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1至10中任一项所述的方法。
23.一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现根据权利要求1至10中任一项所述的方法。
...【技术特征摘要】
1.一种任务处理方法,包括:
2.根据权利要求1所述的方法,还包括:
3.根据权利要求1或2所述的方法,还包括:
4.根据权利要求1至3中任一项所述的方法,其中,所述负载均衡器包括任务调取接口;
5.根据权利要求2所述的方法,还包括:
6.一种任务处理方法,包括:
7.根据权利要求6所述的方法,还包括:
8.根据权利要求7所述的方法,还包括:
9.根据权利要求7或8所述的方法,还包括:
10.根据权利要求6至9中任一项所述的方法,其中,所述从任务缓存器中获取关于目标任务的任务信息,包括:
11.一种任务处理装置,包括:
12.根据权利要求11所述的装置,还包括:
13.根据权利要求11或12所述的装置,还包括:
<...【专利技术属性】
技术研发人员:王洋,韩超,张雷,卢璞,彭建坤,丁鑫哲,刘其文,
申请(专利权)人:北京百度网讯科技有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。