System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 交互方法、装置、设备、介质及程序产品制造方法及图纸_技高网

交互方法、装置、设备、介质及程序产品制造方法及图纸

技术编号:44264630 阅读:1 留言:0更新日期:2025-02-14 22:08
本申请提供了一种交互方法、装置、设备、介质及程序产品。该申请中的交互方法的一具体实施方式包括:基于提问操作,生成提问消息;将提问消息输入至大模型,得到大模型的接口返回的流式响应数据;将流式响应数据转换成文本内容类型,并利用大模型交互系统中的业务组件进行流式渲染,生成提问消息对应的回答消息。该实施方式通过注入业务组件的方式,可以轻易地在大模型交互系统中实现与业务系统的交互,从而实现通过一套系统对于所有业务系统的支持。

【技术实现步骤摘要】

本申请涉及人工智能,尤其涉及一种交互方法、装置、设备、介质及程序产品


技术介绍

1、近年来,ai(artificial-intelligence,人工智能)的发展正在逐步地改变人们的生活与工作方式。特别是aigc(artificial intelligence generated content,人工智能生成内容),更是能够在广告创意业务上大放异彩。通过简单的指令就可以生成符合具有一定创意的广告内容,大大节省了人力与脑力,显著提升广告生成的效率。

2、除此之外,公司内部系统对于ai的需求也日益强烈。例如,产品人员需要ai生成一些创意图像、创意视频、用于查询数据的sql(structured query language,结构化查询语言)语句等。又例如,数据人员希望ai能够生成一些好看的图表。再例如,crm(customerrelationship management,客户关系管理)系统希望能够有一个高效ai客服。通过ai客服,可以方便地通过对话的方式展示开票或者直接为客户开户,又或者在运营后台,能够通过ai提问,便捷地实现特定广告创意的审核而不必通过复杂的操作到达业务组件。

3、从技术上而言,大模型输入输出的技术核心在于模型或者算法本身,大模型本身的设计和数据决定的其智能程度。但是对于一个与用户深度交互的系统,前端的交互实现也是其重要的组成部分,特别是对于一个需要与业务深度耦合的系统而言。


技术实现思路

1、本申请的多个方面提供一种交互方法、装置、设备、介质及程序产品,用以解决大模型交互系统项目功能单一,使用受限的技术问题。

2、本申请的一方面,提供一种交互方法,包括:基于提问操作,生成提问消息;将提问消息输入至大模型,得到大模型的接口返回的流式响应数据;将流式响应数据转换成文本内容类型,并利用大模型交互系统中的业务组件进行流式渲染,生成提问消息对应的回答消息。

3、本申请的另一方面,提供一种交互装置,包括:生成模块,被配置成基于提问操作,生成提问消息;输入模块,被配置成将提问消息输入至大模型,得到大模型的接口返回的流式响应数据;渲染模块,被配置成将流式响应数据转换成文本内容类型,并利用大模型交互系统中的业务组件进行流式渲染,生成提问消息对应的回答消息。

4、本申请的另一方面,提供一种电子设备,所述电子设备包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如上所述的交互方法。

5、本申请的另一方面,提供一种计算机可读存储介质,其上存储有计算机程序指令,所述计算机程序指令可被处理器执行以实现如上所述的交互方法。

6、本申请的另一方面,提供一种计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时实现的如上所述的交互方法。

7、本申请实施例提供的方案中,通过注入业务组件的方式,可以轻易地在大模型交互系统中实现与业务系统的交互,从而实现通过一套系统对于所有业务系统的支持。通过该系统,大模型交互开发人员无须关注业务。而业务交互开发人员也无须关注大模型交互,只需要组织模型输入和业务组件本身的关系就可以完成业务组件在大模型交互上的渲染。同时,该系统还提供了更好的流式渲染模式,能够给未实现流式输出的模型接口提供前端流式渲染模拟,为用户提供更好的体验。

本文档来自技高网...

【技术保护点】

1.一种交互方法,包括:

2.根据权利要求1所述的方法,其中,所述方法还包括:

3.根据权利要求2所述的方法,其中,所述方法还包括:

4.根据权利要求2所述的方法,其中,所述利用大模型流组件对所述文本中新增的处理数据进行流式渲染,包括:

5.根据权利要求4所述的方法,其中,所述利用大模型流组件对所述文本中新增的处理数据进行流式渲染,还包括:

6.根据权利要求5所述的方法,其中,所述利用所述渲染方法对所述渲染数据进行流式渲染,包括:

7.根据权利要求6所述的方法,其中,所述对所述渲染组件数组中的渲染数据依次进行渲染,包括:

8.根据权利要求1-7中任一项所述的方法,其中,所述业务组件在项目初始化时注入或在渲染开始前注入。

9.一种交互装置,包括:

10.一种电子设备,所述电子设备包括:

11.一种计算机可读介质,其上存储有计算机程序指令,所述计算机程序指令可被处理器执行以实现如权利要求1-8中任一项所述的方法。

12.一种计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时实现如权利要求1-8中任一项所述的方法。

...

【技术特征摘要】

1.一种交互方法,包括:

2.根据权利要求1所述的方法,其中,所述方法还包括:

3.根据权利要求2所述的方法,其中,所述方法还包括:

4.根据权利要求2所述的方法,其中,所述利用大模型流组件对所述文本中新增的处理数据进行流式渲染,包括:

5.根据权利要求4所述的方法,其中,所述利用大模型流组件对所述文本中新增的处理数据进行流式渲染,还包括:

6.根据权利要求5所述的方法,其中,所述利用所述渲染方法对所述渲染数据进行流式渲染,包括:

7.根据权利要求6所述的...

【专利技术属性】
技术研发人员:李闯邵帅樊执政
申请(专利权)人:上海哔哩哔哩科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1