System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种大语言模型自动理解数据接口的方法及装置、服务器及存储介质制造方法及图纸_技高网

一种大语言模型自动理解数据接口的方法及装置、服务器及存储介质制造方法及图纸

技术编号:41312183 阅读:12 留言:0更新日期:2024-05-13 14:55
本发明专利技术公开了一种大语言模型自动理解数据接口的方法及装置、服务器及存储介质,属于人工智能技术领域。包括:获取API描述信息,并将API描述信息进行解析后提供给大语言模型;判断用户端提出的需求是否可以转化为提供的API,若否,则利用大语言模型的能力回复用户提出的需求;若是,则根据参数调用API,获得数据,将数据、API描述信息以及用户提出的需求提供给大语言模型的API代理,大语言模型的API代理生成最终回复。本发明专利技术能够更加准确的回复用户的需求。

【技术实现步骤摘要】

本专利技术涉及人工智能,更具体的说是涉及一种大语言模型自动理解数据接口的方法及装置、服务器及存储介质


技术介绍

1、大型语言模型(llm)与私有领域数据相结合带来了巨大的价值。目前有很多方法围绕如何让llm更有效地使用私有领域数据。使用大语言模型回答用户的知识型问题,这类问题在用户需求上需要保证数据的真实性,准确性和时效性。但是目前大语言模型基本通过自身的训练数据形成的神经网络信息回答数据,或者通过从公共网络上查找数据进行回答。这两类方法都存在着一些问题。通过自身的训练数据形成的神经网络信息回答数据,首先于模型训练所使用的数据的来源于网络,很难保证数据的真实性,同时,这些数据只记录了最后一次训练的时的内容,所以很难保证时效性。通过从公共网络上查找数据进行回答,和自身训练的数据类似,网络的数据很难保证真实性。

2、在现有技术中,解决上述问题的方案主要是使用rag方式或者finetune的方式。rag是一种通过将数据通过索引的方式保存,通过用户的问题,在索引中找到相关的内容,将这些内容提供给大语言模型用来回答用户的问题。这类方法可以提高大语言模型回复的真实性,准确性和实时性。但是由于回复的效果依赖于索引是否能够准确的提供大语言模型用来回答用户问题的内容。由于用户提供的是文本内容,即非结构化数据,索引的准确性有很大的限制。同时,对于需要提供某些处理后的结果的数据索引就显得无能为力了。这些数据需要为rag进行收集和组织。对于数据量大、复杂的情况,rag如何更有效地为llm提供支持是一个重要的课题。finetune是将数据放到模型中进行微调训练的过程,使这些数据训练到大语言模型的神经网络里。这种模式存在,训练成本高,训练数据的泄露风险等问题。同时微调训练后的效果不可控。

3、综上,目前的方案无法解决让大语言模型提供私密性,真实性,准确性和时效性的回复,因此,如何提供一种大语言模型自动理解数据接口的方法及装置、服务器及存储介质是本领域技术人员亟需解决的问题。


技术实现思路

1、有鉴于此,本专利技术提供了一种大语言模型自动理解数据接口的方法及装置、服务器及存储介质,用以解决上述现有技术中存在的技术问题。

2、为了实现上述目的,本专利技术提供如下技术方案:

3、一种大语言模型自动理解数据接口的方法,包括以下步骤:

4、s100:获取api描述信息,并将所述api描述信息进行解析后提供给大语言模型;

5、s200:获取用户端提出的需求,判断用户端提出的需求是否可以转化为提供的api,若是,则进入s300,若否,则进入s400;

6、s300:根据s100获得的api描述信息,使用大语言模型以agent代理的形式进行需求分析,将用户端提出的需求转化为需要调用的api列表,并且使用大语言模型从用户端提出的需求中抽取每个api所需要调用的参数,根据参数调用对应的api,获得数据,并进入s500;

7、s400:利用大语言模型的能力回复用户提出的需求;

8、s500:将所述数据、所述api描述信息以及用户提出的需求提供给大语言模型的api代理,所述大语言模型的api代理生成最终回复。

9、优选地,所述s100包括:

10、s110:通过swagger工具将api描述信息生成json格式;

11、s120:解析json格式的api描述信息并转化为大语言模型的提示语,将所述提示语提供给大语言模型,帮助大语言模型理解api。

12、优选地,所述s110包括:

13、通过swagger工具使用json格式定义api的功能和参数,将api描述信息生成json格式的字符串,其中,所述api描述信息包括api的定义和引用的相关参数类型的定义。

14、优选地,所述s120包括:

15、通过swagger工具解析json格式的api描述信息,将api的定义和引用的相关参数类型的定义转化为大语言模型的提示语,并所述提示语提供给大语言模型,帮助大语言模型理解api。

16、优选地,所述通过swagger工具解析json格式的api描述信息,包括:

17、通过swagger json的位置,逐一阅读api的json文件:

18、读取json格式的api定义到api定义字典中;

19、通过字典中定义的多个api,逐一阅读api的定义:

20、将api和参数定义保存到api提示语字典中;

21、如果参数中包含引用对象,则在api定义字典中查找引用对象的定义内容,将定义内容保存到api提示语字典中;

22、将api提示语字典中的api定义转化为大语言模型的提示语;

23、将多个api定义的提示语拼接,形成该json文件中定义的api的提示语;

24、将多个json文件中定义的api的提示语拼接成大语言模型理解的多个api的定义提示语。

25、优选地,所述s500包括:

26、将所述数据、所述api描述信息以及用户提出的需求提供给大语言模型的api代理,所述大语言模型的api代理拼接成提示语并作为最终回复。

27、一种大语言模型自动理解数据接口的装置,包括:

28、获取模块:获取api描述信息,并将所述api描述信息进行解析后提供给大语言模型;

29、分析模块:获取用户端提出的需求,判断用户端提出的需求是否可以转化为提供的api,若是,则进入调用模块,若否,则进入第一回复模块;

30、调用模块:根据所述获取模块获得的api描述信息,使用大语言模型以agent代理的形式进行需求分析,将用户端提出的需求转化为需要调用的api列表,并且使用大语言模型从用户端提出的需求中抽取每个api所需要调用的参数,根据参数调用对应的api,获得数据,进入第二回复模块;

31、第一回复模块:利用大语言模型的能力回复用户提出的需求;

32、第二回复模块:将所述数据、所述api描述信息以及用户提出的需求提供给大语言模型的api代理,所述大语言模型的api代理生成最终回复。

33、一种服务器,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,处理器执行所述机程序时实现大语言模型自动理解数据接口的方法。

34、一种存储介质,存储介质上存储程序或指令,程序或指令被执行时实施大语言模型自动理解数据接口的方法。

35、经由上述的技术方案可知,与现有技术相比,本专利技术公开提供了一种大语言模型自动理解数据接口的方法及装置、服务器及存储介质,考虑到目前各个企业存在着大量的数据服务接口,这些接口所提供的数据基本都是结构化数据,以及与业务紧密结合的分析或处理后的数据。本专利技术能够使大语言模型自行理解企业的数据接口信息,当用户提供需求后,让大语言模型根据对数据接口的理解将用户的需求转化成本文档来自技高网...

【技术保护点】

1.一种大语言模型自动理解数据接口的方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的一种大语言模型自动理解数据接口的方法,其特征在于,所述S100包括:

3.根据权利要求2所述的一种大语言模型自动理解数据接口的方法,其特征在于,所述S110包括:

4.根据权利要求3所述的一种大语言模型自动理解数据接口的方法,其特征在于,所述S120包括:

5.根据权利要求4所述的一种大语言模型自动理解数据接口的方法,其特征在于,所述通过Swagger工具解析Json格式的API描述信息,包括:

6.根据权利要求1所述的一种大语言模型自动理解数据接口的方法,其特征在于,所述S500包括:

7.一种利用权利要求1至6任一项所述的大语言模型自动理解数据接口的方法的大语言模型自动理解数据接口的装置,其特征在于,包括:

8.一种服务器,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至6任一所述的大语言模型自动理解数据接口的方法。

9.一种存储介质,其特征在于,所述存储介质上存储程序或指令,所述程序或指令被执行时实施根据权利要求1至6任一项所述的大语言模型自动理解数据接口的方法。

...

【技术特征摘要】

1.一种大语言模型自动理解数据接口的方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的一种大语言模型自动理解数据接口的方法,其特征在于,所述s100包括:

3.根据权利要求2所述的一种大语言模型自动理解数据接口的方法,其特征在于,所述s110包括:

4.根据权利要求3所述的一种大语言模型自动理解数据接口的方法,其特征在于,所述s120包括:

5.根据权利要求4所述的一种大语言模型自动理解数据接口的方法,其特征在于,所述通过swagger工具解析json格式的api描述信息,包括:

6.根据权利要求1所述...

【专利技术属性】
技术研发人员:顾夏辉
申请(专利权)人:子长科技北京有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1