一种面向API推荐的知识引导大型语言模型查询澄清方法及系统技术方案

本发明专利技术涉及应用程序编程接口推荐技术领域。一种面向API推荐的知识引导大型语言模型查询澄清方法，包括步骤S1，模拟人机交互过程，基于分析流的思想，设计面向API推荐的查询澄清AI Chain；将人与LLM交互的过程分解为多个子步骤，将每个子步骤中可以使用LLM的步骤设计为AI单元，将不需要LLM的步骤设计为non

【技术实现步骤摘要】
一种面向API推荐的知识引导大型语言模型查询澄清方法及系统


[0001]本专利技术属于应用程序编程接口（API）推荐领域，尤其是涉及一种面向API推荐的基于KG（知识图谱）的新型知识引导LLM（大型语言模型）查询澄清方法及系统。

技术介绍

[0002]API推荐是基于查询语句从一个库中找到合适的应用程序编程接口的过程。这有助于开发人员快速找到最符合其要求的API。早期的方法使用模糊关键字匹配来检索与关键字（如API名称，需求描述和标签）的字面意义相匹配的API。然而，这种方法的局限性在于无法捕捉关键字之间的语义关系。为了解决这个限制，提出了使用深度学习方法来捕捉语义关系。然而，这些方法需要查询语句中包含足够的关键字来反映用户的需求。在实践中，开发人员通常提供的初始查询语句关键字不足以完全表达其意图，这可能会降低深度学习方法的效果。
[0003]目前，现有的手段主要是直接扩展查询语句和澄清扩展查询语句以获取推荐的API。前者的主要实现方式是通过训练模型，然后通过训练的模型，对初始查询语句进行预测，预测可能的查询语句扩展，最终获取推荐的API。后者的主要实现方式是通过训练模型，然后通过训练的模型，根据初始查询语句对用户进行意图澄清提问，得到用户的回答，了解用户的意图，最终获取推荐的API。但是现有技术中存在的主要问题是：1)没有一个足够大的知识库，导致难以完全理解用户的意图而生成错误的信息。2)澄清提问模板固定单一，很多问题都使用一样的模板，导致生成的问题十分生硬。

技术实现思路

[0004]本专利技术针对现有技术不足，提出一种面向API推荐的基于知识图谱的新型知识引导大型语言模型查询澄清方法，以解决现有技术存在的上述问题。
[0005]本专利技术采用的技术方案：一种面向API推荐的基于知识图谱的新型知识引导大型语言模型查询澄清方法，包括：模拟人机交互过程，基于分析流的思想，设计面向API推荐的查询澄清AI Chain；模拟人机交互的过程，基于分析流的思想，将人与LLM（大型语言模型）交互的过程分解为多个子步骤，将每个子步骤中可以使用LLM的步骤设计为AI（人工智能）单元，将不需要LLM的步骤设计为non
‑
AI（非人工智能）单元，将这些AI单元和non
‑
AI单元按照逻辑串联形成AI Chain（人工智能链）。
[0006]基于API知识图谱，获取API知识图谱中的知识；API知识图谱中知识的获取的过程包括：基于API知识图谱的特点，制作一个最佳提问路径样式表；将用户输入的初始查询语句与样式表中的查询语句进行相似度匹配；
再将用户上一轮的回答（如果有）与样式表中的回答进行相似度匹配；经过两次相似度匹配以实现API知识图谱中知识的获取。
[0007]基于大型语言模型的上下文学习特点，设计合理的prompt；设计合理prompt的过程包括：基于LLM的上下文学习特点，使用有效地自然语言和规则语言形成prompt，以实现AI单元的功能。
[0008]将所述API知识图谱知识与prompt融合，通过AI Chain以实现澄清查询语句并推荐API。
[0009]将所述API知识图谱知识与prompt融合的过程包括：通过获取的API知识图谱知识设计合理的prompt，提示LLM完成对应AI单元的任务，形成逻辑合理的AI Chain以实现API的推荐。
[0010]与上述方法相适应，本专利技术还提供了一种面向API推荐的基于知识图谱的新型知识引导大型语言模型查询澄清系统，包括：“澄清问题与选项生成模块”和“查询扩展与API推荐模块”，其中所述澄清问题与选项生成模块包含一个non
‑
AI单元（API知识图谱中知识的获取单元）和三个AI子单元（最佳提问方面生成单元、澄清问题生成单元和备选选项生成单元），其中所述查询扩展与API推荐模块包含一个non
‑
AI单元（用户回答单元）和两个AI子单元（查询语句扩展单元和API推荐单元）。具体的，API知识图谱中知识的获取的过程包括：针对API知识图谱的特点，制作一个最佳提问路径样式表；将用户输入的初始查询语句与样式表中的查询语句进行相似度匹配；再将用户上一轮的回答（如果有）与样式表中的回答进行相似度匹配；经过两次相似度匹配以实现API知识图谱中知识的获取；最佳提问方面生成单元的过程包括：将设计好的prompt输入LLM；LLM返回当前澄清回合对查询语句的最佳提问方面；澄清问题生成单元的过程包括：基于最佳提问方面，设计合理的prompt，输入进LLM；LLM根据最佳提问方面返回对查询语句的澄清问题；备选选项生成单元的过程包括：基于澄清问题，设计合理的prompt，输入进LLM；LLM根据初始查询语句和澄清问题，返回备选选项（即可能的回答）；用户回答单元的过程包括：基于备选选项，用户受到启发，给出自己的答案；查询语句扩展单元的过程包括：基于初始查询语句和已有的澄清信息，设计合理的prompt，输入进LLM；LLM根据prompt返回扩展后的查询语句；API推荐单元的过程包括：基于扩展后的查询语句，设计合理的prompt，输入进LLM；LLM根据prompt返回API推荐。
[0011]专利技术有益效果：1、本专利技术提供了一种面向API推荐的基于知识图谱（KG）的新型知识引导大型语言模型（LLM）查询澄清方法及系统，提出了一种新颖的知识引导查询澄清方法
‑
KPL（KG prompt LLM），用于API推荐，结合了KG和LLM的优点，同时弥补了它们各自的不足之处。与基于知识图谱（KG）或基于语言模型（LLM）的方法不同，本专利技术将KG与LLM结合起来引导LLM，优化了查询澄清过程，提高了整个人机交互过程的准确性、效率和流畅性，改进了API推荐。
[0012]2、本专利技术利用LLM作为神经知识库来解决有限KG的OOV（out
‑
of
‑
vocabulary）问
题，并利用KG来减轻LLM的潜在噪音和随机性问题。我们利用GPT
‑
3.5作为交互式LLM，而API KG作为LLM的问题引导，这打开了一扇桥梁，以弥合KG和LLM之间的差距，展示如何有效地利用它们的优势和劣势来相互补偿。
[0013]3、本专利技术设计一个AI CHAIN，分为五个AI步骤，每个AI步骤由一个独立的LLM调用处理。这种设计增强了本专利技术的鲁棒性和可控性。
[0014]4、本专利技术设计一个知识引导的路径规划策略，将KG中的最优澄清路径传递给LLM，有效地引导LLM沿着最优路径生成澄清问题。
附图说明
[0015]图1所示为本专利技术面向API推荐的知识引导大型语言模型查询澄清方法流程图；图2所示为本专利技术实施例中的AI单元prompt设计；图3所示为不同API推荐工具的流程对比图。
[0016]需要说明的是，构成本申请的一部分的附图仅用来提供对本申请的进一步理解，并不构成对本申请的不当限定。在附图的流程图示出的步骤可以本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种面向API推荐的知识引导大型语言模型查询澄清方法，其特征在于：包括步骤如下：S1，模拟人机交互过程，基于分析流的思想，设计面向API推荐的查询澄清AI Chain；将人与LLM交互的过程分解为多个子步骤，将每个子步骤中可以使用LLM的步骤设计为AI单元，将不需要LLM的步骤设计为non
‑
AI单元，将这些AI单元和non
‑
AI单元按照逻辑串联形成AI Chain；S2，基于API知识图谱，获取API知识图谱中的知识；S3，基于大型语言模型，设计合理的prompt：基于大型语言模型的上、下文学习特点，使用有效地自然语言和规则语言形成prompt，以实现AI单元的功能；S4，将所述API知识图谱知识与prompt融合，通过AI Chain以实现澄清查询语句并推荐API。2.根据权利要求1所述的面向API推荐的知识引导大型语言模型查询澄清方法，其特征在于：步骤S2中，API知识图谱中知识的获取的过程包括：基于API知识图谱的特点，制作一个最佳提问路径样式表；将用户输入的初始查询语句与样式表中的查询语句进行相似度匹配；再将用户上一轮的回答与样式表中的回答进行相似度匹配；经过两次相似度匹配以实现API知识图谱中知识的获取。3. 根据权利要求1或2所述的面向API推荐的知识引导大型语言模型查询澄清方法，其特征在于：步骤S4中，通过获取的API知识图谱知识设计合理的prompt，提示LLM完成对应AI单元的任务，形成逻辑合理的AI Chain以实现API的推荐。4. 根据权利要求3所述的面向API推荐的知识引导大型语言模型查询澄清方法，其特征在于：为促进涉及查询澄清的多轮人机交互，设计面向API推荐的查询澄清AI Chain；所述AI Chain包括以下五个不同的步骤，每个子步骤由一个单独的语言模型调用处理：最佳问题方面生成：根据给定的查询语句和前一轮的回答，确定最佳的问题方面生成；澄清问题生成：根据前一步骤中得到的最佳问方面为查询语句创建澄清问题；备选选项生成：针对澄清问题生成备选选项；查询扩展：使用历史答案根据用户的需求生成一个扩展的查询语句；API推荐：基于扩展语句提供相应...

【专利技术属性】
技术研发人员：邢振昌，万震宇，王昌晶，黄箐，曾锦山，左正康，
申请(专利权)人：江西师范大学，
类型：发明
国别省市：