System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本专利技术涉及一种网络靶场中的大模型助理动态输出整流方法与系统,属于信息处理、网络安全。
技术介绍
1、大模型在自然语言理解和文本生成方面具有显著优势,能够作为高效的人机交互智能助理。然而,模型的知识来源仅限于训练数据,这意味着其回答能力受限于训练期的内容,而这些数据通常覆盖的是特定行业(如编程、数学等)的领域知识。因此,面对一些特定专业领域(如网络靶场等)的特殊问题时,大模型往往难以给出针对性的回答。
2、为了解决这一问题,通常采用外部知识库结合检索增强生成(rag,retrieval-augmented generation)方法,向大模型注入额外的专业领域知识。当用户提问时,大模型首先通过外部知识库匹配相关信息,然后利用自身的文本生成能力对这些信息进行加工和输出。这一过程通过流式生成文本,其中模型会基于当前上下文和前后内容,预测最可能的下一步输出。模型输出时,每次输出一个或若干个字符。
3、流式输出过程可以让用户动态感知模型的生成过程,也带来如下几个问题:
4、1、无法实时对特定内容(如html链接)进行动态判别并渲染,从而导致类似于网络链接地址等特定内容无法有效展示。如图1所示,大模型本身输出的字符串列表,客户端无法根据动态的字符串列表判断链接地址的开头和结尾,从而导致显示样式不友好;
5、2、采用全局缓存大模型输出内容,并在输出内容中遍历寻找特定标签的方式,在大数据量的情况下会导致浏览器缓存过高、遍历速度很慢,且该方式在遍历到特定内容的情况下会导致页面刷新,影响用户体验。
技术实现思路
1、专利技术目的:针对上述现有技术存在的问题,本专利技术目的在于提供一种网络靶场中的大模型助理动态输出整流方法与系统,通过在原始内容中增加自定义标签,对大模型的输出内容实时整流,提高用户使用体验。
2、技术方案:为实现上述专利技术目的,本专利技术采用如下技术方案:
3、第一方面,本专利技术提供一种网络靶场中的大模型助理动态输出整流方法,包括以下步骤:
4、设置命中开始标签状态为初始值假;
5、接收大模型输出的字符串,并将所述字符串加入到缓存列表中;
6、判断当前缓存列表中的字符串长度是否达到预设阈值,如果未达到,则继续接收并缓存新的字符串;否则,执行下一步骤;
7、根据所述命中开始标签状态在当前缓存列表中寻找自定义标签,当所述命中开始标签状态为真时,寻找结束标签;当所述状态为假时,寻找开始标签;
8、根据标签命中结果,生成标签寻找返回的值,同时更新缓存列表;
9、根据当前的命中开始标签状态设置浏览器的渲染状态;如果标签命中结果为真,则翻转命中开始标签状态;
10、针对每次输入字符串,最终返回一个包含要显示的值和对应的渲染状态的元组;持续接收大模型的输出内容并动态展示。
11、作为优选,寻找开始标签或结束标签的步骤包括:
12、将缓存列表中的所有字符串拼接成一个完整字符串,并用待寻找的标签进行分割;
13、判断分割后的字符串集合拼接后与原始字符串是否相等,若相等则表示未找到标签,设置标签命中结果为假;否则,设置标签命中结果为真。
14、作为优选,生成标签寻找返回的值,以及更新缓存列表的步骤包括:
15、如果所述标签命中结果为假,所述返回的值为缓存列表中弹出的第一个值;否则,为分割后的字符串集合中第一个值,同时清空当前缓存列表,并将分割后的字符串集合中其余值依次加入到缓存列表中。
16、第二方面,本专利技术提供一种网络靶场中的大模型助理动态输出整流系统,包括缓存模块,标签寻找模块,以及渲染模块;
17、所述缓存模块,用于接收大模型输出的字符串,并将所述字符串加入到缓存列表中;以及判断当前缓存列表中的字符串长度是否达到预设阈值,如果未达到,则继续接收并缓存新的字符串;否则调用标签寻找模块;
18、所述标签寻找模块,用于设置命中开始标签状态为初始值假,当缓存模块中缓存的字符串长度达到预设阈值时,根据所述命中开始标签状态在当前缓存列表中寻找自定义标签,当所述命中开始标签状态为真时,寻找结束标签;当所述状态为假时,寻找开始标签;以及,根据标签命中结果,生成标签寻找返回的值,同时更新缓存列表;根据当前的命中开始标签状态设置浏览器的渲染状态;如果标签命中结果为真,则翻转命中开始标签状态;针对每次输入字符串,最终返回一个包含要显示的值和对应的渲染状态的元组;
19、所述渲染模块,用于根据所述元组中的渲染状态动态展示要显示的值。
20、第三方面,本专利技术提供一种计算机系统,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序/指令,所述计算机程序/指令被处理器执行时实现所述的一种网络靶场中的大模型助理动态输出整流的步骤。
21、第四方面,本专利技术提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现所述的一种网络靶场中的大模型助理动态输出整流的步骤。
22、第五方面,本专利技术提供一种计算机程序产品,包括计算机程序/指令,所述计算机程序/指令被处理器执行时实现所述的一种网络靶场中的大模型助理动态输出整流的步骤。
23、有益效果:与现有技术相比,本专利技术具有如下优点:本专利技术通过在原始内容中增加自定义标签,对大模型的输出内容实时整流、寻找用户的自定义标签,根据寻找结果实时输出整流后的内容及渲染规则;浏览器只需要缓存很少大模型的输出内容即可,不需要对模型的输出全局缓存,减少对浏览器的硬件资源占用、并加快对特定内容的遍历性能;采用动态整流的方式,页面可以实时输出特定的样式内容、无需在命中特定标签后刷新页面,从而提高了用户使用体验。
本文档来自技高网...【技术保护点】
1.一种网络靶场中的大模型助理动态输出整流方法,其特征在于,包括以下步骤:
2.根据权利要求1所述的一种网络靶场中的大模型助理动态输出整流方法,其特征在于,寻找开始标签或结束标签的步骤包括:
3.根据权利要求2所述的一种网络靶场中的大模型助理动态输出整流方法,其特征在于,生成标签寻找返回的值,以及更新缓存列表的步骤包括:
4.根据权利要求1所述的一种网络靶场中的大模型助理动态输出整流方法,其特征在于,所述预设阈值设定为足以覆盖自定义标签的最小长度。
5.根据权利要求1所述的一种网络靶场中的大模型助理动态输出整流方法,其特征在于,当所述渲染状态为真时,浏览器对于返回的值按照预设的规则进行渲染。
6.根据权利要求1所述的一种网络靶场中的大模型助理动态输出整流方法,其特征在于,所述自定义标签用于标记html链接,当所述渲染状态为真时,所述返回的值作为html链接形式展示。
7.一种网络靶场中的大模型助理动态输出整流系统,其特征在于,包括缓存模块,标签寻找模块,以及渲染模块;
8.一种计算机系统,包括存储
9.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现根据权利要求1-6任一项所述的一种网络靶场中的大模型助理动态输出整流的步骤。
10.一种计算机程序产品,包括计算机程序/指令,其特征在于,所述计算机程序/指令被处理器执行时实现根据权利要求1-6任一项所述的一种网络靶场中的大模型助理动态输出整流的步骤。
...【技术特征摘要】
1.一种网络靶场中的大模型助理动态输出整流方法,其特征在于,包括以下步骤:
2.根据权利要求1所述的一种网络靶场中的大模型助理动态输出整流方法,其特征在于,寻找开始标签或结束标签的步骤包括:
3.根据权利要求2所述的一种网络靶场中的大模型助理动态输出整流方法,其特征在于,生成标签寻找返回的值,以及更新缓存列表的步骤包括:
4.根据权利要求1所述的一种网络靶场中的大模型助理动态输出整流方法,其特征在于,所述预设阈值设定为足以覆盖自定义标签的最小长度。
5.根据权利要求1所述的一种网络靶场中的大模型助理动态输出整流方法,其特征在于,当所述渲染状态为真时,浏览器对于返回的值按照预设的规则进行渲染。
6.根据权利要求1所述的一种网络靶场中的大模型助理动态输出整流方法,其特征在于,所述自定义标签用于标记html链接,当所述渲染状...
【专利技术属性】
技术研发人员:曲原,殷庆荣,高庆官,谢峥,
申请(专利权)人:南京赛宁信息技术有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。