System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本专利技术涉及数据处理,尤其涉及一种向量相似度确定方法及向量搜索方法。
技术介绍
1、为方便对文本、图像等数据进行处理,现有技术通常将数据进行向量化,通过向量对数据进行表示。向量通常为一维数组,用于存储同一种类型数据,例如机器学习中的特征向量,向量中的每个值表示对应维度的数值特征。向量包括稠密向量和稀疏向量两种,稠密向量指表示向量的一维数组中,全部或者绝大多数数值不为0的向量,大多数机器学习模型生成的特征向量稠密向量,如openai的text-embedding-ada-002模型、开源常用的word2vec模型等,稠密向量的维度一般在2000维以下;稀疏向量指表示向量的一维数组维度非常高,但绝大多数数值为0的向量,稀疏向量的维度一般在几十万甚至百万以上。
2、在稀疏向量与稠密向量联合搜索时,业界有如下两种经典做法:1、使用稀疏向量做粗排,以需要搜索top 10为例,使用稀疏向量计算相似度,搜索出100条数据作为候选集,对候选集使用稠密向量计算相似度做精排,最相似的10条数据作为最终结果。2、使用稀疏向量与稠密向量,分别计算相似度,搜索出top 10结果集,根据两个top 10结果集,计算数据的倒数排序融合rrf得分,取rrf得分最高的10条数据作为最终的结果集。
3、现有技术在计算相似度时稀疏向量和稠密向量作为两份独立的数据分别进行相似度的计算,无法同时考虑到两种数据在向量空间中的分布,导致相似度计算结果不够准确,从而影响搜索结果,导致搜索召回率较低。如何提高向量的相似度计算准确性成为有待解决的问题。<
...【技术保护点】
1.一种向量相似度确定方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,所述基于所述第一稠密稀疏向量和所述第二稠密稀疏向量计算第一相似度和第二相似度,包括:
3.根据权利要求2所述的方法,其特征在于,所述计算所述第一稀疏向量和所述第二稀疏向量的相似度,得到第二相似度,包括:
4.根据权利要求2所述的方法,其特征在于,所述第一相似度和第二相似度为内积相似度。
5.根据权利要求1所述的方法,其特征在于,所述根据所述第一相似度和所述第二相似度确定所述第一稠密稀疏向量和第二稠密稀疏向量的相似度,包括:
6.一种向量搜索方法,其特征在于,包括:
7.根据权利要求6所述的方法,其特征在于,构建所述分层可导航小世界的搜索图,包括:
8.根据权利要求7所述的方法,其特征在于,所述预分配的内存空间包括第一内存空间和第二内存空间;
9.根据权利要求8所述的方法,其特征在于,所述读取所述分层可导航小世界的搜索图中的待匹配稠密稀疏向量,包括:
10.根据权利要求7所述的方法,其特
11.根据权利要求10所述的方法,其特征在于,所述对预分配的内存空间进行合并,得到合并后的存储空间,包括:
12.根据权利要求11所述的方法,其特征在于,所述读取所述分层可导航小世界的搜索图中的待匹配稠密稀疏向量,包括:
13.一种向量相似度确定装置,其特征在于,包括:
14.一种向量搜索装置,其特征在于,包括:
15.一种电子设备,其特征在于,所述电子设备包括:
16.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现权利要求1-5中任一项所述的向量相似度确定方法或权利要求6-12中任一项所述的向量搜索方法。
...【技术特征摘要】
1.一种向量相似度确定方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,所述基于所述第一稠密稀疏向量和所述第二稠密稀疏向量计算第一相似度和第二相似度,包括:
3.根据权利要求2所述的方法,其特征在于,所述计算所述第一稀疏向量和所述第二稀疏向量的相似度,得到第二相似度,包括:
4.根据权利要求2所述的方法,其特征在于,所述第一相似度和第二相似度为内积相似度。
5.根据权利要求1所述的方法,其特征在于,所述根据所述第一相似度和所述第二相似度确定所述第一稠密稀疏向量和第二稠密稀疏向量的相似度,包括:
6.一种向量搜索方法,其特征在于,包括:
7.根据权利要求6所述的方法,其特征在于,构建所述分层可导航小世界的搜索图,包括:
8.根据权利要求7所述的方法,其特征在于,所述预分配的内存空间包括第一内存空间和第二内存空间;
<...【专利技术属性】
技术研发人员:刘熙,
申请(专利权)人:星环信息科技上海股份有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。