数据筛选方法技术

本发明专利技术公开了一种数据筛选方法

【技术实现步骤摘要】
数据筛选方法、装置、设备及存储介质


[0001]本专利技术涉及数据处理
，尤其涉及一种数据筛选方法
、
装置
、
设备及存储介质
。

技术介绍

[0002]在安检场景下，通过对物品智能化识别的方式判断待安检物品中是否存在违禁品
。
通常情况下，通过智能扫描仪器扫描物品图像，并由预先训练好的智能检测模型对物品图像中的违禁物品进行检测，从而判断物品图像中是否存在违禁品
。
因此，对违禁品的检测准确度往往取决于智能检测模型的模型训练准确度
。
[0003]在对智能检测模型进行训练的过程中，模型训练准确度和训练效率与样本训练集息息相关
。
现有技术通常直接采用带有违禁样品的图片作为样本训练集进行模型训练
。
然而，带有违禁品样本的数据量大但重复样本较多，从而会存在类别不平衡的问题，进而导致模型迭代速度慢
、
训练周期长
、
模型训练效果差
。
因此，如何精准的对数据样本进行筛选和压缩，实现训练筛选和压缩后的数据集的效果，与训练完整的数据集效果一样好，甚至更好，成为亟待解决的问题
。

技术实现思路

[0004]本专利技术提供了一种数据筛选方法
、
装置
、
设备及存储介质，以提高对样本数据集的筛选精准度
。
[0005]根据本专利技术的一方面，提供了一种数据筛选方法，所述方法包括：r/>[0006]获取待筛选样本数据集；所述待筛选样本数据集中包括多张样本图片；
[0007]根据所述样本图片的图片类别，确定待保留样本图片；
[0008]根据所述待保留样本图片，确定所述待筛选样本数据集中的剩余样本图片；
[0009]确定所述剩余样本图片的图片重要性得分；
[0010]若所述剩余样本图片的图片重要性得分满足预设的图片保留条件，则将所述剩余样本图片确定为目标样本图片；
[0011]生成包括所述待保留样本图片和所述目标样本图片的目标样本数据集
。
[0012]根据本专利技术的另一方面，提供了一种数据筛选装置，所述装置包括：
[0013]数据集获取模块，用于获取待筛选样本数据集；所述待筛选样本数据集中包括多张样本图片；
[0014]待保留图片确定模块，用于根据所述样本图片的图片类别，确定待保留样本图片；
[0015]剩余图片确定模块，用于根据所述待保留样本图片，确定所述待筛选样本数据集中的剩余样本图片；
[0016]重要性得分确定模块，用于确定所述剩余样本图片的图片重要性得分；
[0017]目标图片确定模块，用于若所述剩余样本图片的图片重要性得分满足预设的图片保留条件，则将所述剩余样本图片确定为目标样本图片；
[0018]目标数据集生成模块，用于生成包括所述待保留样本图片和所述目标样本图片的目标样本数据集
。
[0019]根据本专利技术的另一方面，提供了一种电子设备，所述电子设备包括：
[0020]至少一个处理器；以及
[0021]与所述至少一个处理器通信连接的存储器；其中，
[0022]所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行本专利技术任一实施例所述的数据筛选方法
。
[0023]根据本专利技术的另一方面，提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于使处理器执行时实现本专利技术任一实施例所述的数据筛选方法
。
[0024]本专利技术实施例技术方案通过获取待筛选样本数据集；待筛选样本数据集中包括多张样本图片；根据样本图片的图片类别，确定待保留样本图片；根据待保留样本图片，确定待筛选样本数据集中的剩余样本图片；确定剩余样本图片的图片重要性得分；若剩余样本图片的图片重要性得分满足预设的图片保留条件，则将剩余样本图片确定为目标样本图片；生成包括待保留样本图片和目标样本图片的目标样本数据集
。
上述技术方案通过根据图片类别，确定待保留样本图片，实现了对图片类别下的数据总量占比较少的样本图片的保留；通过确定剩余样本图片的图片重要性得分，并根据图片重要性得分对图片样本进行筛选，实现了对样本数据集的精准筛选，在对数据样本进行精准压缩的同时，保证样本数据集的全面性和完整性，从而使得后续使用筛选压缩后的样本进行模型训练时的模型训练准确度和模型训练精准度
。
[0025]应当理解，本部分所描述的内容并非旨在标识本专利技术的实施例的关键或重要特征，也不用于限制本专利技术的范围
。
本专利技术的其它特征将通过以下的说明书而变得容易理解
。
附图说明
[0026]为了更清楚地说明本专利技术实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本专利技术的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图
。
[0027]图1是根据本专利技术实施例一提供的一种数据筛选方法的流程图；
[0028]图2是根据本专利技术实施例二提供的一种数据筛选方法的流程图；
[0029]图3是根据本专利技术实施例三提供的一种数据筛选方法的流程图；
[0030]图4是根据本专利技术实施例四提供的一种数据筛选装置的结构示意图；
[0031]图5是实现本专利技术实施例的数据筛选方法的电子设备的结构示意图
。
具体实施方式
[0032]为了使本
的人员更好地理解本专利技术方案，下面将结合本专利技术实施例中的附图，对本专利技术实施例中的技术方案进行清楚
、
完整地描述，显然，所描述的实施例仅仅是本专利技术一部分的实施例，而不是全部的实施例
。
基于本专利技术中的实施例，本领域普通技术人
员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本专利技术保护的范围
。
[0033]需要说明的是，本专利技术的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序
。
应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本专利技术的实施例能够以除了在这里图示或描述的那些以外的顺序实施
。
此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程
、
方法
、
系统
、
产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程
、
方法
、
产品或设备固有的其它步骤或单元
。
[0034]实施例一
[0035]图本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.
一种数据筛选方法，其特征在于，包括：获取待筛选样本数据集；所述待筛选样本数据集中包括多张样本图片；根据所述样本图片的图片类别，确定待保留样本图片；根据所述待保留样本图片，确定所述待筛选样本数据集中的剩余样本图片；确定所述剩余样本图片的图片重要性得分；若所述剩余样本图片的图片重要性得分满足预设的图片保留条件，则将所述剩余样本图片确定为目标样本图片；生成包括所述待保留样本图片和所述目标样本图片的目标样本数据集
。2.
根据权利要求1所述的方法，其特征在于，所述根据所述样本图片的图片类别，确定待保留样本图片，包括：根据所述样本图片的图片类别，对所述待筛选样本数据集进行数据集划分，得到至少一个候选样本数据集；确定所述待筛选样本数据集中样本图片的第一图片数量，以及确定各所述候选样本数据集中样本图片的第二图片数量；根据所述第一图片数量和各所述第二图片数量，确定待保留样本图片
。3.
根据权利要求2所述的方法，其特征在于，所述根据所述第一图片数量和各所述第二图片数量，确定待保留样本图片，包括：确定所述候选样本数据集的数据集数量；根据所述第一图片数量和各所述第二图片数量，基于所述数据集数量，确定待保留样本数据集；将所述待保留样本数据集中的样本图片作为待保留样本图片
。4.
根据权利要求1所述的方法，其特征在于，所述确定所述剩余样本图片的图片重要性得分，包括：确定所述剩余样本图片的图片准确度得分；确定所述剩余样本图片的图片一致性得分；根据所述图片准确度得分和所述图片一致性得分，确定所述剩余样本图片的图片重要性得分
。5.
根据权利要求4所述的方法，其特征在于，所述确定所述剩余样本图片的图片准确度得分，包括：确定所述剩余样本图片的图片漏检得分；确定所述剩余样本图片的图片误判得分；根据所述图片漏检得分和所述图片误判得分，确定所述剩余样本图片的图片准确度得分
。6.
根据权利要求5所述的方法，其特征在于，所述方法还包括：将所述剩余样本图片输入至目标检测模型中，得到模型输出的样本预测图片；其中，所述剩余样本图片具有包括至少一个样本标准检测框和相应的样本标准类别的样本信息标签；所述目标检测模型由所述待筛选样本数据集输入至预设的网络模型中进行预先训练得到；所述样本预测图片包括至少一个样本预测检测框和相应的样本预测类别
。7.
根据权利要求6所述的方法，其特征在于，所述确定所述剩余样本图片的图片漏检得
分，包括：确定所述剩余样本图片的样本标准检测框的标准检测框数量；确定各所述样本标准检测框和所述样本预测检测框之间的检测框匹配度；确定各所述检测框匹配度中满足预设的框匹配度条件的框匹配数量；根据所述标准检测框数量和所述框匹配数量，确定所述剩余样本图片的图片漏检得分
。8.
根据权利要求6所述的方法，其特征在于，所...

【专利技术属性】
技术研发人员：周凯，李林超，权家新，温婷，
申请(专利权)人：浙江啄云智能科技有限公司，
类型：发明
国别省市：