一种自动驾驶训练防攻击方法技术

本申请提供一种自动驾驶训练防攻击方法，包括：基于标注内容建立检测模型和图片标签；提取图片特征计算图片的危险指数，所述提取图片特征计算图片的危险指数，具体包括：统计行人和车辆数目，识别图片中车辆所处的路面类型，计算图片的危险指数；判断处理上述图片的所有标注人是否有异常标注行为；统计标注人异常行为的类型及次数判断攻击类型；生成标注人账号可信度，剔除低可信度账号，所述生成标注人账号可信度，剔除低可信度账号，具体包括：计算标注人账号可信度，根据可信度对账号进行处理；根据标注人账号的详细度及可信度计算该账号的信用评分；基于账号信用评分为账号分配标注任务。注任务。注任务。

An anti attack method for autopilot training

【技术实现步骤摘要】
一种自动驾驶训练防攻击方法


[0001]本专利技术涉及信息
，尤其涉及一种自动驾驶训练防攻击方法。

技术介绍

[0002]随着科技的发展，汽车产业正在发生巨大的变革，人们对于汽车的要求正在提高，正在追逐以科技力量为出行带来便利的技术。尤其是人工智能、机器学习和深层神经网络等领域的日趋成熟，使得L5(SAE)级别的完全自动化的自动驾驶技术在不久的未来得以实现，可在所有的道路和环境条件下由无人驾驶系统完成所有的驾驶操作，人类驾驶者在可能的情况下可以通过操纵方向盘接管驾驶。自动驾驶过程中需要对障碍物、控制语音、视频跟踪等进行标注训练，但是很多时候这些工作是分配给一些劳动密集型地区的闲散人员。

技术实现思路

[0003]本专利技术提供了一种自动驾驶训练防攻击方法，主要包括：基于标注内容建立检测模型和图片标签；提取图片特征计算图片的危险指数；判断处理上述图片的所有标注人是否有异常标注行为；统计标注人异常行为的类型及次数判断攻击类型；生成标注人账号可信度，剔除低可信度账号；根据标注人账号的详细度及可信度计算该账号的信用评分；基于账号信用评分为账号分配标注任务；进一步可选地，所述基于标注内容建立检测模型和图片标签包括： 所述标注内容具体是指：交通标识、行人及车辆，其中交通标识具体包括：道路交通线、信号灯、指示牌、监控，在上述标注内容中，行人和车辆为危险因素，交通标识属于非危险因素；将预先采集的行人图片样本集作为训练集输入，通过决策树算法训练出行人检测模型，将待检测图象输入上述行人检测模型进行行人检测，检测但图像中存在行人时输出该图片的行人标签；将预先采集的车辆图片样本集作为训练集输入，通过SVM算法对神经网络模型进行训练，得到训练后神经网络模型，根据所述训练后神经网络模型对待检测图像进行车辆检测，输出图片的车辆标签；获取交通标识样本图像和非交通标识样本图像，建立训练样本图库，使用Haar小波特征对所述训练样本图库中的图像进行特征选择，将选择到的特征输入到三层感知器神经网络进行交通标识的综合训练，获得神经网络模型，所述神经网络模型输入的是图象，输出的是图象交通标识标签。
[0004]进一步可选地，所述提取图片特征计算图片的危险指数包括： 所述统计行人和车辆数目，具体包括：选取包含有行人标签和车辆标签的图片作为训练集输入，通过深度卷积神经网络进行训练，输出训练完成后的目标检测模型，将待检测的有标签的图片输入上述目标检测模型，输出检测结果并统计结果中监测到的行人和车辆的数目。
[0005]所述识别图片中车辆所处的路面类型，具体包括：获取不同路面的图片，从所述图片中提取路面特征，具体包括：利用深度神经网络对所述图片进行像素分析，从所述图片中分割出地面区域，利用所述深度神经网络从所述
地面区域中提取路面特征，通过朴素贝叶斯算法训练路面分类器，将待检测图片输入上述路面分类器，输出路面类型，所述路面类型包括：沥青路面、雪地、沙地、泥地。 所述计算图片的危险指数，具体包括：收集安全行车图片和危险行车图片作为训练集，所述危险行车图片为发生交通事故前拍摄到的车辆行驶图片，通过上述目标检测模型输出训练集中行人和车辆的数目，将行人数目、车辆数目、行人和车辆的比例、路面类型作为特征值作为输入，通过Logistic回归训练得到危险性预测模型，将待检测图片输入到上述危险性预测模型中，输出该图片的危险指数。根据危险指数的不同将图片分为三个危险等级：高危险，中危险，低危险。
[0006]进一步可选地，所述判断处理上述图片的所有标注人是否有异常标注行为包括： 获取上述有行人标签和车辆标签图片的标注人账号以及设定时间段内的标注记录，将所有上述图片中该标注人的标注与图片最终确定的标注进行一一比对，所述最终确定的标注指同一张图片多数人的标注结果，得到全部不一致的标注并判断错误类型，所述错误类型包括：将危险因素标注为非危险因素，记为错误类型一，将非危险因素标注为危险因素记为错误类型二，所述危险因素是指：标注内容中的行人和车辆，所述非危险因素是指：标注内容中的交通标识，预先设定允许每类错误发生次数的阈值，当其中任何一类错误超过该阈值时，则认为该标注人存在异常标注行为，会对其账号进行记录。
[0007]进一步可选地，所述统计标注人异常行为的类型及次数判断攻击类型包括： 统计规定时间段中标注人账号记录中异常行为的次数以及每次异常行为中错误类型一和错误类型二的次数，收集历史训练中遭受攻击的标注记录，将上述标注记录作为训练集，具体包括：异常行为次数，错误类型一的次数和错误类型二的次数以及所遭受到的攻击类型，所述攻击类型包括：恶意攻击、普通攻击、非攻击行为，通过线性回归算法训练攻击类型预测模型，将需要判断的账号记录输入到上述分类模型中得到所遭受的攻击类型，根据不同的攻击类型对该标注人的账号进行相应记录和处理，存在恶意攻击行为的账号直接禁用，存在普通攻击行为的账号通知管理员进行处理。
[0008]进一步可选地，所述生成标注人账号可信度，剔除低可信度账号包括： 所述计算标注人账号可信度，具体包括： 获取标注人账号在预设周期内的历史标注数据，根据所述历史标注数据获得标注人账号特征，所述标注人账号特征包括：预设周期内的工作时长、预设周期内的工作量，对上述特征指标进行归一化处理，获得归一化特征指标值，对所述标注人账号特征的归一化特征指标进行加权平均处理，获得标注人的基础可信度，根据所述标注人账号是否有异常标注行为：若存在异常标注行为，则根据所述异常标注行为在所述基础可信度的基础上进行调整，根据判定的攻击类型设定不同的调整数值，得到预设周期的内的标注人账号可信度，否则，根据基础可信度得到预设周期内的标注人账号的可信度。 所述根据可信度对账号进行处理，具体包括： 设定可信度的最低阈值，当账号的可信度低于所述阈值时，将对账号进行注销处理，不再参与训练标注过程。
[0009]进一步可选地，所述根据标注人账号的详细度及可信度计算该账号的信用评分包括：获取标注人账号的信息填写情况计算账号的详细度，所述账号详细度是指账号已填写信息与全部应填信息的比值，所述应填信息包括：姓名、性别、出生日期、国籍、有效证件号码、学历、联系方式、每天可标注的图片数量；确定上述各应填信息各自的权重，将已填
的信息记为1，未填的信息记为0，并根据所述权重进行加权平均值的计算，得到账号详细度；获取账号的可信度并赋予第一权重值，为账号详细度赋予第二权重值，所述第一权重值和第二权重值根据具体情况设定，根据账号的可信度和详细度及其对应的权重计算加权平均值记为该账号的信用评分并根据账号的信用评分高低确定其更新的周期，所述账号的信用评分越高对应的信用评分周期越长。 一种自动驾驶训练防攻击方法其特征在于，所述系统包括： 获取待标注图片，通过上述危险性预测模型对图片内容进行危险性评估，根据所得图片的危险指数对应的危险等级将图片分为高风险，中风险，低风险三个组别，根据账号的信用评分高低，为账号分配相应组别的图片，获取标注人账号中填写的每天可标注的图片数量，若未填写则获取该账号前一次标记任务记录的图片数量，本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种自动驾驶训练防攻击方法，其特征在于，所述方法包括： 基于标注内容建立检测模型和图片标签；提取图片特征计算图片的危险指数，所述提取图片特征计算图片的危险指数，具体包括：统计行人和车辆数目，识别图片中车辆所处的路面类型，计算图片的危险指数；判断处理上述图片的所有标注人是否有异常标注行为；统计标注人异常行为的类型及次数判断攻击类型；生成标注人账号可信度，剔除低可信度账号，所述生成标注人账号可信度，剔除低可信度账号，具体包括：计算标注人账号可信度，根据可信度对账号进行处理；根据标注人账号的详细度及可信度计算该账号的信用评分；基于账号信用评分为账号分配标注任务。2.根据权利要求1所述的方法，其中，所述基于标注内容建立检测模型和图片标签，包括: 所述标注内容具体是指：交通标识、行人及车辆，其中交通标识具体包括：道路交通线、信号灯、指示牌、监控，在上述标注内容中，行人和车辆为危险因素，交通标识属于非危险因素；将预先采集的行人图片样本集作为训练集输入，通过决策树算法训练出行人检测模型，将待检测图象输入上述行人检测模型进行行人检测，检测但图像中存在行人时输出该图片的行人标签；将预先采集的车辆图片样本集作为训练集输入，通过SVM算法对神经网络模型进行训练，得到训练后神经网络模型，根据所述训练后神经网络模型对待检测图像进行车辆检测，输出图片的车辆标签；获取交通标识样本图像和非交通标识样本图像，建立训练样本图库，使用Haar小波特征对所述训练样本图库中的图像进行特征选择，将选择到的特征输入到三层感知器神经网络进行交通标识的综合训练，获得神经网络模型，所述神经网络模型输入的是图象，输出的是图象交通标识标签。3.根据权利要求1所述的方法，其中，所述提取图片特征计算图片的危险指数，包括: 所述统计行人和车辆数目，具体包括： 选取包含有行人标签和车辆标签的图片作为训练集输入，通过深度卷积神经网络进行训练，输出训练完成后的目标检测模型，将待检测的有标签的图片输入上述目标检测模型，输出检测结果并统计结果中监测到的行人和车辆的数目； 所述识别图片中车辆所处的路面类型，具体包括： 获取不同路面的图片，从所述图片中提取路面特征，具体包括：利用深度神经网络对所述图片进行像素分析，从所述图片中分割出地面区域，利用所述深度神经网络从所述地面区域中提取路面特征，通过朴素贝叶斯算法训练路面分类器，将待检测图片输入上述路面分类器，输出路面类型，所述路面类型包括：沥青路面、雪地、沙地、泥地； 所述计算图片的危险指数，具体包括： 收集安全行车图片和危险行车图片作为训练集，所述危险行车图片为发生交通事故前拍摄到的车辆行驶图片，通过上述目标检测模型输出训练集中行人和车辆的数目，将行人数目、车辆数目、行人和车辆的比例、路面类型作为特征值作为输入，通过Logistic回归训练得到危险性预测模型，将待检测图片输入到上述危险性预测模型中，输出该图片的危险指数；根据危险指数的不同将图片分为三个危险等级：高危险，中危险，低危险。4.根据权利要求1所述的方法，其中，所述判断处理上述图片的所有标注人是否有异常标注行为，包括: 获取上述有行人标签和车辆标签图片的标注人账号以及设定时间段内的标注记录，将所有上述图片中该标注人的标注与图片最终确定的标注进行一一比对，所述最终确定的标注指同一张图片多数人的标注结果，得到全部不一致的标注并判断错误类型，所述错误类型包括：将危险因素标注为非危险因素，记为错误类型一，将非危险因素标注为危险因素...

【专利技术属性】
技术研发人员：熊常春，李海良，王敬贵，李国元，刘昂，吴江川，张富耕，
申请(专利权)人：深圳季连科技有限公司，
类型：发明
国别省市：