【技术实现步骤摘要】
【国外来华专利技术】使用已登记生物特征数据集检测基于生物特征的认证系统中的敌对实例
技术介绍
[0001]敌对机器学习是在机器学习领域中采用的技术,其尝试通过恶意输入欺骗机器学习模型。最近的研究表明,深度神经网络对敌对实例很敏感。敌对实例是带有恶意专门精心制作的输入。对于被训练以对图像中的对象进行分类的网络,可能生成敌对实例,其目的是将属于一个类别的对象错误地分类到另一类别,例如一个人修改其图像以模仿另一个人。敌对实例的实例包括狗的机器弱化图像在计算机和人两者看起来都像猫,以及扰动停车标志的外观以使得自主车辆会将所述停车标志替代地分类为汇合或限速标志。
[0002]在过去几年中,已经公布了针对深度神经网络生成敌对实例的若干不同方法。还开发了用以防御使用这些方法中的一些精心制作的敌对实例的技术。然而,鉴于对防御方法的了解,这些防御技术中的大多数可能很容易被打破。
[0003]因此,需要提供一种用于检测敌对实例的改进的系统和方法。
技术实现思路
[0004]各种实施例提供用于使用已登记生物特征数据集检测敌对实例来改进基于生物特征的认证系统的安全性的方法和系统。实施例的各方面包括在基于生物特征的认证系统的登记阶段期间接收已登记用户的已登记生物特征样本。通过将学到的扰动添加到已登记用户的已登记生物特征样本来创建扩增生物特征样本。在认证请求期间,从声称是所述已登记用户的第二用户接收所提交生物特征样本。基于预定义度量将第二用户的所提交生物特征样本与已登记生物特征样本进行比较且与已登记用户的扩增生物特征样本进行比较。基于所述比较,确定第二用户的 ...
【技术保护点】
【技术特征摘要】
【国外来华专利技术】1.一种用于改进基于生物特征的认证系统的安全性的计算机实施的方法,包括:由一个或多个服务器在所述基于生物特征的认证系统的登记阶段期间接收已登记用户的已登记生物特征样本;由所述一个或多个服务器通过将学到的扰动添加到所述已登记用户的所述已登记生物特征样本来创建扩增生物特征样本;由所述一个或多个服务器在认证请求期间从声称是所述已登记用户的第二用户接收所提交生物特征样本;由所述一个或多个服务器基于预定义度量将所述第二用户的所述所提交生物特征样本与所述已登记生物特征样本进行比较且与所述已登记用户的所述扩增生物特征样本进行比较;以及基于所述比较,由所述一个或多个服务器确定所述第二用户的所述所提交生物特征样本已被修改为模仿所述已登记用户。2.根据权利要求1所述的方法,其中在所述登记阶段期间接收所述已登记用户的所述已登记生物特征样本还包括:将函数f(
·
)应用于所述已登记生物特征样本x
i
,以生成生物特征模板f(x
i
)。3.根据权利要求2所述的方法,还包括:将所述已登记生物特征样本x
i
、所述生物特征模板f(x
i
)和所述扩增生物特征样本存储为已登记生物特征数据集。4.根据权利要求2所述的方法,其中从所述第二用户接收所述所提交生物特征样本还包括:将所述函数f(
·
)应用于所述所提交生物特征样本x',以生成生物特征模板f(x'),从而将所述x
i
和所述x'投影到共同嵌入子空间。5.根据权利要求2所述的方法,其中基于预定义度量将所述第二用户的所述所提交生物特征样本与所述已登记生物特征样本进行比较且与所述已登记用户的所述扩增生物特征样本进行比较还包括:计算所述已登记用户的所述生物特征模板f(x
i
)与所述生物特征模板f(x')之间的距离;以及响应于确定所述距离小于第一阈值,临时授权所述认证请求。6.根据权利要求5所述的方法,其中仅响应于所述认证请求被临时授权而激活确定所述第二用户的所述所提交生物特征样本已被修改。7.根据权利要求6所述的方法,还包括:响应于所述认证请求被临时授权,由敌对扰动检测器接收所述已登记用户的所述已登记生物特征样本x
i
和所述第二用户的所述所提交生物特征样本,其中所述所提交生物特征样本包括扰动敌对样本x'+Δx';以及响应于检测到任何扰动,拒绝所述第二用户的所述认证请求,否则,批准所述认证请求且授权所述第二用户。8.根据权利要求7所述的方法,其中确定检测到任何扰动还包括:将函数k(
·
)应用于所述已登记生物特征样本x
i
和所述扰动敌对样本x'+Δx'两者,以生成生物特征模板k(x
i
)和生物特征模板k(x'+Δx'),所述生物特征模板在变换后子空间中;计算所述变换后子空间中的生物特征模板k(x
i
)与所述生物特征模板k(x'+Δx')之间
的距离F;以及当所述距离F大于第二阈值t'从而指示已检测到一个或多个扰动时,确定所述生物特征模板k(x'+∑Δx')是敌对的。9.根据权利要求8所述的方法,其中所述已登记生物特征样本x
i
包括扩增生物特征样本xi',使得所述已登记生物特征样本xi=[xi,xi'],并且其中使用并行模型和顺序模型中的一个将所述已登记生物特征样本的所述x
i
和x
i
'输入到所述函数k(
·
)。10.根据权利要求8所述的方法,还包括:生成训练已登记生物特征模板k(x
i
)、训练公共生物特征模板k(x)和训练扰动敌对模板k(x'+Δx');将训练实例输入到所述函数k(
·
),其中k(
·
)具有可学习参数θ,以生成训练已登记生物特征模板(x
i
)、训练公共生物特征模板k(x)和训练扰动敌对模板k(x'+Δx');由具有可学习参数σ的分类器基于所述训练已登记生物特征模板k(x
i
)将所述训练扰动敌对模板k(x'+Δx')分类为1且将所述训练公共生物特征模板k(x)分类为0;以及基于所述分类的结果,更新所述可学习参数θ和σ。11.一种非瞬态计算机可读介质,其上存储有软件指令,所述软件指令在由处理器执行时使所述处理器改进基于生物特征的认证系统的安全性,所述指令包括:由一个或多个服务器在所述基于生物特征的认证系统的登记阶段期间接收已登记用户的已登记生...
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。