【技术实现步骤摘要】
本专利技术属于生成式人工智能信息安全，涉及一种生成式人工智能多态敏感拼图检测方法、装置及设备。
技术介绍
1、拼图在用户的发展和教育中发挥着积极的作用，通过将不同形状的碎片组合在一起，以辅助用户发展其空间意识、情绪控制能力和问题解决能力。然而将这些碎片组合在一起的无数种方式，为潜在的信息安全攻击提供了空间，这是一个不应被忽视的信息安全风险。用来恶意传递不安全的敏感内容的这些碎片组合，也即称为多态敏感拼图，敏感内容很容易造成用户的发展障碍。
2、随着生成式人工智能技术的发展与使用，通过简单地输入积极提示词和敏感提示词就可以更轻松有效地生成多态敏感拼图，而现有的敏感内容检测技术主要依赖于“显式”语义特征的代表性学习，不足以捕捉隐藏在多态敏感拼图中的“隐式”敏感分布。因此，针对生成式人工智能多态敏感拼图的检测分类是一个待解决的技术问题。
技术实现思路
1、针对上述传统方法中存在的问题，本专利技术提出了一种生成式人工智能多态敏感拼图检测方法、一种生成式人工智能多态敏感拼图检测装置以及一种计算机设备，能够针对生成式人工智能多态敏感拼图实现准确的检测分类。
2、为了实现上述目的，本专利技术实施例采用以下技术方案：
3、一方面，提供一种生成式人工智能多态敏感拼图检测方法，包括步骤：
4、获取待检测图像；
5、调用训练好的多态敏感图像特征提取模型；多态敏感图像特征提取模型为基于潜在分布和信息熵的特征提取模型，通过多态敏感图像数据集进行训练
6、将待检测图像输入多态敏感图像特征提取模型进行表征特征提取，得到待检测图像的语义特征值；
7、根据语义特征阈值和语义特征值的大小关系确定待检测图像为正常图像或敏感拼图。
8、另一方面，还提供一种生成式人工智能多态敏感拼图检测装置，包括：
9、数据获取模块，用于获取待检测图像；
10、模型调用模块，用于调用训练好的多态敏感图像特征提取模型；多态敏感图像特征提取模型为基于潜在分布和信息熵的特征提取模型，通过多态敏感图像数据集进行训练得到，多态敏感图像数据集由生成式人工智能模型预先构建；
11、特征提取模块，用于将待检测图像输入多态敏感图像特征提取模型进行表征特征提取，得到待检测图像的语义特征值；
12、检测输出模块，用于根据语义特征阈值和语义特征值的大小关系确定待检测图像为正常图像或敏感拼图。
13、又一方面，还提供一种计算机设备，包括存储器和处理器，存储器存储有计算机程序，处理器执行计算机程序时实现上述生成式人工智能多态敏感拼图检测方法的步骤。
14、上述技术方案中的一个技术方案具有如下优点和有益效果：
15、上述生成式人工智能多态敏感拼图检测方法、装置及设备，通过首先获取待检测图像后，调用训练好的基于潜在分布和信息熵的多态敏感图像特征提取模型进行特征提取，以将图像的特征信息统一映射到一个特征空间中，该特征空间可以视为一个超球面，最为稳定的常见正常语义特征收束往球体中心，敏感语义特征被区分并远离球体中心，从而显著提高了多态敏感拼图的检测准确率和效率。与传统技术相比，上述方案中的多态敏感图像由于包含敏感语义导致其潜在分布与正常语义之间的误差较大，从信息论的角度来看，多态敏感图像比正常图像包含更多的敏感语义分布，因此其信息熵更高。因此，通过从信息熵的角度出发最小化图像特征的信息熵分布，然后可以根据信息熵的高低精确区分多态敏感拼图和正常图像。
本文档来自技高网...【技术保护点】
1.一种生成式人工智能多态敏感拼图检测方法，其特征在于，包括步骤：
2.根据权利要求1所述的生成式人工智能多态敏感拼图检测方法，其特征在于，所述生成式人工智能模型包括文本-图像生成模型和文本到图像的扩散模型，所述多态敏感图像数据集的构建过程，包括：
3.根据权利要求1或2所述的生成式人工智能多态敏感拼图检测方法，其特征在于，所述多态敏感图像特征提取模型的训练过程，包括：
4.一种生成式人工智能多态敏感拼图检测装置，其特征在于，包括：
5.根据权利要求4所述的生成式人工智能多态敏感拼图检测装置，其特征在于，还包括数据集构建模块，用于获取提示词，将积极提示词输入文本-图像生成模型，生成正常类别拼图，将所述积极提示词和敏感提示词输入文本到图像的扩散模型，生成多态敏感拼图，对所述正常类别拼图和所述多态敏感拼图组成的数据集进行数据清洗过滤，得到所述多态敏感图像数据集；所述提示词包括所述积极提示词和所述敏感提示词，所述生成式人工智能模型包括文本-图像生成模型和文本到图像的扩散模型。
6.根据权利要求4或5所述的生成式人工智能多态敏感
7.一种计算机设备，包括存储器和处理器，所述存储器存储有计算机程序，其特征在于，所述处理器执行所述计算机程序时实现权利要求1至3中任一项所述生成式人工智能多态敏感拼图检测方法的步骤。
...【技术特征摘要】
1.一种生成式人工智能多态敏感拼图检测方法，其特征在于，包括步骤：
2.根据权利要求1所述的生成式人工智能多态敏感拼图检测方法，其特征在于，所述生成式人工智能模型包括文本-图像生成模型和文本到图像的扩散模型，所述多态敏感图像数据集的构建过程，包括：
3.根据权利要求1或2所述的生成式人工智能多态敏感拼图检测方法，其特征在于，所述多态敏感图像特征提取模型的训练过程，包括：
4.一种生成式人工智能多态敏感拼图检测装置，其特征在于，包括：
5.根据权利要求4所述的生成式人工智能多态敏感拼图检测装置，其特征在于，还包括数据集构建模块，用于获取提示词，将积极提示词输入文本-图像生成模型，生成正常类别拼图，将所述积极提示词和敏感提示词输入文本到图像的扩散模型，生成多态敏感拼图，对所述正常类别拼图和所述多态敏感拼图组成的数据集进行数据清洗过滤，...
【专利技术属性】
技术研发人员：蔡志平，王章栋，曾晖，周桐庆，刘强，刘志煌，谭熙晨，
申请(专利权)人：中国人民解放军国防科技大学，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。