【技术实现步骤摘要】
本专利技术涉及图像处理，特别涉及一种基于注意力机制和知识蒸馏的图像分类方法。
技术介绍
1、图像分类是计算机领域的一个核心任务，是将输入的图像自动分配到一个或多个预定义的类别中，随着深度学习和计算能力的快速发展，图像分类技术已经取得了显著的进步，同时也为也为其他领域如医疗影像分析、自动驾驶、智能监控和增强现实等提供了便利；
2、但是，传统的图像分类方法在处理复杂场景和大规模数据时仍存在一些问题，如准确率不高、泛化能力弱等，从而大大降低了对图像的分类效果；
3、因此，为了克服上述缺陷，本专利技术提供了一种基于注意力机制和知识蒸馏的图像分类方法。
技术实现思路
1、本专利技术提供一种基于注意力机制和知识蒸馏的图像分类方法，用以通过构建教师模型和学生模型，并通过历史训练图像先对教师模型进行训练，确保教师模型能够准确得到对图像进行分类的机制，其次，通过将注意力机制和学生模型进行封装，便于通过注意力机制对待分类图像进行关键特征以及关键图像区域进行锁定，从而便于提高学生模型对待分类图像处理的准确性以及效果，同时，通过教师模型和历史训练图像对注意力机制与学生模型的封装结果进行训练，实现将教师模型中的图像分类准则和策略有效传递至学生模型，确保了封装结果对待分类图像的处理效果，同时也确保了封装结果的准确可靠性，最后，通过训练得到的图像分类预测模型对待分类图像进行分析和处理，实现对待分类图像进行准确有效的分类，保障了分类结果的准确性以及可靠性。
2、本专利技术提供了
3、步骤1：基于知识蒸馏构建教师模型和学生模型，并基于历史训练图像对教师模型进行第一训练；
4、步骤2：将注意力机制与学生模型进行封装，并基于第一训练结果和历史训练图像对封装结果进行第二训练，得到图像分类预测模型；
5、步骤3：基于图像分类预测模型对待分类图像进行分析和处理，得到对待分类图像的图像分类结果。
6、优选的，一种基于注意力机制和知识蒸馏的图像分类方法，步骤1中，构建教师模型和学生模型，包括：
7、基于管控终端获取执行项目，并对执行项目进行解析，得到业务基本信息；
8、基于业务基本信息确定待构建模型的应用场景以及运算要求，并基于应用场景和运算要求得到待构建模型的参考指标；
9、基于参考指标对预设模型库中的多类别条目进行全局遍历，并基于全局遍历结果得到模型框架；
10、基于知识蒸馏要求对模型框架进行重构和优化，得到初始的教师模型和学生模型。
11、优选的，一种基于注意力机制和知识蒸馏的图像分类方法，步骤1中，基于历史训练图像对教师模型进行第一训练，包括：
12、对图像库进行访问，并基于访问结果调取历史训练图像，且对历史训练图像进行特征提取，得到图像特征集；
13、获取教师模型的模型层级结构，并基于模型层级结构对教师模型进行结构拆分，得到子教师模型块；
14、基于图像特征集分别对子教师模型块进行n次迭代训练，并确定每一子教师模型块在每一次迭代训练后的模型损失值；
15、基于模型损失值从n次迭代训练结果中选取最优子教师模型块，并基于教师模型的执行逻辑将最优子教师模型块进行关联，完成对教师模型的第一训练。
16、优选的，一种基于注意力机制和知识蒸馏的图像分类方法，基于模型损失值从n次迭代训练结果中选取最优子教师模型块，包括：
17、获取得到的最优子教师模型块，并基于模型层级结构分别确定最优子教师模型的作用权重；
18、基于作用权重分别确定各最优子教师模型块对学生模型的关键传递知识，并基于关键传递知识确定对各最优子教师模型块对学生模型的联合训练机制；
19、将联合训练机制转换为模型训练引导文件，并对模型训练引导文件进行记录留存。
20、优选的，一种基于注意力机制和知识蒸馏的图像分类方法，步骤2中，将注意力机制与学生模型进行封装，包括：
21、基于学生模型的结构和任务需求调度注意力机制，并确定注意力机制的工作属性；
22、基于工作属性确定注意力机制与学生模型的对接阶段，并基于对接阶段在学生模型对注意力机制分配对接接口；
23、基于对接接口将注意力机制与学生模型进行对接，并基于工作属性对对接后的注意力机制和学生模型进行工作流适配；
24、基于适配结果将注意力机制与学生模型进行封装，得到注意力引导机制。
25、优选的，一种基于注意力机制和知识蒸馏的图像分类方法，步骤2中，基于第一训练结果和历史训练图像对封装结果进行第二训练，得到图像分类预测模型，包括：
26、获取对注意力机制与学生模型的封装结果，并随机从第一训练结果对应的教师模型中提取已知数量的教师模型参数，且基于已知数量的教师模型参数对封装结果进行参数初始化；
27、基于参数初始化结果分别提取教师模型和封装结果的多尺度像素间关系，并基于注意力机制对多尺度像素间关系进行分析，分别得到教师模型和封装结果的多维度特征表示；
28、基于多维度特征表示得到教师模型与封装结果的模型差异，并基于模型差异确定蒸馏损失；
29、基于封装结果的模型损失函数对蒸馏损失进行m次处理，并将每一次的处理结果作为第一训练参数；
30、将历史训练图像分别与第一训练参数进行关联，并基于关联结果对封装结果进行m次处理，得到收敛封装结果，且将收敛封装结果作为最终的图像分类预测模型。
31、优选的，一种基于注意力机制和知识蒸馏的图像分类方法，将收敛封装结果作为最终的图像分类预测模型，包括：
32、获取得到的图像分类预测模型，并将预设的测试图像集输入至图像分类预测模型进行处理；
33、基于处理结果确定图像分类预测模型的多维性能指标值，并在多维性能指标值均满足预设的阈值时，触发对图像分类预测模型的部署机制；
34、基于部署机制获取部署环境，并基于图像分类预测模型的运行要求对部署环境进行适配；
35、基于适配结果对图像分类预测模型进行部署。
36、优选的，一种基于注意力机制和知识蒸馏的图像分类方法，步骤3中，基于图像分类预测模型对待分类图像进行分析和处理，得到对待分类图像的图像分类结果，包括：
37、获取待分类图像，并将待分类图像依次输入至图像分类预测模型；
38、对待分类图像进行区域分割，并基于区域分割结果分别确定每一区域的图像特征；
39、基于注意力机制对图像特征进行分析，得到待分类图像的空间信息，并基于空间信息和图像特征确定不同图像区域的注意力权重；
40、基于注意力权重得到待分类图像的同尺度注意力图，并将同尺度注意力图与待分类图像进行叠加可视化；
41、基于叠加可视化结果得到关键图像区域，并基于图像分类预测模型中的学生模型提取关本文档来自技高网...
【技术保护点】
1.一种基于注意力机制和知识蒸馏的图像分类方法，其特征在于，包括：
2.根据权利要求1所述的一种基于注意力机制和知识蒸馏的图像分类方法，其特征在于，步骤1中，构建教师模型和学生模型，包括：
3.根据权利要求1所述的一种基于注意力机制和知识蒸馏的图像分类方法，其特征在于，步骤1中，基于历史训练图像对教师模型进行第一训练，包括：
4.根据权利要求3所述的一种基于注意力机制和知识蒸馏的图像分类方法，其特征在于，基于模型损失值从N次迭代训练结果中选取最优子教师模型块，包括：
5.根据权利要求1所述的一种基于注意力机制和知识蒸馏的图像分类方法，其特征在于，步骤2中，将注意力机制与学生模型进行封装，包括：
6.根据权利要求1所述的一种基于注意力机制和知识蒸馏的图像分类方法，其特征在于，步骤2中，基于第一训练结果和历史训练图像对封装结果进行第二训练，得到图像分类预测模型，包括：
7.根据权利要求6所述的一种基于注意力机制和知识蒸馏的图像分类方法，其特征在于，将收敛封装结果作为最终的图像分类预测模型，包括：
8.
9.根据权利要求8所述的一种基于注意力机制和知识蒸馏的图像分类方法，其特征在于，得到对待分类图像的图像分类结果，包括：
10.根据权利要求1所述的一种基于注意力机制和知识蒸馏的图像分类方法，其特征在于，步骤3中，得到对待分类图像的图像分类结果，包括：
...【技术特征摘要】
1.一种基于注意力机制和知识蒸馏的图像分类方法，其特征在于，包括：
2.根据权利要求1所述的一种基于注意力机制和知识蒸馏的图像分类方法，其特征在于，步骤1中，构建教师模型和学生模型，包括：
3.根据权利要求1所述的一种基于注意力机制和知识蒸馏的图像分类方法，其特征在于，步骤1中，基于历史训练图像对教师模型进行第一训练，包括：
4.根据权利要求3所述的一种基于注意力机制和知识蒸馏的图像分类方法，其特征在于，基于模型损失值从n次迭代训练结果中选取最优子教师模型块，包括：
5.根据权利要求1所述的一种基于注意力机制和知识蒸馏的图像分类方法，其特征在于，步骤2中，将注意力机制与学生模型进行封装，包括：
6.根据权利要求1所述的一种基于注意力机制和知识蒸馏的图像分...
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。