【技术实现步骤摘要】
本专利技术属于数据处理，具体公开一种基于动态稀疏剪枝的神经网络加速器。
技术介绍
1、神经网络是一种模拟人脑神经元结构的计算模型，通过多层非线性变换处理输入数据，能够学习和捕捉复杂的模式和关系，广泛应用于图像识别、自然语言处理等任务。在运行过程中由于冗余连接、优化目标和计算资源限制等因素，神经网络中常出现不重要的节点，为了提高推理速度、保持模型精度，需要通过剪枝移除这些不重要的节点。为此需在运行过程中对神经网络中的节点进行权重计算，及时识别不重要的节点，这一过程通常借助加速器来高效完成。
2、在借助加速器进行节点权重计算时为了确保不遗漏任何重要节点，通常会对所有节点进行全面计算。然而，这种全面计算方式在资源利用上存在冗余，增加了加速器的计算负荷，特别是在计算资源受限的情况下，这种高负荷计算常常导致加速器的计算速度与神经网络模型的运行速度不同步，当加速器的计算速度低于模型的运行速度时，加速器会成为整个系统的性能瓶颈，难以及时识别和移除不重要的节点，进一步影响了剪枝的及时性和有效性，从而限制了模型的整体运行效率。
3、另外在基于节点权重计算结果进行剪枝操作时通常在检测到权重低于设定阈值时立即执行剪枝。然而，这种立即执行的剪枝操作没有考虑到当前权重低于阈值的出现是否具有偶然性，如果某个节点前期一直保持较高的权重，不具备冗余趋势，而仅在当前时刻出现权重低于阈值的情况，此时进行剪枝可能会导致误剪，误剪的节点在后续恢复时会增加不必要的恢复时长，影响剪枝操作的有效性和模型的稳定性。此外，频繁的剪枝和恢复操作可能干扰模型
技术实现思路
1、鉴于此，本专利技术旨在提出一种基于动态稀疏剪枝的神经网络加速器，通过在加速器对神经网络节点的权重计算中进行计算任务分配优化，并增加剪枝执行的综合评判，有效解决上述
技术介绍
中所提出的问题。
2、本专利技术的目的可以通过以下技术方案实现：本专利技术提出一种基于动态稀疏剪枝的神经网络加速器，包括下述模块：运行速度检测模块，用于在神经网络运行过程中实时检测模型运行速度。
3、计算速度检测模块，用于在加速器对神经网络各层级内节点进行权重计算时按照模型运行速度的检测频率检测计算速度。
4、对比分析模块，用于将同时检测的模型运行速度与加速器计算速度对比。
5、权重计算初始调整模块，用于当加速器计算速度低于模型运行速度时获取当前需求权重计算的节点记为当前节点，进而进行当前节点的部分权重计算。
6、权重调整对比分析模块，用于在当前节点的部分权重计算后继续将同时检测的模型运行速度与加速器计算速度对比。
7、关键节点权重计算模块，用于当加速器计算速度仍低于模型运行速度时调取历史剪枝记录，据此筛选出关键节点，进而进行关键节点的权重计算。
8、需求剪枝节点筛选模块，用于在神经网络各层级内节点的权重计算中识别出冗余节点时构建冗余节点的历史权重时序集进行冗余趋势分析，由此筛选出需求剪枝节点。
9、剪枝操作模块，用于对筛选出的需求剪枝节点进行剪枝操作。
10、相较于现有技术，本专利技术的有益效果如下：1、本专利技术通过在神经网络运行过程中实时检测运行速度和加速器的计算速度，并在检测到计算速度低于运行速度时动态调整权重指标和节点范围的计算任务，实现了加速器计算任务的优化分配，这种方法能够在计算资源紧张的情况下最大限度地保证运行速度和计算速度的同步，同时不会显著影响对需要剪枝节点的识别，不仅能够提高系统的整体性能和实时性，还能降低计算开销，增强系统的鲁棒性和适应性。
11、2、本专利技术在基于节点的权重计算初次识别到权重低于阈值时调取相应节点的历史权重计算结果进行冗余趋势分析，由此进行剪枝需求评判，一方面在一定程度上降低了误剪发生率，提高剪枝的准确性，确保模型在剪枝后仍能保持较高的精度和性能，另一方面避免不必要的剪枝和恢复操作，减少计算资源的浪费，提高资源利用效率。
本文档来自技高网...【技术保护点】
1.一种基于动态稀疏剪枝的神经网络加速器，其特征在于,包括以下模块：
2.如权利要求1所述的一种基于动态稀疏剪枝的神经网络加速器，其特征在于：所述进行当前节点的部分权重计算参见下述过程：
3.如权利要求2所述的一种基于动态稀疏剪枝的神经网络加速器，其特征在于：所述资源消耗指数计算如下过程：
4.如权利要求1所述的一种基于动态稀疏剪枝的神经网络加速器，其特征在于：所述调取历史剪枝记录还包括下述操作：
5.如权利要求4所述的一种基于动态稀疏剪枝的神经网络加速器，其特征在于：所述关键节点如下筛选过程:
6.如权利要求2所述的一种基于动态稀疏剪枝的神经网络加速器，其特征在于：所述识别出冗余节点如下过程：
7.如权利要求6所述的一种基于动态稀疏剪枝的神经网络加速器，其特征在于：所述构建冗余节点的历史权重时序集如下操作：
8.如权利要求7所述的一种基于动态稀疏剪枝的神经网络加速器，其特征在于：所述冗余趋势分析参见下述过程：
9.如权利要求8所述的一种基于动态稀疏剪枝的神经网络加速器，其特征在于：所
10.如权利要求1所述的一种基于动态稀疏剪枝的神经网络加速器，其特征在于：所述剪枝操作模块还包括下述过程：
...【技术特征摘要】
1.一种基于动态稀疏剪枝的神经网络加速器，其特征在于,包括以下模块：
2.如权利要求1所述的一种基于动态稀疏剪枝的神经网络加速器，其特征在于：所述进行当前节点的部分权重计算参见下述过程：
3.如权利要求2所述的一种基于动态稀疏剪枝的神经网络加速器，其特征在于：所述资源消耗指数计算如下过程：
4.如权利要求1所述的一种基于动态稀疏剪枝的神经网络加速器，其特征在于：所述调取历史剪枝记录还包括下述操作：
5.如权利要求4所述的一种基于动态稀疏剪枝的神经网络加速器，其特征在于：所述关键节点如下筛选过程:
6.如权利...
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。