处理器实施的神经网络方法和神经网络设备技术

公开了处理器实施的神经网络方法和神经网络设备。一种处理器实施的神经网络方法包括：接收与神经网络操作对应的事件和用于执行神经网络操作的控制程序；基于所述事件和控制程序来检测丢失事件；和基于检测的结果来生成神经网络操作的配置文件。神经网络操作的配置文件。神经网络操作的配置文件。

【技术实现步骤摘要】
处理器实施的神经网络方法和神经网络设备
[0001]本申请要求于2020年9月8日在韩国知识产权局提交的第10
‑
2020
‑
0114564号韩国专利申请的权益，所述韩国专利申请的全部公开出于所有目的通过引用包含于此。


[0002]下面的描述涉及具有神经网络剖析的方法和设备。

技术介绍

[0003]在仿真器推断的情况下，可通过将神经处理单元(NPU)的寄存器传输级(register
‑
transfer level，RTL)上传到仿真器和执行仿真器并执行推断的板(board)中，并且通过在推断完成之后下载日志，然后通过使用剖析数据进行解析而执行剖析(profiling)，来对NPU执行剖析。
[0004]在目标推断的情况下，可通过在移动电话内核驱动器端连接NPU的硬件事件信号和ARM系统跟踪宏单元(STM)来在推断期间获得事件信息。
[0005]这样的方法可需要数据后处理过程，并且由于大容量的日志文件而使用大量时间执行剖析。此外，可能不容易确定在当前执行推断的神经网络中执行的部分，并且当事件日志丢失时，剖析数据可能不准确。

技术实现思路

[0006]提供本
技术实现思路
以简要的形式介绍在在以下具体实施方式中进一步描述的构思的选择。本
技术实现思路
不意在确定要求保护的主题的关键特征或必要特征，也不意在用于帮助确定要求保护的主题的范围。
[0007]在一个总体方面，一种处理器实施的神经网络方法包括：接收与神经网络操作对应的事件和用于执行神经网络操作的控制程序；基于所述事件和控制程序来检测丢失事件；和基于检测的结果来生成神经网络操作的配置文件。
[0008]所述事件可包括：神经网络操作的开始事件和结束事件。
[0009]控制程序可包括：神经网络操作的执行序列。
[0010]检测的步骤可包括：确定所述事件是否与控制程序中包括的执行序列匹配；和基于确定的结果来检测丢失事件。
[0011]生成的步骤可包括：确定丢失事件的类型；和通过基于确定的类型补偿丢失事件来生成配置文件。
[0012]通过基于类型补偿丢失事件来生成配置文件的步骤可包括：响应于丢失事件的类型为开始事件，在通过从丢失事件的后一事件减去第一时间量而确定的时间处将开始事件插入配置文件中。
[0013]后一事件可以是结束事件。
[0014]通过基于类型补偿丢失事件来生成配置文件的步骤可包括：响应于丢失事件的类型为结束事件，确定神经网络操作是否与对应于另一操作的事件重叠；和基于确定的结果
将结束事件插入配置文件中。
[0015]将结束事件插入的步骤可包括：响应于确定神经网络操作与对应于所述另一操作的事件重叠，在重叠开始的部分中插入结束事件。
[0016]将结束事件插入的步骤可包括：响应于确定神经网络操作不与对应于所述另一操作的事件重叠，在通过从丢失事件的后一事件减去第二时间量而确定的时间处插入结束事件。
[0017]所述方法可包括：基于生成的配置文件来优化神经网络操作；和使用优化的神经网络操作来执行推断，其中，神经网络操作可包括卷积、填充、池化和重新格式化中的任何一个。
[0018]一种非暂时性计算机可读存储介质可存储指令，所述指令在由处理器执行时，配置处理器执行所述方法。
[0019]在另一总体方面，一种神经网络设备包括：接收器，被配置为：接收与神经网络操作对应的事件和用于执行神经网络操作的控制程序；和处理器，被配置为：基于所述事件和控制程序来检测丢失事件；和基于检测的结果来生成神经网络操作的配置文件。
[0020]所述事件可包括：神经网络操作的开始事件和结束事件。
[0021]控制程序可包括：神经网络操作的执行序列。
[0022]为了所述检测，处理器可被配置为：确定所述事件是否与控制程序中包括的执行序列匹配；和基于确定的结果来检测丢失事件。
[0023]为了所述生成，处理器可被配置为：确定丢失事件的类型；和通过基于确定的类型补偿丢失事件来生成配置文件。
[0024]为了通过基于类型补偿丢失事件来生成配置文件，处理器可被配置为：响应于丢失事件的类型为开始事件，在通过从丢失事件的后一事件减去第一时间量而确定的时间处将开始事件插入配置文件中。
[0025]为了通过基于类型补偿丢失事件来生成配置文件，处理器可被配置为：响应于丢失事件的类型为结束事件，确定神经网络操作是否与对应于另一操作的事件重叠；和基于确定的结果将结束事件插入配置文件中。
[0026]为了将结束事件插入，处理器可被配置为：响应于确定神经网络操作与对应于所述另一操作的事件重叠，在重叠开始的部分中插入结束事件。
[0027]为了将结束事件插入，处理器可被配置为：响应于确定神经网络操作不与对应于所述另一操作的事件重叠，在通过从丢失事件的后一事件减去第二时间量而确定的时间处插入结束事件。
[0028]在另一总体方面，一种处理器实施的神经网络方法包括：通过确定与神经网络操作对应的事件不与用于执行神经网络操作的控制程序中包括的执行序列匹配，来检测丢失事件；和通过基于丢失事件的类型插入配置文件的丢失事件来生成神经网络操作的配置文件。
[0029]从下面的具体实施方式、附图和权利要求，其他特征和方面将是清楚的。
附图说明
[0030]图1示出剖析(profiling)设备的示例。
[0031]图2示出神经网络处理系统的示例。
[0032]图3示出剖析设备的操作的示例。
[0033]图4示出由剖析设备执行以补偿丢失事件的操作的示例。
[0034]图5示出由剖析设备执行的可视化的示例。
[0035]图6示出由剖析设备执行的剖析方法的示例。
[0036]贯穿附图和具体实施例，除非另外描述或提供，否则相同的附图参考标号将被理解为表示相同的元件、特征和结构。附图可不按比例，并且为了清楚、说明和方便，附图中的元件的相对尺寸、比例和描绘可被夸大。
具体实施方式
[0037]提供下面的具体实施方式以帮助读者获得对在此描述的方法、设备和/或系统的全面理解。然而，在理解本申请的公开之后，在此描述的方法、设备和/或系统的各种改变、修改和等同物将是清楚的。例如，除了必须以特定次序发生的操作之外，在此描述的操作顺序仅是示例，并不限于在此阐述的那些顺序，而是可如在理解本申请的公开之后将是清楚地那样被改变。此外，为了更加清楚和简明，在理解本申请的公开之后已知的特征的描述可被省略。
[0038]在此描述的特征可以以不同的形式被实现，而不应被解释为限于在此描述的示例。相反，在此描述的示例已被提供，以仅示出实现在理解本申请的公开之后将是清楚的在此描述的方法、设备和/或系统的许多可行方式中的一些可行方式。
[0039]贯穿说明书，当组件被描述为“在”另一组件“上”、“连接到”或“结合到”另一组件时，它可直接“连接到”或“结合到”所述本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种处理器实施的神经网络方法，包括：接收与神经网络操作对应的事件和用于执行神经网络操作的控制程序；基于所述事件和控制程序来检测丢失事件；和基于检测的结果来生成神经网络操作的配置文件。2.根据权利要求1所述的方法，其中，所述事件包括：神经网络操作的开始事件和结束事件。3.根据权利要求1所述的方法，其中，控制程序包括：神经网络操作的执行序列。4.根据权利要求1所述的方法，其中，检测的步骤包括：确定所述事件是否与控制程序中包括的执行序列匹配；和基于确定的结果来检测丢失事件。5.根据权利要求1至4中的任一项所述的方法，其中，生成的步骤包括：确定丢失事件的类型；和通过基于确定的类型补偿丢失事件来生成配置文件。6.根据权利要求5所述的方法，其中，通过基于类型补偿丢失事件来生成配置文件的步骤包括：响应于丢失事件的类型为开始事件，在通过从与丢失事件的后一事件对应的时间减去第一时间量而确定的时间处将开始事件插入配置文件中。7.根据权利要求6所述的方法，其中，后一事件是结束事件。8.根据权利要求5所述的方法，其中，通过基于类型补偿丢失事件来生成配置文件的步骤包括：响应于丢失事件的类型为结束事件，确定神经网络操作是否与对应于另一操作的事件重叠；和基于确定的结果将结束事件插入配置文件中。9.根据权利要求8所述的方法，其中，将结束事件插入的步骤包括：响应于确定神经网络操作与对应于所述另一操作的事件重叠，在重叠开始的部分中插入结束事件。10.根据权利要求8所述的方法，其中，将结束事件插入的步骤包括：响应于确定神经网络操作不与对应于所述另一操作的事件重叠，在通过从与丢失事件的后一事件对应的时间减去第二时间量而确定的时间处插入结束事件。11.根据权利要求1至4中的任一项所述的方法，还包括：基于生成的配置文件来优化神经网络操作；和使用优化的神经网络操作来执行推断，其中，神经网络操作包括卷积、填充、池化和重新格式化中的任何一个。12.一种存储指令的非暂时性计算机可读存储介质，所述指令在由处理器执行时，配置处理器执行根据权利要求1至11中的任一项所述的方法。...

【专利技术属性】
技术研发人员：池炯卓，
申请(专利权)人：三星电子株式会社，
类型：发明
国别省市：