本公开提供了一种眼动跟踪方法、装置、显示设备、存储介质和程序产品,涉及计算机技术领域。其中,眼动跟踪方法包括:响应于接收到的脉冲信号,将所述脉冲信号输入眼动跟踪模型,由所述眼动跟踪模型输出与所述脉冲信号对应的眼动跟踪信息,所述脉冲信号根据采集到的光流信号进行转换生成,所述光流信号包括反映眼动的光流信息,所述眼动跟踪模型基于脉冲神经网络生成。通过本公开的技术方案,不需要采用复杂的图像处理算法从捕获的图像中提取有用的眼动信息,并且更接近生物神经系统的工作原理,眼动跟踪模型的高时间分辨率和低能耗特性,也有助于实现更高精度和更低功耗的实时跟踪眼动。
【技术实现步骤摘要】
所属的技术人员能够理解,本公开的各个方面可以实现为系统、方法或程序产品。因此,本公开的各个方面可以具体实现为以下形式,即:完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等),或硬件和软件方面结合的实施方式,这里可以统称为“电路”、“模块”或“系统”。下面参照图6来描述根据本公开的这种实施方式的眼动跟踪装置600。图6所示的眼动跟踪装置600仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。眼动跟踪装置600以硬件模块的形式表现。眼动跟踪装置600的组件可以包括但不限于:跟踪模块602,用于响应于接收到的脉冲信号,将脉冲信号输入眼动跟踪模型,由眼动跟踪模型输出与脉冲信号对应的眼动跟踪信息,脉冲信号根据采集到的光流信号进行转换生成,光流信号包括反映眼动的光流信息,眼动跟踪模型基于脉冲神经网络生成。下面参照图7来描述根据本公开的这种实施方式的头戴式显示设备700。图7显示的头戴式显示设备700仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。如图7所示,头戴式显示设备700以通用计算设备的形式表现。头戴式显示设备700的组件可以包括但不限于:上述至少一个处理单元710、上述至少一个存储单元720、连接不同系统组件(包括存储单元720和处理单元710)的总线730。其中,存储单元存储有程序代码,程序代码可以被处理单元710执行,使得处理单元710执行本说明书上述“示例性方法”部分中描述的根据本公开各种示例性实施方式的步骤。例如,处理单元710可以执行如图2中所示的步骤s202,以及本公开的眼动跟踪方法中限定的其他步骤。存储单元720可以包括易失性存储单元形式的可读介质,例如随机存取存储单元(ram)7201和/或高速缓存存储单元7202,还可以进一步包括只读存储单元(rom)7203。存储单元720还可以包括具有一组(至少一个)程序模块7205的程序/实用工具7204,这样的程序模块7205包括但不限于:操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。总线730可以为表示几类总线结构中的一种或多种,包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。头戴式显示设备700也可以与一个或多个外部设备760(例如键盘、指向设备、蓝牙设备等)通信,还可与一个或者多个使得用户能与该显示设备交互的设备通信,和/或与使得该头戴式显示设备700能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(i/o)接口750进行。并且,头戴式显示设备700还可以通过网络适配器750与一个或者多个网络(例如局域网(lan),广域网(wan)和/或公共网络,例如因特网)通信。如图所示,网络适配器750通过总线730与头戴式显示设备700的其它模块通信。应当明白,尽管图中未示出,可以结合显示设备使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、raid系统、磁带驱动器以及数据备份存储系统等。通过以上的实施方式的描述,本领域的技术人员易于理解,这里描述的示例实施方式可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本公开实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是cd-rom,u盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、终端装置、或者网络设备等)执行根据本公开实施方式的方法。在本公开的示例性实施例中,还提供了一种计算机可读存储介质,其上存储有能够实现本说明书上述方法的程序产品。在一些可能的实施方式中,本公开的各个方面还可以实现为一种程序产品的形式,其包括程序代码,当程序产品在终端设备上运行时,程序代码用于使终端设备执行本说明书上述“示例性方法”部分中描述的根据本公开各种示例性实施方式的步骤。根据本公开的实施方式的用于实现上述方法的程序产品,其可以采用便携式紧凑盘只读存储器(cd-rom)并包括程序代码,并可以在终端设备,例如个人电脑上运行。然而,本公开的程序产品不限于此,在本文件中,可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了可读程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质,该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于无线、有线、光缆、rf等等,或者上述的任意合适的组合。可以以一种或多种程序设计语言的任意组合来编写用于执行本公开操作的程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如java、c++等,还包括常规的过程式程序设计语言—诸如“c”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(lan)或广域网(wan),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。应当注意,尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元,但是这种划分并非强制性的。实际上,根据本公开的实施方式,上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之,上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。此外,尽管在附图中以特定顺序描述了本公开中方法的各个步骤,但是,这并非要求或者暗示必须按照该特定顺序来执行这些步骤,或是必须执行全部所示的步骤才能实现期望的结果。附加的或备选的,可以省略某些步骤,将多个步骤合并为一个步骤执行,以及/或者将一个步骤分解为多个步骤执行等。通过以上的实施方式的描述,本领域的技术人员易于理解,这里描述的示例实施方式可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本公开实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是cd-rom,u盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、移动终端、或者网络设备等)执行根据本公开实施方式的方法。本领域技术人员在考虑说明书及实践这里的公开后,将容易想到本公开的其它实施方案。本申请旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本公开的真正范围和精神由所附的权利要求指出。
<本文档来自技高网...
【技术保护点】
1.一种眼动跟踪方法,其特征在于,包括:
2.根据权利要求1所述的眼动跟踪方法,其特征在于,在响应于接收到的脉冲信号,将所述脉冲信号输入眼动跟踪模型之前,还包括:
3.根据权利要求2所述的眼动跟踪方法,其特征在于,构建所述眼动跟踪模型,包括:
4.根据权利要求3所述的眼动跟踪方法,其特征在于,采用眼动跟踪数据集对人工神经网络进行训练,得到用于眼动跟踪的初始模型,包括:
5.根据权利要求4所述的眼动跟踪方法,其特征在于,基于所述预测偏航角和对应的偏航角标签之间的关系,以及所述预测俯仰角和对应的俯仰角标签之间的关系,更新所述特征提取网络、所述第一全连接层以及所述第二全连接层的模型参数,直至训练完毕,还包括:
6.根据权利要求3所述的眼动跟踪方法,其特征在于,基于人工神经网络和脉冲神经网络之间的映射关系,将所述初始模型转换为所述眼动跟踪模型,包括:
7.根据权利要求1所述的眼动跟踪方法,其特征在于,响应于接收到的脉冲信号,将所述脉冲信号输入眼动跟踪模型,由所述眼动跟踪模型输出与所述脉冲信号对应的眼动跟踪信息,包括:
8.根据权利要求1至7中任一项所述的眼动跟踪方法,其特征在于,还包括:
9.一种眼动跟踪装置,其特征在于,包括:
10.一种头戴式显示设备,其特征在于,包括:
11.一种计算机存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1~8中任意一项所述的眼动跟踪方法。
12.一种计算机程序产品,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1~8中任意一项所述的眼动跟踪方法。
...
【技术特征摘要】
1.一种眼动跟踪方法,其特征在于,包括:
2.根据权利要求1所述的眼动跟踪方法,其特征在于,在响应于接收到的脉冲信号,将所述脉冲信号输入眼动跟踪模型之前,还包括:
3.根据权利要求2所述的眼动跟踪方法,其特征在于,构建所述眼动跟踪模型,包括:
4.根据权利要求3所述的眼动跟踪方法,其特征在于,采用眼动跟踪数据集对人工神经网络进行训练,得到用于眼动跟踪的初始模型,包括:
5.根据权利要求4所述的眼动跟踪方法,其特征在于,基于所述预测偏航角和对应的偏航角标签之间的关系,以及所述预测俯仰角和对应的俯仰角标签之间的关系,更新所述特征提取网络、所述第一全连接层以及所述第二全连接层的模型参数,直至训练完毕,还包括:
6.根据权利要求3所述的眼动跟踪方法,其特征在于,基于人工神经网络和脉冲神...
【专利技术属性】
技术研发人员:陈锦伟,
申请(专利权)人:脉冲视觉北京科技有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。