一种基于强化学习的车速控制方法、装置、设备和介质制造方法及图纸

本发明专利技术公开了一种基于强化学习的车速控制方法、装置、设备和介质。该方法包括：获取目标车辆对应的当前车速信息，其中，当前车速信息包括：当前整车车速和每个车轮对应的当前车轮转速；将当前车速信息输入至预设决策网络模型中进行轮缸压力动作的决策，预设决策网络模型是预先基于目标奖励函数进行强化学习获得的，目标奖励函数是基于车辆中每个车轮对应的车轮滑移率进行构建的；基于预设决策网络模型的输出，获得目标车辆中每个车轮对应的目标轮缸压力；基于目标轮缸压力对当前车速信息进行调整控制。通过本公开实施例的技术方案，可以有效控制车速，从而保持车辆制动或加速时的稳定性，进一步提高车辆行驶的安全性和用户的驾驶体验。驶体验。驶体验。

【技术实现步骤摘要】
一种基于强化学习的车速控制方法、装置、设备和介质


[0001]本专利技术涉及计算机
，尤其涉及一种基于强化学习的车速控制方法、装置、设备和介质。

技术介绍

[0002]随着汽车的发展，用户越来越注重车辆行驶的安全性。汽车的制动能力是影响车辆行驶安全性的重要因素之一。滑移率可用于表征车辆的制动能力。滑移率是指在刹车或加速时车轮和路面间所产生的滑移距离与车辆移动距离之间的比值。车辆在抓地性最佳的情况下仍会存在5％
‑
10％的滑移率，例如，车轮转动了100m的距离时车子只移动了90m
‑
95m。
[0003]目前，通常是利用汽车防抱死制动系统(Antilock Brake System,ABS)对车辆制动力进行控制。例如，ABS在汽车制动时防止车轮抱死，从而避免前轮和/或后轮发生侧滑，进而保持制动时的方向稳定性。在车辆进行制动或加速时，ABS会基于车辆出厂时标定的车轮线性特性和该车轮线性特性对应的滑动率控制方式对车速进行控制。然而，车辆在被使用后，每个车轮的磨损程度是不同的，还会存在某个车轮换新的情况，导致了车轮特性发生了非线性变化。此时，仍基于车辆出厂时标定的车轮线性特性和该车轮线性特性对应的滑动率控制方式对车速进行控制，会导致车轮的滑动率变大，并且无法保持车辆制动或加速时的方向稳定性，降低了车辆行驶的安全性和用户的驾驶体验。

技术实现思路

[0004]本专利技术提供了一种基于强化学习的车速控制方法、装置、设备和介质，以有效控制车速，从而保持车辆制动或加速时的稳定性，进一步提高车辆行驶的安全性和用户的驾驶体验。
[0005]根据本专利技术的一方面，提供了一种基于强化学习的车速控制方法，该方法包括：
[0006]获取目标车辆对应的当前车速信息，其中，所述当前车速信息包括：当前整车车速和每个车轮对应的当前车轮转速；
[0007]将所述当前车速信息输入至预设决策网络模型中进行轮缸压力动作的决策，所述预设决策网络模型是预先基于目标奖励函数进行强化学习获得的，所述目标奖励函数是基于车辆中每个车轮对应的车轮滑移率进行构建的；
[0008]基于所述预设决策网络模型的输出，获得所述目标车辆中每个车轮对应的目标轮缸压力；
[0009]基于所述目标轮缸压力对所述当前车速信息进行调整控制。
[0010]根据本专利技术的另一方面，提供了一种基于强化学习的车速控制装置，该装置包括：
[0011]当前车速信息获取模块，用于获取目标车辆对应的当前车速信息，其中，所述当前车速信息包括：当前整车车速和每个车轮对应的当前车轮转速；
[0012]动作决策模块，用于将所述当前车速信息输入至预设决策网络模型中进行轮缸压
力动作的决策，所述预设决策网络模型是预先基于目标奖励函数进行强化学习获得的，所述目标奖励函数是基于车辆中每个车轮对应的车轮滑移率进行构建的；
[0013]目标轮缸压力获得模块，用于基于所述预设决策网络模型的输出，获得所述目标车辆中每个车轮对应的目标轮缸压力；
[0014]当前车速信息调整模块，用于基于所述目标轮缸压力对所述当前车速信息进行调整控制。
[0015]根据本专利技术的另一方面，提供了一种电子设备，所述电子设备包括：
[0016]至少一个处理器；以及
[0017]与所述至少一个处理器通信连接的存储器；其中，
[0018]所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行本专利技术任一实施例所述的基于强化学习的车速控制方法。
[0019]根据本专利技术的另一方面，提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于使处理器执行时实现本专利技术任一实施例所述的基于强化学习的车速控制方法。
[0020]本专利技术实施例的技术方案，通过获取目标车辆对应的当前车速信息，以便基于获取的当前车速信息，确定出当前时刻目标车辆中每个车轮对应的调整策略，从而对比上一时刻和当前时刻目标车辆中每个车轮对应的调整策略。其中，所述当前车速信息包括：当前整车车速和每个车轮对应的当前车轮转速；将所述当前车速信息输入至预设决策网络模型中进行轮缸压力动作的决策，所述预设决策网络模型是预先基于目标奖励函数进行强化学习获得的，所述目标奖励函数是基于车辆中每个车轮对应的车轮滑移率进行构建的；基于所述预设决策网络模型的输出，获得所述目标车辆中每个车轮对应的目标轮缸压力；基于所述目标轮缸压力对所述当前车速信息进行调整控制，使得每个车轮不会出现抱死的情况，且可以将车轮的滑移率控制在最优滑移率的范围内，从而有效控制车速，并有效缩短车辆的制动距离，进而保持车辆制动或加速时的稳定性，进一步提高车辆行驶的安全性和用户的驾驶体验。
[0021]应当理解，本部分所描述的内容并非旨在标识本专利技术的实施例的关键或重要特征，也不用于限制本专利技术的范围。本专利技术的其它特征将通过以下的说明书而变得容易理解。
附图说明
[0022]为了更清楚地说明本专利技术实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本专利技术的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
[0023]图1是根据本专利技术实施例一提供的一种基于强化学习的车速控制方法的流程图；
[0024]图2是根据本专利技术实施例二提供的另一种基于强化学习的车速控制方法的流程图；
[0025]图3是根据本专利技术实施例三提供的一种基于强化学习的车速控制装置的结构示意图；
[0026]图4是实现本专利技术实施例的基于强化学习的车速控制方法的电子设备的结构示意图。
具体实施方式
[0027]为了使本
的人员更好地理解本专利技术方案，下面将结合本专利技术实施例中的附图，对本专利技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本专利技术一部分的实施例，而不是全部的实施例。基于本专利技术中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本专利技术保护的范围。
[0028]需要说明的是，本专利技术的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本专利技术的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
[0029]实施例一
[0030]图1为本专利技术实施例一提供了一种基于强化学习的车速控制方法的流程图，本实施例可适用于对车辆的车速进行调整控本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于强化学习的车速控制方法，其特征在于，包括：获取目标车辆对应的当前车速信息，其中，所述当前车速信息包括：当前整车车速和每个车轮对应的当前车轮转速；将所述当前车速信息输入至预设决策网络模型中进行轮缸压力动作的决策，所述预设决策网络模型是预先基于目标奖励函数进行强化学习获得的，所述目标奖励函数是基于车辆中每个车轮对应的车轮滑移率进行构建的；基于所述预设决策网络模型的输出，获得所述目标车辆中每个车轮对应的目标轮缸压力；基于所述目标轮缸压力对所述当前车速信息进行调整控制。2.根据权利要求1所述的方法，其特征在于，基于车辆中每个车轮对应的车轮滑移率构建目标奖励函数，包括：基于车辆中每个车轮对应的车轮滑移率，确定每个车轮对应的车轮奖励函数；基于各个所述车轮奖励函数，构建目标奖励函数。3.根据权利要求2所述的方法，其特征在于，每个车轮对应的车轮奖励函数是关于车轮滑移率的分段奖励函数。4.根据权利要求3所述的方法，其特征在于，基于车辆中每个车轮对应的车轮滑移率，确定每个车轮对应的车轮奖励函数，包括：若车辆中的当前车轮对应的当前车轮滑动率小于预设最小滑动率，则基于第一权重值对当前车轮滑动率进行加权，获得当前车轮对应的第一分段奖励函数；若当前车轮滑动率大于或等于所述预设最小滑动率，且小于或等于预设最大滑动率，则将当前车轮滑动率作为当前车轮对应的第二分段奖励函数；若当前车轮滑动率大于所述预设最大滑动率，则基于第二权重值对当前车轮滑动率进行加权，获得当前车轮对应的第三分段奖励函数；其中，所述第一权重值小于所述第二权重值。5.根据权利要求2所述的方法，其特征在于，基于各个所述车轮奖励函数，构建目标奖励函数，包括：将各个所述车轮奖励函数进行相加，并将相加结果确定为目标奖励函数。6.根据权利要求1所述的方法，其特征在于，基于所述目标轮缸压力对所述当前车速信息进行调整控制，包括：将每个车轮对应的轮缸压力调整为相应的目标轮缸压力，使得所述目标车辆的当前整...

【专利技术属性】
技术研发人员：汪娟，周俊杰，
申请(专利权)人：南栖仙策南京高新技术有限公司，
类型：发明
国别省市：