一种基于资源总线的AI算法调度方法及系统技术方案

本发明专利技术公开了一种基于资源总线的AI算法调度方法及系统，该方法包括：通过算法管理平台的资源总线获取多个AI算法模型的执行端的数据请求和数据发送情况；根据所述数据请求和数据发送情况，计算每一所述AI算法模型对应的算法执行参数和每一所述执行端对应的设备执行参数；根据所述算法执行参数和所述设备执行参数，基于动态规划算法，演算出所述多个AI算法模型和多个所述执行端对应的最优算法执行策略；将所述最优算法执行策略推荐给用户。可见，本发明专利技术能够充分利用算法参数和设备参数进行算法的智能调度，提高算法模型的执行效率和执行效果，提高算法管理的智能化程度。提高算法管理的智能化程度。提高算法管理的智能化程度。

【技术实现步骤摘要】
一种基于资源总线的AI算法调度方法及系统


[0001]本专利技术涉及数据处理
，尤其涉及一种基于资源总线的AI算法调度方法及系统。

技术介绍

[0002]随着AI算法的发展，越来越多的
开始引入AI算法以提高技术表现或辅助技术研发，从而，也逐渐出现了一些对多个AI算法进行同时管理的技术。但这一些AI算法的管理技术中，大部分只是简单地对多个AI算法的参数进行获取和监控，没考虑到进一步地根据算法参数进行演算，因此现有技术的管理技术方案死板，无法提高算法效率。可见，现有技术存在缺陷，亟需解决。

技术实现思路

[0003]本专利技术所要解决的技术问题在于，提供一种基于资源总线的AI算法调度方法及系统，能够充分利用算法参数和设备参数进行算法的智能调度，提高算法模型的执行效率和执行效果，提高算法管理的智能化程度。
[0004]为了解决上述技术问题，本专利技术第一方面公开了一种基于资源总线的AI算法调度方法，所述方法包括：
[0005]通过算法管理平台的资源总线获取多个AI算法模型的执行端的数据请求和数据发送情况；
[0006]根据所述数据请求和数据发送情况，计算每一所述AI算法模型对应的算法执行参数和每一所述执行端对应的设备执行参数；
[0007]根据所述算法执行参数和所述设备执行参数，基于动态规划算法，演算出所述多个AI算法模型和多个所述执行端对应的最优算法执行策略；
[0008]将所述最优算法执行策略推荐给用户。
[0009]作为一种可选的实施方式，在本专利技术第一方面中，所述算法执行参数包括算法执行时间参数、算法可靠性参数、算法资源占用参数、算法并行性参数和算法适应性参数中的至少两种；和/或，所述设备执行参数包括设备数据发送规律、设备数据传输效率、设备算法执行能耗和设备算法执行效率中的至少两种。
[0010]作为一种可选的实施方式，在本专利技术第一方面中，所述根据所述算法执行参数和所述设备执行参数，基于动态规划算法，演算出所述多个AI算法模型和多个所述执行端对应的最优算法执行策略，包括：
[0011]获取用户输入的算法应用场景和应用要求；
[0012]根据所述算法应用场景，从所述多个AI算法模型和多个所述执行端中筛选出多个适配AI算法模型和多个适配执行端；
[0013]根据所述应用要求，确定动态规划算法的目标函数和限制条件；
[0014]根据所述目标函数和限制条件，基于动态规划算法，演算出所述多个适配AI算法
模型和多个适配执行端对应的最优算法执行策略。
[0015]作为一种可选的实施方式，在本专利技术第一方面中，所述根据所述算法应用场景，从所述多个AI算法模型和多个所述执行端中筛选出多个适配AI算法模型和多个适配执行端，包括：
[0016]根据每一所述AI算法模型的历史应用信息，确定出每一所述AI算法模型应用在所述算法应用场景的应用执行端、应用次数、所述算法执行参数和所述设备执行参数；
[0017]根据所有所述AI算法模型的所述应用执行端和对应的所述设备执行参数，确定每一所述执行端对应的所有所述设备执行参数的设备执行参数平均值；
[0018]根据所述应用次数和所述算法执行参数的加权求和计算，计算每一所述AI算法模型对应的应用表现表征参数；
[0019]根据所述设备执行参数平均值和预设的第一筛选规则，从所述多个所述执行端中筛选出多个适配执行端；
[0020]根据所述应用表现表征参数和预设的第二筛选规则，从所述多个AI算法模型中筛选出多个适配AI算法模型。
[0021]作为一种可选的实施方式，在本专利技术第一方面中，所述应用要求包括系统总能耗要求、系统总内存限制、算法总执行时间限制、算法平均预测准确率要求中的至少两种；所述根据所述应用要求，确定动态规划算法的目标函数和限制条件，包括：
[0022]根据所述应用要求，确定出目标函数为算法执行时间最小化函数和算法平均预测准确率要求最大化函数；
[0023]根据所述应用要求，确定出限制条件为总算法执行时间小于所述算法总执行时间限制、总算法内存使用量小于系统总内存限制、总算法预期能耗小于系统总能耗要求以及成本控制条件。
[0024]作为一种可选的实施方式，在本专利技术第一方面中，所述成本控制条件包括：
[0025]所述总算法执行时间与所述算法总执行时间限制之间的时间差不大于预设的时间差阈值；
[0026]所述总算法内存使用量与所述系统总内存限制之间的使用量差不大于预设的使用量差阈值；
[0027]所述总算法预期能耗与所述系统总能耗要求之间的能耗差不大于预设的能耗差阈值。
[0028]作为一种可选的实施方式，在本专利技术第一方面中，所述根据所述目标函数和限制条件，基于动态规划算法，演算出所述多个适配AI算法模型和多个适配执行端对应的最优算法执行策略，包括：
[0029]获取每一所述适配AI算法模型的算法执行参数，根据所述适配AI算法模型的算法执行参数，训练得到所述适配AI算法模型的第一算法执行预测模型；
[0030]获取每一所述适配执行端对应的设备执行参数，根据所述适配执行端对应的设备执行参数，训练得到所述适配执行端对应的第二算法执行预测模型；
[0031]获取所述多个适配AI算法模型和多个适配执行端对应的演算初始参数；
[0032]根据所述目标函数和限制条件，基于动态规划算法和所述第一算法执行预测模型和所述第二算法执行预测模型，输入所述演算初始参数，演算出所述多个适配AI算法模型
和多个适配执行端对应的最优算法执行策略。
[0033]作为一种可选的实施方式，在本专利技术第一方面中，所述根据所述目标函数和限制条件，基于动态规划算法和所述第一算法执行预测模型和所述第二算法执行预测模型，输入所述演算初始参数，演算出所述多个适配AI算法模型和多个适配执行端对应的最优算法执行策略，包括：
[0034]根据所述目标函数和限制条件，以及所述多个适配AI算法模型对应的模型参数和多个适配执行端对应的设备参数，建立粒子群算法模型；
[0035]启动所述粒子群算法模型的迭代演算，在所述粒子群算法模型的单一粒子的状态演算中，通过所述第一算法执行预测模型和/或所述第二算法执行预测模型来预测该粒子的参数对应的粒子执行参数；所述粒子执行参数包括算法执行时间、算法内存使用量、算法预期能耗；
[0036]根据所述粒子执行参数和所述目标函数和所述限制条件，调节所述粒子群算法模型的迭代演算，直至演算出所述多个适配AI算法模型和多个适配执行端对应的最优算法执行策略。
[0037]本专利技术第二方面公开了一种基于资源总线的AI算法调度系统，所述装置包括：
[0038]获取模块，用于通过算法管理平台的资源总线获取多个AI算法模型的执行端的数据请求和数据发送情况；
[0039]计算模块，用于根据所述数据请求和数据发送情况，计算每一所述AI算法模型对应的算法执行参数和每一所述执行本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于资源总线的AI算法调度方法，其特征在于，所述方法包括：通过算法管理平台的资源总线获取多个AI算法模型的执行端的数据请求和数据发送情况；根据所述数据请求和数据发送情况，计算每一所述AI算法模型对应的算法执行参数和每一所述执行端对应的设备执行参数；根据所述算法执行参数和所述设备执行参数，基于动态规划算法，演算出所述多个AI算法模型和多个所述执行端对应的最优算法执行策略；将所述最优算法执行策略推荐给用户。2.根据权利要求1所述的基于资源总线的AI算法调度方法，其特征在于，所述算法执行参数包括算法执行时间参数、算法可靠性参数、算法资源占用参数、算法并行性参数和算法适应性参数中的至少两种；和/或，所述设备执行参数包括设备数据发送规律、设备数据传输效率、设备算法执行能耗和设备算法执行效率中的至少两种。3.根据权利要求1所述的基于资源总线的AI算法调度方法，其特征在于，所述根据所述算法执行参数和所述设备执行参数，基于动态规划算法，演算出所述多个AI算法模型和多个所述执行端对应的最优算法执行策略，包括：获取用户输入的算法应用场景和应用要求；根据所述算法应用场景，从所述多个AI算法模型和多个所述执行端中筛选出多个适配AI算法模型和多个适配执行端；根据所述应用要求，确定动态规划算法的目标函数和限制条件；根据所述目标函数和限制条件，基于动态规划算法，演算出所述多个适配AI算法模型和多个适配执行端对应的最优算法执行策略。4.根据权利要求3所述的基于资源总线的AI算法调度方法，其特征在于，所述根据所述算法应用场景，从所述多个AI算法模型和多个所述执行端中筛选出多个适配AI算法模型和多个适配执行端，包括：根据每一所述AI算法模型的历史应用信息，确定出每一所述AI算法模型应用在所述算法应用场景的应用执行端、应用次数、所述算法执行参数和所述设备执行参数；根据所有所述AI算法模型的所述应用执行端和对应的所述设备执行参数，确定每一所述执行端对应的所有所述设备执行参数的设备执行参数平均值；根据所述应用次数和所述算法执行参数的加权求和计算，计算每一所述AI算法模型对应的应用表现表征参数；根据所述设备执行参数平均值和预设的第一筛选规则，从所述多个所述执行端中筛选出多个适配执行端；根据所述应用表现表征参数和预设的第二筛选规则，从所述多个AI算法模型中筛选出多个适配AI算法模型。5.根据权利要求3所述的基于资源总线的AI算法调度方法，其特征在于，所述应用要求包括系统总能耗要求、系统总内存限制、算法总执行时间限制、算法平均预测准确率要求中的至少两种；所述根据所述应用要求，确定动态规划算法的目标函数和限制条件，包括：根据所述应用要求，确定出目标函数为算法执行时间最小化函数和算法平均预测准确率要求最大化函数；
根据所述应用要求，确定出限制条件为总算法执行时间小于所述算法总执行时间限制、总算法内存使用量小于系统总内存限制、总算法预期能耗小于系统总能耗要求以及成本控制条件。6.根据权利要求5所述的基于资源总线的AI算法调度...

【专利技术属性】
技术研发人员：胡艳胜，
申请(专利权)人：广州卓勤信息技术有限公司，
类型：发明
国别省市：