人工智能算法模型部署系统、方法、设备及存储介质技术方案

本发明专利技术提出一种人工智能算法模型部署系统、方法、设备及存储介质，包括：前端模块用于与用户进行交互，并接收用户请求，用户请求包括请求信息；功能管理模块用于管理若干功能信号，并根据请求信息选择相对应的目标功能信号；算法部署模块用于部署不同格式不同框架的人工智能算法，并根据目标功能信号选择相应的目标人工智能算法，并根据请求信息和所述目标人工智能算法，获取请求结果，并将所述请求结果返回给所述前端模块，以使得所述前端模块将所述请求结果返回给所述用户，请求信息中的所述输入参数格式和目标人工智能算法的格式相同。本发明专利技术通过统一部署、集中管理不同框架不同格式的人工智能算法，有效提高不同的人工智能算法部署效率。能算法部署效率。能算法部署效率。

【技术实现步骤摘要】
人工智能算法模型部署系统、方法、设备及存储介质


[0001]本专利技术涉及计算机
，尤其涉及一种人工智能算法模型部署系统、方法、设备及存储介质。

技术介绍

[0002]近年来随着数字经济高速发展，人工智能赋能实体经济，在社会经济各个领域深度融合，并落地应用，各行业企业积极探索基于AI(Artificial Intelligence，人工智能)能力的个性化业务创新与智能化升级，在此过程中，AI能力输出的效率与算法模型的部署时效息息相关。在人工智能产品研发的过程中，AI算法只是人工智能产品其中的一部分，数据采集、数据处理、样本标注、人工智能算法模型的训练、人工智能算法模型的验证和部署也是很重要的一部分。除此之外，不同的部署平台算力也是有区别的，为提升整体算法的效果和更新迭代速度，对人工智能开发系统模块化、自动化、流程化的要求越来越高。对于在不同平台上落地的AI算法，可以进行针对性的优化和差异化的部署，充分调动硬件的算力，保证算法效果的稳定性，增强产品的效果，提升算法开发人员的开发效率。
[0003]但是，现有的人工智能模型算法部署平台对于不同框架、不同格式的算法框架难以集中管理，并且难以统一部署。

技术实现思路

[0004]本专利技术提供一种人工智能算法模型部署系统、方法、设备及存储介质，其主要目的在于统一部署、集中管理不同框架不同格式的人工智能算法，有效提高不同的人工智能算法部署效率。
[0005]第一方面，本专利技术实施例提供一种人工智能算法模型部署系统，包括前端模块、功能管理模块和算法部署模块，其中：
[0006]所述前端模块用于与用户进行交互，并接收用户请求，所述用户请求包括请求信息，所述请求信息包括人工智能算法的输入参数；
[0007]所述功能管理模块用于管理若干功能信号，并根据所述请求信息选择相对应的目标功能信号；
[0008]所述算法部署模块用于部署不同格式不同框架的人工智能算法，并根据所述目标功能信号选择相应的目标人工智能算法，并根据所述请求信息和所述目标人工智能算法，获取请求结果，并将所述请求结果返回给所述前端模块，以使得所述前端模块将所述请求结果返回给所述用户，所述请求信息中的所述输入参数格式和所述目标人工智能算法的格式相同。
[0009]优选地，还包括数据存储模块，所述数据存储模块用于存储岗位和人工智能算法之间的对应关系，所述用户请求包括用户信息，其中：
[0010]所述功能管理模块还用于根据所述用户信息，获取所述用户的实时岗位，并根据所述用户的实时岗位，在所述数据存储模块中进行查找，获取所述实时岗位对应的可使用
人工智能算法列表，并将所述可使用人工智能算法列表发送给所述前端模块，以使得所述前端模块将所述可使用人工智能算法列表展示给所述用户。
[0011]优选地，所述数据存储模块还用于存储每一人工智能算法对应的测试数据，所述功能信号包括算法模型更新信号，所述算法部署模块包括若干算法模型部署服务器，其中：
[0012]所述前端模块还用于接收算法模型更新请求；
[0013]所述功能管理模块还用于根据所述算法模型更新请求选择所述算法模型更新信号；
[0014]所述算法部署模块用于根据所述算法模型更新信号选择其中一个算法模型部署服务器进行更新，并将更新时间段内的所有请求分配给其它未进行更新的算法模型部署服务器，更新完成后重启该更新后的算法模型部署服务器，并向更新后的算法模型部署服务器发送请求，验证更新后的算法模型部署服务器是否成功启动，若成功，则向所述前端模块发送成功信号，以使得所述前端模块展示给所述用户。
[0015]优选地，所述算法部署模块用于根据所述算法模型更新信号选择其中一个算法模型部署服务器进行更新，具体包括：
[0016]所述算法部署模块根据所述算法模型更新信号，获取新算法框架下载地址或者存储地址，以根据所述下载地址或所述存储地址，获取新算法框架，并根据所述新算法框架，判断是否存在旧算法框架，若存在，则将所述旧算法框架存储在备份文件目录中，并将所述新算法框架存储在原始目录中。
[0017]优选地，还包括：
[0018]所述算法部署模块还用于从所述数据存储模块中获取相应的测试数据对更新后的算法模型部署服务器和未更新的算法模型部署服务器进行测试，若更新后准确率更高，则继续对其它未更新的算法模型部署服务器进行更新；若更新后准确率更低，则对更新后的算法模型部署服务器自动备份旧版本模型，并向所述前端模块发送更新失败提醒。
[0019]优选地，还包括在线生成API模块，其中：
[0020]所述前端模块还用于接收在线生成请求，所述在线生成请求包括目标API格式和目标API参数；
[0021]所述功能管理模块用于根据所述目标API格式，从所述数据存储模块中获取API模型参数，并结合所述API模型参数，在线生成API代码及文档，并将所述API代码及所述文档实时部署至所述算法部署模块。
[0022]优选地，所述功能管理模块还用于记录每一人工智能算法的性能、实时运行情况、推理速度、资源占用量、服务访问量和响应时长。
[0023]第二方面，本专利技术实施例提供一种人工智能算法模型部署方法，包括：
[0024]通过前端模块与用户进行交互，并接收用户请求，所述用户请求包括请求信息，所述请求信息包括人工智能算法的输入参数；
[0025]通过功能管理模块管理若干功能信号，并根据所述请求信息选择相对应的目标功能信号；
[0026]通过算法部署模块部署不同格式不同框架的人工智能算法，并根据所述目标功能信号选择相应的目标人工智能算法，并根据所述请求信息和所述目标人工智能算法，获取请求结果，并将所述请求结果返回给所述前端模块，以使得所述前端模块将所述请求结果
返回给所述用户，所述请求信息中的所述输入参数格式和所述目标人工智能算法的格式相同。
[0027]第三方面，本专利技术实施例提供一种计算机设备，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现上述一种人工智能算法模型部署方法的步骤。
[0028]第四方面，本专利技术实施例提供一种计算机存储介质，所述计算机存储介质存储有计算机程序，所述计算机程序被处理器执行时实现上述一种人工智能算法模型部署方法的步骤。
[0029]本专利技术实施例提供一种人工智能算法模型部署系统、方法、设备及存储介质，该系统由前端模块、功能管理模块和算法部署模块三部分组成，前端模块用于与用户进行交互，并接收用户请求，功能管理模块用于管理不同功能，并根据用户请求选取要实现的功能，生成目标功能信号，通过该目标功能信号触发算法部署模块，算法部署模块用于管理和部署不同格式不同框架的人工智能算法，并根据目标功能信号选择相应的人工智能算法，以实现用户需求。本专利技术实施例通过对不同格式不同框架的人工智能算法进行统一管理，节约了硬件资源，并且扩大了该人工智能算法模型部署系统的适用性；并且根本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种人工智能算法模型部署系统，其特征在于，包括前端模块、功能管理模块和算法部署模块，其中：所述前端模块用于与用户进行交互，并接收用户请求，所述用户请求包括请求信息，所述请求信息包括人工智能算法的输入参数；所述功能管理模块用于管理若干功能信号，并根据所述请求信息选择相对应的目标功能信号；所述算法部署模块用于部署不同格式不同框架的人工智能算法，并根据所述目标功能信号选择相应的目标人工智能算法，并根据所述请求信息和所述目标人工智能算法，获取请求结果，并将所述请求结果返回给所述前端模块，以使得所述前端模块将所述请求结果返回给所述用户，所述请求信息中的所述输入参数格式和所述目标人工智能算法的格式相同。2.根据权利要求1所述的人工智能算法模型部署系统，其特征在于，还包括数据存储模块，所述数据存储模块用于存储岗位和人工智能算法之间的对应关系，所述用户请求包括用户信息，其中：所述功能管理模块还用于根据所述用户信息，获取所述用户的实时岗位，并根据所述用户的实时岗位，在所述数据存储模块中进行查找，获取所述实时岗位对应的可使用人工智能算法列表，并将所述可使用人工智能算法列表发送给所述前端模块，以使得所述前端模块将所述可使用人工智能算法列表展示给所述用户。3.根据权利要求1所述的人工智能算法模型部署系统，其特征在于，所述数据存储模块还用于存储每一人工智能算法对应的测试数据，所述功能信号包括算法模型更新信号，所述算法部署模块包括若干算法模型部署服务器，其中：所述前端模块还用于接收算法模型更新请求；所述功能管理模块还用于根据所述算法模型更新请求选择所述算法模型更新信号；所述算法部署模块用于根据所述算法模型更新信号选择其中一个算法模型部署服务器进行更新，并将更新时间段内的所有请求分配给其它未进行更新的算法模型部署服务器，更新完成后重启该更新后的算法模型部署服务器，并向更新后的算法模型部署服务器发送请求，验证更新后的算法模型部署服务器是否成功启动，若成功，则向所述前端模块发送成功信号，以使得所述前端模块展示给所述用户。4.根据权利要求3所述的人工智能算法模型部署系统，其特征在于，所述算法部署模块用于根据所述算法模型更新信号选择其中一个算法模型部署服务器进行更新，具体包括：所述算法部署模块根据所述算法模型更新信号，获取新算法框架下载地址或者存储地址，以根据所述下载地址或所述存储地址...

【专利技术属性】
技术研发人员：刘晓旭，
申请(专利权)人：平安健康保险股份有限公司，
类型：发明
国别省市：