【技术实现步骤摘要】
本专利技术涉及一种深度学习嵌入式平台的演示系统。
技术介绍
1、随着物联网(iot)的普及，嵌入式系统已成为各种智能设备的核心组件。这些系统广泛应用于从智能家居到工业自动化的各个领域，承担着设备控制、数据采集、通信和执行特定任务等功能。传统的嵌入式系统设计往往针对特定的硬件和应用场景，具有资源受限、低功耗、实时性高的特点。然而，随着人工智能(ai)技术的迅猛发展，嵌入式系统的应用需求正在从单一功能向智能化、自动化的方向演变，这给嵌入式系统带来了新的挑战。
2、ai技术，包括深度学习、强化学习、群体智能和自主技术等人工智能技术被广泛应用。人工智能主要是指以深度学习为主的机器学习算法，包括卷积神经网络、循环神经网络、对抗生成网络等等。这些网络模型能够实现目标的检测分类、语音识别、风格迁移等功能，处理器实现的架构不同会导致成本，功耗等的差异。由于通用指令集的功耗和性能不能体现出嵌入式端的优势，各大硬件供应商舍弃了通用指令集，开发了自己的指令集。但是这些指令集不具有通用性，很大程度上增加了嵌入式ai的开发复杂程度。目前，最为流行的深度学习框架，如tensorflow、mxneat、caffe和pytorch支持在有限类型的gpu服务器上获得加速，这种加速依赖于供应商提供的ai加速库。与此同时，神经网络越宽越深越大的模型往往比越窄越浅越小的模型精度要高，但是越宽越深越大的模型对计算资源要求更高，而现在模型应用越来越倾向于从云端部署到边缘侧，受限于边缘侧设备的计算资源，不得不考虑设备的设计架构，存储空间(storage)、设备内
3、然而，这些ai应用通常需要高计算能力和大量存储资源，这与嵌入式系统的资源限制形成了矛盾。要将ai集成到嵌入式设备中，需要解决多个技术难题，如计算资源的高效利用、功耗的优化以及实时性要求的满足。这时，嵌入式ai应用平台应运而生，成为连接ai技术与嵌入式硬件的重要桥梁。嵌入式ai应用平台通过集成一系列优化的工具链、轻量级ai模型和硬件加速技术，使得ai算法能够在资源受限的嵌入式硬件上高效运行。这些平台通常包含以下几个关键组成部分：
4、1.轻量级ai推理引擎：为了在嵌入式设备上高效运行ai模型，应用平台通常会采用专门设计的轻量级推理引擎，如tensorflow lite、onnx runtime、arm compute library等。这些引擎经过高度优化，能够在有限的计算资源上执行复杂的ai推理任务，并且在保证精度的同时，显著降低了计算和内存开销。
5、2.硬件加速支持：嵌入式ai应用平台通常支持利用硬件加速器(如gpu、npu、dsp等)来提升ai算法的执行效率。通过硬件加速，ai推理速度得到大幅提升，同时降低了cpu的负载和整体功耗。这对于需要处理复杂ai任务的嵌入式设备尤为关键，能够在保证性能的同时延长设备的电池寿命。
6、3.模型压缩与优化技术：在将ai模型部署到嵌入式设备之前，应用平台会使用各种模型压缩技术，如量化(quantization)、剪枝(pruning)和蒸馏(knowledgedistillation)，以减少模型的尺寸和计算复杂度。这些技术使得大规模ai模型在嵌入式环境中也能高效执行，为智能设备的普及创造了条件。
7、4.跨平台支持与兼容性：一个高效的嵌入式ai应用平台需要支持多种嵌入式硬件架构(如arm、risc-v、x86等)，并能够无缝集成到不同的操作系统(如freertos、linux、zephyr等)中。这种跨平台能力使得开发者可以在多种设备上轻松部署ai功能，从而加速产品的上市进程。
8、5.通过嵌入式ai应用平台，开发者可以在不同的嵌入式硬件上快速集成ai功能，满足各种智能应用的需求。例如，在智能家居设备中，ai平台可以实现语音识别和人脸检测功能；在工业物联网中，平台可以用于故障预测和自动化控制。这些ai应用不仅提升了设备的智能化水平，也极大地拓展了嵌入式系统的应用场景，推动了智能化技术在各行业的深度融合与普及。
技术实现思路
1、本专利技术的目的是：构建一套可以用于连接不同嵌入式硬件平台下深度学习算法的可视化系统。
2、为了达到上述目的，本专利技术的技术方案是公开了一种深度学习嵌入式平台的演示系统，其特征在于，包括：
3、将不同的硬件平台虚拟化为系统中的一个分区，通过调节ping和设置对应ip方式，将硬件平台和所述演示系统相连；
4、对深度学习算法进行分类，将深度学习算法适配到对应的硬件平台上；
5、在客户端和服务器端之间传输、增加、删除、修改、查找命令，并上传到服务器端，除了使用包括vue、css和javascript在内的基本语言以及在服务器端用于连接传输的文档之外，使用ajax来更新网页的部分；
6、使用了vue3.0的前端框架，在vscode上进行开发。
7、优选地，有新加入的硬件时，通过所述演示系统内的扩展方式自动生成新的连接，在对应数据库中加入硬件的信息后，将新加入的硬件虚拟化到该系统中，后续再将算法适配到对应的硬件上，从而实现了完全虚拟化的过程。
8、优选地，对于所述深度学习算法中的yolov3算法，采用了以darknet-53网络作为主干特征提取网络，并结合了restnet残差网络结构的思想，且yolov3算法内部的残差块使用了跳跃连接，促进了多个不同特征的融合学习。
9、优选地，利用axios进行前后端的信息交互，在前端开发中，通过axios与后端服务器通信，获取数据、发送数据，实现与服务器的高效交互。
10、本专利技术可以让用户将不同型号的嵌入式ai开发板通过和本专利技术公开的系统连接，起到类中间件的作用。并系统内执行不同人工智能任务的上传、压缩、转换、编译和测试等功能，最终可视化到前端界面中，方便用户进行统一的操作和执行。
11、基于对演示系统的需求分析，本专利技术公开的演示系统具有这些特征：使用vue框架设计web页面，支持动态显示工作状态，web页面支持可视化操作管理，并主要解决了以下几个技术问题：
12、1.用于对深度学习嵌入式平台算法适配通用的中间件测试用目标机和开发用宿主机具备ubuntu操作系统，linux内核，负责对系统的软硬件资源进行管理；
13、2.用于深度学习嵌入式平台算法适配通用的中间件具有综合数据函数库，实现软硬件解耦，对应用层屏蔽硬件的处理细节的功能；
14、3.用于深度学习嵌入式平台算法适配的通用中间件具有算子优化的能力；
15、4.用于深度学习嵌入式平台算法适配的通用中间件具有可视化界面，显示算法部署的运算状态及显示部署结果；
16、5.用于深度学习嵌入式平台算法适配的通用中间件可实现1～3本文档来自技高网...
【技术保护点】
1.一种深度学习嵌入式平台的演示系统，其特征在于，包括：
2.如权利要求1所述的一种深度学习嵌入式平台的演示系统，其特征在于，有新加入的硬件时，通过所述演示系统内的扩展方式自动生成新的连接，在对应数据库中加入硬件的信息后，将新加入的硬件虚拟化到该系统中，后续再将算法适配到对应的硬件上，从而实现了完全虚拟化的过程。
3.如权利要求1所述的一种深度学习嵌入式平台的演示系统，其特征在于，对于所述深度学习算法中的Yolov3算法，采用了以Darknet-53网络作为主干特征提取网络，并结合了RestNet残差网络结构的思想，且Yolov3算法内部的残差块使用了跳跃连接，促进了多个不同特征的融合学习。
4.如权利要求1所述的一种深度学习嵌入式平台的演示系统，其特征在于，利用Axios进行前后端的信息交互，在前端开发中，通过Axios与后端服务器通信，获取数据、发送数据，实现与服务器的高效交互。
【技术特征摘要】
1.一种深度学习嵌入式平台的演示系统，其特征在于，包括：
2.如权利要求1所述的一种深度学习嵌入式平台的演示系统，其特征在于，有新加入的硬件时，通过所述演示系统内的扩展方式自动生成新的连接，在对应数据库中加入硬件的信息后，将新加入的硬件虚拟化到该系统中，后续再将算法适配到对应的硬件上，从而实现了完全虚拟化的过程。
3.如权利要求1所述的一种深度学习嵌入式平台的演示系统，其特征在于，对于所述...
【专利技术属性】
技术研发人员：顾珉，郭崭，
申请(专利权)人：华东计算技术研究所中国电子科技集团公司第三十二研究所，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。