一种边缘计算中日志分布存储、快速访问方法和装置制造方法及图纸

技术编号:35410790 阅读:19 留言:0更新日期:2022-11-03 11:07
本申请涉及一种边缘计算中日志分布存储、快速访问方法、装置、计算机设备和存储介质。所述方法包括:通过在全球范围内根据边缘计算设备的分布情况,建立多个边缘存储中心,用于设备一般日志的就近存储,而重要日志存储在国内管理中心。通过日志分类,以及一般日志的就近存储,大大降低了远程传输的日志数据量,提高了日志传输的成功率。同时,本发明专利技术提出与边缘计算中日志分布存储相对应的快速访问方法,能够根据要访问的日志类型和设备ID实现日志的快速访问,重要日志从国内管理中心读取,一般日志从设备对应的Home存储中心读取,提高了日志读取的效率。志读取的效率。志读取的效率。

【技术实现步骤摘要】
一种边缘计算中日志分布存储、快速访问方法和装置


[0001]本申请涉及计算机
,特别是涉及一种边缘计算中日志分布存储、快速访问方法、装置、计算机设备和存储介质。

技术介绍

[0002]边缘网络中,设备、服务器分布在全球,需要对日志进行收集。日志收集具有以下特点:
[0003]1.日志重要性不同。有的业务日志,很重要,要长期存储,后期处理;大部分数据,为机器、设备的内存、网络、丢包、延迟等数据,时效性比较高,没有必要长期存储。
[0004]2.传输距离遥远,传输代价较大。
[0005]现在采用集中存储处理方式,无论海外、国内机器设备,将日志存放在国内机房。优点是系统结构简单,访问、处理比较方便。但存在以下缺点:
[0006]1.对国内机器设备,网络比较好,日志收集可以满足实时性;但对于海外,则会出现上传失败率升高的现象。随着机器设备的增加,矛盾越来越突出。
[0007]2.没有按照日志的特点,分别处理。大量的非必要数据,占用了很多带宽、存储资源,提高了成本;
[0008]3.为了适应网络不稳定的情况,延长了上报间隔,一定程度上降低了实时性。
[0009]因此,现有技术存在适应性不佳的问题。

技术实现思路

[0010]基于此,有必要针对上述技术问题,提供一种能够提升边缘计算日志存储效率和适应性的边缘计算中日志分布存储、快速访问方法、装置、计算机设备和存储介质。
[0011]一种边缘计算中日志分布存储方法,所述方法包括:
[0012]在边缘网络中,由边缘计算的设备发起post日志;所述post日志中带有meta信息;所述meta信息中包含了所述设备的Home存储中心的信息;所述Home存储中心为所述设备按照预先规划所属的边缘存储中心;所述边缘存储中心为多个,分散在全球多处;每个所述边缘存储中心中包括一个Director服务器和存储集群;
[0013]由距离所述设备最近的边缘存储中心的Director服务器接收所述post日志后,判断日志类型,若为重要日志,则由所述Director服务器将日志转发到国内管理中心存储,若为一般日志,则根据所述meta信息判断当前边缘存储中心是否是所述设备的Home存储中心,若不是,则由所述Director服务器将日志转发到对应的Home存储中心;
[0014]由当前边缘存储中心的Director服务器将所述post日志存储到当前边缘存储中心的存储集群,完成边缘计算中日志的分布存储。
[0015]在其中一个实施例中,所述存储集群中包括多个桶和多个存储机器;
[0016]由当前边缘存储中心的Director服务器对所述设备的设备ID进行哈希计算;
[0017]根据得到的哈希值确定所述设备对应的桶;
[0018]根据预设的桶

存储映射表,确定所述桶对应的存储机器。
[0019]在其中一个实施例中,还包括:桶的数量是固定的,每个桶对应一个存储机器;所述存储机器的个数能够根据存储需求增减;在增减存储机器时,对所述桶

存储映射表进行对应修改。
[0020]一种边缘计算中日志快速访问方法,所述方法包括:
[0021]在边缘网络中,由管理端获取要访问日志的日志类型和其设备ID;
[0022]根据所述日志类型进行判断,若为重要日志,则根据所述设备ID从国内管理中心进行日志访问;
[0023]若为一般日志,根据所述设备ID确定其Home存储中心;所述Home存储中心为所述设备按照预先规划所属的边缘存储中心;所述边缘存储中心为多个,分散在全球多处,用于对设备的一般日志进行就近存储;每个所述边缘存储中心中包括一个Director服务器和存储集群;
[0024]通过所述Home存储中心的Director服务器根据所述设备ID从所述Home存储中心的存储集群中读取日志完成一般日志的访问。
[0025]在其中一个实施例中,还包括:通过所述Home存储中心的Director服务器根据所述设备ID进行哈希计算,根据得到的哈希值确定所述设备对应的桶;
[0026]根据预设的桶

存储映射表,确定所述桶对应的存储机器,从所述存储机器中读取日志完成一般日志的访问。
[0027]一种边缘计算中日志分布存储装置,所述装置包括:
[0028]日志发送模块,用于在边缘网络中,由边缘计算的设备发起post日志;所述post日志中带有meta信息;所述meta信息中包含了所述设备的Home存储中心的信息;所述Home存储中心为所述设备按照预先规划所属的边缘存储中心;所述边缘存储中心为多个,分散在全球多处;每个所述边缘存储中心中包括一个Director服务器和存储集群;
[0029]日志接收模块,用于由距离所述设备最近的边缘存储中心的Director服务器接收所述post日志后,判断日志类型,若为重要日志,则由所述Director服务器将日志转发到国内管理中心存储,若为一般日志,则根据所述meta信息判断当前边缘存储中心是否是所述设备的Home存储中心,若不是,则由所述Director服务器将日志转发到对应的Home存储中心;
[0030]日志存储模块,用于由当前边缘存储中心的Director服务器将所述post日志存储到当前边缘存储中心的存储集群,完成边缘计算中日志的分布存储。
[0031]一种边缘计算中日志快速访问装置,所述装置包括:
[0032]访问信息获取模块,用于在边缘网络中,由管理端获取要访问日志的日志类型和其设备ID;
[0033]重要日志访问模块,用于根据所述日志类型进行判断,若为重要日志,则根据所述设备ID从国内管理中心进行日志访问;
[0034]一般日志访问模块,用于对一般日志,根据所述设备ID确定其Home存储中心;所述Home存储中心为所述设备按照预先规划所属的边缘存储中心;所述边缘存储中心为多个,分散在全球多处,用于对设备的一般日志进行就近存储;每个所述边缘存储中心中包括一个Director服务器和存储集群;通过所述Home存储中心的Director服务器根据所述设备ID
从所述Home存储中心的存储集群中读取日志完成一般日志的访问。
[0035]一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现以下步骤:
[0036]在边缘网络中,由边缘计算的设备发起post日志;所述post日志中带有meta信息;所述meta信息中包含了所述设备的Home存储中心的信息;所述Home存储中心为所述设备按照预先规划所属的边缘存储中心;所述边缘存储中心为多个,分散在全球多处;每个所述边缘存储中心中包括一个Director服务器和存储集群;
[0037]由距离所述设备最近的边缘存储中心的Director服务器接收所述post日志后,判断日志类型,若为重要日志,则由所述D本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种边缘计算中日志分布存储方法,其特征在于,所述方法包括:在边缘网络中,由边缘计算的设备发起post日志;所述post日志中带有meta信息;所述meta信息中包含了所述设备的Home存储中心的信息;所述Home存储中心为所述设备按照预先规划所属的边缘存储中心;所述边缘存储中心为多个,分散在全球多处;每个所述边缘存储中心中包括一个Director服务器和存储集群;由距离所述设备最近的边缘存储中心的Director服务器接收所述post日志后,判断日志类型,若为重要日志,则由所述Director服务器将日志转发到国内管理中心存储,若为一般日志,则根据所述meta信息判断当前边缘存储中心是否是所述设备的Home存储中心,若不是,则由所述Director服务器将日志转发到对应的Home存储中心;由当前边缘存储中心的Director服务器将所述post日志存储到当前边缘存储中心的存储集群,完成边缘计算中日志的分布存储。2.根据权利要求1所述的方法,其特征在于,所述存储集群中包括多个桶和多个存储机器,所述由当前边缘存储中心的Director服务器将所述post日志存储到当前边缘存储中心的存储集群,完成边缘计算中日志的分布存储,包括:由当前边缘存储中心的Director服务器对所述设备的设备ID进行哈希计算;根据得到的哈希值确定所述设备对应的桶;根据预设的桶

存储映射表,确定所述桶对应的存储机器。3.根据权利要求2所述的方法,其特征在于,桶的数量是固定的,每个桶对应一个存储机器;所述存储机器的个数能够根据存储需求增减;在增减存储机器时,对所述桶

存储映射表进行对应修改。4.一种边缘计算中日志分布存储装置,其特征在于,所述装置包括:日志发送模块,用于在边缘网络中,由边缘计算的设备发起post日志;所述post日志中带有meta信息;所述meta信息中包含了所述设备的Home存储中心的信息;所述Home存储中心为所述设备按照预先规划所属的边缘存储中心;所述边缘存储中心为多个,分散在全球多处;每个所述边缘存储中心中包括一个Director服务器和存储集群;日志接收模块,用于由距离所述设备最近的边缘存储中心的Director服务器接收所述post日志后,判断日志类型,若为重要日志,则由所述Director服务器将日志转发到国内管理中心存储,若为一般日志,则根据所述meta信息判断当前边缘存储中心是否是所述设备的Home存储中心,若不是,则由所述Director服务器将日志转发到对应的Home存储中心;日志存储模块,用于由当前边缘存储中心的Director服务器将所述post日志存储到当前...

【专利技术属性】
技术研发人员:乔志刚
申请(专利权)人:北京视界云天科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1