System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种物联网文件存储方法及系统技术方案_技高网

一种物联网文件存储方法及系统技术方案

技术编号:42300361 阅读:7 留言:0更新日期:2024-08-14 15:48
本发明专利技术涉及一种物联网文件存储方法及系统,该方法包括:解析设备消息,对文件进行分块处理,切分成统一大小的数据块;对所述数据块计算特征值,得到包含多个所述数据块特征值的特征集合;将所述特征集合与第一特征集合进行比较,决定是否对该数据块进行存储,所述第一特征集合为已有数据块的特征值组成的集合;上传所述存储的数据块,记录其特征值和文件信息等数据,更新所述存储数据块的元数据信息;将更新后的所述元数据信息组装到设备消息中,将所述设备消息发送到消息队列。本发明专利技术解决物联网设备文件重复传输与存储的问题,节省网络带宽,降低存储空间占用,提升物联网平台设备支撑能力。

【技术实现步骤摘要】

本专利技术涉及物联网文件存储,尤其涉及一种物联网文件存储方法及系统


技术介绍

1、目前设备接入物联网平台后,一些功能的实现依赖于文件的传输,常见的如设备信息的上报、功能调用的回复等场景,均需要设备侧与平台进行连续的文件方式的交互。

2、例如,在贷后监控场景下,监控设备会将实时的监控信息以一定的频率定时上报给平台端,而这些监控信息则可能以视频信息(摄像头)、音频信息(拾音器)、图片信息(截图)等多种不同的方式返回给平台,平台则需要对这些信息进行统一的存储和管理,并能够从海量的信息中准确识别出可能存在的风险情况。

3、物联网平台将与设备交互抽象为物模型的表现形式,物模型中又包含了属性、服务和事件三种类型。以事件为例,设备在其运行时主动上报给平台侧的信息,可以是设备采集的数据、运行记录、告警等多类信息,文件也是其中信息的一种重要的表现形式。当设备所上报事件中存在文件类型的参数时,会将其作为文件类型进行处理,文件类型可以单独配置,也可以嵌套在结构体和数组中。

4、现有的技术方案是收到物联网设备所传输的文件后,直接对其进行存储,未对文件内容作进一步的判断和处理,对内容重复的文件而言,系统中也会多次进行存储。在设备数量较少时,带宽和存储空间等还未成为平台性能方面的瓶颈,而当设备数量显著增加时,每日的文件传输量和存储量急剧增长,给网络带宽和存储空间都带来了一定的挑战。


技术实现思路

1、本专利技术将文件切分成数据块,通过计算数据块特征值对其进行重复检测,将未存储过的数据块进行上传存储,且文件存储采用分布式存储架构,解决物联网设备文件重复传输的问题,同时使物联网平台具备大规模设备文件处理能力。

2、为实现以上目的,本专利技术所采用的技术方案包括:

3、一种物联网文件存储方法,其特征在于,包括:

4、s1.对物联网设备发送的消息进行解析,获得解析消息,判断所述解析消息是否包含文件类型,若包含文件类型,则对所述文件进行分块处理,将其切分成统一大小的数据块;

5、s2.对所述数据块采用哈希算法分别计算特征值,得到包含多个所述数据块特征值的特征集合;

6、s3.将所述特征集合与第一特征集合进行比较,若所述特征集合与所述第一特征集合中不存在相同值,则对该数据块进行存储;

7、s4.上传所述存储的数据块,记录其特征值和文件信息等数据,更新所述存储数据块的元数据信息;

8、s5.将更新后的所述元数据信息组装到设备消息中,将所述设备消息发送到消息队列。

9、进一步地,所述判断所述解析消息是否包含文件类型,还包括:若不包含文件类型,则不对所述解析消息进行处理。

10、进一步地,所述将所述特征集合与第一特征集合进行比较,还包括:若所述特征集合与所述第一特征集合中存在相同值,则所述相同值对应的数据块为重复数据块,不对该数据块进行重复存储,直接引用已有数据块并同步更新所述数据块的元数据信息。

11、进一步地,所述第一特征集合为已有数据块的特征值组成的集合。

12、进一步地,所述步骤s5,还包括:连接服务收到所述设备消息后向时序数据库插入一条记录更新数据以供实时调用。

13、进一步地,所述数据块的存储采用分布式架构,存储服务器以多节点的形式进行部署,同一个文件中不同的数据块分布在不同的存储服务器,同一数据块则采用多副本的形式进行备份。

14、本专利技术还涉及一种物联网文件存储系统,其特征在于,包括:

15、数据预处理模块,用于对物联网设备发送的消息进行解析,获得解析消息,判断所述解析消息是否包含文件类型,若包含文件类型,则对所述文件进行分块处理,将其切分成统一大小的数据块;

16、特征计算模块,用于计算所述数据块特征值,得到包含多个所述数据块特征值的特征集合;

17、重复检测模块,用于将所述特征集合与第一特征集合进行比较,决定是否将数据块进行存储记录,所述第一特征集合为已有数据块的特征值组成的集合;

18、存储模块,用于记录存储的数据块的特征值和文件信息等数据,更新所述存储数据块的元数据信息。

19、本专利技术还涉及一种计算机可读存储介质,其特征在于,所述存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现上述的方法。

20、本专利技术还涉及一种电子设备,其特征在于,包括处理器和存储器;

21、所述存储器,用于存储程序指令;

22、所述处理器,用于通过调用程序指令,执行上述的方法。

23、本专利技术还涉及一种计算机程序产品,包括计算机程序和/或指令,其特征在于,该计算机程序和/或指令被处理器执行时实现上述方法的步骤。

24、本专利技术的有益效果为:

25、采用本专利技术所述一种物联网文件存储方法及系统,通过计算特征值对将要存储的文件进行重复检测,仅对未存储的文件进行上传存储,解决了物联网文件重复传输的问题,且文件存储采用分布式架构,使得物联网平台具备大规模文件处理能力,节省了网络带宽,降低了存储空间占用,提升了物联网平台设备支撑能力。

本文档来自技高网...

【技术保护点】

1.一种物联网文件存储方法,其特征在于,包括:

2.如权利要求1所述的方法,其特征在于,所述判断所述解析消息是否包含文件类型,还包括:若不包含文件类型,则不对所述解析消息进行处理。

3.如权利要求1所述的方法,其特征在于,所述将所述特征集合与第一特征集合进行比较,还包括:若所述特征集合与所述第一特征集合中存在相同值,则所述相同值对应的数据块为重复数据块,不对该数据块进行重复存储,直接引用已有数据块并同步更新所述数据块的元数据信息。

4.如权利要求1和3所述的方法,其特征在于,所述第一特征集合为已有数据块的特征值组成的集合。

5.如权利要求1所述的方法,其特征在于,所述步骤S5,还包括:连接服务收到所述设备消息后向时序数据库插入一条记录更新数据以供实时调用。

6.如权利要求1-5所述的方法,其特征在于,所述数据块的存储采用分布式架构,存储服务器以多节点的形式进行部署,同一个文件中不同的数据块分布在不同的存储服务器,同一数据块则采用多副本的形式进行备份。

7.一种物联网文件存储系统,其特征在于,包括:

>8.一种计算机可读存储介质,其特征在于,所述存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现权利要求1至6中任一项所述的方法。

9.一种电子设备,其特征在于,包括处理器和存储器;

10.一种计算机程序产品,包括计算机程序和/或指令,其特征在于,该计算机程序和/或指令被处理器执行时实现权利要求1至6中任一项所述方法的步骤。

...

【技术特征摘要】

1.一种物联网文件存储方法,其特征在于,包括:

2.如权利要求1所述的方法,其特征在于,所述判断所述解析消息是否包含文件类型,还包括:若不包含文件类型,则不对所述解析消息进行处理。

3.如权利要求1所述的方法,其特征在于,所述将所述特征集合与第一特征集合进行比较,还包括:若所述特征集合与所述第一特征集合中存在相同值,则所述相同值对应的数据块为重复数据块,不对该数据块进行重复存储,直接引用已有数据块并同步更新所述数据块的元数据信息。

4.如权利要求1和3所述的方法,其特征在于,所述第一特征集合为已有数据块的特征值组成的集合。

5.如权利要求1所述的方法,其特征在于,所述步骤s5,还包括:连接服务收到所述设备消息后向时序数据库...

【专利技术属性】
技术研发人员:赵旭
申请(专利权)人:中信银行股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1