System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本专利技术涉及数据传输,尤其涉及一种文件缓存方法、装置、设备及存储介质。
技术介绍
1、随着互联网快速发展,面对海量文件存储产生了越来越多的复杂问题,对文件存储提出更高的要求,其中,一般的存储架构均是以底层存储系统架构为主进行海量文件的存储,但仅仅依赖于底层存储系统进行海量文件存储普遍存在不稳定或者延迟较高的问题,因此如何提供一个稳定低延迟的文件上传下载服务成为亟待解决的技术问题。
2、上述内容仅用于辅助理解本专利技术的技术方案,并不代表承认上述内容是现有技术。
技术实现思路
1、本专利技术的主要目的在于提供一种文件缓存方法、装置、设备及存储介质,旨在解决现有技术如何提供一个稳定低延迟的文件上传下载服务的技术问题。
2、为实现上述目的,本专利技术提供了一种文件缓存方法,所述方法包括以下步骤:
3、在接收到上传文件的上传请求时,确定所述上传文件的文件字节数量;
4、在所述文件字节数量小于预设字节数量时,将所述上传文件传输至预设分布式消息系统,得到系统队列消息;
5、根据所述系统队列消息构建上传文件对应的索引信息,所述索引信息用于快速查找索引信息对应的上传文件。
6、可选的,所述根据所述系统队列消息构建上传文件对应的索引信息之后,还包括:
7、在接收到文件下载请求时,根据所述文件下载请求确定文件下载请求对应的索引信息;
8、根据所述索引信息查找索引信息对应的文件存储位置;
9、根
10、可选的,所述根据所述索引信息查找索引信息对应的文件存储位置之后,还包括:
11、在所述文件存储位置中不存在文件下载请求对应的数据时,删除所述文件下载请求对应的索引信息。
12、可选的,所述在接收到文件下载请求时,根据所述文件下载请求确定文件下载请求对应的索引信息之后,还包括:
13、在无法根据所述文件下载请求确定文件下载请求对应的索引信息时,根据所述文件下载请求确定文件下载请求对应的文件存储位置;
14、根据所述文件下载请求对应的文件存储位置查询预设底层存储系统,得到目标文件,以完成文件下载。
15、可选的,所述根据所述系统队列消息构建上传文件对应的索引信息之后,还包括:
16、将所述上传文件放入预设底层存储系统中并对所述上传文件进行切片处理,得到文件切片;
17、根据所述文件切片设置对应的行键,以在存在查询需求时,根据所述行键查找上传文件对应的文件切片。
18、可选的,所述根据所述系统队列消息构建上传文件对应的索引信息,包括:
19、根据所述系统队列消息确定上传文件在预设分布式消息系统中的存储位置;
20、获取上传文件在预设分布式消息系统中的数据长度;
21、根据所述存储位置和数据长度构建上传文件对应的索引信息。
22、可选的,所述预设分布式消息系统为kafka系统。
23、可选的,所述在接收到上传文件的上传请求时,确定所述上传文件的文件字节数量之后,还包括:
24、在所述文件字节数量大于等于预设字节数量时,将所述上传文件存入磁盘中,获取磁盘存储位置;
25、根据所述磁盘存储位置生成索引信息,所述索引信息用于快速查找索引信息对应的上传文件。
26、可选的,所述在所述文件字节数量小于预设字节数量时,将所述上传文件传输至预设分布式消息系统,得到系统队列消息,包括:
27、在所述文件字节数量小于预设字节数量时,将所述上传文件传输至预设分布式消息系统;
28、监控所述预设分布式消息系统的信息变化参数,得到预设分布式消息系统的变化信息;
29、根据所述变化信息确定系统队列信息。
30、可选的,所述监控所述预设分布式消息系统的信息变化参数,得到预设分布式消息系统的变化信息,包括:
31、监控所述预设分布式消息系统的磁盘目录信息;
32、在所述磁盘目录信息发生变化时,确定新增消息变化位置以及偏移量;
33、根据所述新增消息变化位置以及偏移量确定所述预设分布式消息系统的变化信息。
34、此外,为实现上述目的,本专利技术还提出一种文件缓存装置,所述文件缓存装置包括:
35、处理模块,用于在接收到上传文件的上传请求时,确定所述上传文件的文件字节数量;
36、所述处理模块,还用于在所述文件字节数量小于预设字节数量时,将所述上传文件传输至预设分布式消息系统,得到系统队列消息;
37、控制模块,用于根据所述系统队列消息构建上传文件对应的索引信息,所述索引信息用于快速查找索引信息对应的上传文件。
38、可选的,所述处理模块,还用于在接收到文件下载请求时,根据所述文件下载请求确定文件下载请求对应的索引信息;
39、根据所述索引信息查找索引信息对应的文件存储位置;
40、根据所述索引信息对应的文件存储位置进行文件下载。
41、可选的,所述处理模块,还用于在所述文件存储位置中不存在文件下载请求对应的数据时,删除所述文件下载请求对应的索引信息。
42、可选的,所述处理模块,还用于在无法根据所述文件下载请求确定文件下载请求对应的索引信息时,根据所述文件下载请求确定文件下载请求对应的文件存储位置;
43、根据所述文件下载请求对应的文件存储位置查询预设底层存储系统,得到目标文件,以完成文件下载。
44、可选的,所述处理模块,还用于将所述上传文件放入预设底层存储系统中并对所述上传文件进行切片处理,得到文件切片;
45、根据所述文件切片设置对应的行键,以在存在查询需求时,根据所述行键查找上传文件对应的文件切片。
46、可选的,所述控制模块,还用于根据所述系统队列消息确定上传文件在预设分布式消息系统中的存储位置;
47、获取上传文件在预设分布式消息系统中的数据长度;
48、根据所述存储位置和数据长度构建上传文件对应的索引信息。
49、可选的,所述处理模块,还用于在所述文件字节数量大于等于预设字节数量时,将所述上传文件存入磁盘中,获取磁盘存储位置;
50、根据所述磁盘存储位置生成索引信息,所述索引信息用于快速查找索引信息对应的上传文件。
51、可选的,所述处理模块,还用于在所述文件字节数量小于预设字节数量时,将所述上传文件传输至预设分布式消息系统;
52、监控所述预设分布式消息系统的信息变化参数,得到预设分布式消息系统的变化信息;
53、根据所述变化信息确定系统队列信息。
54、此外,为实现上述目的,本专利技术还提出一种文件缓存设备,所述文件缓存设备包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的文件缓存本文档来自技高网...
【技术保护点】
1.一种文件缓存方法,其特征在于,所述文件缓存方法包括:
2.如权利要求1所述的方法,其特征在于,所述根据所述系统队列消息构建上传文件对应的索引信息之后,还包括:
3.如权利要求2所述的方法,其特征在于,所述根据所述索引信息查找索引信息对应的文件存储位置之后,还包括:
4.如权利要求2所述的方法,其特征在于,所述在接收到文件下载请求时,根据所述文件下载请求确定文件下载请求对应的索引信息之后,还包括:
5.如权利要求1所述的方法,其特征在于,所述根据所述系统队列消息构建上传文件对应的索引信息之后,还包括:
6.如权利要求1所述的方法,其特征在于,所述根据所述系统队列消息构建上传文件对应的索引信息,包括:
7.如权利要求1所述的方法,其特征在于,所述预设分布式消息系统为kafka系统。
8.一种文件缓存装置,其特征在于,所述文件缓存装置包括:
9.一种文件缓存设备,其特征在于,所述设备包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的文件缓存程序,所述文件缓存程序配置为实现如
10.一种存储介质,其特征在于,所述存储介质上存储有文件缓存程序,所述文件缓存程序被处理器执行时实现如权利要求1至7任一项所述的文件缓存方法的步骤。
...【技术特征摘要】
1.一种文件缓存方法,其特征在于,所述文件缓存方法包括:
2.如权利要求1所述的方法,其特征在于,所述根据所述系统队列消息构建上传文件对应的索引信息之后,还包括:
3.如权利要求2所述的方法,其特征在于,所述根据所述索引信息查找索引信息对应的文件存储位置之后,还包括:
4.如权利要求2所述的方法,其特征在于,所述在接收到文件下载请求时,根据所述文件下载请求确定文件下载请求对应的索引信息之后,还包括:
5.如权利要求1所述的方法,其特征在于,所述根据所述系统队列消息构建上传文件对应的索引信息之后,还包括:
6.如权利要求1所述的方法,其特...
【专利技术属性】
技术研发人员:李将旭,刘秀梅,张猛,冯鑫,
申请(专利权)人:三六零数字安全科技集团有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。