System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本公开涉及业务支撑,尤其涉及一种数据表智能管理方法、装置及存储介质。
技术介绍
1、报表系统是账务结算生产中极其重要的组成部分,其报表各层数据的保留策略是报表系统提供报表审计、报表回溯等服务满意度的关键。例如,某省报表系统承载着500+张报表,供省/市财务部、市场部、集客部、账务室等多个业务线条访问,涵盖营业、账务、出账、收入、结算等各种不同类型的报表。
2、其中,报表系统在存储资源有限与报表数量较多的情况下,保证与提高各业务线用户对报表审计、报表回溯等服务的满意度存在一定困难。具体地,如每月需求新增的报表会增加现有存量报表的存储资源压力,同时各个业务线用户对报表的关注范围与报表账期不完全相同。基于此,需要设置合理的报表数据清理策略,以确保满足各个业务线用户的需求,保障各个业务部门的运营生产工作。
3、现有技术中,基于人为预设的固定保留周期进行清理的,依赖维护人员日常经验,会存在不应清理而被清理或应清理而未清理等不合理的情况,从而无法满足各个业务线用户的需求。同时,根据用户的反馈,再对报表数据清理策略预设的参数进行调优,只能从磁带恢复历史数据再补采集来补救,用户服务满意度较低。
技术实现思路
1、为克服相关技术中存在的问题,本公开提供一种数据表智能管理方法、装置及存储介质。
2、根据本公开实施例的第一方面,提供一种数据表智能管理方法,所述方法包括:
3、获取报表系统中需要管理的数据表的日志数据;
4、对所述日志数据进行数据
5、基于所述特征数据,通过数据表智能管理模型得到所述数据表对应的分级结果;
6、基于所述数据表的分级结果,通过数据表调整策略对所述数据表进行调整。
7、可选的,在本公开实施例中,所述日志数据,包括:
8、各数据表/索引使用的空间数据;
9、各数据表之间的依赖关系数据;
10、用户访问数据表的日志数据;
11、数据表清理策略配置表。
12、可选的,在本公开实施例中,所述对所述日志数据进行数据处理,得到所述数据表对应的特征数据,包括:
13、对所述日志数据进行数据清洗,得到所述日志数据对应的标准化数据,其中,所述标准化数据包括数据表使用空间情况明细、数据表前置依赖关系、数据表访问情况明细和数据表清理策略明细;
14、对所述标准化数据进行数据关联,得到所述标准化数据对应的关联数据,其中,所述关联数据包括数据表每账期的数据存储资源使用空间宽表、数据表每账期的数据访问需求宽表和数据表的清理策略宽表;
15、对所述关联数据进行关键特征指标的计算,得到所述关联数据对应的特征数据,其中,所述特征数据包括数据表的存储成本特征数据、访问需求特征数据和清理策略初始配置。
16、可选的,在本公开实施例中,所述对所述关联数据进行关键特征指标的计算,得到所述关联数据对应的特征数据,包括:
17、基于所述数据存储资源使用空间宽表中每个数据表的现分区数和存储大小,将通过计算得到的数据表每个分区平均使用的存储大小在所有数据表每个分区平均使用的存储大小总值的比例,确定为数据表的存储成本特征数据;
18、基于所述数据访问需求宽表中预设时间段内每个数据表的访问用户数,将通过计算得到的访问用户数与所述报表系统总访问用户数的比例和平均访问账期数,确定为数据表的访问需求特征数据;
19、基于所述清理策略初始配置中每个数据表的保留分区数,确定为数据表的清理策略初始配置。
20、可选的,在本公开实施例中,所述基于所述特征数据,通过数据表智能管理模型得到所述数据表对应的分级结果,包括:
21、基于所述特征数据,确定数据表的访问需求因子和存储成本因子;
22、基于所述数据表的访问需求因子和存储成本因子,确定所述数据表处于所述数据表智能管理模型中的目标等级区域;
23、将所述目标等级区域对应的目标分级确定为所述数据表对应的分级结果。
24、可选的,在本公开实施例中,所述基于所述数据表的分级结果,通过数据表调整策略对所述数据表进行调整,包括:
25、基于所述数据表的分级结果,通过数据表调整策略确定所述数据表需要调整的保留分区数量;
26、基于所述需要调整的保留分区数量对所述数据表进行调整。
27、可选的,在本公开实施例中,所述基于所述数据表的分级结果,通过数据表调整策略对所述数据表进行调整之前,所述方法还包括:
28、基于所述特征数据,确定每个数据表需要调整的优先级排名。
29、可选的,在本公开实施例中,所述基于所述数据表的分级结果,通过数据表调整策略对所述数据表进行调整,包括:基于所述优先级排名和分级结果,通过数据表调整策略对所述数据表进行调整。
30、根据本公开实施例的第二方面,提供一种数据表智能管理装置,所述装置包括:
31、获取模块,用于获取数据表系统中需要管理数据表的日志数据;
32、第一处理模块,用于对所述日志数据进行数据处理,得到所述数据表对应的特征数据;
33、第二处理模块,用于基于所述特征数据,通过数据表智能管理模型得到所述数据表对应的分级结果;
34、调整模块,用于基于所述数据表的分级结果,通过数据表调整策略对所述数据表进行调整。
35、根据本公开实施例的第三方面,提供了一种电子设备,包括:
36、处理器;
37、用于存储处理器可执行指令的存储器;
38、其中,所述处理器被配置为实现前述第一方面中所述的方法。
39、根据本公开实施例的第四方面,提供了一种非临时性计算机可读存储介质,所述计算机存储介质存储有计算机可执行指令;所述计算机可执行指令被处理器执行后,能够实现前述第一方面中所述的方法。
40、本公开的实施例提供的技术方案可以包括以下有益效果:
41、本公开提出的一种数据表智能管理方法中,该方法包括:获取报表系统中需要管理的数据表的日志数据;对日志数据进行数据处理,得到数据表对应的特征数据;基于特征数据,通过数据表智能管理模型得到数据表对应的分级结果;基于数据表的分级结果,通过数据表调整策略对数据表进行调整。由此,本公开可以通过数据表智能管理模型确定数据表的分级结果,并根据分级结果合理和动态的对数据表进行自动调整,无需依赖人工维护,避免出现不应清理而被清理或应清理而未清理的不合理情况,满足了各个业务线用户的需求,有效缓解了数据存储资源压力,提升了系统服务体验质量。
42、应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
本文档来自技高网...【技术保护点】
1.一种数据表智能管理方法,其特征在于,所述方法包括:
2.如权利要求1所述的方法,其特征在于,所述日志数据,包括:
3.如权利要求2所述的方法,其特征在于,所述对所述日志数据进行数据处理,得到所述数据表对应的特征数据,包括:
4.如权利要求3所述的方法,其特征在于,所述对所述关联数据进行关键特征指标的计算,得到所述关联数据对应的特征数据,包括:
5.如权利要求1所述的方法,其特征在于,所述基于所述特征数据,通过数据表智能管理模型得到所述数据表对应的分级结果,包括:
6.如权利要求1所述的方法,其特征在于,所述基于所述数据表的分级结果,通过数据表调整策略对所述数据表进行调整,包括:
7.如权利要求1所述的方法,其特征在于,所述基于所述数据表的分级结果,通过数据表调整策略对所述数据表进行调整之前,所述方法还包括:
8.如权利要求7所述的方法,其特征在于,所述基于所述数据表的分级结果,通过数据表调整策略对所述数据表进行调整,包括:基于所述优先级排名和分级结果,通过数据表调整策略对所述数据表进行调整。<
...【技术特征摘要】
1.一种数据表智能管理方法,其特征在于,所述方法包括:
2.如权利要求1所述的方法,其特征在于,所述日志数据,包括:
3.如权利要求2所述的方法,其特征在于,所述对所述日志数据进行数据处理,得到所述数据表对应的特征数据,包括:
4.如权利要求3所述的方法,其特征在于,所述对所述关联数据进行关键特征指标的计算,得到所述关联数据对应的特征数据,包括:
5.如权利要求1所述的方法,其特征在于,所述基于所述特征数据,通过数据表智能管理模型得到所述数据表对应的分级结果,包括:
6.如权利要求1所述的方法,其特征在于,所述基于所述数据表的分级结果,通过数据表调整...
【专利技术属性】
技术研发人员:许敏,郭正,黄际彬,胡远明,周汉明,
申请(专利权)人:中国移动通信集团广东有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。