System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本专利技术涉及工业数据治理领域,具体涉及一种基于数据分类管理的工业数据治理方法。
技术介绍
1、当前,伴随着工业互联网的快速发展,工业数据的迅速增长给工业企业带来了巨大的挑战,工业数据的多源异构情况越来越普遍。工业数据的多源异构,是指在工业领域的数据采用中,由于不同数据来自不同设备、传感器、计算机等多种设备,并且数据自身又包含设备基础数据、设备运行数据、业务数据等多种类型,二数据来源的多样化和数据种类的多样化,又缺乏统一的数据标准和数据治理工具,导致工业数据的标准不统一、质量低、难利用等问题凸显,使得工业数据没有充分发挥其价值,使得工业数据在应用过程中存在局限性。
2、工业数据具有数量大、质量低、数据难以利用的特点,需要针对工业数据进行有价值的转换,以实现用户可快速实现数据标准化,提升数据质量,使工业数据充分发挥其价值。
技术实现思路
1、本专利技术目的在于提供一种基于数据分类管理的工业数据治理方法,以解决gg的技术问题。
2、为了解决上述技术问题,本专利技术采用了如下的技术方案:
3、一种基于数据分类管理的工业数据治理方法,其特征在于,包括以下步骤:
4、s1、对元数据进行分类;
5、s2、对分类后的元数据进行数据采集;
6、s3、对采集的数据清洗和转换;
7、s4、对清洗和转换后的数据进行数据治理;
8、s5、将进行数据治理后的数据资产转化。
9、作为优选,步骤s1中,所
10、作为优选,步骤s2中,数据采集类型包括业企业多源异构的设备基础数据、设备运行数据、业务数据。
11、作为优选,步骤s3中,数据清洗包括以下步骤:
12、s3.1、数据预处理,并抽取部分数据进行人工审阅;
13、s3.2、对数据进行缺失值清洗;
14、s3.3、对进行缺失值清洗后的数据进行格式与内容清洗;
15、s3.4、对进行格式与内容清洗后的数据进行逻辑错误清洗;
16、s3.5、对进行逻辑错误清洗后的数据进行关联性验证。
17、作为优选,步骤s3.2中,对数据进行缺失值清洗,包括以下步骤:
18、s3.2.1、对每个字段计算缺失值比例,然后按照缺失比例和字段重要性制定不同策略;
19、s3.2.2、删除不需要的字段;
20、s3.2.3、填充缺失值内容;
21、s3.2.4、重新获取数据,并进行数据转换。
22、作为优选,步骤s4中,数据治理包括数据标准化和数据质量稽核,具体包括以下步骤:
23、s4.1、根据数据需求开展数据标准的编制工作,确定数据项,并根据所需数据项提供数据属性信息;
24、s4.2、对数据标准初稿进行审查,判断数据标准是否符合预设要求;
25、s4.3、数据标准审查通过后进行数据标准发布;
26、s4.4、数据标准发布后,按照数据标准构建数据质量稽核任务,排查数据质量问题,定位具体数据指标;
27、s4.5、根据数据质量稽核结果,修改质量问题数据,提升数据质量。
28、作为优选,步骤s5中,进行数据资产转化,首先需要构建数据目录,并把数据表和数据api以数据资产的形式挂载至数据目录上,对后续数据的计算和应用提供计算依据。
29、作为优选,所述数据目录构建包括以下步骤:
30、s5.1、对数据表按照业务进行分类,并创建数据目录分类;
31、s5.2、将需要开放的数据表和api进行挂载,将表和api挂在到对应分类上,并将资源发布至数据目录。
32、本专利技术具有以下有益效果:本专利技术提出的基于数据分类管理的工业数据治理方法,通过对元数据进行分类后实施分类化管理的采集和数据治理处理,使得数据治理处理针对不同数据类别更具有针对性,利于更有效的实施数据治理后的数据资产转化,能够有效降低因数据质量低下造成的数据应用困难问题,解决了工业领域数据数量大、质量低、数据难利用的技术问题;通过实施本专利技术的方法,能够降低人工核对数据质量造成的人力浪费。
本文档来自技高网...【技术保护点】
1.一种基于数据分类管理的工业数据治理方法,其特征在于,包括以下步骤:
2.根据权利要求1所述的基于数据分类管理的工业数据治理方法,其特征在于,步骤S1中,所述元数据包括业务元数据、技术元数据和操作元数据。
3.根据权利要求1所述的基于数据分类管理的工业数据治理方法,其特征在于,步骤S2中,数据采集类型包括业企业多源异构的设备基础数据、设备运行数据、业务数据。
4.根据权利要求1所述的基于数据分类管理的工业数据治理方法,其特征在于,步骤S3中,数据清洗包括以下步骤:
5.根据权利要求4所述的基于数据分类管理的工业数据治理方法,其特征在于,步骤S3.2中,对数据进行缺失值清洗,包括以下步骤:
6.根据权利要求1所述的基于数据分类管理的工业数据治理方法,其特征在于,步骤S4中,数据治理包括数据标准化和数据质量稽核,具体包括以下步骤:
7.根据权利要求1所述的基于数据分类管理的工业数据治理方法,其特征在于,步骤S5中,进行数据资产转化,首先需要构建数据目录,并把数据表和数据API以数据资产的形式挂载至数据目录上,对
8.根据权利要求1所述的基于数据分类管理的工业数据治理方法,其特征在于,所述数据目录构建包括以下步骤:
...【技术特征摘要】
1.一种基于数据分类管理的工业数据治理方法,其特征在于,包括以下步骤:
2.根据权利要求1所述的基于数据分类管理的工业数据治理方法,其特征在于,步骤s1中,所述元数据包括业务元数据、技术元数据和操作元数据。
3.根据权利要求1所述的基于数据分类管理的工业数据治理方法,其特征在于,步骤s2中,数据采集类型包括业企业多源异构的设备基础数据、设备运行数据、业务数据。
4.根据权利要求1所述的基于数据分类管理的工业数据治理方法,其特征在于,步骤s3中,数据清洗包括以下步骤:
5.根据权利要求4所述的基于数据分类管理的工业数据治...
【专利技术属性】
技术研发人员:江虹峰,卢仁谦,王立东,张芷馨,王艺谚,
申请(专利权)人:重庆忽米网络科技有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。