如何避免先污染后治理,浅谈数据标准管理的应用
发布时间:2019.12.13来源:亿信华辰浏览量:61次标签:数据治理
先说一个普遍现象:
近几年来,数据治理的概念越来越火,响应国家政策的号召,政企机构都开始重视自身的数据质量问题。而技术部门根据业务部门的反馈,立马就会得出结论——是数据质量出了问题,然后开始投入大量人力物力开始做数据质量的提升。但是结果往往是短期内数据质量的确得到了提升,一个时间周期过去后,该有的数据质量问题还是在那里。总是先污染后治理,成本花了很多,问题没有得到根本解决。
诚然,数据质量的提升作为数据治理环节中非常重要的一环,我们的确需要重视,但是我们知其然,还要知其所以然,从数据质量问题出发,我们还得知道到底为什么会导致这些数据质量问题,从数据问题的源头做数据质量的管控,这就不得不提到数据标准管理。
数据标准并不能简单的认为就是国家或者行业内出的一些标准文档,我们认为数据标准不仅只是一套规范,而是一套由管理规范、管控流程、技术工具共同组成的体系,是通过这套体系逐步实现信息标准化的过程。数据标准化是通过一整套的数据规范、管控流程和技术工具来确保的各种重要信息,例如产品、客户、机构、账户等在全公司内外的使用和交换都是一致、准确的过程。
如何做好数据标准管理呢?
接下来就以亿信华辰睿治数据治理平台中的数据标准功能模块为参考来简述我们到底该如何去做好数据质量的把控,让我们做到“先治理,避免污染”。主要从两个方面来简述,一是数据标准的建立;二是数据标准的落地及管控。
提前做好数据的规范以及数据管理的规范可以有效的解决大部分数据问题,睿治数据标准提供标准发现的功能,可以快速的发现哪些字段是需要建立标准的,标准管理员可以自行进行比对和判断,是否建立该标准,然后经过不同的业务部门的评审和会签,既是对新建标准的合法性和权威性的认定,也是对各业务部门数据管理员的一次通知,进而不断地去修正不符合标准的数据,提升元数据质量。业务系统的数据管理员也可以根据监管需要或者业务需要来申请新的数据标准,通过这样两种不同的角色、不同的方式来不断完善数据标准体系。
另外除了不断完善标准体系,还会定期地做元数据的标准覆盖率分析,定期出元数据的标准覆盖率分析报告,对于不达标的系统可以通过灵活的工作流催办,提升元数据的标准覆盖率。除了标准覆盖率分析,还会进行数据标准的落地评估,定期产出数据标准评估报告,对于不达标的元数据进行通报,不能让辛苦建好的数据标准成了摆设。
双管齐下,不仅建立完善的数据标准体系,还得用好数据标准,不能让数据标准文档成为一纸空谈。形成完整的数据标准管理流程,将数据标准的建立前置,而不是等到出现数据质量问题才回头发现是因为某些元数据不符合数据标准导致的,从而避免总是先污染后治理。
写在最后:
对于很多企业而言,数据就像血液,数据健康了才能在身体内各器官很好的流转,为各器官提供能量。数据的管理也是一样,不要等数据真的被污染了,才进行数据清洗,应该要做的是建立完善的数据标准管理体系,不要让一些垃圾流入我们的血液,这样健康的数据才能发挥出应有的价值。
-
2019年大数据发展将走向何方
近日,包括CCF(中国计算机学会)大数据专家委员会、IDC公司(Internet Data Center 互联网数据中心)和Gartne……查看详情发布时间:2019.02.19来源:亿信华辰浏览量:58次
-
如今的大数据究竟发展到了什么阶段
大数据时代,大数据分析与应用大肆盛行。越来越多的大公司大企业大集团,都越来越重视大数据的影响和作用。……查看详情发布时间:2019.03.19来源:亿信华辰浏览量:64次
-
数据治理-数据治理标准化的价值
标准的数据指标体系为各主题的数据分析提供支持,提升数据处理和分析效率,提供业务指标的事前提示、事中预警、事后提醒,实现数据驱动管理,帮助……查看详情发布时间:2020.11.08来源:知乎浏览量:63次
-
大数据平台下的企业的数据治理
数据治理是指从使用零散数据变为使用统一主数据、从具有很少或没有组织和流程治理到企业范围内的综合数据治理、从尝试处理主数据混乱状况到主数据……查看详情发布时间:2018.11.28来源:数据治理浏览量:72次
-
数据交换平台是数据中心与其它应用系统沟通的桥梁
数据交换平台是数据中心与其它应用系统沟通的桥梁,是进行数据交换的枢纽站。数据交换平台负责从各个业务系统采集数据,对数据进行清洗与整合,按……查看详情发布时间:2020.08.10来源:知乎浏览量:56次
-
数据治理最佳实践利用大数据
大数据时代的新兴技术,如人工智能和物联网,意味着有更多的数据可以从中受益,并且数据治理策略可以管理和保护。……查看详情发布时间:2019.06.28来源:知乎浏览量:79次
-
企业想获得更清醒的数据,请做好数据质量管理
数据质量管理是指为了满足信息利用的需要,对信息系统的各个信息采集点进行规范,包括建立模式化的操作规程、原始信息的校验、错误信息的反馈、矫……查看详情发布时间:2019.11.04来源:知乎浏览量:77次
-
智与理的结合:当数据治理遇上人工智能
近日,中国移动研究院发布文章,解说了数据治理和人工智能两者之间各自发展历程,论证了两者在结构功能上的相互作用,阐明了两者共同发展的前……查看详情发布时间:2018.09.18来源:中国大数据产业观察网浏览量:83次