企业数据质量是数字化时代企业的重要资产

发布时间:2020.01.10来源:知乎浏览量:446次标签:数据治理

大数据的概念正在进一步渗透到各个行业与领域当中,随着企业业务增长和规模扩大,以及伴随着信息技术和相关基础设施的不断完善,在短短的几年内,数据已经呈现了爆发式的增长,多数传统企业也开始走上了数字化转型的道路。数据中蕴藏的商业价值也逐渐被人们挖掘出来:客户群体细分提供个性化服务和精准营销、数据驱动创新促进发掘新的需求和商业模式、数据互联互通打破了组织边界提高管理效率和产业效率,以及降低服务成本。

企业数据质量
数据是数字化时代企业的重要资产,数据可以以产品或服务的形态为企业创造价值。既然数据可以是产品、可以是服务,那问题就简单了。虽然数据质量管理没有成熟方法论支撑,但是产品和服务的质量管理体系却已非常的成熟了,何不尝试用产品和服务的质量管理体系来管理数据质量?!那国际上最权威的质量管理体系IOS9001是否也适用于企业的数据质量管理呢?

在数据治理方面,不论是国际的还是国内的,我们能找到很多数据治理成熟度评估模型这样的理论框架,作为企业实施的指引。而说到数据质量管理的方法论,其实业内还没有一套科学、完整的数据质量管理的体系。很多企业对数据质量的重视程度还不够,即使部分企业在朝着这个方向努力,也是摸着石头过河。

下图是ISO9001基于PDCA的质量管理核心思想,其重点强调以客户为关注焦点、领导作用、全员参与、过程方法、持续改进、循证决策和关系管理。

依据ISO9001以及企业在数据治理方面的相关经验,亿信华辰认为企业数据质量管理应从以下几个方面着手:

1. 明确目标
这里先提一个概念:数据生命周期管理。数据的生命周期从数据规划开始,中间是一个包括产生、处理、部署、应用、监控、存档、销毁这几个步骤并不断迭代的过程。那么在其中任何一个环节都会涉及到数据质量的管理。因此当我们确定此次数据质量评估的目标时,首先要定位当前的数据处于生命周期的哪个阶段,进一步明确后续步骤对于数据质量的需求有哪些。数据价值的体现形式在于数据通过流动最终被消费。同一份数据在不同的生命周期中,其质量的关注点是存在差异的,因此很重要的一点就是明确当前阶段数据质量管理的目标是什么。有了明确的目标,才能开始对数据进行合理的评估。

2. 构建数据全景图
许多企业进行数据质量评估的时候很容易只关注在当前企业的现有数据。从而忽视了当前企业中暂时没有的数据。我们知道,数据可以划分为内部数据和外部数据,还可以通过数据交易获取数据。因此对于数据质量管理,很重要的一点就是企业首先要构建一个数据全景图。基于生态或者完整的业务全景来构建数据全景。数据全景图与业务是不可分离的,因此,脱离了业务,或者仅仅围绕部分当前的业务进行质量的评估,并不能从长远和全局的角度给我们的数据质量管理带来更加价值的指导意义。既要关注当下的现状,又要着眼于未来的演变。

3. 选取数据质量维度
评价数据质量的维度有很多,例如:数据准确性、数据一致性、数据的实效性、数据的完整性等等。可列举出十几种维度或者更多,在许多地方都会有对数据质量维度的具体解释。那么在这里我们要关注的是如何选取维度。尽管每一个维度都与质量相关联,但是并不是每一个维度对质量都会产生相同的影响作用。因此,我们需要对选取几个我们最为关注的数据质量维度来对其进行评估。选取过多的维度会增加后续数据质量评估模型的复杂度,并会增加采样数据,度量质量的成本和难度。而选取过少的维度又不能全面的反应数据质量。一般来说,4-7个维度是比较合理的选择。当然,根据实际需要,也可以定义自己的质量维度和选取适当的数量。

4. 制定数据质量评估模型
经过上一步选定了进行质量度量的维度,接下来就是对数据评估进行建模。建模的目的是我们在对各个维度进行质量度量之后,需要对度量结果进行一个计算,得到一个更加直观的分数来衡量数据质量的好坏。建模本身也是一个复杂的工程,当然简单的评估模型可以是一个线性模型,既各个维度的数值乘以一个权重然后进行累加。也可以是一个很复杂的数学模型,甚至会对模型进行调参。建模本身需要对数据有一定敏感性和深刻的理解,同时需要具备一定的数学知识。

5. 确定数据质量度量标准和度量方法
在数据质量的众多维度当中,有些维度是很容易进行度量的,例如缺失率。缺失率的计算只要统计出缺失的数据量在整个数据集中的占比就可以得出一个具体的值。然而有些维度,例如实效性、一致性等如果要进行度量的话,就不是那么容易了。我们需要在度量之前定义出度量的标准是什么,基于这个标准,再确定度量的方法。就是我们如何把一些描述性的度量全部转化成为可以量化的数值或者比率。需要这样一个量化的过程,才能够将这些度量结果通过模型计算,最终得出一个质量的评估结果。度量的方法也会分为多种,可以是人工去对比,也可以用程序化的方式进行对比,或者采用统计学的方式来进行度量。

6. 实施数据质量评估并撰写评估报告
终于到了最后的实施环节,在实施的环节需要考虑的是数据采样策略。如果数据量小,我们可以对全部数据进行度量和评估。如果数据量很大或者对全量数据进行评估成本过高,那么就需要进行部分数据采样,对样本数据进行评估。数据会有其自身的一些特点,例如周期性或者实效性。因此在制定抽样策略和抽样频率的时候,不能不考虑这些因素,否则采样数据得出的评估结论很可能就会与全量数据的真实情况有较大的偏差,因此如何尽可能的减少偏差也是一个需要思考的问题。

经过抽样、度量、评估之后,就可以得到评估结论了。最后我们需要的就是撰写一份评估的报告,在这份报告当中,除了最后的结论,应当还包括对这个结论的分析和解读,并通过一些可视化的方式展现在报告当中。数据质量评估报告不是最终的目的,这份报告对后续数据质量的管理,数据治理等都具有非常重要的参考意义。因此,在这份报告中应当包含结论、分析以及只质量改善建议这几个方面。
(部分内容来源网络,如有侵权请联系删除)
立即免费申请产品试用 预约演示
相关文章推荐
  • 大数据管理实践在风险中受到关注

    大数据管理实践在风险中受到关注

    越来越多的情况是,数据专业也必须将这种态度带到更大的世界。……查看详情

    发布时间:2019.03.21来源:亿信华辰浏览量:418次

  • 数字化时代的大数据治理应该怎么做呢?

    数字化时代的大数据治理应该怎么做呢?

    随着时代的发展,各个企业收集数据的渠道越来越多样化,也有越来越多的企业开始应用大数据来创造价值,为了合理有效的挖掘数据资源来源的价值,首……查看详情

    发布时间:2019.07.17来源:知乎浏览量:427次

  • 数据标准管理工具最全介绍:背景、功能和案例都在这!

    数据标准管理工具最全介绍:背景、功能和案例都在这!

    数据标准管理工具作为企业开展数据管控的抓手,需要把数据管理制度办法中建立的各项工作流在信息化系统中实现,避免线下流程,这就需要工具能支持……查看详情

    发布时间:2021.08.03来源:亿信数据治理知识库浏览量:1500次

  •  数据治理目标是什么?数据治理框架包括哪些方面?

    数据治理目标是什么?数据治理框架包括哪些方面?

    ​数据治理涵盖了数据质量、数据建模和架构、数据存储、数据操作、商业智能、数据沿袭、文档、数据集成和数据安全等.制定数据治理计划前我们需要……查看详情

    发布时间:2021.07.22来源:亿信华辰数据治理浏览量:873次

  • 国内数据治理平台厂商介绍

    国内数据治理平台厂商介绍

    睿治数据治理平台是北京亿信华辰软件有限责任公司完全自主研发的一站式综合数据治理整体解决方案,是一款面向全用户角色的、智能的、敏捷的数据全……查看详情

    发布时间:2019.09.19来源:知乎浏览量:549次

  • 数据质量衡量标准有几个属性

    数据质量衡量标准有几个属性

    数据分析和数据挖掘都离不开数据的质量,做过数据产品的人都知道,质量高的数据对于产品的意义有多大,如果说数据是不具备完整性、规范性以及一致……查看详情

    发布时间:2022.03.28来源:小亿浏览量:762次

  • 亿信华辰&东芝|拥抱智能制造,实现生产数据实时采集

    亿信华辰&东芝|拥抱智能制造,实现生产数据实时采集

    在《中国制造2025》战略实施后,“制造业数字化、网络化、智能化”被定义为新工业革命的核心技术。离开生产数据采集,生产管理部门不能及时、……查看详情

    发布时间:2019.05.10来源:亿信华辰浏览量:387次

  • 如何正确理解数据治理

    如何正确理解数据治理

    我们经常会谈到关于大数据、数据质量、主数据、元数据方面的一些问题,不可避免的会提到数据治理,那么什么是数据治理呢?……查看详情

    发布时间:2020.07.15来源:知乎浏览量:389次

  • 来自园艺的5个数据治理课程

    来自园艺的5个数据治理课程

    所有这些数据增长和收购挑战都要求我们重新考虑我们的数据治理策略。我们根本没有确保正确管理和使用数据所需的可见性。我们的首要任务是消除风险……查看详情

    发布时间:2018.12.04来源:Debi Tadd浏览量:573次

  • 当前数据治理存在哪些问题和困难?

    当前数据治理存在哪些问题和困难?

    数据治理不只是技术问题,更是一个管理问题。例如大家常见的项目管理系统只是一个工具,如何让项目管理工具与项目管理思想相匹配才是项目管理系统……查看详情

    发布时间:2020.04.09来源:知乎浏览量:614次

相关主题
您点击 “提交”,表明您已理解并同意接受本网站隐私政策和用户协议