提高数据质量的方法

发布时间:2019.11.15来源:知乎浏览量:98次标签:数据治理

1、明确业务需求并从需求开始控制数据质量
要想真正解决数据质量问题,应该从需求开始,企业往往在定义清楚业务需求后忽略对数据质量的控制,而只对已经产生的数据做检查,然后再将错误数据剔除,这种方法治标不治本,不能从根本上解决问题。

企业需要将数据质量的控制从需求开始集成到分析人员、模型设计人员与开发人员的工作环境中,让大家在日常的工作环境中自动控制数据质量,在数据的全生命周期中控制数据质量。

2、建立数据质量管理机制
从业务出发做问题定义,由工具自动、及时发现问题,明确问题责任人,通过邮件、短信等方式进行通知,保证问题及时通知到责任人。跟踪问题整改进度,保证数据质量问题全过程的管理。

(1)探查数据内容、结构和异常通过探查,可以识别数据的优势和弱势,帮助企业确定业务实施计划。一个关键目标就是明确指出数据错误和问题,例如将会给业务流程带来威胁的不一致和冗余。

(2)建立数据质量度量并明确目标企业需建立一个共同的平台并完善度量标准,用户可以在数据质量记分卡中跟踪度量标准的达标情况,并通过电子邮件发送URL来与相关人员随时进行共享。

(3)设计和实施数据质量业务规则明确企业的数据质量规则,即可重复使用的业务逻辑,管理如何清洗数据和解析用于支持目标应用字段和数据。业务部门和IT部门通过使用基于角色的功能,一同设计、测试、完善和实施数据质量业务规则,以达成最好的结果。

(4)将数据质量规则构建到数据集成过程中

数据质量服务由可集中管理、独立于应用程序并可重复使用的业务规则构成,可用来执行探查、清洗、标准化、名称与地址匹配以及监测。

在企业大数据治理过程中,对于大数据生产线中的每个集成点,都需要做数据质量的检查,严格控制输入数据的质量。比如在数据采集过程,集成过程,分析过程等等都需要做检查。

但在大数据环境中,每个集成点都会有海量数据量流过,把数据逐条检查这种传统方式是行不通的,应该采用抽样的方式,对一批数据做数据质量的检查,来确定这批数据是否满足一定的质量区间,再决定是否需要对这批数据做详细的检查。

(5)检查异常并完善规则

在执行数据质量流程后,大多数记录将会被清洗和标准化,并达到企业所设定的数据质量目标。然而,无可避免,仍会存在一些没有被清洗的劣质数据,此时则需要完善控制数据质量的业务规则。

目前企业内的数据主要分为外部数据和内部数据,大数据时代到来让各企业广泛采购第三方数据,第三方数据的质量逐渐成为决定企业数据质量的关键因素。

对于企业的内部数据,可以通过业务梳理直接获得质量检核规则。但是对于外部第三方数据,需要先对这些数据进行采样,并应用关联算法自动发现其中的质量检核规则,并将这些检核规则持续积累,形成外部数据的检核规则库。

(6)对照目标,监测数据质量

数据质量控制不应为一次性的“边设边忘”活动。相对目标和在整个业务应用中持续监测和管理数据质量对于保持和改进高水平的数据质量性能而言是至关重要的。可选择仪表板和报告进行监测。
(部分内容来源网络,如有侵权请联系删除)
立即免费申请产品试用 免费试用
相关文章推荐
  • 没有妥协的数据治理

    没有妥协的数据治理

    在考虑当今现代企业中数据的规模和规模时,显然需要一种全新的数据治理方法。与此同时,数据治理一直是企业范围内的问题 - 而不是大数据特有的……查看详情

    发布时间:2018.11.22来源:数据治理浏览量:95次

  • 数据治理超越了将事实放在一起

    数据治理超越了将事实放在一起

    学习如何学习正成为一项关键的执行技能,学习概率思维将成为赌注。……查看详情

    发布时间:2019.01.14来源:亿信华辰浏览量:67次

  • 新模型:组合投资组合管理和数据治理建议

    新模型:组合投资组合管理和数据治理建议

    通常,组织决定不让投资组合管理网守优先/授权所有来自治理主导的问题分析的建议。因此,创建了一个新模型,第三个存储桶。……查看详情

    发布时间:2019.03.29来源:亿信华辰浏览量:66次

  • 为什么要进行数据交换

    为什么要进行数据交换

    企业大量的IT投资建立了众多的信息系统,但是随着信息系统的增加,各自孤立工作的信息系统将会造成大量的冗余数据和业务人员的重复劳动。企业急……查看详情

    发布时间:2020.08.10来源:知乎浏览量:75次

  • 合规性连接:身份治理的作用

    合规性连接:身份治理的作用

    今年1月,法国数据监管机构对谷歌进行了近6,000万美元的罚款,这是欧洲机构发布的最大罚款,也是欧洲通用数据保护条例(GDPR)的第一例……查看详情

    发布时间:2019.03.06来源:亿信华辰浏览量:77次

  • 每天12亿条交通大数据如何为城市建设提供参考

    每天12亿条交通大数据如何为城市建设提供参考

    明天天气怎么样?要回答这个问题,人们会立刻查看天气预报。 那明天的路况呢?交通大数据能告诉你。 ……查看详情

    发布时间:2019.03.27来源:亿信华辰浏览量:60次

  • 数据问题的全面解决之道——数据治理

    数据问题的全面解决之道——数据治理

    当今的大型企业,内部分工日趋细化,采购、服务、市场、销售、开发、支持、物流、财务、人力等各个环节,无不每时每刻产生着大量的数据。……查看详情

    发布时间:2019.01.18来源:亿信华辰浏览量:89次

  • 数据治理和业务转型

    数据治理和业务转型

    数字化转型仍然是依赖数据的核心业务计划。最初,数据功能侧重于监管合规性,然而,许多执行团队现在希望看到持续创新和首席数据官的结果,为公司……查看详情

    发布时间:2019.02.25来源:亿信华辰浏览量:87次

  • 管理「政府数据资产」该怎么做

    管理「政府数据资产」该怎么做

    政府数据资产,是指由政务服务实施机构建设、管理、使用的各类业务应用系统,以及利用业务应用系统依法依规直接或间接采集、产生并管理的,具有经……查看详情

    发布时间:2020.07.17来源:CSDN浏览量:107次

  • 什么是数据孤岛?为什么要消除数据孤岛?

    什么是数据孤岛?为什么要消除数据孤岛?

    数据孤岛通常具有负面含义。它描述了孤立的数据岛,数据孤岛通常存在以下问题:1.由于代码较旧或不兼容而无法以编程方式与其他系统一起工作2.……查看详情

    发布时间:2021.05.28来源:亿信数据治理知识库浏览量:288次

相关主题
您点击 “提交”,表明您已理解并同意接受本网站隐私政策和用户协议