如何做好大数据的质量管理?

发布时间:2019.07.26来源:知乎浏览量:207次标签:数据治理

如今关于大数据的话题非常火热,关于但数据的质量问题也备受人们关注,有很多IT人士开始认为,在大数据的时代,只有对数据进行有效的管理,那么才能挖掘出大数据整个的价值,那么如何做好大数据的质量管理呢?


相信大家都知道,大数据具有3个特点,即大量化、多种类以及高采集速度。所谓大量化就是指传统的数据质量算法,在没有非常大的性能提升的情况下,大量化数据是难以运用到大数据环境下的,除非有非常大的性能提升,是难以用在大数据环境下的,因为扫描一次的时间可能都无法接受。而多种类的数据更是增加了这种难度,所以高采集速度就是更加严峻的一个挑战了,数据的采集速度快,但不能及时的对数据进行处理,那么就会导致数据质量问题堆积。


进行大数据质量管理,是指对数据从计划,获取,存储,一直到数据共享、维护、应用、消亡生命周期,将这每个阶段里可能引发的各类数据质量问题,进行识别、度量、监控等。
例如在大数据采集环节,对数据采集质量管控,严格控制手工输入的源数据,防止错误数据的产生,减少问题数据向下一级环节的输入。在大数据加工和应用环节,
在大数据加工和应用环节,企业需要知道加工数据的标准,保证数据的一致性,对输入错误的数据莒南县检测,确保数据的准确性、完整性。


另外,为了提高数据质量,那么企业需要定期更新维护数据字典,将数据质量问题穿于系统全过程,将错误的信息、路径、检测方法都记录下来,这样可以出具数据质量控制报告,从而降低问题数据的数量。


要想做好大数据质量管理,企业其实可以利用数据质量管理平台来帮助企业提高数据质量,例如亿信华辰推出的睿智数据质量平台就可以为企业提供数据质量管理服务。睿治平台是一个数据治理平台,该平台的功能丰富,睿治平台除了具备数据质量管理功能外,还提供元数据管理数据标准管理主数据管理,数据集成管理,数据交换管理,数据资产管理,数据安全管理,数据生命周期管理等产品。
睿治平台的数据质量管理是以元数据为检核对象,通过可视化定义模式对数据质量进行评估、检测、改整等,从而提高企业大数据质量。

(部分内容来源网络,如有侵权请联系删除)
立即免费申请产品试用 免费试用
相关文章推荐
  • 数据治理在有效合规计划中的作用

    数据治理在有效合规计划中的作用

    有效的合规计划由许多活动部分组成。关键数据来自运行操作所需的各种工具,文档,系统和技术。因此,企业在试图获得任何特定时间的风险状况的完整……查看详情

    发布时间:2018.12.20来源:亿信华辰浏览量:208次

  • 指数技术时代的数据治理

    指数技术时代的数据治理

    新兴的数据需求和数据生成技术需要两种类型的数据治理:安全性,以及整体企业级治理的需求,而不是逐个孤岛的治理。企业中出现了一个重要的新价值……查看详情

    发布时间:2019.01.02来源:亿信华辰浏览量:188次

  • 数据治理运作:差距

    数据治理运作:差距

    十年前,顾问必须提高认识并教育客户治理;突出监管风险,合规要求,处罚等。这更像是出售保险产品。今天,全球组织都了解数据治理(DG)是什么……查看详情

    发布时间:2018.12.27来源:亿信华辰浏览量:179次

  • 数据治理第5部分:数据治理规范

    数据治理第5部分:数据治理规范

    数据治理第5部分:数据治理规范,本部分为GB/T34960的第5部分。本部分按照GB/T 1.1-2009给出的规则起草。本部分由国家信……查看详情

    发布时间:2019.09.02来源:GB/T34960的第5部分浏览量:501次

  • 企业架构组织的创新能力如何?

    企业架构组织的创新能力如何?

    回想一下最新的企业架构文章,博客文章,甚至是你读过的职位描述,并算一下至少一次没有提到“创新”的内容?我猜测,“创新”往往被作为有效企业……查看详情

    发布时间:2019.02.26来源:亿信华辰浏览量:190次

  • 智与理的结合:当数据治理遇上人工智能

    智与理的结合:当数据治理遇上人工智能

    近日,中国移动研究院发布文章,解说了数据治理和人工智能两者之间各自发展历程,论证了两者在结构功能上的相互作用,阐明了两者共同发展的前……查看详情

    发布时间:2018.09.18来源:中国大数据产业观察网浏览量:459次

  • 数据治理——精细科学的政策平衡

    数据治理——精细科学的政策平衡

    数据泄露、滥用、歧视这些负面事件如同天空中的阴霾,不断加深着人们对数据治理的悲观情绪。   的确,这一年被数据泄露贯穿始终,规模日……查看详情

    发布时间:2019.01.08来源:亿信华辰浏览量:163次

  • 数据治理,人工智能和医疗保健:令人兴奋的健康新世界

    数据治理,人工智能和医疗保健:令人兴奋的健康新世界

    随着AI变得越来越普遍,对数据治理的需求也在增加。这是一个由政府确定的问题,因为它最近宣布了一个监督大量数据集的道德小组。2017年1月……查看详情

    发布时间:2019.03.12来源:亿信华辰浏览量:145次

  • 做好数据治理才能建设大数据平台

    做好数据治理才能建设大数据平台

    大数据不是凭空而来,1981年第一个数据仓库诞生,到现在已经有了近40年的历史,而国内企业数据平台的建设大概从90年代末就开始了,从第一……查看详情

    发布时间:2018.11.28来源:数据治理浏览量:196次

  • 数据治理和信任—让你的数据如水般清澈

    数据治理和信任—让你的数据如水般清澈

    根据相关报告,数据治理是“对数据相关事务的决策和权限的行使。”换句话说,它是对必须根据特定标准进行的任何数据输入的控制 。2019年,组……查看详情

    发布时间:2019.06.28来源:知乎浏览量:171次

相关主题
您点击 “提交”,表明您已理解并同意接受本网站隐私政策和用户协议