大数据环境下数据质量管理面临的挑战

发布时间:2019.12.27来源:CSDN浏览量:181次标签:数据治理

随着三网融合、移动互联网、云计算、物联网的快速发展,数据的生产者、生产环节都在急速攀升,随之快速产生的数据呈指数级增长。在信息和网络技术飞速发展的今天,越来越多的企业业务和社会活动实现了数字化。全球最大的零售商沃尔玛,每天通过分布在世界各地的6000多家商店向全球客户销售超过2.67亿件商品,每小时获得2.5PB的交易数据。而物联网下的传感数据也慢慢发展成了大数据的主要来源之一。有研究估计,2015年全球数据量为8ZB,而到2020年则高达35.2ZB,是2015年数据量的44倍之多。此外,随着移动互联网、web2.0技术和电子商务技术的飞速发展,大量的多媒体内容在指数增长的数据量中发挥着重要作用。


大数据时代下的数据与传统数据呈现出了重大差别,直接影响到数据在流转环节中的各个方面,给数据存储处理分析性能、数据质量保障都带来了很大挑战。大数据与传统数据对比如表1所示。

由于以上特性,大数据的信息系统更容易产生数据质量问题:

(1)在数据收集方面,大数据的多样性决定了数据来源的复杂性。来源众多、结构各异、大量不同的数据源之间存在着冲突、不一致或相互矛盾的现象。在数据获取阶段保证数据定义的完整性、数据质量的可靠性尤为必要。

大数据与传统数据特点对比

理,远远处理不了大数据环境下的数据问题。

(3)由于高速性,数据的大量更新会导致过时数据迅速产生,也更易产生不一致数据。

(4)由于发展迅速,市场庞大,厂商众多,直接产生的数据或者产品产生的数据标准不完善,使得数据有更大的可能产生不一致和冲突。

(5)由于数据生产源头激增,产生的数据来源众多,结构各异,以及系统更新升级加快和应用技术更新换代频繁,使得不同的数据源之间、相同的数据源之间都可能存在着冲突、不一致或相互矛盾的现象,再加上数据收集与集成往往由多个团队协作完成,期间增大了数据处理过程中产生问题数据的概率。
(部分内容来源网络,如有侵权请联系删除)
立即免费申请产品试用 免费试用
相关文章推荐
  • 企业数据资产管理应该如何做?

    企业数据资产管理应该如何做?

    定义与提出:国外对“数据资产管理”的定义为:数据资产管理是规划、控制和提供数据及信息资产的一组业务职能,包括开发……查看详情

    发布时间:2020.08.14来源:知乎浏览量:171次

  • 您是否与数据治理的战略转变保持一致?

    您是否与数据治理的战略转变保持一致?

    大多数企业都知道数据是收入增长和长寿的关键,并且他们必须找到一种方法来利用这些资产获取洞察力以获得竞争优势。……查看详情

    发布时间:2019.03.27来源:亿信华辰浏览量:145次

  • 金融服务数据治理:帮助价值'新货币'

    金融服务数据治理:帮助价值'新货币'

    对于在金融服务领域运营的组织,数据治理变得越来越重要。当金融服务行业董事会成员和高管在2018年初聚集在安永的金融服务领导峰会时,数据是……查看详情

    发布时间:2019.01.21来源:亿信华辰浏览量:157次

  • 数据治理:清洁客户数据的注意事项

    数据治理:清洁客户数据的注意事项

    根据相关研究显示,超过50%的企业花在清理数据上的时间比实际使用时要多,确保数据质量对营销成功至关重要。……查看详情

    发布时间:2019.06.28来源:知乎浏览量:142次

  • 新零售变革:数据管理提升购物体验

    新零售变革:数据管理提升购物体验

    随着新零售时代的到来,线上线下的区隔开始逐渐变得模糊,两者融合成为大势所趋。零售行业的营销模式也开始逐渐从以产品为中心向以用户为中心转移……查看详情

    发布时间:2019.01.11来源:亿信华辰浏览量:150次

  • 企业数据质量管理的核心要素和技术原则

    企业数据质量管理的核心要素和技术原则

    “十三五”,规划提出了国家的大数据战略,指出了企业实现以数字化驱动业务发展,实现数据开放共享,创新业务发展的新思路。现阶段大中型企业已经……查看详情

    发布时间:2020.01.09来源:CSDN浏览量:335次

  • 方法论:如何从0到1搭建企业级主数据管理平台

    方法论:如何从0到1搭建企业级主数据管理平台

    一个完整的主数据管理方案应该包括:主数据管理体系建设、主数据管理系统建设,这两个层面。主数据体系建设是企业数据管理的核心,是标准化数据的……查看详情

    发布时间:2021.05.13来源:亿信数据治理知识库浏览量:208次

  • 开创数据治理新局面

    开创数据治理新局面

    当前,大数据发展日新月异。深入推动实施国家大数据战略需要深入了解大数据发展现状和趋势及其对经济社会发展的影响,分析我国大数据发展取得的成……查看详情

    发布时间:2019.02.25来源:光明网浏览量:140次

  • 确保数据治理正确 - 为医疗机构提供五个机会

    确保数据治理正确 - 为医疗机构提供五个机会

    医疗保健组织拥有的数据非常有价值 - 它可能是他们拥有的最有价值的资产。在个人层面,患者数据通常包含了解疾病和潜在康复的关键。从更广泛的……查看详情

    发布时间:2019.02.25来源:亿信华辰浏览量:144次

  • 理解数据治理

    理解数据治理

    专注于商业智能(bi)市场,深入了解组织在数据管理策略方面所面临的一些共同挑战。……查看详情

    发布时间:2019.01.09来源:亿信华辰浏览量:142次

相关主题
您点击 “提交”,表明您已理解并同意接受本网站隐私政策和用户协议