大数据治理的新范例

发布时间:2018.12.26来源:亿信华辰浏览量:460次标签:数据治理


数十年来,数据科学家已经拥有沙箱来探索数据并找到有价值的见解。在看似愉快的折衷方案中,分析师可以快速加载,操纵和组合企业和行业数据,以寻找新的见解和预测,而无需担心它们会危及敏感数据或生产工作流程。虽然这加速了创造新的见解,但将它们投入生产是一场噩梦。在未部署的环境中创建的一组自定义代码和数据需要在部署之前进行转换,质量控制和优化。企业通常需要一年的大部分时间才能从几周内收集的洞察中获得价值。 

大数据的幽灵有可能使情况变得更糟- 在很大程度上。现在,分析师们正在使用IT外部的数据结构和编程语言。外部数据源的数量和复杂性正在爆炸式增长。如果没有新的方法,在大数据沙箱中发现的洞察力可能永远不会投入生产。 

所出现的是一种新的范例,它将数据治理- 大多数分析师的诅咒这一术语 - 带入了大数据。但是,大数据治理不是严格限制数据使用和文档,而是灵活,协作和高效。它使分析师参与而非分离,以获取他们的学习以加速生产准备。最重要的是,它取代了沙箱数据的大规模转换,并采用“促销”流程,确保分析数据在大数据平台上生产就绪。 

大数据治理要求我们从头开始重新思考治理。大数据治理不是物理地分离沙箱和生产数据,而是逻辑地控制访问和使用,因为数据从“原始”到“准备”成熟。您如何判断数据是否已准备好生产?元数据。任何支持生产使用的大数据平台都必须具有跟踪数据摄取,验证,准备和使用生命周期的元数据。元数据需要管理数据访问权限,捕获数据分析结果以及数据开发人员和最终用户的评论。元数据存储定义生产准备的策略,并能够实施它们。没有元数据,数据湖就变成了数据沼泽。 

但为了实现这一点,元数据捕获必须是自动化和相关的。大数据治理的第二个原则与当前的教条相矛盾:从一开始就使用模式来丰富元数据。大多数业务数据都是结构化的,无论是关系数据库,日志文件,XML还是大型机副本。该结构可用于自动评估原始数据的质量,完整性和内容。这不仅为分析师提供了对数据的洞察力,还建立了一个可以构建的元数据基础。

大数据治理的第三个原则是记分卡驱动的优先级。并非所有数据都需要严格的质量和访问管理。实际上,假设大多数原始数据都不会被使用- 因此丰富其元数据是浪费时间。相反,记分卡是为数据的各种用途而创建的 - 合规报告,营销分析,供应链分析等。某些策略适用于所有记分卡 - 需要屏蔽PII数据 - 其他则非常具体 - 需要数据沿袭所有合规报告。使用元数据基础,可以轻松地为任何数据集创建记分卡。然后,这些记分卡用于识别治理工作并确定其优先级,以使最重要的数据生产就绪。 

从哪儿开始?如果您的数据库元数据较差,那么就建议您先评估现有资产的质量和内容。自动化工具可以填充元数据存储库,作为创建记分卡的基础。使湖泊的内容和质量透明是迈向大数据治理的第一步。



(部分内容来源网络,如有侵权请联系删除)
立即免费申请产品试用 预约演示
相关文章推荐
  • 深度思考:从BERT看大规模数据的无监督利用

    深度思考:从BERT看大规模数据的无监督利用

    在击败 11 个 NLP 任务的 State-of-the-art 结果之后,BERT 成为了 NLP 界新的里程碑, 同时打开了新的思……查看详情

    发布时间:2019.02.20来源:亿信华辰浏览量:599次

  • 数据治理的重点领域:关注管理层调整

    数据治理的重点领域:关注管理层调整

    当管理者发现由于其对运营或合规工作的潜在影响而难以做出“常规”数据相关的管理决策时,这种类型的程序通常会存在。……查看详情

    发布时间:2019.03.19来源:亿信华辰浏览量:480次

  • 善治:良好学校的基础

    善治:良好学校的基础

    包机行业的头号问题是什么?大卫弗兰克认为缺乏董事会治理能力。弗兰克说:“强大的董事会将改善特许学校的许多实践问题,从那些正在努力进入高绩……查看详情

    发布时间:2019.03.06来源:亿信华辰浏览量:400次

  • 数据治理&数据仓库

    数据治理&数据仓库

    亿信睿智数据治理管理平台提供数据治理&数据仓库一体化解决方案,协助企业:建立企业内一致的信息视图,建立操作型数据的集中存储与分发的基础平……查看详情

    发布时间:2018.12.05来源:数据治理浏览量:733次

  • 通往更安全,更好数据的途径

    通往更安全,更好数据的途径

    企业在建立监督数据运营的理事会时面临的最大问题之一是原始事实和数据很少为分析做好准备。……查看详情

    发布时间:2019.04.03来源:亿信华辰浏览量:400次

  • 数据准备和数据映射:数据管理和数据治理之间的粘合剂,以加快洞察力并降低风险

    数据准备和数据映射:数据管理和数据治理之间的粘合剂,以加快洞察力并降低风险

    组织已经花费了大量的时间和金钱试图在不同的平台上协调数据,包括清理、上载元数据、转换代码、定义业务词汇表、跟踪数据转换等。……查看详情

    发布时间:2019.02.13来源:亿信华辰浏览量:460次

  • 数据治理思考:数据质量如何监控

    数据治理思考:数据质量如何监控

    近年来,数字经济成为我国国民经济高质量发展的新动能,而数字经济能否高质量发展还取决于数据治理水平是否够高。目前的数字经济面临数字鸿沟加大……查看详情

    发布时间:2022.01.21来源:小亿浏览量:797次

  • 数据治理为什么成为企业必备?

    数据治理为什么成为企业必备?

    基本概念什么是数据治理?答:又叫”数据管控”。引用《DAMA数据管理知识体系指南》一书给出的定义:数据治理是对数……查看详情

    发布时间:2020.07.29来源:CSDN浏览量:596次

  • 影响企业大数据分析的三大误区

    影响企业大数据分析的三大误区

    我们现在身处一个虚拟时空交易与现实时空交付的数字化时代。数字化正在各行业快速发展,许多企业将会经历前所未有的改变。数据正发挥着越来越重要……查看详情

    发布时间:2022.03.08来源:小亿浏览量:470次

  • 数据治理VS数据安全治理

    数据治理VS数据安全治理

    企业信息化建设是随着企业战略、业务形态、预算等多个方面不断迭代及变化的,所以在建设过程中难免出现阶段鸿沟,跨阶段整合难的现象,当企业以数……查看详情

    发布时间:2020.06.29来源:CSDN浏览量:686次

相关主题
您点击 “提交”,表明您已理解并同意接受本网站隐私政策和用户协议