元数据:数据治理的燃料

发布时间:2019.08.02来源:知乎浏览量:209次标签:数据治理

实现数据质量的最佳方法是组合或混合这三种技术:解码后的谱系,数据相似性谱系和手动谱系映射。
企业渴望从可提供竞争优势的数据中获取洞察力。实现这一目标的最常见障碍是数据质量差。如果输入到预测算法的数据是“脏的”(具有丢失或无效的值),则该算法产生的任何见解都不可信。


要实现数据质量,仅清理现有的历史数据是不够的。您还需要通过建立一组称为数据治理的功能和流程来确保所有新生成的数据都是干净的。在受管数据环境中,每种类型的数据都有一名数据管理员,负责定义和实施数据清洁标准。并且,每个数据值都有一个明确定义的谱系:我们知道它来自何处,它在此过程中经历了哪些转换,以及从该数据值派生的其他数据项。

数据沿袭为企业提供了许多好处:


通过向后追踪谱系(以查找影响当前数据的所有数据)或转发(以识别受当前数据影响的所有其他数据)从给定数据项执行影响分析和根本原因分析的能力;
业务词汇和术语的标准化,有助于跨业务部门的清晰通信;
归功于对数据所做的任何更改的所有权,责任和可追溯性,这归功于谱系全面记录了谁做出了哪些更改以及何时更改。
听起来不错,但数据沿袭信息来自哪里?查看数据库中的特定数据值会告诉我们其当前值,但它不会提供有关数据如何演变为其当前值的信息。缺少的是有关数据的数据(沿袭元数据),它自动记住每个数据项所做的每次更改的时间和来源,无论是由软件还是由人工数据库管理员进行的更改。


收集沿袭元数据有三种竞争技术,每种技术都有其优点和缺点:
1.解码后的血统
该方法不是检查模式的数据值以寻找相似性,而是专注于操纵数据的代码。此类工具(MANTA,Octopai,Spline)扫描所有逻辑以理解它并对其进行反向工程,以了解数据如何变化以及哪些数据用作计算其他数据的输入。这种方法提供最准确,完整和详细的沿袭元数据,因为每一条逻辑都被处理。但它有一些缺点:

为数十种语言开发足够的支持可能并不容易,这些语言必须进行分析才能涵盖环境的基础知识。它也可能会阻止您采用新技术,因为您的已解码的沿袭引擎尚不支持它。
代码版本会随着时间的推移而发生变化,因此您对当前代码数据流的分析可能会错过已被取代的重要流程。
当代码是动态的(您根据程序输入,表中的数据,环境变量等)动态构建表达式时,您需要一种方法来解码动态代码。
并非所有数据更改都是由代码生成的。例如,假设您的网站发生紧急中断,您的DBA会通过直接在生产数据库上执行一系列SQL命令来手动修复。Decoded Lineage工具永远不会检测到这些更改,因为它们是由DBA而不是代码生成的。
代码可能对数据做错了。例如,假设您的代码存储违反GDPR的个人识别信息,并且产品经理明确要求相反。解码的血统工具将忠实地捕获代码所做的事情,而不会引发红旗。
假设两个独立进程中的两段代码执行相同的计算,以在数据库中创建相同的重复数据。代码分析无法发现这种情况,因为每段代码都表现得很好。只有通过检查数据库才能发现并消除重复。


2.数据相似性谱系

此方法通过检查数据和模式而无需访问代码来构建沿袭信息。此类别中的工具(Tamr,Paxata,Trifacta)会在表中分析数据并读取有关表,列等的数据库元数据,然后使用所有这些信息根据相似性创建沿袭。一方面,无论您的编码技术如何,这种方法都将始终有效,因为无论哪种技术生成数据,它都会分析结果数据。但它有几个明显的弱点:

检测大型数据库中的数据相似性需要花费大量时间和处理能力。
结果元数据将缺少许多细节,例如转换逻辑。
它无法检测尚未执行的沿袭元数据。例如,假设您有一个年终会计流程来调整收入和库存。在该流程于12月31日运行之前,您将无法获得有关它的沿袭元数据。


3.手动谱系映射

这种方法通过映射和记录人们头脑中的业务知识来构建沿袭元数据(例如,与应用程序所有者,数据管理员和数据集成专家交谈)。这种方法的优点是它提供了规范的数据沿袭(数据应该如何流动,而不是在实现错误后如何流动)。但是,因为元数据是基于人类的知识,它可能是矛盾的(因为两个人不同意所需的数据流)或部分(如果你不知道数据集的存在,你不会问任何人它)。
正如你所看到的,没有灵丹妙药 - 每种方法都有其优点和缺点。最佳解决方案结合了所有三种方法。
使用MANTA,Octopai或Spline等工具从解码后的血统开始。
使用Tamr,Paxata或Trifacta等工具增加数据相似性谱系,以发现数据库中的模式。
使用手动沿袭映射进行扩充,以捕获规定的沿袭规则(例如,应该如何实现数据流)。
成功组合这些技术后,您可以收集开始享受受管数据优势所需的全面血统元数据。
(部分内容来源网络,如有侵权请联系删除)
立即免费申请产品试用 免费试用
相关文章推荐
  • 企业如何进行数据资产管理

    企业如何进行数据资产管理

    大数据离不开计算和存储,因此大数据建设与成本强挂钩。大数据需要耗费大量的计算存储资源,如果没有合理的资产管理,很可能在大数据还没来得及发……查看详情

    发布时间:2020.08.28来源:知乎浏览量:148次

  • 如何建立有效的数据交换管理平台?

    如何建立有效的数据交换管理平台?

    随着企业综合管理水平的提高和信息化建设的开展和深入,企业数值转型也越发迫切,企业在转型过程中必然会有业务系统之间数据交换,但是数据交换又……查看详情

    发布时间:2020.04.22来源:知乎浏览量:212次

  • 了解当今数据驱动型企业的治理核心

    了解当今数据驱动型企业的治理核心

    数据治理不仅涉及风险管理。它是关于深入了解数据的核心,使组织中的每个人都能更轻松地使用和信任数据,从而获得业务优势。良好的数据治理系统不……查看详情

    发布时间:2019.02.28来源:亿信华辰浏览量:170次

  • 让数据中心甩掉能耗沉重账单

    让数据中心甩掉能耗沉重账单

    当今,全世界新产生的数据正以惊人速度增长。据统计,平均每11个月全世界的数据量即将翻倍,而且随着时间的发展,这个周期还在缩短。这意味着我……查看详情

    发布时间:2019.03.11来源:亿信华辰浏览量:163次

  • 数据囤积日益增长的威胁

    数据囤积日益增长的威胁

    在数据丰富的环境中生活和工作的缺点之一是希望将所有最后的位和字节松开以备将来使用。得益于Amazon S3和Hadoop等廉价存储系统,……查看详情

    发布时间:2019.02.28来源:亿信华辰浏览量:173次

  • 中国“大数据转型”引人关注:万亿市场可期 地方密集发力

    中国“大数据转型”引人关注:万亿市场可期 地方密集发力

    以人工智能、大数据、云计算为代表的信息产业,正在成为地方经济发展的新亮点。以大数据产业为例,过去一段时间以来,各地已陆续释放了推动该产业……查看详情

    发布时间:2019.02.26来源:亿信华辰浏览量:164次

  • 数据治理的主战场,商业智能还是数据挖掘?

    数据治理的主战场,商业智能还是数据挖掘?

    数据治理这门学问,入手极易,精通极难。说说经验吧,数据治理强调两点,一是高层支持,二是各部门广泛参与。组织内数据治理各项工作的开展都要处……查看详情

    发布时间:2019.02.21来源:知乎浏览量:198次

  • 来自园艺的5个数据治理课程

    来自园艺的5个数据治理课程

    所有这些数据增长和收购挑战都要求我们重新考虑我们的数据治理策略。我们根本没有确保正确管理和使用数据所需的可见性。我们的首要任务是消除风险……查看详情

    发布时间:2018.12.04来源:Debi Tadd浏览量:291次

  • 超越法规遵从:从数据治理创造业务价值

    超越法规遵从:从数据治理创造业务价值

    基于模型的,基于标准的数据治理语义方法正迅速成为整个金融领域的行业规范。这方面的一些最普遍和开拓性的努力是由企业数据管理委员会(EDMC……查看详情

    发布时间:2019.02.28来源:亿信华辰浏览量:221次

  • 说到数据治理,我们不得不要谈到的要素和落地方法

    说到数据治理,我们不得不要谈到的要素和落地方法

    据戴尔易安信最新调查显示:全球大多数企业现已认识到数据的价值,受管理的平均数据量从2016年的1.45PB增加至2018年的9.70PB……查看详情

    发布时间:2020.06.29来源:CSDN浏览量:187次

相关主题
您点击 “提交”,表明您已理解并同意接受本网站隐私政策和用户协议