数据治理的血缘分析

发布时间:2019.11.22来源:CSDN浏览量:222次标签:数据治理

数据治理里经常提到的一个词就是血缘分析,血缘分析是保证数据融合(聚合)的一个手段,通过血缘分析实现数据融合处理的可追溯。

有时被概念瞎蒙了,不知道到底如何追溯,落不了地。本人接触的数据治理项目还主要是将各个来源的数据进行整理融合,形成人地事物组织几个业务大类数据。至于详细的ODS、DWD、DWA等数据组织请阅读这篇文章:


数据治理概述
本文主要从数据追溯的业务需求来分析一下,一切还是要从需求出发,这里的数据处理都是Oracle关系数据库之间的融合,血缘分析就划分为表结构血缘分析和记录级的血缘分析;这两类业务场景:

表结构血缘分析
表结构血缘分析
针对表结构的情况,最终用户和运维用户最需要关注,目标表的每个字段的数据来源有哪些?也就是建立一个源表、源字段和目标表、目标字段的映射关系,一个目标表可以对应多个来源表的字段,比如:姓名字段,可能来至于户籍人口表也可能来至于流动人口表或老年人表,也就是意味着这三张表合并起来的人口,才是这个区域的所有人口.
通过上图我们就可以清楚的看到从目标表的目标字段出发,知道数据库中数据处理的规则,清楚的了解每个字段数据的来源。
至于其中ODS、DWD、DWA的关系,参照上面所述先去了解。

记录级血缘分析
记录级血缘分析
记录级的血缘分析,就是从当前记录出发可以按时间查看该记录所有的变更过程。一条记录的生成可能原始对应两个表的两条记录,这种是要追溯跟踪的。
如果再精细跟踪,就可以做到字段级的血缘分析,与表结构的血缘分析就可以完美呼应。
单击某一个字段,可查看该字段的血缘关系;一个是以此字段为目标的血缘追溯,一个是以此字段为源的血缘追溯
这里就要看具体应用需求来定,毕竟做的越精细实现方案会越复杂。
血缘分析毕竟解决的问题是数据出了错之后能明确知道是哪一步环节的哪个原始数据出问题了,所以一般到记录级就基本可以进行追溯跟踪了。
(部分内容来源网络,如有侵权请联系删除)
立即免费申请产品试用 免费试用
相关文章推荐
  • 数据治理与分析相结合

    数据治理与分析相结合

    不到十年前,由于规模,资源和组织能力的原因,大型企业比同行业的小企业具有显着的优势。现在已不再是这样,因为数字创新和全球化的推动,加上移……查看详情

    发布时间:2018.11.23来源:数据治理浏览量:234次

  • 数据清理的终极指南——亿信华辰

    数据清理的终极指南——亿信华辰

    我花了几个月的时间分析来自传感器、调查及日志等相关数据。无论我用多少图表,设计多么复杂的算法,结果总是会与预期不同。……查看详情

    发布时间:2019.03.20来源:数据清理浏览量:142次

  • 数据治理准备的支柱:企业数据管理方法

    数据治理准备的支柱:企业数据管理方法

    Facebook的数据问题继续成为头条新闻的主导,并进一步凸显了企业范围内数据资产视图的重要性。备受瞩目的案件与其他着名的数据丑闻有所不……查看详情

    发布时间:2019.01.24来源:亿信华辰浏览量:201次

  • 敏捷/精益数据治理最佳实践

    敏捷/精益数据治理最佳实践

    数据治理 的目标 是确保组织内的质量,可用性,完整性,安全性和可用性。你对此的看法取决于你。许多传统的数据治理方法似乎在实践中都很困难,……查看详情

    发布时间:2018.12.18来源:数据治理浏览量:138次

  • 数据治理:它是什么以及它为什么重要?

    数据治理:它是什么以及它为什么重要?

    数据治理:它是什么以及它为什么重要?……查看详情

    发布时间:2018.12.26来源:亿信华辰浏览量:145次

  • 我国数据资产管理的现状

    我国数据资产管理的现状

    我国数据资产管理市场发展的主要推动来自政府和大型互联网公司。在国家层面上,正在以政务信息和政府数据管理为切入口,由上至下地推动数据资产管……查看详情

    发布时间:2020.09.11来源:知乎浏览量:238次

  • 什么是数据治理?数据治理可以获得哪些优势?

    什么是数据治理?数据治理可以获得哪些优势?

    大多数组织了解他们的业务资产,包括对技术,人员,基础设施,库存等的投资。他们已经开发并实施了正式的政策,流程和系统来管理这些资产,以确保……查看详情

    发布时间:2018.12.04来源:Corey Mellick浏览量:210次

  • 商业银行数据治理从源头抓起 坚持数据标准先行

    商业银行数据治理从源头抓起 坚持数据标准先行

    商业银行数据治理是一门将数据视为一项资产的学科。它涉及到银行以资产的形式对数据进行优化、保护和利用的决策权利。糟糕的数据管理意味着糟糕的……查看详情

    发布时间:2019.09.04来源:知乎浏览量:175次

  • 数据共享与开发平台

    数据共享与开发平台

    随着经济和社会信息化进程的不断加快,信息资源已经成为重要的战略资源。促进信息资源共享、加强信息资源开发利用,对于提高经济发展效率和社会管……查看详情

    发布时间:2020.08.14来源:知乎浏览量:142次

  • 企业的主数据管理——亿信华辰

    企业的主数据管理——亿信华辰

    企业主数据指企业内一致并共享的业务主体。主数据管理,包括不仅仅是硬件和软件,还是将数据作为重要资产管理的思想和办法,是指一整套的用于生成……查看详情

    发布时间:2019.03.05来源:数据管理浏览量:166次

相关主题
您点击 “提交”,表明您已理解并同意接受本网站隐私政策和用户协议