数据治理的血缘分析

发布时间:2019.11.22来源:CSDN浏览量:207次标签:数据治理

数据治理里经常提到的一个词就是血缘分析,血缘分析是保证数据融合(聚合)的一个手段,通过血缘分析实现数据融合处理的可追溯。

有时被概念瞎蒙了,不知道到底如何追溯,落不了地。本人接触的数据治理项目还主要是将各个来源的数据进行整理融合,形成人地事物组织几个业务大类数据。至于详细的ODS、DWD、DWA等数据组织请阅读这篇文章:


数据治理概述
本文主要从数据追溯的业务需求来分析一下,一切还是要从需求出发,这里的数据处理都是Oracle关系数据库之间的融合,血缘分析就划分为表结构血缘分析和记录级的血缘分析;这两类业务场景:

表结构血缘分析
表结构血缘分析
针对表结构的情况,最终用户和运维用户最需要关注,目标表的每个字段的数据来源有哪些?也就是建立一个源表、源字段和目标表、目标字段的映射关系,一个目标表可以对应多个来源表的字段,比如:姓名字段,可能来至于户籍人口表也可能来至于流动人口表或老年人表,也就是意味着这三张表合并起来的人口,才是这个区域的所有人口.
通过上图我们就可以清楚的看到从目标表的目标字段出发,知道数据库中数据处理的规则,清楚的了解每个字段数据的来源。
至于其中ODS、DWD、DWA的关系,参照上面所述先去了解。

记录级血缘分析
记录级血缘分析
记录级的血缘分析,就是从当前记录出发可以按时间查看该记录所有的变更过程。一条记录的生成可能原始对应两个表的两条记录,这种是要追溯跟踪的。
如果再精细跟踪,就可以做到字段级的血缘分析,与表结构的血缘分析就可以完美呼应。
单击某一个字段,可查看该字段的血缘关系;一个是以此字段为目标的血缘追溯,一个是以此字段为源的血缘追溯
这里就要看具体应用需求来定,毕竟做的越精细实现方案会越复杂。
血缘分析毕竟解决的问题是数据出了错之后能明确知道是哪一步环节的哪个原始数据出问题了,所以一般到记录级就基本可以进行追溯跟踪了。
(部分内容来源网络,如有侵权请联系删除)
立即免费申请产品试用 免费试用
相关文章推荐
  • 数据治理“起航” 推动银行业高质量发展

    数据治理“起航” 推动银行业高质量发展

    银行业金融机构数据治理提上日程。近日,银监会发布《银行业金融机构数据治理指引(征求意见稿)》(以下简称《指引》),要求银行业金融机构将数……查看详情

    发布时间:2019.02.21来源:和讯网浏览量:173次

  • 五大数据治​​理用例和驱动因素

    五大数据治​​理用例和驱动因素

    随着数据应用程序的增长,数据治理用例也在增长。而传统的,仅限IT的数据治理方法Data Governance 1.0已经为协作的企业级数……查看详情

    发布时间:2019.01.25来源:亿信华辰浏览量:210次

  • 数据治理如何推动医疗大数据的发展

    数据治理如何推动医疗大数据的发展

    数据治理是一种管理数据的方法,允许组织平衡两个需求:收集和保护信息的需求,同时从信息中获取价值。但它远不止于此。医疗大数据其中的健康数据……查看详情

    发布时间:2019.08.15来源:知乎浏览量:159次

  • 数据质量—并非所有数据都是平等的

    数据质量—并非所有数据都是平等的

    数据质量是调节数据以满足业务用户特定需求的过程。准确性,完整性,一致性,及时性,唯一性和有效性是数据质量的主要衡量标准。……查看详情

    发布时间:2019.04.04来源:亿信华辰浏览量:188次

  • 数据资产管理是做什么的?

    数据资产管理是做什么的?

    随着大数据的持续升温,数据资产管理近年来成为政府和企业领导层特别关注的领域。尽管出现了很多专家和专著,但真正理解这个概念的人并不多,懂得……查看详情

    发布时间:2019.12.19来源:知乎浏览量:148次

  • 数据安全—“无悔”的正确步骤

    数据安全—“无悔”的正确步骤

    谈到数据安全性,你必定不希望有遗憾。我们从马克扎克伯格那里知道了数据安全正在成为互联网公司的头等大事。正如我们知道的,这位首席执行官正处……查看详情

    发布时间:2019.06.19来源:知乎浏览量:115次

  • 数据质量提升的必要性

    数据质量提升的必要性

    高质量的数据对管理决策,业务支撑都有极其重要的作用。有些项目在初期由于并没有考虑数据质量的因素,导致了项目实施后期才发现,由于数据质量问……查看详情

    发布时间:2022.02.18来源:小亿浏览量:649次

  • 安全数据交换方案已成为信息化建设的重要发展方向

    安全数据交换方案已成为信息化建设的重要发展方向

    为保护重要数据和应用系统的安全,目前各级政府部门普遍采用多个网络并行的方式。但是随着信息化建设的不断深入,不同网络之间或不同安全域之间的……查看详情

    发布时间:2020.08.21来源:知乎浏览量:118次

  •  数据治理目标是什么?数据治理框架包括哪些方面?

    数据治理目标是什么?数据治理框架包括哪些方面?

    ​数据治理涵盖了数据质量、数据建模和架构、数据存储、数据操作、商业智能、数据沿袭、文档、数据集成和数据安全等.制定数据治理计划前我们需要……查看详情

    发布时间:2021.07.22来源:亿信华辰数据治理浏览量:515次

  • 重大数据治理预测

    重大数据治理预测

    去年见证了数据治理的觉醒 - 或者正如“ 华尔街日报” 所称的那样,“全球数据治理计算”。……查看详情

    发布时间:2019.01.17来源:亿信华辰浏览量:186次

相关主题
您点击 “提交”,表明您已理解并同意接受本网站隐私政策和用户协议