数据治理的血缘分析

发布时间:2019.11.22来源:CSDN浏览量:415次标签:数据治理

数据治理里经常提到的一个词就是血缘分析,血缘分析是保证数据融合(聚合)的一个手段,通过血缘分析实现数据融合处理的可追溯。

有时被概念瞎蒙了,不知道到底如何追溯,落不了地。本人接触的数据治理项目还主要是将各个来源的数据进行整理融合,形成人地事物组织几个业务大类数据。至于详细的ODS、DWD、DWA等数据组织请阅读这篇文章:


数据治理概述
本文主要从数据追溯的业务需求来分析一下,一切还是要从需求出发,这里的数据处理都是Oracle关系数据库之间的融合,血缘分析就划分为表结构血缘分析和记录级的血缘分析;这两类业务场景:

表结构血缘分析
表结构血缘分析
针对表结构的情况,最终用户和运维用户最需要关注,目标表的每个字段的数据来源有哪些?也就是建立一个源表、源字段和目标表、目标字段的映射关系,一个目标表可以对应多个来源表的字段,比如:姓名字段,可能来至于户籍人口表也可能来至于流动人口表或老年人表,也就是意味着这三张表合并起来的人口,才是这个区域的所有人口.
通过上图我们就可以清楚的看到从目标表的目标字段出发,知道数据库中数据处理的规则,清楚的了解每个字段数据的来源。
至于其中ODS、DWD、DWA的关系,参照上面所述先去了解。

记录级血缘分析
记录级血缘分析
记录级的血缘分析,就是从当前记录出发可以按时间查看该记录所有的变更过程。一条记录的生成可能原始对应两个表的两条记录,这种是要追溯跟踪的。
如果再精细跟踪,就可以做到字段级的血缘分析,与表结构的血缘分析就可以完美呼应。
单击某一个字段,可查看该字段的血缘关系;一个是以此字段为目标的血缘追溯,一个是以此字段为源的血缘追溯
这里就要看具体应用需求来定,毕竟做的越精细实现方案会越复杂。
血缘分析毕竟解决的问题是数据出了错之后能明确知道是哪一步环节的哪个原始数据出问题了,所以一般到记录级就基本可以进行追溯跟踪了。
(部分内容来源网络,如有侵权请联系删除)
立即免费申请产品试用 免费试用
相关文章推荐
  • 如何搭建数据质量管理平台

    如何搭建数据质量管理平台

    数据往往在一个企业是相当于一个重要资产,企业在经营的过程中也会积累不少各类数据,这类数据后期也可通过归纳、提炼从而进行深度挖掘分析,给企……查看详情

    发布时间:2019.07.30来源:知乎浏览量:392次

  • 数据质量衡量标准有几个属性

    数据质量衡量标准有几个属性

    数据分析和数据挖掘都离不开数据的质量,做过数据产品的人都知道,质量高的数据对于产品的意义有多大,如果说数据是不具备完整性、规范性以及一致……查看详情

    发布时间:2022.03.28来源:小亿浏览量:682次

  • 数据建模和数据映射:来自任何数据的结果

    数据建模和数据映射:来自任何数据的结果

    统一的数据建模和数据映射方法可能是许多数据驱动型组织所需要的突破。在我与客户进行的大多数对话中,他们表示需要一个可行的解决方案来模拟他……查看详情

    发布时间:2019.01.17来源:亿信华辰浏览量:466次

  • 4种启动数据治理计划的数据治理最佳实践

    4种启动数据治理计划的数据治理最佳实践

    对于数据治理而言,不同行业和地理位置的巨大景观聚集在一起,为有效管理数据创造了重要且可持续的东西。……查看详情

    发布时间:2018.12.25来源:亿信华辰浏览量:347次

  • 解决方案中的简单性:迈向身份治理的步骤

    解决方案中的简单性:迈向身份治理的步骤

    面对颠覆性变革,只有在新设备和平台上线时才会加深,并且随着物联网投放更多数据,身份治理至关重要。企业现在通过自己的部署和合作伙伴关系来管……查看详情

    发布时间:2019.03.13来源:亿信华辰浏览量:313次

  • 金融服务数据治理:帮助价值'新货币'

    金融服务数据治理:帮助价值'新货币'

    对于在金融服务领域运营的组织,数据治理变得越来越重要。当金融服务行业董事会成员和高管在2018年初聚集在安永的金融服务领导峰会时,数据是……查看详情

    发布时间:2019.01.21来源:亿信华辰浏览量:410次

  • 元数据管理流程和方法是怎样的

    元数据管理流程和方法是怎样的

    大数据环境中,如果企业不通过元数据管理把多种复杂的信息管理起来,很难做到信息的有效利用。Gartner在研究报告里明确指出,“元数据管理……查看详情

    发布时间:2022.03.21来源:小亿浏览量:836次

  • 数据治理在大数据领域的重要性

    数据治理在大数据领域的重要性

    即使在过去,企业也要面对超出其基础设施和流程处理能力的大量数据,更不用说要从数据中挖掘出对制定有效决策有实际价值的情报了。如今,随着种类……查看详情

    发布时间:2019.12.06来源:CSDN浏览量:367次

  • 数据治理需要关注什么?

    数据治理需要关注什么?

    确保企业数据的质量,可用性,可集成性,安全性和易用性。数据是公司的资产,组织必须从中获取业务价值,最大程度地降低风险并寻求方法进一步开发……查看详情

    发布时间:2020.10.31来源:知乎浏览量:504次

  • 客户数据中台CDP是什么?真的能构建用户全景画像,消除数据孤岛吗?

    客户数据中台CDP是什么?真的能构建用户全景画像,消除数据孤岛吗?

    现代营销依赖于数据。所有人都想从最基本的开始做起,了解客户是谁。这似乎很简单,但客户与业务互动渠道的激增,使这个简单的目标变得极其复杂。……查看详情

    发布时间:2021.07.16来源:亿信数据治理知识库浏览量:445次

相关主题
您点击 “提交”,表明您已理解并同意接受本网站隐私政策和用户协议