立即扫码
享受一对一服务
数据治理的血缘分析
发布时间：2019.11.22来源：CSDN浏览量：265次标签：数据治理
数据治理里经常提到的一个词就是血缘分析，血缘分析是保证数据融合（聚合）的一个手段，通过血缘分析实现数据融合处理的可追溯。
本文主要从数据追溯的业务需求来分析一下，一切还是要从需求出发，这里的数据处理都是Oracle关系数据库之间的融合，血缘分析就划分为表结构血缘分析和记录级的血缘分析；这两类业务场景：
表结构血缘分析
针对表结构的情况，最终用户和运维用户最需要关注，目标表的每个字段的数据来源有哪些？也就是建立一个源表、源字段和目标表、目标字段的映射关系，一个目标表可以对应多个来源表的字段，比如：姓名字段，可能来至于户籍人口表也可能来至于流动人口表或老年人表，也就是意味着这三张表合并起来的人口，才是这个区域的所有人口.
通过上图我们就可以清楚的看到从目标表的目标字段出发，知道数据库中数据处理的规则，清楚的了解每个字段数据的来源。
至于其中ODS、DWD、DWA的关系，参照上面所述先去了解。
记录级血缘分析
记录级的血缘分析，就是从当前记录出发可以按时间查看该记录所有的变更过程。一条记录的生成可能原始对应两个表的两条记录，这种是要追溯跟踪的。
如果再精细跟踪，就可以做到字段级的血缘分析，与表结构的血缘分析就可以完美呼应。
单击某一个字段，可查看该字段的血缘关系；一个是以此字段为目标的血缘追溯，一个是以此字段为源的血缘追溯
这里就要看具体应用需求来定，毕竟做的越精细实现方案会越复杂。
血缘分析毕竟解决的问题是数据出了错之后能明确知道是哪一步环节的哪个原始数据出问题了，所以一般到记录级就基本可以进行追溯跟踪了。
有时被概念瞎蒙了，不知道到底如何追溯，落不了地。本人接触的数据治理项目还主要是将各个来源的数据进行整理融合，形成人地事物组织几个业务大类数据。至于详细的ODS、DWD、DWA等数据组织请阅读这篇文章：
本文主要从数据追溯的业务需求来分析一下，一切还是要从需求出发，这里的数据处理都是Oracle关系数据库之间的融合，血缘分析就划分为表结构血缘分析和记录级的血缘分析；这两类业务场景：
表结构血缘分析
针对表结构的情况，最终用户和运维用户最需要关注，目标表的每个字段的数据来源有哪些？也就是建立一个源表、源字段和目标表、目标字段的映射关系，一个目标表可以对应多个来源表的字段，比如：姓名字段，可能来至于户籍人口表也可能来至于流动人口表或老年人表，也就是意味着这三张表合并起来的人口，才是这个区域的所有人口.
通过上图我们就可以清楚的看到从目标表的目标字段出发，知道数据库中数据处理的规则，清楚的了解每个字段数据的来源。
至于其中ODS、DWD、DWA的关系，参照上面所述先去了解。
记录级血缘分析
记录级的血缘分析，就是从当前记录出发可以按时间查看该记录所有的变更过程。一条记录的生成可能原始对应两个表的两条记录，这种是要追溯跟踪的。
如果再精细跟踪，就可以做到字段级的血缘分析，与表结构的血缘分析就可以完美呼应。
单击某一个字段，可查看该字段的血缘关系；一个是以此字段为目标的血缘追溯，一个是以此字段为源的血缘追溯
这里就要看具体应用需求来定，毕竟做的越精细实现方案会越复杂。
血缘分析毕竟解决的问题是数据出了错之后能明确知道是哪一步环节的哪个原始数据出问题了，所以一般到记录级就基本可以进行追溯跟踪了。
（部分内容来源网络，如有侵权请联系删除）
立即免费申请产品试用
免费试用
相关文章推荐
-
面对如今的数据挑战企业如何有效地进行数据治理
数据治理是对数据资产管理行使权力和控制的活动集合，数据治理是识别、管理和解决几种不同类型数据相关问题的手段，包括数据质量问题、数据命名和……查看详情发布时间：2019.08.29来源：知乎浏览量：256次
-
用于指导金融行业开展大数据基础平台建设技术类标准
技术类标准用于指导金融行业开展大数据基础平台建设。大数据技术本身涉及内容广泛，既包含大数据平台本身的基础软件和各类功能组件，又包括基于业……查看详情发布时间：2019.12.27来源：CSDN浏览量：249次
-
-
外部管理数据集的政府数据可靠性
当我在退伍军人事务部工作时，我联系了许多人 - 联邦政府以外的人 - 他们希望在联邦政府开放数据工作时帮助清理，使用和改进公共数据集。当……查看详情发布时间：2019.03.08来源：亿信华辰浏览量：184次
-
数据资产管理方案之如何让数据化为价值
数据是资产的概念已经成为行业共识。然而现实中，对数据资产的管理和应用往往还处于摸索阶段，数据资产管理面临诸多挑战。主要分为以下三点：1、……查看详情发布时间：2020.08.14来源：知乎浏览量：277次
-
以数据中台为切入点，场景/应用驱动源头数据治理
数据中台通常是应用驱动构建，所处理的数据是业务关心和使用的数据。在数据中台开发与运营服务的过程中，面临很多源头数据的问题，比如不同系统的……查看详情发布时间：2020.04.01来源：知乎浏览量：219次
-
数据交换管理平台-数据交换的枢纽站
数据交换平台是数据中心与其它应用系统沟通的桥梁，是进行数据交换的枢纽站。数据交换平台负责从各个业务系统采集数据，对数据进行清洗与整合，按……查看详情发布时间：2020.04.23来源：知乎浏览量：204次
-
大数据对社会有多大用处？
规范性分析是商业智能（BI）中使用的四种大数据类型之一。大数据是一个描述大量数据的术语-结构化和非结构化-这些大量数据淹没了企业或任何数……查看详情发布时间：2018.12.29来源：数据治理浏览量：202次
-
98%的企业备战数据治理，尚未入局的你还在等什么
UBM近日发布了一份2018企业数据治理白皮书。白皮书中分析了数据治理的现状：虽然越来越多的企业（尤其是业务部门及IT部门）逐渐开始关注……查看详情发布时间：2019.05.30来源：亿信华辰浏览量：182次
-
杰出数据科学家的关键技能是什么？
学习如何应用不同的Python或R算法真的很简单：众所周知, 我们只需要修改一两行代码，就能将线性回归迁移到神经网络、SVM，或者你喜欢……查看详情发布时间：2019.02.14来源：亿信华辰浏览量：179次
相关主题