立即扫码
享受一对一服务
数据治理的血缘分析
发布时间：2019.11.22来源：CSDN浏览量：201次标签：数据治理
数据治理里经常提到的一个词就是血缘分析，血缘分析是保证数据融合（聚合）的一个手段，通过血缘分析实现数据融合处理的可追溯。
本文主要从数据追溯的业务需求来分析一下，一切还是要从需求出发，这里的数据处理都是Oracle关系数据库之间的融合，血缘分析就划分为表结构血缘分析和记录级的血缘分析；这两类业务场景：
表结构血缘分析
针对表结构的情况，最终用户和运维用户最需要关注，目标表的每个字段的数据来源有哪些？也就是建立一个源表、源字段和目标表、目标字段的映射关系，一个目标表可以对应多个来源表的字段，比如：姓名字段，可能来至于户籍人口表也可能来至于流动人口表或老年人表，也就是意味着这三张表合并起来的人口，才是这个区域的所有人口.
通过上图我们就可以清楚的看到从目标表的目标字段出发，知道数据库中数据处理的规则，清楚的了解每个字段数据的来源。
至于其中ODS、DWD、DWA的关系，参照上面所述先去了解。
记录级血缘分析
记录级的血缘分析，就是从当前记录出发可以按时间查看该记录所有的变更过程。一条记录的生成可能原始对应两个表的两条记录，这种是要追溯跟踪的。
如果再精细跟踪，就可以做到字段级的血缘分析，与表结构的血缘分析就可以完美呼应。
单击某一个字段，可查看该字段的血缘关系；一个是以此字段为目标的血缘追溯，一个是以此字段为源的血缘追溯
这里就要看具体应用需求来定，毕竟做的越精细实现方案会越复杂。
血缘分析毕竟解决的问题是数据出了错之后能明确知道是哪一步环节的哪个原始数据出问题了，所以一般到记录级就基本可以进行追溯跟踪了。
有时被概念瞎蒙了，不知道到底如何追溯，落不了地。本人接触的数据治理项目还主要是将各个来源的数据进行整理融合，形成人地事物组织几个业务大类数据。至于详细的ODS、DWD、DWA等数据组织请阅读这篇文章：
本文主要从数据追溯的业务需求来分析一下，一切还是要从需求出发，这里的数据处理都是Oracle关系数据库之间的融合，血缘分析就划分为表结构血缘分析和记录级的血缘分析；这两类业务场景：
表结构血缘分析
针对表结构的情况，最终用户和运维用户最需要关注，目标表的每个字段的数据来源有哪些？也就是建立一个源表、源字段和目标表、目标字段的映射关系，一个目标表可以对应多个来源表的字段，比如：姓名字段，可能来至于户籍人口表也可能来至于流动人口表或老年人表，也就是意味着这三张表合并起来的人口，才是这个区域的所有人口.
通过上图我们就可以清楚的看到从目标表的目标字段出发，知道数据库中数据处理的规则，清楚的了解每个字段数据的来源。
至于其中ODS、DWD、DWA的关系，参照上面所述先去了解。
记录级血缘分析
记录级的血缘分析，就是从当前记录出发可以按时间查看该记录所有的变更过程。一条记录的生成可能原始对应两个表的两条记录，这种是要追溯跟踪的。
如果再精细跟踪，就可以做到字段级的血缘分析，与表结构的血缘分析就可以完美呼应。
单击某一个字段，可查看该字段的血缘关系；一个是以此字段为目标的血缘追溯，一个是以此字段为源的血缘追溯
这里就要看具体应用需求来定，毕竟做的越精细实现方案会越复杂。
血缘分析毕竟解决的问题是数据出了错之后能明确知道是哪一步环节的哪个原始数据出问题了，所以一般到记录级就基本可以进行追溯跟踪了。
（部分内容来源网络，如有侵权请联系删除）
立即免费申请产品试用
免费试用
相关文章推荐
-
每天12亿条交通大数据如何为城市建设提供参考
明天天气怎么样？要回答这个问题，人们会立刻查看天气预报。 那明天的路况呢？交通大数据能告诉你。 ……查看详情发布时间：2019.03.27来源：亿信华辰浏览量：108次
-
-
为什么我们需要数据仓库
如果直接从业务数据库取数据没有数据仓库时，我们需要直接从业务数据库中取数据来做分析。业务数据库主要是为业务操作服务，虽然可以用于分析，但……查看详情发布时间：2019.01.07来源：LongFei浏览量：138次
-
大数据时代企业为什么需要数据治理吗？
如今数字化转型正在各行各业中迅速发展，以数据、流量、知识为主大数据时代已经到来，对于一个企业来说，要实施数字花和大数据战略，数据治理更为……查看详情发布时间：2019.07.18来源：知乎浏览量：149次
-
浅析银行业如何做数据治理
2018年5月，银保监会发布《银行业金融机构数据治理指引》，从数据治理架构、数据管理、数据质量控制、数据价值实现、监督管理等方面规范银行……查看详情发布时间：2019.06.14来源：亿信华辰浏览量：173次
-
数据资产管理的发展趋势
随着数据资产管理生态系统的不断发展，现有的实践体系也在迅速发展，可以从数据对象、数据采集、处理架构、组织职能、管理手段和应用范围六个方面……查看详情发布时间：2020.09.11来源：知乎浏览量：202次
-
数据清洗与数据治理的3个不同点
数据清洗，是指发现并纠正数据文件中可识别的错误的最后一道程序，是数据治理工作中必不可少的一项关键任务，是数据治理的子集.……查看详情发布时间：2021.04.09来源：亿信数据治理研究院浏览量：1213次
-
数据质量在数据治理中的重要意义
数据的质量问题从一定的角度反映出组织当中存在的一些问题，而问题的来源可能是数据流动，可能业务流程也可能源于管理问题等等，数据质量问题的分……查看详情发布时间：2020.01.10来源：CSDN浏览量：160次
-
什么是数据治理及其为什么对您的业务至关重要？
数据治理如何影响他们：由于您没有雇用一组全新的理事会成员，因此DGC数据治理的最大影响将是与数据和数据策略相关的额外工作。如果或出现问题……查看详情发布时间：2018.11.26来源：数据治理浏览量：184次
-
构建有效的数据科学团队
随着数据科学和人工智能几乎进入阳光下的每个行业，建立一个能够建立成功的AI项目的团队的挑战也是如此。对统计学家，程序员和沟通者完美融合的……查看详情发布时间：2019.03.15来源：亿信华辰浏览量：188次
相关主题