立即扫码
享受一对一服务
数据治理的血缘分析
发布时间：2019.11.22来源：CSDN浏览量：250次标签：数据治理
数据治理里经常提到的一个词就是血缘分析，血缘分析是保证数据融合（聚合）的一个手段，通过血缘分析实现数据融合处理的可追溯。
本文主要从数据追溯的业务需求来分析一下，一切还是要从需求出发，这里的数据处理都是Oracle关系数据库之间的融合，血缘分析就划分为表结构血缘分析和记录级的血缘分析；这两类业务场景：
表结构血缘分析
针对表结构的情况，最终用户和运维用户最需要关注，目标表的每个字段的数据来源有哪些？也就是建立一个源表、源字段和目标表、目标字段的映射关系，一个目标表可以对应多个来源表的字段，比如：姓名字段，可能来至于户籍人口表也可能来至于流动人口表或老年人表，也就是意味着这三张表合并起来的人口，才是这个区域的所有人口.
通过上图我们就可以清楚的看到从目标表的目标字段出发，知道数据库中数据处理的规则，清楚的了解每个字段数据的来源。
至于其中ODS、DWD、DWA的关系，参照上面所述先去了解。
记录级血缘分析
记录级的血缘分析，就是从当前记录出发可以按时间查看该记录所有的变更过程。一条记录的生成可能原始对应两个表的两条记录，这种是要追溯跟踪的。
如果再精细跟踪，就可以做到字段级的血缘分析，与表结构的血缘分析就可以完美呼应。
单击某一个字段，可查看该字段的血缘关系；一个是以此字段为目标的血缘追溯，一个是以此字段为源的血缘追溯
这里就要看具体应用需求来定，毕竟做的越精细实现方案会越复杂。
血缘分析毕竟解决的问题是数据出了错之后能明确知道是哪一步环节的哪个原始数据出问题了，所以一般到记录级就基本可以进行追溯跟踪了。
有时被概念瞎蒙了，不知道到底如何追溯，落不了地。本人接触的数据治理项目还主要是将各个来源的数据进行整理融合，形成人地事物组织几个业务大类数据。至于详细的ODS、DWD、DWA等数据组织请阅读这篇文章：
本文主要从数据追溯的业务需求来分析一下，一切还是要从需求出发，这里的数据处理都是Oracle关系数据库之间的融合，血缘分析就划分为表结构血缘分析和记录级的血缘分析；这两类业务场景：
表结构血缘分析
针对表结构的情况，最终用户和运维用户最需要关注，目标表的每个字段的数据来源有哪些？也就是建立一个源表、源字段和目标表、目标字段的映射关系，一个目标表可以对应多个来源表的字段，比如：姓名字段，可能来至于户籍人口表也可能来至于流动人口表或老年人表，也就是意味着这三张表合并起来的人口，才是这个区域的所有人口.
通过上图我们就可以清楚的看到从目标表的目标字段出发，知道数据库中数据处理的规则，清楚的了解每个字段数据的来源。
至于其中ODS、DWD、DWA的关系，参照上面所述先去了解。
记录级血缘分析
记录级的血缘分析，就是从当前记录出发可以按时间查看该记录所有的变更过程。一条记录的生成可能原始对应两个表的两条记录，这种是要追溯跟踪的。
如果再精细跟踪，就可以做到字段级的血缘分析，与表结构的血缘分析就可以完美呼应。
单击某一个字段，可查看该字段的血缘关系；一个是以此字段为目标的血缘追溯，一个是以此字段为源的血缘追溯
这里就要看具体应用需求来定，毕竟做的越精细实现方案会越复杂。
血缘分析毕竟解决的问题是数据出了错之后能明确知道是哪一步环节的哪个原始数据出问题了，所以一般到记录级就基本可以进行追溯跟踪了。
（部分内容来源网络，如有侵权请联系删除）
立即免费申请产品试用
免费试用
相关文章推荐
-
大数据共享交换平台的功能需求
大数据平台是集开发、配置、部署、管理、监控、安全于一体的数据交换全生命周期管理的数据交换平台。平台可快速构建、运行和管理分布式应用系统间……查看详情发布时间：2022.05.18来源：小亿浏览量：523次
-
大数据治理：数据问题的全面解决之道
当今的大型企业，内部分工日趋细化，采购、服务、市场、销售、开发、支持、物流、财务、人力等各个环节，无不每时每刻产生着大量的数据。数据的格……查看详情发布时间：2018.12.20来源：人民邮电浏览量：170次
-
数据治理的坑你遇到过几个？
数据治理是一项长期而繁杂的工作，很多时候大家都为如何做好数据治理而感到困惑，甚至很多时候对此失去了信心。……查看详情发布时间：2019.08.19来源：御数坊浏览量：216次
-
企业数据质量管理的水平、直接影响数字化转型的进程！
企业在数字化转型的过程中，需利用云计算、大数据、移动互联和物联网技术，通过新的产品和服务、新的业务模式和新的关系创造价值和竞争优势。数字……查看详情发布时间：2019.08.01来源：知乎浏览量：207次
-
构建有效的数据科学团队
随着数据科学和人工智能几乎进入阳光下的每个行业，建立一个能够建立成功的AI项目的团队的挑战也是如此。对统计学家，程序员和沟通者完美融合的……查看详情发布时间：2019.03.15来源：亿信华辰浏览量：235次
-
-
2019年大数据发展将走向何方
近日，包括CCF（中国计算机学会）大数据专家委员会、IDC公司（Internet Data Center 互联网数据中心）和Gartne……查看详情发布时间：2019.02.19来源：亿信华辰浏览量：152次
-
以元数据为基础的数据治理策略
数据是公司资产。为了更快地做出决策，用户必须信任它。数据治理打破了整个企业中不同系统的数据孤岛，并建立了一套流程，标准和策略，以使企业范……查看详情发布时间：2019.09.04来源：知乎浏览量：288次
-
安全数据交换方案已成为信息化建设的重要发展方向
为保护重要数据和应用系统的安全，目前各级政府部门普遍采用多个网络并行的方式。但是随着信息化建设的不断深入，不同网络之间或不同安全域之间的……查看详情发布时间：2020.08.21来源：知乎浏览量：149次
-
相关主题