数据治理的血缘分析

发布时间:2019.11.22来源:CSDN浏览量:249次标签:数据治理

数据治理里经常提到的一个词就是血缘分析,血缘分析是保证数据融合(聚合)的一个手段,通过血缘分析实现数据融合处理的可追溯。

有时被概念瞎蒙了,不知道到底如何追溯,落不了地。本人接触的数据治理项目还主要是将各个来源的数据进行整理融合,形成人地事物组织几个业务大类数据。至于详细的ODS、DWD、DWA等数据组织请阅读这篇文章:


数据治理概述
本文主要从数据追溯的业务需求来分析一下,一切还是要从需求出发,这里的数据处理都是Oracle关系数据库之间的融合,血缘分析就划分为表结构血缘分析和记录级的血缘分析;这两类业务场景:

表结构血缘分析
表结构血缘分析
针对表结构的情况,最终用户和运维用户最需要关注,目标表的每个字段的数据来源有哪些?也就是建立一个源表、源字段和目标表、目标字段的映射关系,一个目标表可以对应多个来源表的字段,比如:姓名字段,可能来至于户籍人口表也可能来至于流动人口表或老年人表,也就是意味着这三张表合并起来的人口,才是这个区域的所有人口.
通过上图我们就可以清楚的看到从目标表的目标字段出发,知道数据库中数据处理的规则,清楚的了解每个字段数据的来源。
至于其中ODS、DWD、DWA的关系,参照上面所述先去了解。

记录级血缘分析
记录级血缘分析
记录级的血缘分析,就是从当前记录出发可以按时间查看该记录所有的变更过程。一条记录的生成可能原始对应两个表的两条记录,这种是要追溯跟踪的。
如果再精细跟踪,就可以做到字段级的血缘分析,与表结构的血缘分析就可以完美呼应。
单击某一个字段,可查看该字段的血缘关系;一个是以此字段为目标的血缘追溯,一个是以此字段为源的血缘追溯
这里就要看具体应用需求来定,毕竟做的越精细实现方案会越复杂。
血缘分析毕竟解决的问题是数据出了错之后能明确知道是哪一步环节的哪个原始数据出问题了,所以一般到记录级就基本可以进行追溯跟踪了。
(部分内容来源网络,如有侵权请联系删除)
立即免费申请产品试用 免费试用
相关文章推荐
  • 全栈式数据标准管理平台方案来了!

    全栈式数据标准管理平台方案来了!

    数据标准百度给的解释就是数据标准化是企业或组织对数据的定义、组织、监督和保护进行标准化的过程。数据标准化分为开发(D)、候选(C)、批准……查看详情

    发布时间:2020.08.28来源:知乎浏览量:189次

  • 数据质量衡量标准有几个属性

    数据质量衡量标准有几个属性

    数据分析和数据挖掘都离不开数据的质量,做过数据产品的人都知道,质量高的数据对于产品的意义有多大,如果说数据是不具备完整性、规范性以及一致……查看详情

    发布时间:2022.03.28来源:小亿浏览量:483次

  • 大数据时代下金融数据治理的问题

    大数据时代下金融数据治理的问题

    数据治理是一套完整的制度、指引和规范,用于统筹人员、流程以及技术等要素,使得商业银行能将数据作为企业的重要资产而有效利用,其核心内容是统……查看详情

    发布时间:2019.10.17来源:知乎浏览量:223次

  • 定义数据治理:什么是数据治理?

    定义数据治理:什么是数据治理?

    数据治理(DG)是增长最快的学科之一,但在定义数据治理时,许多组织都在努力。……查看详情

    发布时间:2019.01.23来源:亿信华辰浏览量:238次

  • 数据治理到底能治什么,怎么治

    数据治理到底能治什么,怎么治

    近年来,数据治理成为挖掘数据价值的重要手段和工具。随着大数据平台和工业互联网兴起,数据治理平台主要采用数据中台技术和微服务架构初步替代传……查看详情

    发布时间:2020.03.26来源:知乎浏览量:173次

  • 数据治理活跃在企业的方方面面

    数据治理活跃在企业的方方面面

    我们都知道数据治理存在感知问题(温和地说)。真正的数据治理是对任何和所有数据管理活动的控制和支持。但是,数据领导者常常关注控制角度或从技……查看详情

    发布时间:2019.03.13来源:亿信华辰浏览量:139次

  • 数据治理框架:它是什么,我已经拥有它?

    数据治理框架:它是什么,我已经拥有它?

    由于第一个人在第一台计算机上打开了电源开关,IT和业务部门已决定如何处理由技术使用和创建的数据。虽然您不再提交穿孔卡或存档磁带(可能),……查看详情

    发布时间:2018.12.27来源:数据治理浏览量:235次

  • 数据治理能力正在成为互联网+时代城市竞争新优势

    数据治理能力正在成为互联网+时代城市竞争新优势

    新型智慧城市的四个新视角解读 城市服务要以人为中心,但是城市的服务不但以人为中心,还是要做到数据,由于数据为核心,没有好的数据,就没有……查看详情

    发布时间:2019.01.08来源:亿信华辰浏览量:194次

  • 数据治理:大学数据的分类

    数据治理:大学数据的分类

    所有学院数据都被分类为敏感级别,为理解和管理大学数据提供基础。准确的分类为大学数据应用适当的安全级别提供了基础。这些分类考虑了法律保护(……查看详情

    发布时间:2018.11.26来源:数据治理浏览量:277次

  • 什么是数据标准?如何制定数据标准?这份指南送上

    什么是数据标准?如何制定数据标准?这份指南送上

    随着大数据行业的兴起,数据的重要性不言而喻,对数据进行应用的工具层出不穷,带来了巨大的经济效益。可很快就发现了诸多数据问题,制约了数据应……查看详情

    发布时间:2020.09.29来源:头条浏览量:177次

相关主题
您点击 “提交”,表明您已理解并同意接受本网站隐私政策和用户协议