数据治理的血缘分析

发布时间:2019.11.22来源:CSDN浏览量:197次标签:数据治理

数据治理里经常提到的一个词就是血缘分析,血缘分析是保证数据融合(聚合)的一个手段,通过血缘分析实现数据融合处理的可追溯。

有时被概念瞎蒙了,不知道到底如何追溯,落不了地。本人接触的数据治理项目还主要是将各个来源的数据进行整理融合,形成人地事物组织几个业务大类数据。至于详细的ODS、DWD、DWA等数据组织请阅读这篇文章:


数据治理概述
本文主要从数据追溯的业务需求来分析一下,一切还是要从需求出发,这里的数据处理都是Oracle关系数据库之间的融合,血缘分析就划分为表结构血缘分析和记录级的血缘分析;这两类业务场景:

表结构血缘分析
表结构血缘分析
针对表结构的情况,最终用户和运维用户最需要关注,目标表的每个字段的数据来源有哪些?也就是建立一个源表、源字段和目标表、目标字段的映射关系,一个目标表可以对应多个来源表的字段,比如:姓名字段,可能来至于户籍人口表也可能来至于流动人口表或老年人表,也就是意味着这三张表合并起来的人口,才是这个区域的所有人口.
通过上图我们就可以清楚的看到从目标表的目标字段出发,知道数据库中数据处理的规则,清楚的了解每个字段数据的来源。
至于其中ODS、DWD、DWA的关系,参照上面所述先去了解。

记录级血缘分析
记录级血缘分析
记录级的血缘分析,就是从当前记录出发可以按时间查看该记录所有的变更过程。一条记录的生成可能原始对应两个表的两条记录,这种是要追溯跟踪的。
如果再精细跟踪,就可以做到字段级的血缘分析,与表结构的血缘分析就可以完美呼应。
单击某一个字段,可查看该字段的血缘关系;一个是以此字段为目标的血缘追溯,一个是以此字段为源的血缘追溯
这里就要看具体应用需求来定,毕竟做的越精细实现方案会越复杂。
血缘分析毕竟解决的问题是数据出了错之后能明确知道是哪一步环节的哪个原始数据出问题了,所以一般到记录级就基本可以进行追溯跟踪了。
(部分内容来源网络,如有侵权请联系删除)
立即免费申请产品试用 免费试用
相关文章推荐
  • 金融机构数据质量迎来“大考” ,这个数据治理利器你值得拥有

    金融机构数据质量迎来“大考” ,这个数据治理利器你值得拥有

    金融机构数据质量迎来“大考”。近日,中国银保监会办公厅下发了《关于开展监管数据质量专项治理工作的通知》,此次专项治理工作要压实监管数据质……查看详情

    发布时间:2021.01.29来源:知乎浏览量:274次

  • 数据治理流程

    数据治理流程

    数据治理流程必须通过TSDS数据治理流程审查TEA收集的所有数据。此过程允许用户监督 TEA如何从LEA收集立法规定的数据以及为stud……查看详情

    发布时间:2018.11.27来源:数据治理浏览量:205次

  • 统一数据交换平台解决方案

    统一数据交换平台解决方案

    随着我国信息化工程建设的迅速发展,各政府部门及各大企业内部都建立了各自的信息处理系统。这些信息系统往往是在不同时期、由不同厂商、在不同平……查看详情

    发布时间:2020.08.07来源:知乎浏览量:162次

  • 企业怎样建立完整的数据治理体系?

    企业怎样建立完整的数据治理体系?

    大数据智能时代,管理不再是传统的做法,一套完善的数据管理体系是企业长远要生存的必须择决。我们的生活已经离不开大数据,企业的数据管理不仅能……查看详情

    发布时间:2020.03.26来源:知乎浏览量:117次

  • 物联网中的安全与数据治理到底怎么做?

    物联网中的安全与数据治理到底怎么做?

    如果企业和公共部门机构要启动成功的物联网项目,确保物联网系统和智能设备的用户保持安全,这要求他们的数据受到保护和谨慎管理至关重要。用户的……查看详情

    发布时间:2019.06.21来源:知乎浏览量:110次

  • 数据中台与数据治理的关系:数据中台之数据治理

    数据中台与数据治理的关系:数据中台之数据治理

    结合数据中台开展数据治理,集中资源、目标一致的开展数据治理工作,可以加快数据治理进程、加强数据治理效果,同时通过数据治理优化数据中台的数……查看详情

    发布时间:2021.08.13来源:亿信华辰浏览量:216次

  • 全球数据治理体系建设

    全球数据治理体系建设

    数据治理体系建设是推动数字经济高质量发展的关键。美国和欧盟正在加紧构建符合自身利益诉求的数据治理体系,并力图引领全球数据治理,提升数字经……查看详情

    发布时间:2020.01.03来源:知乎浏览量:146次

  • 重新思考数据治理

    重新思考数据治理

    随着数据和分析技术的变化,它们带来了新的数据治理挑战。当然,数据治理有各种定义,具体取决于您询问的对象。出于本文的目的,我们将其定义为确……查看详情

    发布时间:2018.11.26来源:数据治理浏览量:167次

  • 政府如何进行数据治理

    政府如何进行数据治理

    政府掌握全社会重要核心的、高价值的数据,如何通过有效管理,进行共享开放与协同,释放背后价值,赋能管理、服务决策,推动治理能力的提升对于我……查看详情

    发布时间:2021.08.30来源:亿信华辰浏览量:247次

  • 中国地方政府数据治理机构的初步研究:现状与模式

    中国地方政府数据治理机构的初步研究:现状与模式

    立数据治理机构是中国地方政府迎接数字时代的一项重要治理创新。本文对近年来先后成立的地方政府数据治理机构的发展现状进行了详细梳理,对其隶属……查看详情

    发布时间:2019.02.25来源:电子政务网浏览量:153次

相关主题
您点击 “提交”,表明您已理解并同意接受本网站隐私政策和用户协议