数据治理的血缘分析

发布时间:2019.11.22来源:CSDN浏览量:472次标签:数据治理

数据治理里经常提到的一个词就是血缘分析,血缘分析是保证数据融合(聚合)的一个手段,通过血缘分析实现数据融合处理的可追溯。

有时被概念瞎蒙了,不知道到底如何追溯,落不了地。本人接触的数据治理项目还主要是将各个来源的数据进行整理融合,形成人地事物组织几个业务大类数据。至于详细的ODS、DWD、DWA等数据组织请阅读这篇文章:


数据治理概述
本文主要从数据追溯的业务需求来分析一下,一切还是要从需求出发,这里的数据处理都是Oracle关系数据库之间的融合,血缘分析就划分为表结构血缘分析和记录级的血缘分析;这两类业务场景:

表结构血缘分析
表结构血缘分析
针对表结构的情况,最终用户和运维用户最需要关注,目标表的每个字段的数据来源有哪些?也就是建立一个源表、源字段和目标表、目标字段的映射关系,一个目标表可以对应多个来源表的字段,比如:姓名字段,可能来至于户籍人口表也可能来至于流动人口表或老年人表,也就是意味着这三张表合并起来的人口,才是这个区域的所有人口.
通过上图我们就可以清楚的看到从目标表的目标字段出发,知道数据库中数据处理的规则,清楚的了解每个字段数据的来源。
至于其中ODS、DWD、DWA的关系,参照上面所述先去了解。

记录级血缘分析
记录级血缘分析
记录级的血缘分析,就是从当前记录出发可以按时间查看该记录所有的变更过程。一条记录的生成可能原始对应两个表的两条记录,这种是要追溯跟踪的。
如果再精细跟踪,就可以做到字段级的血缘分析,与表结构的血缘分析就可以完美呼应。
单击某一个字段,可查看该字段的血缘关系;一个是以此字段为目标的血缘追溯,一个是以此字段为源的血缘追溯
这里就要看具体应用需求来定,毕竟做的越精细实现方案会越复杂。
血缘分析毕竟解决的问题是数据出了错之后能明确知道是哪一步环节的哪个原始数据出问题了,所以一般到记录级就基本可以进行追溯跟踪了。
(部分内容来源网络,如有侵权请联系删除)
立即免费申请产品试用 预约演示
相关文章推荐
  • 值得关注的 5 大数据治理工具

    值得关注的 5 大数据治理工具

    一旦数据治理策略的广泛目标最终确定,您就需要开始寻找适合您的框架和数据操作的数据治理工具。让我们来看看一些关键的数据治理工具以及它们如何……查看详情

    发布时间:2021.08.10来源:亿信数据治理知识库浏览量:835次

  • 言简意赅带你探究大数据治理的真面目

    言简意赅带你探究大数据治理的真面目

    在“十四五”规划和2035远景目标中,治理一词共出现了119次,这一数字是惊人的。数据治理已然成为整个社会转型的重要赛道,数字经济时代下……查看详情

    发布时间:2022.01.23来源:小亿浏览量:399次

  • 如何利用元数据管理数据资产

    如何利用元数据管理数据资产

    如今,各大企业都在关心数据该如何使用,但大数据应用的前提是有高质量的数据。而很多企业内部数据形态多样,标准不统一,大数据应用往往得从数据……查看详情

    发布时间:2020.11.05来源:知乎浏览量:469次

  • 大数据会取代传统BI吗

    大数据会取代传统BI吗

    BI一词早在20年前就被提出,加特纳集团将商业智能定义为描述一系列的概念和方法,通过应用基于事实的支持系统来辅助商业决策的制定。……查看详情

    发布时间:2019.03.14来源:亿信华辰浏览量:393次

  • 从数据资产管理出发,看数据治理的最优架构如何搭建?

    从数据资产管理出发,看数据治理的最优架构如何搭建?

    通过数据治理工作的开展,数据变得可信且易于理解,并能有效地支撑业务人员的决策分析工作,数据资产也变得更易用,更有价值。……查看详情

    发布时间:2021.04.15来源:亿信数据治理知识库浏览量:874次

  • 企业大数据治理的五个核心要素

    企业大数据治理的五个核心要素

    当今的大型企业,内部分工日趋细化,采购、服务、市场、销售、开发、支持、物流、财务、人力等各个环节,无不每时每刻产生着大量的数据。数据的格……查看详情

    发布时间:2019.08.20来源:知乎浏览量:593次

  • 企业数字化转型如何进行数据资源规划?

    企业数字化转型如何进行数据资源规划?

    企业主数据管理,就是将企业的多个业务系统中整合最核心的、最需要共享的数据(主数据),集中进行数据的清洗和丰富,并且以服务的方式把统一的、……查看详情

    发布时间:2020.04.03来源:知乎浏览量:371次

  • 数据治理有助于为分析构建坚实的基础

    数据治理有助于为分析构建坚实的基础

    如果您的业务很多,那么它就会大量投资于分析。我们生活在一个数据驱动的世界里。数据推动了我们从零售商处获得的建议,我们从杂货店获得的优惠券……查看详情

    发布时间:2019.01.23来源:亿信华辰浏览量:467次

  • 大数据平台安全防护——亿信华辰

    大数据平台安全防护——亿信华辰

    企业大数据数据源接入越来越多、数据量越来越大、平台越来越复杂,保存了很多企业敏感数据,甚至客户隐私信息。随着数据商业价值的增加,针对数据……查看详情

    发布时间:2019.01.10来源:亿信华辰浏览量:597次

  • 数据质量监控步骤及方法

    数据质量监控步骤及方法

    随着大数据时代的带来,数据的应用也日趋繁茂,越来越多的应用和服务都基于数据而建立,数据的重要性不言而喻。而且,数据质量是数据分析和数据挖……查看详情

    发布时间:2020.08.31来源:CSDN浏览量:743次

相关主题
您点击 “提交”,表明您已理解并同意接受本网站隐私政策和用户协议