数据治理的血缘分析

发布时间:2019.11.22来源:CSDN浏览量:217次标签:数据治理

数据治理里经常提到的一个词就是血缘分析,血缘分析是保证数据融合(聚合)的一个手段,通过血缘分析实现数据融合处理的可追溯。

有时被概念瞎蒙了,不知道到底如何追溯,落不了地。本人接触的数据治理项目还主要是将各个来源的数据进行整理融合,形成人地事物组织几个业务大类数据。至于详细的ODS、DWD、DWA等数据组织请阅读这篇文章:


数据治理概述
本文主要从数据追溯的业务需求来分析一下,一切还是要从需求出发,这里的数据处理都是Oracle关系数据库之间的融合,血缘分析就划分为表结构血缘分析和记录级的血缘分析;这两类业务场景:

表结构血缘分析
表结构血缘分析
针对表结构的情况,最终用户和运维用户最需要关注,目标表的每个字段的数据来源有哪些?也就是建立一个源表、源字段和目标表、目标字段的映射关系,一个目标表可以对应多个来源表的字段,比如:姓名字段,可能来至于户籍人口表也可能来至于流动人口表或老年人表,也就是意味着这三张表合并起来的人口,才是这个区域的所有人口.
通过上图我们就可以清楚的看到从目标表的目标字段出发,知道数据库中数据处理的规则,清楚的了解每个字段数据的来源。
至于其中ODS、DWD、DWA的关系,参照上面所述先去了解。

记录级血缘分析
记录级血缘分析
记录级的血缘分析,就是从当前记录出发可以按时间查看该记录所有的变更过程。一条记录的生成可能原始对应两个表的两条记录,这种是要追溯跟踪的。
如果再精细跟踪,就可以做到字段级的血缘分析,与表结构的血缘分析就可以完美呼应。
单击某一个字段,可查看该字段的血缘关系;一个是以此字段为目标的血缘追溯,一个是以此字段为源的血缘追溯
这里就要看具体应用需求来定,毕竟做的越精细实现方案会越复杂。
血缘分析毕竟解决的问题是数据出了错之后能明确知道是哪一步环节的哪个原始数据出问题了,所以一般到记录级就基本可以进行追溯跟踪了。
(部分内容来源网络,如有侵权请联系删除)
立即免费申请产品试用 免费试用
相关文章推荐
  • 数据治理准备的五大支柱:团队资源

    数据治理准备的五大支柱:团队资源

    Facebook丑闻突显了组织需要理解和应用数据治理准备的五大支柱。……查看详情

    发布时间:2019.01.24来源:亿信华辰浏览量:175次

  • 数据治理到底是什么?

    数据治理到底是什么?

    幸运的是,培训可以为精通数据的员工提供这些技能。通过正确的沟通工作,您的数据治理团队可以开展治理业务,确信他们能够为您的各种数据利益相关……查看详情

    发布时间:2019.03.19来源:亿信华辰浏览量:207次

  • 国内数据治理平台厂商介绍

    国内数据治理平台厂商介绍

    睿治数据治理平台是北京亿信华辰软件有限责任公司完全自主研发的一站式综合数据治理整体解决方案,是一款面向全用户角色的、智能的、敏捷的数据全……查看详情

    发布时间:2019.09.19来源:知乎浏览量:223次

  • 敏捷/精益数据治理最佳实践

    敏捷/精益数据治理最佳实践

    数据治理 的目标 是确保组织内的质量,可用性,完整性,安全性和可用性。你对此的看法取决于你。许多传统的数据治理方法似乎在实践中都很困难,……查看详情

    发布时间:2018.12.18来源:数据治理浏览量:136次

  • 区块链是金融数据治理的天然工具

    区块链是金融数据治理的天然工具

    一、从金融数据管理到金融数据治理进入“大数据时代”,不仅催生更多金融业态,数据体量更是呈现爆炸式增长。如何将金融……查看详情

    发布时间:2019.01.07来源:亿信华辰浏览量:164次

  • 构建有效的数据科学团队

    构建有效的数据科学团队

    随着数据科学和人工智能几乎进入阳光下的每个行业,建立一个能够建立成功的AI项目的团队的挑战也是如此。对统计学家,程序员和沟通者完美融合的……查看详情

    发布时间:2019.03.15来源:亿信华辰浏览量:197次

  • 为什么数据治理是改善决策的关键

    为什么数据治理是改善决策的关键

    能够快速收集大量数据,分析数据,然后使用您学到的知识来帮助促进更好的决策,这是许多企业高管的梦想。但是就像任何可以在一个句子中总结的事物……查看详情

    发布时间:2019.01.22来源:亿信华辰浏览量:235次

  • 数据治理如何解决数据多、杂、乱、差问题?

    数据治理如何解决数据多、杂、乱、差问题?

    许多大数据公司在过去一段时间都得到了较好的发展,但由于在数据生产的过程中并未做到足够重视,数据质量与可靠性则很难得到保证,这也是数据治理……查看详情

    发布时间:2022.02.21来源:小亿浏览量:372次

  • 数据在数字化转型时代的作用

    数据在数字化转型时代的作用

    说今天的商业环境变得极具竞争力可能是轻描淡写的,那些没有不断重塑业务的公司 - 以核心数据 - 最终会在市场中断的同时观望。数据技术,科……查看详情

    发布时间:2019.03.12来源:亿信华辰浏览量:174次

  • 数据治理与IT治理的区别

    数据治理与IT治理的区别

    最近,我们一直专注于数据治理,从数据中获取最大价值并防止下一次重大漏洞,我们中的许多人忽略了IT治理基础,这有助于我们实现卓越的数据治理……查看详情

    发布时间:2018.11.15来源:Cindy Ng浏览量:231次

相关主题
您点击 “提交”,表明您已理解并同意接受本网站隐私政策和用户协议