数据治理的血缘分析

发布时间:2019.11.22来源:CSDN浏览量:204次标签:数据治理

数据治理里经常提到的一个词就是血缘分析,血缘分析是保证数据融合(聚合)的一个手段,通过血缘分析实现数据融合处理的可追溯。

有时被概念瞎蒙了,不知道到底如何追溯,落不了地。本人接触的数据治理项目还主要是将各个来源的数据进行整理融合,形成人地事物组织几个业务大类数据。至于详细的ODS、DWD、DWA等数据组织请阅读这篇文章:


数据治理概述
本文主要从数据追溯的业务需求来分析一下,一切还是要从需求出发,这里的数据处理都是Oracle关系数据库之间的融合,血缘分析就划分为表结构血缘分析和记录级的血缘分析;这两类业务场景:

表结构血缘分析
表结构血缘分析
针对表结构的情况,最终用户和运维用户最需要关注,目标表的每个字段的数据来源有哪些?也就是建立一个源表、源字段和目标表、目标字段的映射关系,一个目标表可以对应多个来源表的字段,比如:姓名字段,可能来至于户籍人口表也可能来至于流动人口表或老年人表,也就是意味着这三张表合并起来的人口,才是这个区域的所有人口.
通过上图我们就可以清楚的看到从目标表的目标字段出发,知道数据库中数据处理的规则,清楚的了解每个字段数据的来源。
至于其中ODS、DWD、DWA的关系,参照上面所述先去了解。

记录级血缘分析
记录级血缘分析
记录级的血缘分析,就是从当前记录出发可以按时间查看该记录所有的变更过程。一条记录的生成可能原始对应两个表的两条记录,这种是要追溯跟踪的。
如果再精细跟踪,就可以做到字段级的血缘分析,与表结构的血缘分析就可以完美呼应。
单击某一个字段,可查看该字段的血缘关系;一个是以此字段为目标的血缘追溯,一个是以此字段为源的血缘追溯
这里就要看具体应用需求来定,毕竟做的越精细实现方案会越复杂。
血缘分析毕竟解决的问题是数据出了错之后能明确知道是哪一步环节的哪个原始数据出问题了,所以一般到记录级就基本可以进行追溯跟踪了。
(部分内容来源网络,如有侵权请联系删除)
立即免费申请产品试用 免费试用
相关文章推荐
  • 数据治理和成熟度评估模型

    数据治理和成熟度评估模型

    成熟度评估没有“ 一种模式适合所有人 ”。……查看详情

    发布时间:2019.02.14来源:亿信华辰浏览量:175次

  • 重大数据治理预测

    重大数据治理预测

    去年见证了数据治理的觉醒 - 或者正如“ 华尔街日报” 所称的那样,“全球数据治理计算”。……查看详情

    发布时间:2019.01.17来源:亿信华辰浏览量:180次

  • 数据质量管理趋势

    数据质量管理趋势

    进一步信息又可分为物理信息和语义信息两类,其中物理层面的信息反映基础的数据结构;语义信息属于进阶有含义的语义数据结构,反映人类的视角。……查看详情

    发布时间:2019.11.15来源:知乎浏览量:160次

  • 赢得数据治理的五个秘诀

    赢得数据治理的五个秘诀

    到目前为止,您已经意识到拥有出色的数据分析策略还需要拥有良好的数据治理策略。毕竟,如果您的数据无法控制,那么您在其上运行的分析在一天结束……查看详情

    发布时间:2019.02.27来源:亿信华辰浏览量:142次

  • 深圳运用大数据治理城市经验被点赞

    深圳运用大数据治理城市经验被点赞

    央视《新闻联播》报道了深圳运用大数据提升城市治理现代化水平方面的新探索。报道指出,随着“数字政府”建设的不断推进,深圳的政务创新也渐入佳……查看详情

    发布时间:2018.09.25来源:深视新闻浏览量:135次

  • 敏捷/精益数据治理最佳实践

    敏捷/精益数据治理最佳实践

    数据治理 的目标 是确保组织内的质量,可用性,完整性,安全性和可用性。你对此的看法取决于你。许多传统的数据治理方法似乎在实践中都很困难,……查看详情

    发布时间:2018.11.20来源:数据治理浏览量:131次

  • 数据管理和使用:21世纪的治理

    数据管理和使用:21世纪的治理

    预计该管理机构将对新问题和问题进行专家调查,并采用新方法预测今天决策的未来后果。……查看详情

    发布时间:2019.03.20来源:亿信华辰浏览量:144次

  • 大数据行业必备书目:《数据治理知识图谱》限量首发,0元领

    大数据行业必备书目:《数据治理知识图谱》限量首发,0元领

    为了让数据不再熵增,助力政企数字化转型,我们将此心血集结成册,行业首发《数据治理知识图谱》,DAMA中国区主席汪广盛倾情推荐,限量300……查看详情

    发布时间:2021.07.14来源:亿信华辰浏览量:173次

  • 组织文化的正确数据治理

    组织文化的正确数据治理

    “如果你注意听到会议发言人使用”文化“这个词的次数,你会感到惊讶,” Sierra Creek Consulting的创始人玛丽·莱文斯……查看详情

    发布时间:2019.02.20来源:亿信华辰浏览量:142次

  • 什么是数据治理,为什么重要?

    什么是数据治理,为什么重要?

    没有有效的数据治理,组织中不同系统中的数据不一致可能无法解决。例如,在销售,物流和客户服务系统中,客户名称可能会以不同的方式列出。……查看详情

    发布时间:2021.04.01来源:浏览量:145次

相关主题
您点击 “提交”,表明您已理解并同意接受本网站隐私政策和用户协议