数据治理的血缘分析

发布时间:2019.11.22来源:CSDN浏览量:259次标签:数据治理

数据治理里经常提到的一个词就是血缘分析,血缘分析是保证数据融合(聚合)的一个手段,通过血缘分析实现数据融合处理的可追溯。

有时被概念瞎蒙了,不知道到底如何追溯,落不了地。本人接触的数据治理项目还主要是将各个来源的数据进行整理融合,形成人地事物组织几个业务大类数据。至于详细的ODS、DWD、DWA等数据组织请阅读这篇文章:


数据治理概述
本文主要从数据追溯的业务需求来分析一下,一切还是要从需求出发,这里的数据处理都是Oracle关系数据库之间的融合,血缘分析就划分为表结构血缘分析和记录级的血缘分析;这两类业务场景:

表结构血缘分析
表结构血缘分析
针对表结构的情况,最终用户和运维用户最需要关注,目标表的每个字段的数据来源有哪些?也就是建立一个源表、源字段和目标表、目标字段的映射关系,一个目标表可以对应多个来源表的字段,比如:姓名字段,可能来至于户籍人口表也可能来至于流动人口表或老年人表,也就是意味着这三张表合并起来的人口,才是这个区域的所有人口.
通过上图我们就可以清楚的看到从目标表的目标字段出发,知道数据库中数据处理的规则,清楚的了解每个字段数据的来源。
至于其中ODS、DWD、DWA的关系,参照上面所述先去了解。

记录级血缘分析
记录级血缘分析
记录级的血缘分析,就是从当前记录出发可以按时间查看该记录所有的变更过程。一条记录的生成可能原始对应两个表的两条记录,这种是要追溯跟踪的。
如果再精细跟踪,就可以做到字段级的血缘分析,与表结构的血缘分析就可以完美呼应。
单击某一个字段,可查看该字段的血缘关系;一个是以此字段为目标的血缘追溯,一个是以此字段为源的血缘追溯
这里就要看具体应用需求来定,毕竟做的越精细实现方案会越复杂。
血缘分析毕竟解决的问题是数据出了错之后能明确知道是哪一步环节的哪个原始数据出问题了,所以一般到记录级就基本可以进行追溯跟踪了。
(部分内容来源网络,如有侵权请联系删除)
立即免费申请产品试用 免费试用
相关文章推荐
  • 我国数据治理面临的现实挑战

    我国数据治理面临的现实挑战

    数据驱动的经济社会数字化转型,既充分释放了来自数据创造价值的潜力、提高了劳动生产率和治理效率,也带来了前所未有的现实挑战。如何既促发展又……查看详情

    发布时间:2020.10.31来源:知乎浏览量:177次

  • 如何数据标准应对这些难题

    如何数据标准应对这些难题

    应对数据标准这些难题,最经济、最理想的模式当然是:做大数据建设,首先做标准,再做大数据平台,数据仓库等。但一般的不大可能有这样的认识,很……查看详情

    发布时间:2020.11.13来源:知乎浏览量:185次

  • 企业架构框架和元模型,指南

    企业架构框架和元模型,指南

    与任何建筑或基础设施项目需要不同的利益相关者和不同的计划视图的方式大致相同,企业架构(EA)也需要相同。……查看详情

    发布时间:2019.02.26来源:亿信华辰浏览量:285次

  • 数据分析加数据治理-让数据清澈如水

    数据分析加数据治理-让数据清澈如水

    在如今数据大浪潮下,如果您的业务很多,那么它就会大量堆积并且产生新的问题。我们生活在一个数据驱动的世界里。数据推动了我们从不同地方获得的……查看详情

    发布时间:2019.08.30来源:浏览量:232次

  • 2021年16种最佳数据治理工具和软件

    2021年16种最佳数据治理工具和软件

    ​数据治理越来越被企业重视,在这样一个数据驱动经济增长的时代,数据治理正在成为一些企业或单位数字化转型的必经之路。下面,就来和大家简单介……查看详情

    发布时间:2021.05.25来源:亿信数据治理知识库浏览量:334次

  • 技术最热门的新趋势:数据治理

    技术最热门的新趋势:数据治理

    什么是信息技术最热门的新趋势?如果你说“人工智能”,给自己部分功劳,因为AI肯定很热。但对于商业领域的技术决策者来说,有一些更大的问题就……查看详情

    发布时间:2019.02.28来源:亿信华辰浏览量:162次

  • 政务数据交换共享解决方案:打破数据孤岛 让数据成为资产

    政务数据交换共享解决方案:打破数据孤岛 让数据成为资产

    据统计,政府拥有全社会80%的数据资源,通过运用大数据、云计算等现代信息技术,形成“用数据决策、用数据管理、用数据服务”的公共管理与服务……查看详情

    发布时间:2020.12.03来源:知乎浏览量:263次

  • 数据质量需求与定义

    数据质量需求与定义

    数据质量通常表现为一组具体的流程和技术,用于识别和修正数据中的错误以支持业务运行及决策支持。在银行实际中数据质量管理的应用场景主要包括数……查看详情

    发布时间:2019.11.15来源:知乎浏览量:311次

  • 数据管理的演进:从响应业务到创造业务

    数据管理的演进:从响应业务到创造业务

    企业对数据的利用有三个阶段:响应运营,响应业务,创造业务。数据中台解决的是响应业务的问题,第三阶段“创造业务”,则需要AI中台。……查看详情

    发布时间:2019.03.19来源:亿信华辰浏览量:178次

  • 应用程序组合管理:优化您的投资组合

    应用程序组合管理:优化您的投资组合

    过程的第四个也是最后一个阶段是优化您的投资组合,在这里您必须开始检查其他应用程序和项目之间的依赖关系。您还必须在每个应用程序中添加成本和……查看详情

    发布时间:2019.02.19来源:亿信华辰浏览量:178次

相关主题
您点击 “提交”,表明您已理解并同意接受本网站隐私政策和用户协议