元数据:数据治理的燃料
发布时间:2019.08.02来源:知乎浏览量:92次标签:数据治理
实现数据质量的最佳方法是组合或混合这三种技术:解码后的谱系,数据相似性谱系和手动谱系映射。
企业渴望从可提供竞争优势的数据中获取洞察力。实现这一目标的最常见障碍是数据质量差。如果输入到预测算法的数据是“脏的”(具有丢失或无效的值),则该算法产生的任何见解都不可信。
数据沿袭为企业提供了许多好处:
通过向后追踪谱系(以查找影响当前数据的所有数据)或转发(以识别受当前数据影响的所有其他数据)从给定数据项执行影响分析和根本原因分析的能力;
业务词汇和术语的标准化,有助于跨业务部门的清晰通信;
归功于对数据所做的任何更改的所有权,责任和可追溯性,这归功于谱系全面记录了谁做出了哪些更改以及何时更改。
听起来不错,但数据沿袭信息来自哪里?查看数据库中的特定数据值会告诉我们其当前值,但它不会提供有关数据如何演变为其当前值的信息。缺少的是有关数据的数据(沿袭元数据),它自动记住每个数据项所做的每次更改的时间和来源,无论是由软件还是由人工数据库管理员进行的更改。
为数十种语言开发足够的支持可能并不容易,这些语言必须进行分析才能涵盖环境的基础知识。它也可能会阻止您采用新技术,因为您的已解码的沿袭引擎尚不支持它。
代码版本会随着时间的推移而发生变化,因此您对当前代码数据流的分析可能会错过已被取代的重要流程。
当代码是动态的(您根据程序输入,表中的数据,环境变量等)动态构建表达式时,您需要一种方法来解码动态代码。
并非所有数据更改都是由代码生成的。例如,假设您的网站发生紧急中断,您的DBA会通过直接在生产数据库上执行一系列SQL命令来手动修复。Decoded Lineage工具永远不会检测到这些更改,因为它们是由DBA而不是代码生成的。
代码可能对数据做错了。例如,假设您的代码存储违反GDPR的个人识别信息,并且产品经理明确要求相反。解码的血统工具将忠实地捕获代码所做的事情,而不会引发红旗。
假设两个独立进程中的两段代码执行相同的计算,以在数据库中创建相同的重复数据。代码分析无法发现这种情况,因为每段代码都表现得很好。只有通过检查数据库才能发现并消除重复。
2.数据相似性谱系
检测大型数据库中的数据相似性需要花费大量时间和处理能力。
结果元数据将缺少许多细节,例如转换逻辑。
它无法检测尚未执行的沿袭元数据。例如,假设您有一个年终会计流程来调整收入和库存。在该流程于12月31日运行之前,您将无法获得有关它的沿袭元数据。
3.手动谱系映射
使用Tamr,Paxata或Trifacta等工具增加数据相似性谱系,以发现数据库中的模式。
使用手动沿袭映射进行扩充,以捕获规定的沿袭规则(例如,应该如何实现数据流)。
成功组合这些技术后,您可以收集开始享受受管数据优势所需的全面血统元数据。
-
企业如何成功的实现数据治理?
当下是一个大数据的时代,如果一个企业没有数据,那么在做决策时就缺乏数据的支持,但是如果企业有了数据,不对数据进行治理,那么就无法充分有效……查看详情发布时间:2019.07.18来源:知乎浏览量:82次
-
数据治理委员会:指导原则
数据所有权 指定义与特定数据集相关的各种责任级别。讨论谁负责特定的数据任务已经使我们机构的数据维护和准确性变得更加简单。……查看详情发布时间:2018.11.23来源:数据治理浏览量:93次
-
云,基础设施现代化和数据治理定义了2019年的IT成功
随着新兴数据技术的优先事项和采用不断升级,IT正在发生变化,挑战也在不断增加。……查看详情发布时间:2019.03.25来源:亿信华辰浏览量:98次
-
数据湖架构 - 最佳实践指南
实施正确的数据湖架构对于将数据转化为价值至关重要。无论您的数据湖中有多少数据,如果您缺乏有效管理数据、跟踪数据并确保其安全的架构特性,那……查看详情发布时间:2021.06.18来源:亿信数据治理知识库浏览量:94次
-
企业数据标准管理系统应该这样做!
提到“标准”二字,我们第一时间能够想到的就是一系列的标准化文档,例如:产品设计标准、生产标准、质量检验标准、库房……查看详情发布时间:2020.08.31来源:CSDN浏览量:85次
-
谷歌的记录,gdpr罚款:避免这种命运与数据治理
通用数据保护条例(gdpr)第一次产生了真正的影响,因为谷歌的记录gdpr罚款主导了新闻周期。……查看详情发布时间:2019.02.13来源:亿信华辰浏览量:98次
-
手把手系列:常用数据交换方案之Web Service接口处理法
Web Service是一个SOA(面向服务的编程)的架构,是一个平台独立的,低耦合的,基于可编程的web的应用程序,可使用开放的XML……查看详情发布时间:2020.12.29来源:知乎浏览量:90次
-
可以加强您的数据治理框架的五大方面
信息就是力量,您的组织每天都依靠它来做出明智的商业决策。不幸的是,组织产生的数据并没有按照应有的方式进行管理。大数据调查表明,业务和技术……查看详情发布时间:2019.07.04来源:知乎浏览量:99次