为什么集成和治理对数据湖成功至关重要
发布时间:2019.02.28来源:亿信华辰浏览量:72次标签:数据治理
这是一个由三部分组成的系列文章的最后一篇文章,探讨如何构建一个能够满足真正企业级数据管理平台所有要求的数据湖。虽然早期的专题文章侧重于Hadoop中的企业级数据管理,数据入库中的数据以及安全性,但本文将重点关注两件事:在更广泛的企业IT环境中整合数据湖,以及数据治理。
随着更多湖泊的部署,我们看到了数据湖相对于大型组织中现有数据库,数据仓库,分析设备和企业应用程序的定位模式。
数据湖:留在这里
一些数据湖从一开始就被部署为集中的记录数据平台系统,为企业规模的其他系统服务,即数据即服务模型。随着集中数据湖建立势头,收集更多数据并吸引更多用例和用户,随着用户协作改进和重用数据,其价值也在不断增长。
其他项目始于组织的边缘,以提供数据并满足特定业务组的分析需求。本地化数据湖通常会扩展为支持多个团队或生成其他单独的数据湖实例,以支持希望获得与第一组相同的改进数据访问权限的其他组。
无论数据湖在组织中落地和扩展采用何种模式,数据湖在组织中日益重要的角色都会带来对企业准备的新要求。
整合挑战
为了做好企业准备,数据湖需要支持一系列功能,使其能够集成到公司的整体数据管理战略和IT应用程序以及数据流方面。
以下是一些要记住的要求:
- 必须能够自动化和嵌入与数据湖交互的过程,以便可以在熄灯生产模式下自动调用和执行用新数据更新湖或从湖中提供数据的作业。这意味着数据湖需要提供RESTFul API,该API可以由环境中的其他脚本或计划调用,并公开在生产环境中与数据湖交互所需的所有功能。
- 数据湖需要能够以多种格式导出数据和相关元数据,以便湖中的数据可以轻松地与其他应用程序或下游报告/分析系统集成。
- 数据湖需要支持开发,测试和生产环境,并允许在数据湖环境中从一个环境到下一个环境轻松推广数据摄取,数据准备和类似资产。
- 数据湖需要使湖泊的各个部分更容易在不同的Hadoop集群中共享,以便在具有多个数据湖的大型组织中,可以轻松且一致地共享数据,元数据和相关资产。
- 必须可以将在数据湖中收集和生成的元数据与其他企业标准元数据存储库进行交换。
治湖
除了流式传输数据湖的集成之外,您还必须准备好湖泊,以支持广泛且不断扩展的业务用户社区。
随着越来越多的用户开始直接或通过下游应用程序或报告/分析系统处理数据湖,强大数据治理的重要性也在增长。本主题 - 数据治理 - 是企业准备的最后一个维度。
通过将大量存储库中的数百种不同数据集汇集在一起,并为用户提供前所未有的直接访问数据,数据湖创造了新的治理挑战和机遇。
挑战与确保数据治理政策和程序在湖中存在并得到执行有关。数据湖中的企业级数据治理首先明确定义了每个数据资产进入湖泊时谁拥有或拥有监管责任,并通过数据湖流程进行维护和增强。此外,数据湖需要包含有关所需准确性,可访问性,一致性,完整性和每个数据源更新的详细记录策略。
为了监视和实施这些策略的应用,数据湖环境必须根据数据质量,特性和完整性自动分析每个数据源的摄取。此外,数据湖应自动跟踪和记录数据资产的任何操作(清理,转换,准备),以提供湖中所有用户和活动的清晰审计跟踪。
最后,当涉及数据湖中的企业级数据治理时,必须制定限制措施以确保人们只能看到应该允许他们看到的数据。(有关身份验证,授权和数据访问控制的重要性的更多信息,请参阅本系列的第2部分。)
企业规模的良性循环
但数据治理在真正的企业级数据湖中的作用不仅是降低风险和实施控制。它还可以创建附加值,并围绕用户和组的数据实现更丰富的更广泛协作。
如果设计得当,数据湖的独特之处在于允许大量非技术业务用户在从原始源系统数据到业务用户就绪信息的进化路径上移动数据时访问,探索和增强数据。
良好的数据治理通过帮助业务用户使用众包业务元数据增强数据以及为数据添加上下文,业务定义和含义的标记来实现此过程。结合数据治理策略,有选择地剔除并促进组织中对“黄金标准”数据的最佳群众资源洞察力,越来越多的企业用户参与企业规模数据湖可以创建用户的良性循环参与可以增强数据,带来更多用户,更多增强,并最终为湖泊带来更多价值。
-
建立统一的数据交换平台实现各部门的数据共享
要实现各部门的数据共享,必须先建立统一的数据交换平台,通过交换平台实现各异构数据库之间的数据集成,实现原有各业务系统在数据级集成,保证异……查看详情发布时间:2020.08.21来源:知乎浏览量:85次
-
对于制药公司而言,数据治理不应成为吞下难以接受的药物
制药和生命科学公司面临着许多与其他行业相同的数字转型压力,例如我们之前探讨过的金融服务和医疗保健。作为回应,他们正在转向高级分析平台和基……查看详情发布时间:2018.12.06来源:迈克尔帕斯托雷浏览量:81次
-
企业数据质量管理的水平、直接影响数字化转型的进程!
企业在数字化转型的过程中,需利用云计算、大数据、移动互联和物联网技术,通过新的产品和服务、新的业务模式和新的关系创造价值和竞争优势。数字……查看详情发布时间:2019.08.01来源:知乎浏览量:102次
-
数据治理和流分析的关系
借助流分析,可以通过智能数据模型和算法快速处理传入数据,以致在许多情况下,流数据没有机会被存储。与传统的分析过程相比,这是一个重要的变化……查看详情发布时间:2021.04.23来源:亿信数据治理知识库浏览量:82次
-
企业做好数据治理才能更快更好地推进数字化转型
企业做好数据治理才能更快更好地推进数字化转型数据治理之“困”在谈到当前的数据治理之“困”时,主要有四方面:……查看详情发布时间:2019.12.12来源:知乎浏览量:68次
-
什么是数据标准?如何制定数据标准?这份指南送上
随着大数据行业的兴起,数据的重要性不言而喻,对数据进行应用的工具层出不穷,带来了巨大的经济效益。可很快就发现了诸多数据问题,制约了数据应……查看详情发布时间:2020.09.29来源:头条浏览量:97次
-
Gartner 2019年十大数据和分析技术趋势:增强型分析成为重要卖点
处于数据和分析位置的领导人必须审视这些趋势对业务带来的潜在影响,并相应调整业务模式和运营,否则就有可能失去竞争优势。 ……查看详情发布时间:2019.02.25来源:亿信华辰浏览量:81次
-
数据安全事件频发的当下,如何保障数据治理过程中的绝对安全?
在数据治理过程中,如果数据不安全会导致数据治理不到位,甚至是治理好的数据被滥用或盗用。数据安全问题其实说白了通常是由于防范不到位、管理不……查看详情发布时间:2020.10.21来源:知乎浏览量:104次
-
数据治理分析项目最佳实践
当今信息化建设程度不断深入,企业在优化整合各种IT能力,使IT成为企业的前进驱动力与核心竞争力的同时,将视角关注于更深层次的数据治理与分……查看详情发布时间:2019.08.08来源:CSDN浏览量:98次