为什么集成和治理对数据湖成功至关重要

发布时间:2019.02.28来源:亿信华辰浏览量:99次标签:数据治理


这是一个由三部分组成的系列文章的最后一篇文章,探讨如何构建一个能够满足真正企业级数据管理平台所有要求的数据湖。虽然早期的专题文章侧重于Hadoop中的企业级数据管理,数据入库中的数据以及安全性,但本文将重点关注两件事:在更广泛的企业IT环境中整合数据湖,以及数据治理

随着更多湖泊的部署,我们看到了数据湖相对于大型组织中现有数据库,数据仓库,分析设备和企业应用程序的定位模式。

数据湖:留在这里

一些数据湖从一开始就被部署为集中的记录数据平台系统,为企业规模的其他系统服务,即数据即服务模型。随着集中数据湖建立势头,收集更多数据并吸引更多用例和用户,随着用户协作改进和重用数据,其价值也在不断增长。

其他项目始于组织的边缘,以提供数据并满足特定业务组的分析需求。本地化数据湖通常会扩展为支持多个团队或生成其他单独的数据湖实例,以支持希望获得与第一组相同的改进数据访问权限的其他组。

无论数据湖在组织中落地和扩展采用何种模式,数据湖在组织中日益重要的角色都会带来对企业准备的新要求。

整合挑战

为了做好企业准备,数据湖需要支持一系列功能,使其能够集成到公司的整体数据管理战略和IT应用程序以及数据流方面。

以下是一些要记住的要求:


  • 必须能够自动化和嵌入与数据湖交互的过程,以便可以在熄灯生产模式下自动调用和执行用新数据更新湖或从湖中提供数据的作业。这意味着数据湖需要提供RESTFul API,该API可以由环境中的其他脚本或计划调用,并公开在生产环境中与数据湖交互所需的所有功能。
  • 数据湖需要能够以多种格式导出数据和相关元数据,以便湖中的数据可以轻松地与其他应用程序或下游报告/分析系统集成。
  • 数据湖需要支持开发,测试和生产环境,并允许在数据湖环境中从一个环境到下一个环境轻松推广数据摄取,数据准备和类似资产。
  • 数据湖需要使湖泊的各个部分更容易在不同的Hadoop集群中共享,以便在具有多个数据湖的大型组织中,可以轻松且一致地共享数据,元数据和相关资产。
  • 必须可以将在数据湖中收集和生成的元数据与其他企业标准元数据存储库进行交换。


治湖

除了流式传输数据湖的集成之外,您还必须准备好湖泊,以支持广泛且不断扩展的业务用户社区。

随着越来越多的用户开始直接或通过下游应用程序或报告/分析系统处理数据湖,强大数据治理的重要性也在增长。本主题 - 数据治理 - 是企业准备的最后一个维度。

通过将大量存储库中的数百种不同数据集汇集在一起,并为用户提供前所未有的直接访问数据,数据湖创造了新的治理挑战和机遇。

挑战与确保数据治理政策和程序在湖中存在并得到执行有关。数据湖中的企业级数据治理首先明确定义了每个数据资产进入湖泊时谁拥有或拥有监管责任,并通过数据湖流程进行维护和增强。此外,数据湖需要包含有关所需准确性,可访问性,一致性,完整性和每个数据源更新的详细记录策略。

为了监视和实施这些策略的应用,数据湖环境必须根据数据质量,特性和完整性自动分析每个数据源的摄取。此外,数据湖应自动跟踪和记录数据资产的任何操作(清理,转换,准备),以提供湖中所有用户和活动的清晰审计跟踪。

最后,当涉及数据湖中的企业级数据治理时,必须制定限制措施以确保人们只能看到应该允许他们看到的数据。(有关身份验证,授权和数据访问控制的重要性的更多信息,请参阅本系列的第2部分。)

企业规模的良性循环

但数据治理在真正的企业级数据湖中的作用不仅是降低风险和实施控制。它还可以创建附加值,并围绕用户和组的数据实现更丰富的更广泛协作。

如果设计得当,数据湖的独特之处在于允许大量非技术业务用户在从原始源系统数据到业务用户就绪信息的进化路径上移动数据时访问,探索和增强数据。

良好的数据治理通过帮助业务用户使用众包业务元数据增强数据以及为数据添加上下文,业务定义和含义的标记来实现此过程。结合数据治理策略,有选择地剔除并促进组织中对“黄金标准”数据的最佳群众资源洞察力,越来越多的企业用户参与企业规模数据湖可以创建用户的良性循环参与可以增强数据,带来更多用户,更多增强,并最终为湖泊带来更多价值。

(部分内容来源网络,如有侵权请联系删除)
立即免费申请产品试用 免费试用
相关文章推荐
  • 数据治理分析项目最佳实践

    数据治理分析项目最佳实践

    当今信息化建设程度不断深入,企业在优化整合各种IT能力,使IT成为企业的前进驱动力与核心竞争力的同时,将视角关注于更深层次的数据治理与分……查看详情

    发布时间:2019.08.08来源:CSDN浏览量:144次

  • 数据治理运营:差距

    数据治理运营:差距

    今天,全球组织都了解数据治理(DG)是什么,它的好处以及不管理数据的风险。……查看详情

    发布时间:2019.02.14来源:亿信华辰浏览量:112次

  • 企业数据治理项目中影响数据质量的5个因素

    企业数据治理项目中影响数据质量的5个因素

    数据是组织最具价值的资产之一。企业的数据质量与业务绩效之间存在着直接联系,高质量的数据可以使公司保持竞争力并在经济动荡时期立于不败之地。……查看详情

    发布时间:2020.04.08来源:知乎浏览量:112次

  • 政务大数据治理的本质是什么,包含哪些建设内容?

    政务大数据治理的本质是什么,包含哪些建设内容?

    为了让全国各地的人民群众,都可以无障碍地享受到祖国繁荣发展与社会全面进步带来的生活水平提升,我国已经在多个地区的一些职能机构中渗透和运行……查看详情

    发布时间:2021.05.21来源:亿信数据治理知识库浏览量:221次

  • 大数据平台安全防护——亿信华辰

    大数据平台安全防护——亿信华辰

    企业大数据数据源接入越来越多、数据量越来越大、平台越来越复杂,保存了很多企业敏感数据,甚至客户隐私信息。随着数据商业价值的增加,针对数据……查看详情

    发布时间:2019.01.10来源:亿信华辰浏览量:190次

  • 你以为建设大数据平台就好了,还差这一步

    你以为建设大数据平台就好了,还差这一步

    长期以来,大家一直忽略一个问题:数据跟原来的企业应用系统一样,它是需要被管理的。企业逐渐了解数据所蕴含的价值,对数据的重视程度越来越高。……查看详情

    发布时间:2019.06.03来源:亿信华辰浏览量:86次

  • 数据治理的四点好处

    数据治理的四点好处

    大数据现在越来越广泛地应用在我们的日常生活当中,随着企业业务的发展,数据的来源、种类变得越来越多样化,系统改造或重新设计的难度就越大,所……查看详情

    发布时间:2022.02.22来源:小亿浏览量:197次

  • 一个平台搞定数据治理,助力全国统一大市场建设

    一个平台搞定数据治理,助力全国统一大市场建设

    建立健全全国性技术交易市场,完善知识产权评估与交易机制,推动各地技术交易市场互联互通。完善科技资源共享服务体系,鼓励不同区域之间科技信息……查看详情

    发布时间:2022.06.02来源:小亿浏览量:134次

  • 什么是数据工程师?高需求中的分析角色

    什么是数据工程师?高需求中的分析角色

    数据工程师是任何企业数据分析团队的重要成员,负责管理、优化、监督和监控整个组织内的数据检索、存储和分发。 ……查看详情

    发布时间:2019.01.15来源:亿信华辰浏览量:119次

  • 大数据治理:数据问题的全面解决之道

    大数据治理:数据问题的全面解决之道

    当今的大型企业,内部分工日趋细化,采购、服务、市场、销售、开发、支持、物流、财务、人力等各个环节,无不每时每刻产生着大量的数据。数据的格……查看详情

    发布时间:2018.12.20来源:人民邮电浏览量:122次

相关主题
您点击 “提交”,表明您已理解并同意接受本网站隐私政策和用户协议