如今企业面临哪些数据湖管理挑战?

发布时间:2020.04.02来源:知乎浏览量:169次标签:数据治理

成功的数据治理方案涉及部署策略、标准和流程,以在整个企业中有效正确地利用高质量数据。如果你的企业具有数据湖环境,并希望从中获得高质量的分析结果,则你需要部署正确数据湖治理,作为整体治理计划的一部分。

但数据湖给企业数据管理的方方面面都带来挑战,包括数据治理。在开始讨论治理挑战前,我们有必要定义什么是数据湖:一种可容纳大量原始数据的数据平台,这些数据通常以其本机格式保留,直到需要用于分析。

传统的数据仓库将数据存储在关系表中,而数据湖则使用平面结构。每个数据元素被分配唯一标识符,并用一组元数据标签进行标记。这就是说,数据湖没有数据仓库那么结构化。在访问数据进行分析时,数据会被分类和整理,而不是在将数据加载到数据湖中时。

有效的数据治理使企业能够提高数据质量和一致性,并很大程度地利用数据进行业务决策,从而可以改善业务规划和财务绩效。数据治理的配套数据管理学科包括数据质量、元数据管理和数据安全性,所有这些因素都影响到数据湖治理。

现在,让我们看看下面5个数据湖部署中的数据治理挑战。

1.识别和维护正确的数据源
在很多数据湖部署中,源元数据没有被获取或根本不可用,这使得数据湖内容的有效性令人质疑。例如,可能未列出记录系统或数据集的业务所有者,或者显然冗余数据可能会给数据分析人员造成问题。至少应记录数据湖中所有数据的源元数据,并使用户可以使用它来了解其出处。

2.元数据管理问题
元数据为数据集内容提供背景信息,并且是使数据在应用程序中易于理解和可使用的重要组件。但是很多数据湖部署忽略了对收集的数据应用正确数据定义的需求。而且,由于原始数据通常被加载到数据湖中,很多企业没有采取步骤来验证数据或对其应用企业数据标准。缺少适当的元数据管理使得数据湖中的数据对分析的用处不大。

3.在数据治理和数据质量方面缺乏协调性
不协调的数据湖治理和数据质量工作会导致劣质数据进入数据湖。当这些数据用于分析并驱动业务决策时,这可能导致结果不准确,从而导致丧失对数据湖的信心以及整个企业对数据普遍不信任。有效的数据湖部署需要数据质量分析师和工程师与数据治理团队及数据管理员密切合作,以部署数据质量策略、分析数据并采取必要的措施来提高其质量。

4.在数据治理和数据安全方面缺乏协调性
在这种情况下,如果数据安全标准和策略未被正确纳入治理流程中,可能会导致无法访问受隐私法规和其他类型的敏感数据保护的个人数据。尽管数据湖旨在成为相当开放的数据源,但仍需要安全性和访问控制措施,并且,数据治理和数据安全团队应携手完成数据湖设计和加载过程,以及持续的数据治理工作。

5.使用相同数据湖的业务部门之间的冲突
不同部门对于相似数据可能具有不同的业务规则,这可能导致无法协调数据差异以进行准确的分析。完善的数据治理方案应具有对数据策略、标准、流程和定义的企业视角,包括企业业务词汇表,这可减少多个业务部门使用同一数据湖时出现的问题。如果企业有多个数据湖,则每个数据湖都应包含在数据湖治理流程中,并为其分配业务数据管理员。 总之,通过在数据湖的设计、加载和维护过程中加入强大的数据治理、元数据管理、数据质量和数据安全流程,并由所有这些领域的经验丰富的专业人员积极参与,可显着提高数据湖的价值。否则,你的数据湖可能会变成数据沼泽。
(部分内容来源网络,如有侵权请联系删除)
立即免费申请产品试用 免费试用
相关文章推荐
  • 数据质量稳定提升方法:使用反馈循环

    数据质量稳定提升方法:使用反馈循环

    每个额外的数据源都给流程增加了更多的复杂性,并且至少在短期内,在流程自动化之前消耗了额外的时间。现在是时候这些数据专业人员可以专门回答业……查看详情

    发布时间:2021.04.23来源:亿信数据治理知识库浏览量:239次

  • 数据治理及其在激励数据中的作用

    数据治理及其在激励数据中的作用

    数据治理是一种包罗万象的数据工程和数据管理概念,组织采用该概念来确保整个数据生命周期中的高质量数据。此概念基于四个概念 - 可用性,适用……查看详情

    发布时间:2018.12.18来源:数据治理浏览量:190次

  • 数据准备和数据映射:数据管理和数据治理之间的粘合剂,以加快洞察力并降低风险

    数据准备和数据映射:数据管理和数据治理之间的粘合剂,以加快洞察力并降低风险

    组织已经花费了大量的时间和金钱试图在不同的平台上协调数据,包括清理、上载元数据、转换代码、定义业务词汇表、跟踪数据转换等。……查看详情

    发布时间:2019.02.13来源:亿信华辰浏览量:197次

  • 数据治理市场驱动因素和预测

    数据治理市场驱动因素和预测

    全球数据治理市场分散,主要参与者使用各种策略,如新产品发布,扩张,协议,合资企业,合作伙伴关系,收购等,以增加他们在这个市场的足迹,以便……查看详情

    发布时间:2019.07.11来源:知乎浏览量:203次

  • 数据治理能否提升数据安全性?

    数据治理能否提升数据安全性?

    大数据技术的快速发展不断催生新的产业形态,正成为经济社会发展的新动能。在·发展数字经济、加快培育发展数据要素市场,必须把保障数据安全放在……查看详情

    发布时间:2022.03.07来源:小亿浏览量:219次

  • 金融业的数据治理重要开端:数据流入

    金融业的数据治理重要开端:数据流入

    随着科技的发展,当今社会已经进入到了信息时代的下一阶段,“数据时代”,大数据成为了众多行业的风口,数据自然而然便……查看详情

    发布时间:2019.01.04来源:尼锅浏览量:206次

  • 大数据平台安全防护——亿信华辰

    大数据平台安全防护——亿信华辰

    企业大数据数据源接入越来越多、数据量越来越大、平台越来越复杂,保存了很多企业敏感数据,甚至客户隐私信息。随着数据商业价值的增加,针对数据……查看详情

    发布时间:2019.01.10来源:亿信华辰浏览量:300次

  • 数字和业务转型始于业务流程

    数字和业务转型始于业务流程

    不断发展的业务环境意味着必须在不断改进的情况下进行数字化和业务转型。……查看详情

    发布时间:2019.02.18来源:亿信华辰浏览量:181次

  • 为什么数据治理很重要

    为什么数据治理很重要

    尽管许多企业的数据治理在被不经意间悄悄地忽视了,只有48%的企业拥有明确的规划或计划,但这并不影响数据治理的重要性,它聚焦于三个关键因素……查看详情

    发布时间:2020.07.10来源:CSDN浏览量:204次

  • 基于大数据的质量管理系统怎么选?

    基于大数据的质量管理系统怎么选?

    对于一个制造企业来说,生产是企业最大的动力,而生产质量也需要进行优化管理,一个好的质量管理会带给企业巨大的发展空间和利润价值。正因如此,……查看详情

    发布时间:2019.11.07来源:知乎浏览量:162次

相关主题
您点击 “提交”,表明您已理解并同意接受本网站隐私政策和用户协议