数据生命周期管理工作包括哪些方面

发布时间:2021.09.02来源:亿信华辰数据治理知识库浏览量:954次标签:数据治理

在大数据业务流程中会产生大量数据,日积月累后,这些数据除了增加集群的存储成本,也会影响大数据集群之上的应用系统的运行效率。所以组织机构需要对数据进行全生命周期的管理,既要考虑数据的采集获取,也要考虑数据的备份归档。我们不能因为大数据集群本身具有可横向扩展,容量大,单位存储成本低这些特点,就对数据“只进不出”。因为缺少了治理的数据集合是不利于数据价值的分析挖掘的。


生成期

生成阶段包含生成源、生成时间、生成地点以及生成方式。在大数据环境下,每时每刻都在进行数据的生产。如果事先没有制定数据生成规则就会导致数据生成变得失控,从而影响数据的作用、价值以及使用效率。而且从数据安全的角度看,数据生成必须符合预期,任何非预期的数据生成都会严重影响数据安全。因此,这个时候就需要组织机构来制定严格的数据生成规则与标准对数据的生产规范化、标准化。

活动期

数据生成之后,就会对生产的数据进行增删改查。不同类型数据的活动周期有很大差异,而且并不是任何数据都具有活动期,比如很多日志、记录、临时文件之类的数据并不具有活动期,需要及时处理掉,否则会占用大量存储资源以及成本。组织机构要保证任何数据的活动必须符合预期和规范,可以审查和追踪。

衰退期

数据活动期过后,数据的价值会随着时间的变化而减少,数据的使用频率以及可用性开始逐步下跌。 这个时候应将数据进行分级分类存储,以降低管理成本和资源开销。

归档期

当对数据的访问周期非常长,并且禁止数据被更新时,数据就步入了归档期,但每个企业的信息化建设程度不一样,需要具体情况具体分析。归档期的时间周期很漫长,往往依赖于法规遵循和归档成本的双重约束。需要注意的是,归档期的数据依旧存在着一定价值,因此归档期的数据可能再次进入活动期。所以,需要组织机构对归档数据进行周全的保护,并严格按照相关约束使用归档数据,避免出现因为监视不足而导致没有充分挖据出数据价值的问题。

销毁期

当数据已经没有了使用价值或者已经超越了法规监管的周期,这个时候数据需要被销毁,以降低成本和数据安全风险。由于被销毁的数据无法还原,从数据安全的角度看,要保证数据销毁符合预期,不能存在任何非预期的数据销毁。


数据生命周期管理工具


睿治数据治理工具--数据生命周期管理平台支持数据资产全生命周期管理,根据存储周期自动计算每行数据的存储时限,并根据存储时限进行数据自动归档、销毁,为业务系统节省数据空间,提高数据的查询效率。

便捷的数据资产归档

平台提供对数据资产进行归档设置功能,可根据数据的产生时间、数据量设置对应的归档策略进行数据近线或离线归档,同时支持批量归档,从而保证业务系统数据的简洁。同时,近线区和离线区支持用户自定义。

睿智的数据资产销毁

平台提供数据销毁操作,用户可根据数据的使用情况进行永久销毁或临时销毁,销毁操作提供审批操作,只有通过审批的数据才能被销毁,临时销毁的数据存放在回收站内,可一键还原。

可视化的数据生命周期监控

用户可通过数据生命周期监控了解企业系统中在线、近线、离线、销毁的数据量各有多少,可通过不同归档期限统计归档的数据量占比,同时提供归档预警,了解哪些表数据量较大,可能需要归档等统计信息,数据生命周期监控表还提供用户自定义报表,可根据自己的实际业务改造监控表。


(部分内容来源网络,如有侵权请联系删除)
立即免费申请产品试用 预约演示
相关文章推荐
  • 形成,风暴,规范,表演 - 实现数据治理

    形成,风暴,规范,表演 - 实现数据治理

    启动数据治理计划是整个组织需要参与的重要任务。来自数据治理团队的这些见解已经在他们的旅程中取得了一些进展,这突出了团队内部和整个组织内的……查看详情

    发布时间:2019.02.25来源:亿信华辰浏览量:455次

  • 主动方法在数据治理的数据架构

    主动方法在数据治理的数据架构

    “数据架构是业务战略的物理实现,” 全球数据战略有限公司 EMEA首席顾问NigelTurner在DATAVER……查看详情

    发布时间:2019.01.16来源:亿信华辰浏览量:454次

  • 通用数据治理平台的功能模块

    通用数据治理平台的功能模块

    随着互联网与大数据技术的飞速发展,大数据已经融入到了各行各业。数据治理非常重要,已经逐渐成为了政府、企业进行智能化决策的重要手段。数据治……查看详情

    发布时间:2022.02.23来源:浏览量:1005次

  • 元数据:数据治理的燃料

    元数据:数据治理的燃料

    企业渴望从可提供竞争优势的数据中获取洞察力。实现这一目标的最常见障碍是数据质量差。如果输入到预测算法的数据是“脏的”(具有丢失或无效的值……查看详情

    发布时间:2019.08.02来源:知乎浏览量:462次

  • 不治理就破产—谈大数据时代的数据治理

    不治理就破产—谈大数据时代的数据治理

    随着Hadoop技术的提升,数据如何进来,如何整合,开展什么样的应用都已经有了成熟的案例,可是,同传统数仓时代一样,垃圾进垃圾出,如何破……查看详情

    发布时间:2019.02.21来源:知乎浏览量:506次

  • 谷歌首席决策科学家:30篇文章通关数据科学与人工智能

    谷歌首席决策科学家:30篇文章通关数据科学与人工智能

    谷歌首席决策科学家(Chief Decision Scientis)凯西柯兹科夫(Cassie Kozyrkov)在2018年非常高产,……查看详情

    发布时间:2019.01.24来源:亿信华辰浏览量:335次

  • 企业数字化转型的五化建设

    企业数字化转型的五化建设

    企业数字化转型的五化建设利用新一代信息技术,构建业务数据的采集、传输、存储、处理、分析、可视化结果和反馈的闭环,打不同系统、不同技术、不……查看详情

    发布时间:2020.04.03来源:知乎浏览量:441次

  • 云中的数据治理

    云中的数据治理

    IT中心,内部部署基础架构变得越来越复杂和昂贵,并且需要高技能的人力,因此企业现在将其IT和数据科学功能转移到云。云计算承诺提供低成本存……查看详情

    发布时间:2019.02.21来源:亿信华辰浏览量:426次

  • 数据治理的伦理 - “数据带来利益和负债”

    数据治理的伦理 - “数据带来利益和负债”

    数据从未像现在这样强大。2018年发现了一些历史上最大的数据泄露事件,包括万豪酒店集团违规行为和剑桥分析公司丑闻,两者都对国际关系产生了……查看详情

    发布时间:2019.03.12来源:亿信华辰浏览量:383次

  • 大数据平台安全防护——亿信华辰

    大数据平台安全防护——亿信华辰

    企业大数据数据源接入越来越多、数据量越来越大、平台越来越复杂,保存了很多企业敏感数据,甚至客户隐私信息。随着数据商业价值的增加,针对数据……查看详情

    发布时间:2019.01.10来源:亿信华辰浏览量:598次

相关主题
您点击 “提交”,表明您已理解并同意接受本网站隐私政策和用户协议