创新者的破局之路:煤炭行业首个集团级数据治理项目落地
发布时间:2021.02.04来源:亿信华辰浏览量:176次标签:数据治理
新挑战孕育新机遇,新机遇孕育新创变。
工业互联网激起能源领域一池春水,新一代信息技术则是其不断发展的加速器。山东能源集团下属临沂矿业集团有限责任公司(以下简称临矿集团)率先在煤炭行业实践大数据建设,响应山东省号召积极开展新旧动能转换,将大数据、云计算、人工智能、工业互联网等技术与企业融合创新,促进企业的精细管理、精准决策、精益运营。
挑战:缺乏健全的数据治理体系
临矿集团是全国煤炭企业50强和山东省重点工业企业之一。2011年划归山东能源集团管理,如今已发展成为一家国内横跨鲁蒙陕甘四省区十余个地市,海外涉足澳大利亚,以煤电、铁矿、玻纤三大产业为支柱,以物流贸易、技术服务、现代农业三大产业为支撑,拥有全资、控股企业21家,后备矿产资源储量200亿吨以上的大型企业集团。
临矿集团于2016年开始建设大数据平台,相继完成集团财务共享、人力共享、设备共享、安全生产、党建平台及大数据平台建设,也面向集团层面建了数据仓库,通过对集团领导与二级单位领导提供云中看板,让领导随时随地了解生产经营信息,及时决策。
但是由于各系统厂商不同,早期也没有健全的数据治理体系,导致在数据使用过程中存在一系列问题:
1、各系统之间,甚至同系统不同表的数据标准不统一,比如存在多套组织机构代码,导致数据关联分析困难。
2、系统设计不规范,缺少审核条件,导致数据质量不够高,存在空值、重复值、误报数据现象。
3、缺乏统一的数据资产管理和数据服务,存在信息孤岛,用数主要靠业务人员自己去业务系统复制粘贴到EXCEL中处理,或者技术人员写SQL查询,数据资产利用效率很低。
4、现有数据仓库还有待完善,尤其是未对原始数据及分析数据进行数据资产编目,业务人员无法获悉企业数据资产,并通过数据分析工具进行分析取数。
5、除了结构化管理数据,煤矿、铁矿等生产企业有海量安全、设备物联网数据,需要对海量实时数据、非结构化数据进行采集和统一存储。
破局:技术和管理双管齐下
为积极响应国家工业互联网、煤矿智能化发展等政策号召,推动集团数字化转型,2019年12月临矿集团选择携手亿信华辰启动“数据治理项目”。
经过临矿集团大数据中心和各业务部门的商讨决策,结合亿信华辰数据治理专家的意见,确定了临矿集团数据治理项目的总体目标为通过涵盖全数据生命周期数据治理,建设涵盖人、财、物、产、供、销、安全等业务领域的集团级大数据资产平台,提供各类数据服务,并实现一线业务人员对数据自助分析应用,完成数据赋能。
项目建设秉承标本兼治原则,严格按照数据治理方法论,管理方面由集团公司高管牵头成立数据治理委员会,制定《临矿集团数据治理项目章程》、《数据资产管理办法》等管理制度;技术方面从基础做起,进行元数据管理、数据标准梳理工作,更重点推进数据质量管控,通过技术层面和管理层面双管齐下,确保集团数据资产质量。
根据项目建设目标,确定项目建设整体框架如下:
经过各方沟通确认项目推进思路如下:
1、开展集团数据治理,提高数据质量,形成数据资产
如何进行数据治理?通过“盘、规、治”的三字规划路线。
盘:建设集团生产经营数据资源目录,资源目录提供服务接口,为一线业务人员生产运营提供数据支撑,实现数据共享,数据交互,充分发挥数据资产价值。
规:建立基于集团生产经营统一的数据标准规范体系,以及更新机制和使用管理制度,形成服务于数据资源全生命周期的标准规范体系,促进多源异构数据的深度融合和共享应用。
治:建立数据质量管控体系,以规范和制度为约束,通过数据质量检测工具根据制定的数据标准检测数据,及时发现数据问题,进行数据治理并提炼相应的数据质量检核规则,防止同类问题的重复发生,有效提升数据整体数据质量,从而保证提供高质量数据资产。
2、赋能企业业务创新,满足生产经营敏捷分析需求
数据治理的最终目的也还是要落到“用”,也就是数据的交换和数据的应用于服务。
在数据应用方面需要充分考虑一线生产部门日常工作繁重、业务需求多变、且对信息化系统操作能力不强等特点,根据生产、安全、运销、采购、库管等业务主题预设分析维度和指标数据,通过敏捷BI软件让业务人员只需最简单的拖拽操作实现数据分析应用,并自动生成各类统计图表,从而提高一线人员数据自助分析应用能力,让数据成为一线呼唤炮火的基础保障,激发全员创新的主观能动性,形成众人划桨开大船的良好局面。
3、建立企业级Hadoop架构大数据平台
由于煤矿信息化系统存在,系统多、数据量大、生成频次高、数据结构各异特点,需要建设基于Hadoop架构的大数据仓库,解决海量半结构化、非结构化数据的实时采集、实时分析。
最终建设涵盖产、供、销、人、财、物的领域生产经营全要素的煤炭企业大数据平台,全面整合各业务系统数据,并针对回采掘进、安全管控、机电管理、运销、采购、财务等业务场景建设数据集市,为管理层和一线业务人员提供有效数据分析支持,逐步实现煤矿生产经营数据化精细运营管控,实现提质增收、降本增效。
标杆:建设试点勇当排头兵
依托于亿信华辰15年大数据行业经验及自主研发的睿治数据治理平台、亿信ABI两套工具,临矿集团最终实现了人力、财务、安全、设备、媒质数据的全数据生命周期治理及应用,包括元数据、数据标准、数据质量、数据资产编目、数据业务部门自助分析等。
临矿集团数据治理项目,不仅得到客户的认可,同时也受到行业的肯定。在2020年,从众多优秀案例的激励竞争中脱颖而出,从一举斩获“星河”数据资产管理优秀案例。
作为煤炭行业第一个集团级数据治理项目,具有行业典型示范效应。把临矿的成功经验推广复制,可以让更多煤炭能源行业的企业树立正确观念,认识到数据治理重要性和必要性,重拾信心投入到企业数字化转型。
临矿集团全力打造智慧化能源集团,或成加快建设能源大数据中心的一个缩影。
-
什么是数据工程师?高需求中的分析角色
数据工程师是任何企业数据分析团队的重要成员,负责管理、优化、监督和监控整个组织内的数据检索、存储和分发。 ……查看详情发布时间:2019.01.15来源:亿信华辰浏览量:91次
-
应用系统的数据治理一些关注点
现在互联网公司业务发展都是非常飞速,当业务发展到一定规模,就得考虑如何去做服务治理,大家的重心一般放在微服务的应用架构设计层面,往往比……查看详情发布时间:2019.01.08来源:亿信华辰浏览量:138次
-
来自园艺的5个数据治理课程
所有这些数据增长和收购挑战都要求我们重新考虑我们的数据治理策略。我们根本没有确保正确管理和使用数据所需的可见性。我们的首要任务是消除风险……查看详情发布时间:2018.12.04来源:Debi Tadd浏览量:170次
-
数据质量评估体系主要参考以下5个指标
数据质量评估体系主要参考以下指标:,针对不同的信息系统做出定量的数据质量评估,也可根据实际情况,在评估执行中进行取舍。……查看详情发布时间:2019.11.07来源:知乎浏览量:217次
-
确保数据治理正确 - 为医疗机构提供五个机会
医疗保健组织拥有的数据非常有价值 - 它可能是他们拥有的最有价值的资产。在个人层面,患者数据通常包含了解疾病和潜在康复的关键。从更广泛的……查看详情发布时间:2019.02.25来源:亿信华辰浏览量:86次
-
高等教育中的数据治理架构
在过去5到10年中,企业架构在高等教育(或继续教育)领域获得了动力,许多大学和学院机构建立了EA实践,以帮助掌握不断变化和复杂的IT战略……查看详情发布时间:2019.02.19来源:亿信华辰浏览量:124次
-
数据交换管理—企业数据上链的起点
随着数据体量的增长,大数据处理、大数据应用分析的门槛逐渐提高,社会普遍开始重视数据安全和隐私。目前,数据交换共享平台已成为政府和企业在系……查看详情发布时间:2020.08.11来源:知乎浏览量:88次
-
员工数据治理政策:最小化影响,实现价值最大化
随着越来越多的法规要求和投资者压力促使投资管理公司实施新的安全,治理和合规政策及技术解决方案,公司正在经历由这些实施带来的新业务挑战。……查看详情发布时间:2018.12.20来源:亿信华辰浏览量:82次
-
如今的大数据究竟发展到了什么阶段
大数据时代,大数据分析与应用大肆盛行。越来越多的大公司大企业大集团,都越来越重视大数据的影响和作用。……查看详情发布时间:2019.03.19来源:亿信华辰浏览量:86次
-
关注:2019年大数据的10大发展趋势
如今,人们寻求获得更多的数据有着充分的理由,因为数据分析推动了数字创新。然而,将这些庞大的数据集转化为可操作的洞察力仍然是一个难题。而那……查看详情发布时间:2019.02.12来源:亿信华辰浏览量:74次