数据服务交换和服务工具经历三个阶段
发布时间:2020.08.06来源:知乎浏览量:87次标签:数据治理
数据服务交换和服务工具处于第三个阶段,是统一的数据服务平台。也属于一体化数据治理和共享平台的重要组成部分。
数据服务交换和服务工具发展阶段
第一个阶段是比较原始的,缺少工具阶段。通过写脚本、针对项目的开发实现,工具化程度差,项目实施和运维成本高。
第二个阶段多样化的工具阶段,提供了能解决特定功能的工具产品。如消息中间件、ETL、文件传输等。但对于复杂环境下的大型项目有很大的不足,需要多个工具集成,缺少统一的架构、有孤岛,集成实施成本高,交换过程中面临丢包、系统堵塞等问题,安全稳定性差。
第三个阶段是统一的数据交换和服务平台,提供面向服务的插座式架构,基于统一的规则和元数据、统一架构、统一工具能可视化配置出数据采集、数据交换、数据加工、数据共享等不同的数据服务方案,能满足客户不同项目的数据交换和数据管理需要。提供端对端的数据交换和整合服务,保证了交换过程中的可靠传输,避免了丢包、系统堵塞等问题。
二挑战与解决思路
2.1传统的数据交换工具面临挑战
(1)传统的数据交换解决方案是基于多个模块/产品集成实现跨网段数据交换,当一个环节出现问题时易造成数据不一致。
(2)当采用异步交换方式时,异步的交换机制造成IO等系统资源占用、文件锁死、堵塞挂起等现象。
(3)当采用同步的交换方式时,同步交换机制在交换数据量比较大,需要传输或者装载时间比较长时,易造成通讯挂起、堵塞等现象。
2.2跨网段情况下的大数据量的数据交换与服务思路
(1)基于统一的数据交换服务实现了端对端的数据交换。
(2)通过事务处理机制保证跨网段交换的数据一致性。
(3)状态传感器技术解决了分布式传输过程的状态感知,避免了需要长时间处理情况下的通讯挂起现象,保证了传输的畅通。
基于统一的数据交换服务实现了端对端的数据交换。通过事务处理机制保证交换的数据一致性。状态传感器技术解决了分布式传输过程的状态感知,避免了需要长时间处理情况下的通讯挂起现象,保证了传输的畅通,跨网段情况下的大数据量的交换能力强。配置、部署、运维简单。
数据服务交换和服务工具作为一体化数据治理和共享平台一个组件,提供面向服务的插座式架构,基于统一的规则和元数据、统一架构、统一工具能可视化配置出数据采集、数据交换、数据加工、数据共享等不同的数据服务方案,能满足客户不同项目的数据交换和数据管理需要,提供端对端的数据交换和整合服务,保证了交换过程中的可靠传输,避免了丢包、系统堵塞等问题。支持跨组织、跨网段的、上下级单位数据交换、基于前置机的数据交换、物理隔绝的数据交换等多种应用场景。
-
简述数据资产管理方案必须注意的6点
“数据资产管理”一词,在国内首次由DAMS(中国数据资产管理峰会)组委会正式提出。首届“中国数据资产……查看详情发布时间:2020.08.14来源:知乎浏览量:109次
-
数据治理对于大数据分析势在必行
数据被定义为“收集在一起以供参考或分析的事实和统计数据。”信息是“关于某事物或某人提供或了解的事实,”这是一个至关重要的信息。“信息治理……查看详情发布时间:2018.11.21来源:浏览量:81次
-
敏捷方法如何帮助解决您的数据问题
无论哪种方式,您都必须像软件开发人员一样思考,并确保您拥有正确的思维方式,技能组合和工具集,以保持数据掌握的灵活性。……查看详情发布时间:2019.02.27来源:亿信华辰浏览量:86次
-
数据治理之道是什么,要怎么做?
数据治理需要体系建设:为发挥数据价值需要满足三个要素:合理的平台架构、完善的治理服务、体系化的运营手段。……查看详情发布时间:2021.05.14来源:亿信数据治理知识库浏览量:95次
-
什么是数据工程师?高需求中的分析角色
数据工程师是任何企业数据分析团队的重要成员,负责管理、优化、监督和监控整个组织内的数据检索、存储和分发。 ……查看详情发布时间:2019.01.15来源:亿信华辰浏览量:95次
-
人工智能治理应当起步
人工智能正在以前所未有的速度发展,大大超出了人们的预期,目前全球活跃人工智能企业达到了5000家左右。据相关预测,到2022年全球人工智……查看详情发布时间:2019.10.18来源:中国经营报浏览量:81次
-
数据交换平台是数据中心与其它应用系统沟通的桥梁
数据交换平台是数据中心与其它应用系统沟通的桥梁,是进行数据交换的枢纽站。数据交换平台负责从各个业务系统采集数据,对数据进行清洗与整合,按……查看详情发布时间:2020.08.10来源:知乎浏览量:84次
-
从主数据到数据资产,数据资产管理到底应该怎么做?
主数据和数据资产管理的定义我们已经说烂了,今天就从主数据出发,来说说怎么进行数据资产管理。主数据的问题80%是管理问题很多企业的信息部门……查看详情发布时间:2020.08.19来源:CDDN浏览量:102次
-
大数据资产管理总体框架概述
随着大数据时代的来临,对数据的重视提到了前所未有的高度,“数据即资产”已经被广泛认可。数据就像企业的根基,是各企业尚待发掘的财富,即将被……查看详情发布时间:2020.08.28来源:知乎浏览量:82次
-
做好数据治理才能建设大数据平台
大数据不是凭空而来,1981年第一个数据仓库诞生,到现在已经有了近40年的历史,而国内企业数据平台的建设大概从90年代末就开始了,从第一……查看详情发布时间:2018.11.28来源:数据治理浏览量:103次