数据服务交换和服务工具经历三个阶段

发布时间:2020.08.06来源:知乎浏览量:142次标签:数据治理

数据交换平台是为校内各部门的管理信息系统提供数据交换,实现数据共享,并建立公共数据库,实现数据积累,为数据统计、分析、挖掘做准备。数据交换平台是一个分布式开放型网络系统,它由一个交换中心,若干个应用软件的适配器,以及保证数据传输可靠、安全,稳定的数据邮局(数据邮局)以及系统运行的辅助单元--管理中心构成,数据交换中的各应用软件以适配器作为接口,通过与交换中心的消息和数据交互实现信息交换。

数据服务交换和服务工具经历三个阶段

数据服务交换和服务工具处于第三个阶段,是统一的数据服务平台。也属于一体化数据治理和共享平台的重要组成部分。

数据服务交换和服务工具发展阶段
第一个阶段是比较原始的,缺少工具阶段。通过写脚本、针对项目的开发实现,工具化程度差,项目实施和运维成本高。

第二个阶段多样化的工具阶段,提供了能解决特定功能的工具产品。如消息中间件、ETL、文件传输等。但对于复杂环境下的大型项目有很大的不足,需要多个工具集成,缺少统一的架构、有孤岛,集成实施成本高,交换过程中面临丢包、系统堵塞等问题,安全稳定性差。

第三个阶段是统一的数据交换和服务平台,提供面向服务的插座式架构,基于统一的规则和元数据、统一架构、统一工具能可视化配置出数据采集、数据交换、数据加工、数据共享等不同的数据服务方案,能满足客户不同项目的数据交换和数据管理需要。提供端对端的数据交换和整合服务,保证了交换过程中的可靠传输,避免了丢包、系统堵塞等问题。

二挑战与解决思路
2.1传统的数据交换工具面临挑战
(1)传统的数据交换解决方案是基于多个模块/产品集成实现跨网段数据交换,当一个环节出现问题时易造成数据不一致。
(2)当采用异步交换方式时,异步的交换机制造成IO等系统资源占用、文件锁死、堵塞挂起等现象。
(3)当采用同步的交换方式时,同步交换机制在交换数据量比较大,需要传输或者装载时间比较长时,易造成通讯挂起、堵塞等现象。

传统数据交换工具示意图

2.2跨网段情况下的大数据量的数据交换与服务思路
(1)基于统一的数据交换服务实现了端对端的数据交换。
(2)通过事务处理机制保证跨网段交换的数据一致性。
(3)状态传感器技术解决了分布式传输过程的状态感知,避免了需要长时间处理情况下的通讯挂起现象,保证了传输的畅通。

一体化数据交换和治理示意图

基于统一的数据交换服务实现了端对端的数据交换。通过事务处理机制保证交换的数据一致性。状态传感器技术解决了分布式传输过程的状态感知,避免了需要长时间处理情况下的通讯挂起现象,保证了传输的畅通,跨网段情况下的大数据量的交换能力强。配置、部署、运维简单。

数据服务交换和服务工具作为一体化数据治理和共享平台一个组件,提供面向服务的插座式架构,基于统一的规则和元数据、统一架构、统一工具能可视化配置出数据采集、数据交换、数据加工、数据共享等不同的数据服务方案,能满足客户不同项目的数据交换和数据管理需要,提供端对端的数据交换和整合服务,保证了交换过程中的可靠传输,避免了丢包、系统堵塞等问题。支持跨组织、跨网段的、上下级单位数据交换、基于前置机的数据交换、物理隔绝的数据交换等多种应用场景。
(部分内容来源网络,如有侵权请联系删除)
立即免费申请产品试用 免费试用
相关文章推荐
  • 11个顶级数据治理平台

    11个顶级数据治理平台

    虽然许多组织更加重视他们的数据治理计划,但“大多数企业都会在企业数据治理方面遇到困难,而他们最初只关注客户,供应商或产品,”MDM研究所……查看详情

    发布时间:2018.11.16来源:David Weldon浏览量:721次

  • 什么是数据治理?

    什么是数据治理?

    关于数据治理,我需要了解什么?数据治理要求组织了解并评估其数据必须满足的法规要求,法律要求和业务最佳实践,建立规则,并采用自动化和人工流……查看详情

    发布时间:2018.11.16来源:互联网浏览量:146次

  • 主数据管理平台有哪些?

    主数据管理平台有哪些?

    主数据管理平台正是基于平台型建设思路设计的多主题域管理平台,以统一的数据平台为支撑,通过数据模型的扩展,实现对企业的顶层业务模型的支持,……查看详情

    发布时间:2022.05.09来源:小亿浏览量:270次

  • 元数据管理流程和方法是怎样的

    元数据管理流程和方法是怎样的

    大数据环境中,如果企业不通过元数据管理把多种复杂的信息管理起来,很难做到信息的有效利用。Gartner在研究报告里明确指出,“元数据管理……查看详情

    发布时间:2022.03.21来源:小亿浏览量:580次

  • 如何以及为什么要对现代商业智能治理进行众治

    如何以及为什么要对现代商业智能治理进行众治

    现代商业智能已经在分析中发挥了作用,但治理呢?了解众包治理如何使IT和业务受益,以及如何实现目标。……查看详情

    发布时间:2018.12.29来源:亿信华辰浏览量:127次

  • 数据治理的坑,你踩过多少?

    数据治理的坑,你踩过多少?

    大数据时代,数据成为社会和组织的宝贵资产,像工业时代的石油和电力一样驱动万物,然而如果石油的杂质太多,电流的电压不稳,数据的价值岂不是大……查看详情

    发布时间:2020.06.29来源:CSDN浏览量:152次

  • 数据治理和数据发现:实现数据监管实施

    数据治理和数据发现:实现数据监管实施

    企业不断努力利用数据驱动的洞察力或竞争情报,发展组织“数据文化”的概念将获得突出地位。数据和数据分析将继续在未来的全球业务中发挥关键作用……查看详情

    发布时间:2019.09.20来源:知乎浏览量:141次

  • 数据治理-从理论到实践(一)

    数据治理-从理论到实践(一)

    数据治理不是一门技术,而是逻辑性很强的理论型学科。……查看详情

    发布时间:2019.08.07来源:CSDN浏览量:161次

  • 如果您没有数据管理策略,您的数据将毫无用处

    如果您没有数据管理策略,您的数据将毫无用处

    在谈到数据革命时,我们会想到大胆的交互式仪表板,其中包含令人大开眼界的见解。这些丰富多彩的图表背后是一个可靠的数据治理系统。数据治理是看……查看详情

    发布时间:2018.12.18来源:数据治理浏览量:135次

  • 2022年,元数据管理的未来趋势——企业级元数据管理

    2022年,元数据管理的未来趋势——企业级元数据管理

    元数据管理是一项和数据治理、主数据管理一样重要的功能,因为元数据管理是每一个这些准则的基础组件。元数据管理包括数据元素和实体的定义,业务……查看详情

    发布时间:2022.02.24来源:浏览量:249次

相关主题
您点击 “提交”,表明您已理解并同意接受本网站隐私政策和用户协议