数据交换平台的功能结构设计与实现

发布时间:2020.08.06来源:知乎浏览量:130次标签:数据治理

数据交换平台是数据中心与其它应用系统沟通的桥梁,是进行数据交换的枢纽站。数据交换平台负责从各个业务系统采集数据,对数据进行清洗与整合,按照数据中心建设标准规范化原始数据,最终形成业务核心数据库,并提供给其它应用系统使用。本文将重点介绍数据交换平台的功能结构设计与实现。数据交换平台功能结构设计如下图所示:

数据交换平台功能结构


从功能设计上,将数据交换平台功能划分成支撑功能与应用功能两部分。支撑功能是数据交换平台的基础,包括数据采集、元数据管理、数据交换服务总线、平台监控及安全管理功能。应用功能是指与具体业务系统相关,应用功能利用数据交换平台的数据交换服务总线,以数据交换服务的形式为各业务系统提供数据共享服务。

数据交换平台具体实现功能包括数据采集、元数据管理、数据交换服务总线、平台监控和安全管理功能:
(1)数据采集
主要实现三种采集方式:数据复制采集方式、ETL工具采集方式和专用数据采集接口采集方式。数据复制是通过将源数据库中的数据复制到目标数据库中,以保持源数据库与目标数据库的一致性,一般采用全量复制和增量复制两种方式,当然,数据复制适用于被采集的数据无需进行负责的数据转换。ETL工具适用于数据源中被采集的数据需要转换的情形,专用数据采集接口适用于数据复制和ETL工具难以满足数据采集任务的情形,通过自行开发实现。

(2)元数据管理
主要是实现对自身元数据的管理功能,包括对元数据的增加、修改、删除、浏览查询等一般维护功能,以及维护元数据之间的关联、依赖关系,并提供元数据的影响分析、来源分析。

(3)数据交换服务总线
主要是实现数据交换功能,数据交换服务总线由一组基本的交换服务功能组成,包括接入服务、访问控制服务、消息转换服务、路由服务、适配器服务以及管理服务等。

(4)平台监控管理功能
主要是实现对平台各个系统组件的状态、日志、异常等进行监测,并进行记录、统计与分析。

(5)安全管理功能
主要是实现平台数据的安全交换和用户的身份认证和授权功能,包含平台访问安全和数据交换安全两个功能。
(部分内容来源网络,如有侵权请联系删除)
立即免费申请产品试用 免费试用
相关文章推荐
  • 专用企业架构工具如何解决常见的CIO问题

    专用企业架构工具如何解决常见的CIO问题

    由于技术在商业中的重要性,CIO们发现他们的工作变得越来越困难。随着技术创新本身 - 以及物联网设备数量预计到2020年将增加285%(……查看详情

    发布时间:2019.02.26来源:亿信华辰浏览量:78次

  • 提升数据治理能力,构筑共治共享行业新生态

    提升数据治理能力,构筑共治共享行业新生态

    夯实数据治理之基,构筑良好的银行业数字化生态,数据治理构建开放的金融新生态,数据治理数据已成为银行业未来致胜的核心“资产”和竞争力。……查看详情

    发布时间:2020.01.03来源:知乎浏览量:147次

  • 为什么集成和治理对数据湖成功至关重要

    为什么集成和治理对数据湖成功至关重要

    这是一个由三部分组成的系列文章的最后一篇文章,探讨如何构建一个能够满足真正企业级数据管理平台所有要求的数据湖。虽然早期的专题文章侧重于H……查看详情

    发布时间:2019.02.28来源:亿信华辰浏览量:69次

  • 数据治理:建设大数据平台就够了?你还要做这件事

    数据治理:建设大数据平台就够了?你还要做这件事

    长期以来,大家一直忽略一个问题:数据跟原来的企业应用系统一样,它是需要被管理的。企业逐渐了解数据所蕴含的价值,对数据的重视程度越来越高。……查看详情

    发布时间:2018.12.12来源:亿信华辰浏览量:69次

  • 提高数据质量的方法

    提高数据质量的方法

    要想真正解决数据质量问题,应该从需求开始,企业往往在定义清楚业务需求后忽略对数据质量的控制,而只对已经产生的数据做检查,然后再将错误数据……查看详情

    发布时间:2019.11.15来源:知乎浏览量:98次

  • 数据治理流程中,最重要的3点都在这

    数据治理流程中,最重要的3点都在这

    数据治理能够带来的好处就在于,更高效地帮助企业将数据价值转化成实际的业务价值。数据“井喷”仍在进行,机器学习、AI等这类十分依赖数据质量……查看详情

    发布时间:2021.05.10来源:亿信数据治理知识库浏览量:379次

  • 银行数据治理包括哪几个方面

    银行数据治理包括哪几个方面

    从《银行业金融机构数据治理指引》相应章节可看出, 数据治理/管理的核心是基础数据、衍生数据,以及产生与 应用这些数据的组织架构、运行机制……查看详情

    发布时间:2021.04.06来源:数据治理研究院浏览量:110次

  • 客户数据中台CDP是什么?真的能构建用户全景画像,消除数据孤岛吗?

    客户数据中台CDP是什么?真的能构建用户全景画像,消除数据孤岛吗?

    现代营销依赖于数据。所有人都想从最基本的开始做起,了解客户是谁。这似乎很简单,但客户与业务互动渠道的激增,使这个简单的目标变得极其复杂。……查看详情

    发布时间:2021.07.16来源:亿信数据治理知识库浏览量:193次

  • 形成,风暴,规范,表演 - 实现数据治理

    形成,风暴,规范,表演 - 实现数据治理

    启动数据治理计划是整个组织需要参与的重要任务。来自数据治理团队的这些见解已经在他们的旅程中取得了一些进展,这突出了团队内部和整个组织内的……查看详情

    发布时间:2019.02.25来源:亿信华辰浏览量:80次

  • 为什么企业架构需要成熟度模型

    为什么企业架构需要成熟度模型

    跑步之前走路。我们已经听过一百万次了,引用了几乎同样多的不同学科。然而,由于时间有限,想要快速完成任务往往是人性。然而,就像我们的第一步……查看详情

    发布时间:2019.02.26来源:亿信华辰浏览量:94次

相关主题
您点击 “提交”,表明您已理解并同意接受本网站隐私政策和用户协议