手把手系列:常用数据交换方案之RESTful接口处理
发布时间:2021.01.12来源:知乎浏览量:88次标签:数据治理
下面我们以口行外部数据管理平台为例,进行简单介绍。
一.整体流程
案例整个数据处理流程为:
1、从小微ftp服务器上获取请求接口所需要的参数文件(下载文件保存至本地)
2、参数文件为json格式,需要对其进行解析才能获取到接口需要的入参
3、使用解析完的输入参数请求接口,将接口返回数据进行解析
4、将解析结果数据入库,同时生成对应的文件上传至小微ftp服务器。
二.功能设计
整个处理流程分为以下几个步骤:
1、利用ftp下载组件从小微的ftp服务器上下载参数文件,ftp服务器相关信息可在数据源中进行配置,支持ftp和sftp两种协议。
配置了ftp服务器信息之后,可以使用ftp下载组件下载ftp服务器上的文件,只需要选择指定的ftp服务器,设置好源文件(夹)的路径(ftp服务器)和目标文件夹(本地)即可
2、利用json解析组件解析分析下载的参数文件,并将数据入库(连接表输出)
本组件重要的设置为父级属性名,这个设置的是否正确会直接关系到后续结果的正确性,可根据示例进行调试理解。字段列表根据json中的属性名来提取即可
3、有些接口可能需要对数据进行加密处理,需要用加解密组件来完成,本处理流程需要进行加密处理。组件设置较为简单,选择需要加密的字段,设置算法类型和秘钥,输出字段列表可以拾取前置组件的字段,将其数据完整带到后面
4、利用HTTP接口组件进行接口请求,接口相关信息可以在数据源中进行配置
HTTP接口组件支持header设置,参数设置,参数设置支持使用常量,宏和字段三种方式,同时支持无参数名的参数请求方式(此方式限定输入参数只有一个无参数名的参数),输出字段列表同时可以拾取前置组件字段将其数据带到到后面
5、接口返回的参数也是进行加密的,需要进行解密处理,解密同加密处理,使用加解密组件,方式选择解密即可,输出字段设置同加密操作
6、对接口返回的接口进行解析入库处理,解析使用json解析组件,入库使用表输出,处理操作同解析参数文件(区别在于解析参数文件的json来源是文件,此处 json来源为字段)。
7、将接口返回接口生成指定格式文件,利用groovy脚本组件来处理,根据生成文件格式需要编写脚本代码,生成本地文件
8、将生成的文件上传至小微ftp服务器,使用ftp上传组件,组件设置同ftp下载组件,选择指定ftp服务器,设置ftp服务器路径和本地文件路径
最后的整体处理流程如下:
除了接口组件,EsDataExchange数据交换管理平台还提供了各种各种的交换处理组件,多达60+种,容纳多种多样数据格式,提供丰富数据处理与交换任务设计,提供可视化数据交换监控,是一款统一、安全、高效的全局数据共享交换平台,欢迎前去官网体验试用。
-
数据治理—这些你应该清楚
我看到组织在开始他们的数据治理之旅时犯的一个重大错误就是忘记了数据背后的基本原理。因此,不要仅仅治理治理。无论您是需要减少风险或最大限度……查看详情发布时间:2019.03.14来源:亿信华辰浏览量:74次
-
超越法规遵从:从数据治理创造业务价值
基于模型的,基于标准的数据治理语义方法正迅速成为整个金融领域的行业规范。这方面的一些最普遍和开拓性的努力是由企业数据管理委员会(EDMC……查看详情发布时间:2019.02.28来源:亿信华辰浏览量:77次
-
安全合作伙伴共同为云和多云合规性增强数据治理和隐私
企业可以限制这些风险 - 以及手动控制错误配置,云环境政策孤岛和云锁定的潜在风险……查看详情发布时间:2019.01.22来源:亿信华辰浏览量:74次
-
大型企业数据治理的现状和解决方案
在大数据时代,数据治理是所有的拥有大量数据的公司的巨大的挑战。没有数据,企业缺乏用于做决策的数据的支持。可是有了越来越多的数据,很多情况……查看详情发布时间:2020.03.24来源:知乎浏览量:62次
-
数据治理领军企业在中国
中国在大数据领域做得不错。中国人口多,数据就多,数据多就会呼唤更先进的数据处理技术,呼唤更多的数据应用场景,这是中国在数据方面得天独厚的……查看详情发布时间:2020.07.31来源:知乎浏览量:44次
-
数据都成为生产要素了?数据该如何治理?
先说说数据,其实现在说的数据和过去说的数据相比差别非常大,现在所说的数据不是一个静态文档,它是流动的数据,碎片化的数据,以各种各样的形式……查看详情发布时间:2020.11.23来源:知乎浏览量:136次
-
如今传统企业如何做数字化转型?
什么是数字化转型?“数字化转型”实际上就是对业务过程进行的重塑,通过重塑使其默认就更加适应更全面的在线环境,从最……查看详情发布时间:2020.07.31来源:知乎浏览量:53次
-
大数据时代 这样炼钢——亿信华辰
铁流滚滚,四溅迸射出绚丽的火花。经过1个多小时的高温淬炼,高达1500摄氏度的铁水从出铁口喷涌而出,像一条火龙沿着沟槽蜿蜒流动。……查看详情发布时间:2019.02.12来源:亿信华辰浏览量:116次
-
让数据中心甩掉能耗沉重账单
当今,全世界新产生的数据正以惊人速度增长。据统计,平均每11个月全世界的数据量即将翻倍,而且随着时间的发展,这个周期还在缩短。这意味着我……查看详情发布时间:2019.03.11来源:亿信华辰浏览量:76次