让数据清澈如水:数据清洗的策略与方法

发布时间:2020.11.23来源:知乎浏览量:1次标签:数据治理

在数据仓库中,数据是面向某一主题的数据的集合,这些数据从多个业务系统抽取而来,不同的数据来源加上历史数据的堆积,难免会有问题数据出现,这些问题数据大致可以分为三大类:不完整的数据、错误的数据以及重复的数据。数据清洗的职责就是分辨、处理这些问题数据。

数据清洗,顾名思义,就是把数据拿去“洗一遍”,把其中的脏数据给“洗掉”,简单来说,数据清洗就是发现并纠正数据中可识别的错误,从而来保持数据的完整性、唯一性、一致性等。

针对不同问题数据有哪些清洗方式?
1、不完整的数据
不完整的数据是指一条数据中记录某一特征的数据丢失了,比如员工信息表中名叫张三的员工的年龄缺失了。某些数据的缺失值可以从本数据源或其他数据源推导出来,像上例中的员工年龄就可以根据身份证号计算出来。除了这种特殊关系的数据缺失外,其他数据的缺失常用的清洗方法还有取平均值、最大值、最小值、计算结果值,或者取其他字段的值等等。

2、重复的数据
重复的数据就是相同的一条数据出现了两次或以上,对于重复的数据清洗起来比较简单,只需要根据主键或者其他规则删除多余的数据即可。

3、错误的数据
错误的数据又可以分成格式错误和内容错误两种。格式错误是指我们收集到的数据的格式跟我们期望的数据格式不一致,比如设计的库表字段为8位的日期“20200604”格式,但我们获取到的数据为“2020-06-04”,这种数据肯定是存不进数据库的,需要将其清洗成8位的日期字符串,我们可以先将“2020-06-04”转换为日期型的数据,然后再将日期转换为“YYYYMMDD”格式的字符串,也可以采用字符串分割在拼接的方法,依次取“2020-06-04”的1-4、6-7、9-10位拼接成一个新的字符串。

内容错误的数据检测处理则稍麻烦些,需要数据处理人员通过分析来找出脏数据。我们可以通过简单的黑名单或白名单来找出脏数据,只要一列数据中出现了黑名单上的值,就认为该数据是脏数据,并将其替换为我们预先准备好的指定值。

如何在数据工厂中进行数据清洗?
看完了上述数据清洗的方法和策略,大多数人还不太清楚实际操作中该如何清洗数据。下面就以亿信数据工厂为例为大家演示清洗数据的全流程。

假设我们现在有一张员工信息表,表中入职时间字段格式为“yyyyMMddHH:mm:ss”,我们要将其格式改为“yyyy-MM-dd HH:mm:ss”,然后存入新的目标表中,下面演示数据清洗的详细步骤。

新建连接池

第一步创建源端数据源连接。依次点击数据源 >> 连接池管理 >> 新建连接池 >> Oracle。

在弹出的对话框中输入数据库的信息,点击保存。

2.创建ETL过程

第二步创建清洗任务。依次点击,设计区 >> ETL过程 >> 新建,进入到ETL过程编辑器界面

依次将输入输出分组中的表输入、表输出组件和转换组件分组中的清洗组件拖到右侧编辑区,并按照表输入-清洗组件-表输出的顺序将组件连线。

双击点开表输入组件,选择刚刚创建的连接池,选择需要清洗数据的表。

双击点开清洗组件,点击“新增”按钮;在弹出的窗口左侧树上选择“日期时间字符串格式转换”,在右侧需要清洗的字段前面打上勾,并点击日期时间转换设置框中的右侧“...”按钮;在弹出的时间转换格式对话框中,选择转换前和转换后的字符串格式,这里选择的是将“yyyyMMddHH:mm:ss”转换为“yyyy-MM-dd HH:mm:ss”点击确定关闭所有对话框。

双击点开表输出组件,选择目标连接池和目标表;点击字段映射,在弹出的字段映射对话框中点击“字段自动映射”,选择“按文字匹配”,点击“确定”按钮关闭对话框。然后在关键字“NO_”后上打钩。

在表输出的目标设置界面中,更新方式选择“数据更新”,批量大小输入“1000”。点击确定,关闭组件设置对话框。这样清洗任务就创建完成了。

3.运行ETL,查看数据
点击上方工具栏中的“运行”按钮,运行完成后右键点击表输出组件,选择预览数据。
这时候可以看到入职时间的数据格式全都变成了“yyyy-MM-dd HH:mm:ss”。至此数据清洗成功。

亿信数据工厂中有数十个组件,内置了大量的数据清洗转换规则,还有SQL组件、表达式组件等支持用户通过SQL的方式自定义转换规则,实现一键清洗数据。通过数据工厂,可以简单、快速完成数据的清洗工作。感兴趣的小伙伴可前往亿信华辰官网申请试用哦~

(部分内容来源网络,如有侵权请联系删除)
立即免费申请产品试用 免费试用
相关文章推荐
  • 五方面提升银行业数据治理能力

    五方面提升银行业数据治理能力

    银行业面临着数据治理的紧迫需求,应该多措并举提升数据治理能力。……查看详情

    发布时间:2019.11.28来源:知乎浏览量:3次

  • 大数据在应急管理中的应用——亿信华辰

    大数据在应急管理中的应用——亿信华辰

    随着互联网、社交媒体和人工智能的技术发展和应用普及,大数据在应急管理中发挥的作用将越来越重要,是应急管理未来发展的重要方向之一。……查看详情

    发布时间:2019.02.25来源:亿信华辰浏览量:1次

  • 您是将数据视为资产吗?

    您是将数据视为资产吗?

    您可以做的最好的事情是鼓励以数据为中心的文化,实现安全和隐私的重要性,以及了解数据对您组织的成功至关重要。 这是我们不断听到的一句话,……查看详情

    发布时间:2018.12.28来源:数据治理浏览量:1次

  • 2019年的数据架构趋势

    2019年的数据架构趋势

    当今数字业务的一个主要问题是数据的可靠性。许多商业用户仍在评判数据引导分析的最终价值,并持有一定程度的怀疑态度,这只会随着时间的推移而改……查看详情

    发布时间:2019.02.13来源:数据治理浏览量:1次

  • 数据治理金融行业解决方案

    数据治理金融行业解决方案

    我国银行数据现状1、缺乏数据梳理,造成行领导看到的数据相互冲突和矛盾 2、业务职能不清晰或相互重叠,观察数据视角不尽相同,缺少数据标准与……查看详情

    发布时间:2019.08.26来源:知乎浏览量:1次

  • 数据治理的血缘分析

    数据治理的血缘分析

    数据治理里经常提到的一个词就是血缘分析,血缘分析是保证数据融合(聚合)的一个手段,通过血缘分析实现数据融合处理的可追溯。……查看详情

    发布时间:2019.11.22来源:CSDN浏览量:3次

  • 数据治理的伦理 - “数据带来利益和负债”

    数据治理的伦理 - “数据带来利益和负债”

    数据从未像现在这样强大。2018年发现了一些历史上最大的数据泄露事件,包括万豪酒店集团违规行为和剑桥分析公司丑闻,两者都对国际关系产生了……查看详情

    发布时间:2019.03.12来源:亿信华辰浏览量:1次

  • 数据治理需要转变

    数据治理需要转变

    环境数据治理是一种策略和方法,它不仅可以扩展您的数据治理工作,还可以作为解决方案,以满足我们为新用例,法规和新出现的数字功能扩展数据时存……查看详情

    发布时间:2019.02.15来源:Michele Goetz浏览量:3次

  • 各行业企业数据管理遇到的挑战

    各行业企业数据管理遇到的挑战

    目前业界并没有对其概念的统一标准定义,我们可以这么认为,数据治理从本质上看就是对一个机构(企业或政府部门)的数据从收集融合到分析管理和利……查看详情

    发布时间:2020.03.26来源:知乎浏览量:1次

  • 数据治理与数据质量有何不同?

    数据治理与数据质量有何不同?

    当下是一个大数据的时代,有越来越多的企业开始应用大数据来创造价值,为了能够充分的利用数据价值,企业需要对数据进行管理,当我们听到数据管理……查看详情

    发布时间:2019.07.26来源:知乎浏览量:1次

相关主题
您点击 “提交”,表明您已理解并同意接受本网站隐私政策和用户协议