杰出数据科学家的关键技能是什么?

发布时间:2019.02.14来源:亿信华辰浏览量:84次标签:数据治理

学习如何应用不同的Python或R算法真的很简单:众所周知, 我们只需要修改一两行代码,就能将线性回归迁移到神经网络、SVM,或者你喜欢的其他模型。

定义超参数也不是那么困难:只需为这些参数创建一个交叉验证和网格搜索,以提高模型精度。部署一个模型可能会更为复杂,需要有一点点耐心和坚持、大量的教程和不断尝试与试错,您就可以上传一个每分钟可以处理数百万个请求的模型(或者您可以使用诸如marvin这样的工具,它将替你做大量的工作)。但究竟是什么让你突显出你的优势呢?最优秀的数据科学家需要掌握的关键技能又是什么?

简而言之:关键在于知道如何根据数据创建分析视图。

交易数据库-那些存储交易数据的数据库,如订单、付款、访问日志等-是为存储应用程序交易数据而定制的,对数据科学没有直接帮助。构建这些数据库的开发人员却不这么认为,也许不应该考虑如何使用这些数据进行分析。他们只是简单地创建了数据模型,以提高应用程序的性能。

尝试创建基于事务的机器学习模型是行不通的,除非你希望对某一项事务进行预测。数据科学家工作时通常需要基于数据分析。那么,究竟应该如何基于数据分析呢?它又如何区别于基于事务?

分析数据库究竟是什么?

分析数据库是为了某项特定的研究而设计的。基于客户流失的预测与基于购物车中的产品推荐不同。然而,两者的数据源可能是相同的:事务性数据库。客户流失预测必须对每个客户的行为数据进行分组,因此可以随着时间的推移观察客户的行为。至于产品推荐,数据必须按会话分组,以预测哪些项目与购物车关联。


 


能够创建分析数据库比精通多种算法更重要。

了解如何创建分析基础是数据科学家需要培养的最重要技能之一。同时,它也是课程、MOOC和教程中教得较少的课程之一。为了将事务性数据转换为可以分析的数据,必须真正了解你正在处理的业务。这一点,加上批判性思维,是正确界定问题的基础。

创建目标与分析数据一致性并不容易:它需要一个长期的调研过程,这往往会让您的经理失望。

数据科学家经常需要target来训练他/她的模型。如果看一看Kaggle,你会发现无数的比赛和数据集,其中的target已经定义,并可以在培训和评估中直接使用。但是,事务性数据库通常没有准备好的target。数据科学家必须明确客户何时需要放弃服务, 以便创建客户流失模型。并且需要定义什么是不良付款行为,即使难以预测到。创建目标和分析数据一致性并不是那么容易:它需要一个长期的调查过程,这通常会让您的经理失望(直到现在,他们都相信自己拥有所有的数据,他们所需要的只是一个数据科学家)。

事实上,数据科学远大于将数据输入模型并评估性能指标的即插即用过程。

数据探索

设想一种情况,在这种情况下,您有一个数据库,几个销售分析师根据行为概况对销售线索进行分类。为了对客户进行分类,分析师必须在谈判过程中判断销售线索的行为,然后为客户选择一个适当的描述并填写一张表格。我们这里有一些潜在的问题:

♦ 在同一谈判过程中,分析师对潜在客户的判断不一定与其他分析师的判断相同。不同的分析师可以对同一个潜在客户可能会进行不同的分类。

♦ 分析师真的了解每个行为特征代表什么吗?是否有明确的标准来将潜在客户分类为“描述X”而不是“描述Y”?

♦ 在收集期间,流程是否发生变化,如插入新的行为类别/描述?如果是这样的话,那么在定义目标时,你必须决定如何考虑它们。

如何收集数据?在与潜在客户的每次新接触中,行为模式是否都会改变,以便分析师真正选择最佳的模式?

管理者是否要求准确地对其分类?如果要求分析师回答的只是一个“无聊”的过程,那么很有可能有些分类是“因为他们必须”填写的。当行为模式总是以相同的顺序呈现给分析师时,这个问题变得更加明显:目标可能偏向于第一个选项。

在这个过程之后,您可能会得出这样的结论:到目前为止收集的数据是完全无用的,因为没有标准和过程。这肯定会让很多人失望(甚至你也可能会失望)。

为信用违约预测创建分析数据库(行为评分)

为了使创建分析数据库的过程更清晰,让我们看看正确定义问题和创建用于执行预测的分析数据库所需的一组过程的示例。


 


创建一个预测客户信用违约的模型涉及一系列业务和技术决策,这些决策必须由数据科学家做出。

假设你与金融服务部门合作,并且面临以下问题:

♦ 我们需要创建一个模型来识别哪些客户在不久的将来不会支付他们的发票。

为此,你需要创建描述客户付款的变量。然后有必要创建一个回归模型,能够区分好的和坏的付款人。最后,你需要计算客户好坏的概率。

1.定义目标是什么

在数据库中的任何地方都找不到一个类别变量,它指示某个客户是好的还是坏的付款人。首先,有必要定义什么是好客户或坏客户。为此,我们可以研究逾期付款。例如,你可能会发现平均延迟为20天,但75%的发票在到期日后17天内支付。

你可以通过逾期天数内的付款来设计累积分布。因此,你将能够核实,30天后,87%的发票已经支付。但6个月后,这个百分比将上升到90%。然后,我们可以使用贝叶斯推理来预测客户在逾期30天后支付发票的概率。

我们可以得出的结论是,如果客户的付款已经延迟了30天,那么他/她将来偿还债务的可能性非常低(只有23%)。要决定什么是好的或坏的付款行为,需要对业务有深入的了解,因为你需要了解这种可能性是否足够低,以便将延迟30天以内的客户分类为好的付款方,而那些超过30天的客户则是坏的付款方。

2.创建观察和性能框架

我们感兴趣的是,利用过去一段时间内客户行为的数据,预测未来一段时间内客户违约的可能性。选择这些框架的大小是一个比统计更重要的业务/谈判决策,请记住,它们必须足够大,能够包含多个客户的行为观察结果。窗口太短会增加观察结果的方差,因此模型会失去精度。

定义:

根据客户过去12个月的行为,我想预测他/她在未来6个月内成为一个好付款人的可能性。

为了实现这一定义,你需要:

♦ 定义至少比当前日期早6个月的观察点。

♦ 定义一个观察框架,该框架在观察点之前12个月开始并在其中结束。

♦ 定义一个性能框架,该框架在观察点之后扩展6个月。

♦ 定义一个好的付款人是什么。我们刚才做的!

在创建分析数据库的过程中,时间框架问题是一个非常重要的步骤。

注意,这个定义带来了一些含义:

♦ 你需要至少18个月的数据

♦ 你的预测必然会有一个时间框架。每次运行模型时,它都会计算出未来6个月内的默认概率。

在分析数据库中创建特征时,观察点和时间范围的大小始终是您的参考。

3.创建目标功能

既然我们已经定义了什么是我们的目标,什么是观察和性能框架,我们就可以最终在数据库上创建目标了。为此,您将计算绩效时间范围内每个客户的最大逾期天数,并根据以下规则创建一个好的付款方变量:

if max(delay) >= 30 days then is bad = 0
If max(delay) < 30 days then is good = 1

因此,如果在履行期限内,客户的付款延迟超过30天,即使发票延迟付款,他/她也将被归类为不良。

我们输入0代表坏,1代表好,因为我们要定义分数越高,默认概率越低。

4.除外条款

现在我们需要对业务结构有广泛的了解,所以我们可以从我们的基地执行一些排除。实例:

♦ 排除观察点没有信用额度的所有客户

♦ 排除在观察点发票过期超过30天的所有客户,因为我们已经知道他们是坏人

♦ 排除所有从未进行过交易的客户

5.特色结构

对于本研究,必须按客户对基础进行分组。每个变量必须描述观察时间框架内客户的特定行为。以下是一些可处理变量的示例:


 创建的分析数据库示例,用于提供预测客户违约的行为评分模型。

♦ 状态:个人信息功能-表示客户居住的省/州

♦ 年龄:个人信息功能-表示在观察点计算的客户年龄

♦ 性别:个人信息功能-表示客户的性别

♦ MOB:客户签到到观察点后的月数

♦ 平均限额:观察12个月内限额使用的平均百分比

♦ 最大限值:观察12个月内最大限值使用百分比

♦ 采购总额:观察12个月内的采购总额

♦ dpd_op:观察点过期天数

♦ max_dpd:观察12个月内到期的最长天数。如果所有发票都提前支付,则可能为负数。

♦ 平均每日住院天数:观察12个月内到期的平均天数。如果所有发票都提前支付,则可能为负数。

♦ 到期前数量:观察12个月内到期前支付的发票数量。

♦ 好的付款人:target-表示客户在绩效窗口的6个月内,发票是否延迟超过30天。

6.表现的时间到了!

现在我们终于要讨论建立一个模型了!你现在可以应用你在数据科学课程中学到的所有知识。您的分析基础已经设计好,可以开始在这种情况下数据处理和应用模型的行动。

最简单的解决方案是使用上面创建的变量应用逻辑回归,以预测好的付款人目标。模型将为每个客户返回0和1之间的值,表明他/她是一个好付款人的概率。

务必正确解释结果:

分数将表明某个客户在未来6个月内不会延迟付款超过30天的可能性。


(部分内容来源网络,如有侵权请联系删除)
立即免费申请产品试用 免费试用
相关文章推荐
  • 大数据会取代传统BI吗

    大数据会取代传统BI吗

    BI一词早在20年前就被提出,加特纳集团将商业智能定义为描述一系列的概念和方法,通过应用基于事实的支持系统来辅助商业决策的制定。……查看详情

    发布时间:2019.03.14来源:亿信华辰浏览量:67次

  • 睿治数据治理平台通过安可测试可在联合攻关基地公共服务平台查询

    睿治数据治理平台通过安可测试可在联合攻关基地公共服务平台查询

    习总书记指出,“没有网络安全,就没有国家安全”。保障网络安全、信息安全已成为事关国家安全的重大战略问题。为了响应习总书记的号召,睿治数据……查看详情

    发布时间:2019.11.13来源:小亿浏览量:93次

  • 数据治理的四个阶段

    数据治理的四个阶段

    数据治理的定义是对数据资产管理行使权力和控制的活动集合。其最终目的是挖掘数据价值,推动业务发展,实现盈利。……查看详情

    发布时间:2021.03.06来源:亿信数据治理知识库浏览量:104次

  • 大数据时代企业数据治理应该怎么做?

    大数据时代企业数据治理应该怎么做?

    大数据不是凭空而来的,1981年第一个数据仓库诞生,到现在已经有近40年的历史了,而国内的企业数据平台的建设是从90年代末才开始的,从第……查看详情

    发布时间:2019.08.01来源:知乎浏览量:85次

  • 定义DG:数据治理可以为您做什么?

    定义DG:数据治理可以为您做什么?

    由于数据驱动的业务,数据治理(DG)变得越来越普遍,但是对于许多组织来说,定义DG并进行合理的实践仍然很困难。……查看详情

    发布时间:2019.01.21来源:亿信华辰浏览量:94次

  • 政府如何进行数据治理

    政府如何进行数据治理

    政府掌握全社会重要核心的、高价值的数据,如何通过有效管理,进行共享开放与协同,释放背后价值,赋能管理、服务决策,推动治理能力的提升对于我……查看详情

    发布时间:2021.08.30来源:亿信华辰浏览量:142次

  • 数据资产管理直面企业痛点

    数据资产管理直面企业痛点

    企业日常经营活动中积累的大量数据,除了支持业务流程运转之外,越来越多地被用于帮助企业提升管理决策效率、实现价值挖掘和业务创新。企业日常经……查看详情

    发布时间:2020.09.11来源:知乎浏览量:68次

  • 2021 年 10 大数据治理工具

    2021 年 10 大数据治理工具

    数据治理工具被定义为帮助创建和维护一组结构化策略、程序和协议的过程的工具,这些策略、程序和协议控制企业数据的存储、使用和管理方式。本文将……查看详情

    发布时间:2021.07.22来源:亿信华辰数据治理知识库浏览量:562次

  • 为什么数据治理是数据管理的关键

    为什么数据治理是数据管理的关键

    如果要将数据用于战略业务决策,运营效率,增加盈利能力和增强增长,那么正确管理数据至关重要。管理不善的数据导致数据不信任,数据利用率很快就……查看详情

    发布时间:2019.06.18来源:知乎浏览量:63次

  • 在抗灾中积累治理“大数据”

    在抗灾中积累治理“大数据”

    每一次应对灾害,无论是经验还是教训,都会构成全国其他地方“诊治”灾害的“大数据”参考……查看详情

    发布时间:2018.09.25来源:人民日报浏览量:60次

相关主题
您点击 “提交”,表明您已理解并同意接受本网站隐私政策和用户协议