作者 | tvjoseph
在过去的几个月内，来自不同行业人不约而同问我能否提供一个端到端的视图，使他们了解成为一个数据科学家的思维过程。为这个问题寻找答案时，我想的不仅仅是提供一个端到端的视图过程，而是面对一个分析问题时我们应该更深入的了解他/她是怎么想的。
接下来我将分五个板块带领大家体验数据科学家的思维之路。文章的前半部分将介绍数据科学家如何进行任务的公式化建模以及数据点的工程化，这样可以为我们后续数据科学之旅提供规范和方向。我们还将深入了解整个生命周期中的另外两个重要因素,即探索性数据分析和特征工程。这些过程在制定问题的正确模型方面是很重要的。
当我们试图解开数据科学家的思维过程时，我们需要经历如下五个过程：
以上是对数据科学家试着定位问题时思维迷宫的一个鸟瞰图。所以让我们沿着这些路径指示并开始踏上数据科学家思维之旅。
一、业务探索：开始
每次开始总有一些业务挑战或问题，这些困难为以后的数据科学铺平了道路。
为了更能理解，我们先举个例子，假设一个农产品公司生产鸡蛋，然后找到我们,希望能够帮助他们预测鸡蛋的产量。为了能解决这些业务预测问题，他们给了我们内部系统中的可用历史数据。
那你认为我们应该从哪里开始着手这个任务呢?最好的方法是对不利于我们预测的变量建立直觉和假设。我们可以称它为响应变量，在该例子中就是产蛋量。为了获得影响我们响应变量关键因素的直觉，我们必须采取一些辅助研究并且跟该公司的相关人员进行接洽。我们可以把这一阶段作为熟悉、业务发现的阶段。在这个阶段，我们建立对影响我们响应变量关键因素的直觉。这些关键因素称为独立变量或特征。通过业务发现(上面也译为发现)阶段，我们可发现影响鸡蛋产量的关键特征是温度、电力、好的水源、营养成分、鸡饲料质量、疾病流行情况、疫苗接种等。除了关键特性的识别，我们还基于特征和响应变量之间的关系上构建直觉。
比如——
温度和鸡蛋产量上存在哪种关系?
那种鸡饲料会影响产量吗?
电力和产量之间是否有关联?
……
一开始建立的直觉将帮助我们下一阶段的数据探索工作。从变量上的直觉开始发挥作用了且变量之间存在关联，那下一个任务就是验证我们的直觉和假设。让我们看看接下来如何做到这一点。
二、历练：准备好数据来验证我们的直觉和假设
为了验证前面得到的直觉和假设，我们需要与解决问题相关的数据点。统一数据点的数据格式，这将是我们旅程中最乏味的部分。许多数据点在组织内可能以不同的形式和模式提供，还需要补充组织内部可用的数据与外部可用的数据。比如社交媒体数据或者公共领域的可用开放数据。我们的目标是格式化所有相关数据点，以方便我们的工作。对这一工作，并没有规定我们如何去实现。我们解决问题的唯一指南是需解决问题的相关描述。然而，这一部分是整个旅程中最耗时的部分之一。
当我们在谈论准备数据时，需做好数据的四个V：
1、数据量(Volume of data)
2、数据多样性(Variety of data)
3、数据速率(Velocity of data)
4、数据真实性(Veracity of data)
数据量：容量决定了我们可以使用的数据量。在大多数情况下，数据量越大，中国直播网，创建的模型就越好、越具代表性。然而，更大的数据量也对我们手头处理这些数据的资源的速度和能力提出了挑战。数据量评估将有助于我们在处理数据时采用合适的并行处理技术来加快处理时间。
数据多样性：指的是我们的数据点产生于那些不同的数据源，数据可能存在多种形式，比如传统的关系型数据库、文本数据、图像、视频、日志文件等等，这些数据的存储形式越多样，我们的聚合过程就越复杂。数据点的多样性能够为我们采用正确的数据聚合技术提供线索。
数据速率：即是数据处理时产生数据点的频率。可以是生成非常规则的数据，如WEB流数据，也可以是间歇性产生的数据。所以数据速率特征工程和采用正确的数据聚合技术的重要考虑因素。
数据的真实性：真实性是每个数据点在整个业务过程中产生的值(既可能是真实的数据，也有可能是噪声)。如果我们未能在选择数据多样性的同时正确判断其真实性被大量的噪音所淹没，如此的变量选择方法是不明智的，这会让我们很难从手握的数据中提取有效的数据。
所有上述因素都必须记住，当我们统一的数据格式后，这将使以后任务分析更加容易。 在整个过程中涉及的复杂性和重要性已经产生为流，称之为数据工程流。 简而言之，数据工程是关于提取，收集和处理无数的数据点，为后续处理提供一致性。
三、数据发现阶段
这个阶段是整个周期中最关键的阶段之一。在这个阶段，需要努力调整和适应数据结构和变量之间的关系。通常来说，对于如何处理数据发现阶段，存在两种看法，一种是从商业的角度出发，另一种是从统计的角度出发。两种视角描述如下：
商业视角用于处理来自商业问题领域的变量之间的关系。相对的，统计学视角则更多地关注数据的统计特性，如其分布，正态性，偏移等。为了帮助阐明这些概念，让我们通过一个案例进行说明。
假设一个拥有多种基站的客户联系我们，中国直播网 ，希望我们帮助他们解决一个耗费很多精力但仍然得不到解决的问题。他们想预先获知各基站供电电池的健康状态，希望预测出电池何时会发生故障。这样情况下，他们需要提供与测量相关的历史数据。读取到的一些关键变量包括电导、电压、电流、温度、基站所在位置等。客户也需要提供电池发生故障条件的线索。他们希望我们关注电导值的走向，如果随着时间推移电导值急剧下降，表示电池很可能发生故障了。配置这些数据后，让我们看看数据发现是怎样开展的。我们首先从商业视角开始。
特别声明：本文为中国直播网直播号作者或机构上传并发布，仅代表该作者或机构观点，不代表中国直播网的观点或立场，中国直播网仅提供信息发布平台。
版权声明：版权归著作权人，转载仅限于传递更多信息，如来源标注错误侵害了您的权利，请来邮件通知删除，一起成长谢谢
欢迎加入：直播号，开启无限创作！一个敢纰漏真实事件，说真话的创作分享平台，一个原则：只要真实，不怕事大，有线索就报料吧！申请直播号请用电脑访问https://zbh.zhibotv.com.cn。
