数据分析与建模方法

1. 数据分析模型和方法有哪些

1、分类分析数据分析法

在数据分析中，如果将数据进行分类就能够更好的分析。分类分析是将一些未知类别的部分放进我们已经分好类别中的其中某一类;或者将对一些数据进行分析，把这些数据归纳到接近这一程度的类别，并按接近这一程度对观测对象给出合理的分类。这样才能够更好的进行分析数据。

2、对比分析数据分析方法

很多数据分析也是经常使用对比分析数据分析方法。对比分析法通常是把两个相互有联系的数据进行比较，从数量上展示和说明研究对象在某一标准的数量进行比较，从中发现其他的差异，以及各种关系是否协调。

3、相关分析数据分析法

相关分析数据分析法也是一种比较常见数据分析方法，相关分析是指研究变量之间相互关系的一类分析方法。按是否区别自变量和因变量为标准一般分为两类：一类是明确自变量和因变量的关系;另一类是不区分因果关系，只研究变量之间是否相关，相关方向和密切程度的分析方法。

4、综合分析数据分析法

层次分析法，是一种实用的多目标或多方案的决策方法。由于他在处理复杂的决策问题上的实用性和有效性，而层次分析数据分析法在世界范围得到广泛的应用。它的应用已遍及经济计划和管理，能源政策和分配，行为科学、军事指挥、运输、农业、教育、医疗和环境等多领域。

2. 数据分析的步骤是什么

1.问题定义
比较典型的场景是我们需要针对企业的数据进行分析，比如公司通常会有销售数据、用户数据、运营数据、产品生产数据……你需要从这些数据里获得哪些有用的信息，对策略的制定进行指导呢？又比如你需要做的是一份市场调研或者行业分析，那么你需要知道你需要获得关于这个行业的哪些信息。
首先你需要确定去分析的问题是什么？你想得出哪些结论？
比如某地区空气质量变化的趋势是什么？
王者荣耀玩家的用户画像是什么样的？经常消费的是那类人？
影响公司销售额增长的关键因素是什么？
生产环节中影响产能和质量的核心指标是什么？
如何对分析用户画像并进行精准营销？
如何基于历史数据预测未来某个阶段用户行为？
这些问题可能来源于你已有的经验和知识。比如你已经知道每周的不同时间用户购买量不一样，那么你可以通过分析得出销量和时间的精确关系，从而精准备货。又比如你知道北京最近几年的空气质量是在变坏的，可能的因素是工厂排放、沙尘暴、居民排放、天气因素等，那么在定义问题的时候你就需要想清楚，需要针对哪些因素进行重点分析。
有些问题则并不清晰，比如在生产环节中，影响质量的核心指标是什么，是原材料？设备水平？工人水平？天气情况？某个环节工艺的复杂度？某项操作的重复次数？……这些可能并不明显，或者你是涉足新的领域，并没有非常专业的知识，那么你可能需要定义的问题就需要更加宽泛，涵盖更多的可能性。
问题的定义可能需要你去了解业务的核心知识，并从中获得一些可以帮助你进行分析的经验。从某种程度上说，这也是我们经常提到的数据思维。数据分析很多时候可以帮助你发现我们不容易发现的相关性，但对问题的精确定义，可以从很大程度上提升数据分析的效率。
如何更好地定义问题？
这就需要你在长期的训练中找到对数据的感觉，开始的时候你拿到特别大的数据，有非常多的字段，可能会很懵逼，到底应该从什么地方下手呢？
但如果有一些经验就会好很多。比如，你要研究影响跑步运动员速度的身体因素，那么我们可能会去研究运动员的身高、腿长、体重、甚至心率、血压、臂长，而不太会去研究运动员的腋毛长度，这是基于我们已有的知识。又比如我们要分析影响一个地方房价的因素，那么我们可能会有一些通用的常识，比如城市人口、地理位置、GDP、地价、物价水平，更深入的可能会有产业格局、文化状态、气候情况等等，但一般我们不会去研究城市的女孩长相，美女占比。
所以当你分析的问题多了之后，你就会有一些自己对数据的敏感度，从而养成用数据分析、用数据说话的习惯。这个时候你甚至可以基于一些数据，根据自己的经验做出初步的判断和预测（当然是不能取代完整样本的精准预测），这个时候，你就基本拥有数据思维了。

2.数据获取
有了具体的问题，你就需要获取相关的数据了。比如你要探究北京空气质量变化的趋势，你可能就需要收集北京最近几年的空气质量数据、天气数据，甚至工厂数据、气体排放数据、重要日程数据等等。如果你要分析影响公司销售的关键因素，你就需要调用公司的历史销售数据、用户画像数据、广告投放数据等。
数据的获取方式有多种。
一是公司的销售、用户数据，可以直接从企业数据库调取，所以你需要SQL技能去完成数据提取等的数据库管理工作。比如你可以根据你的需要提取2017年所有的销售数据、提取今年销量最大的50件商品的数据、提取上海、广东地区用户的消费数据……，SQL可以通过简单的命令帮你完成这些工作。
第二种是获取外部的公开数据集，一些科研机构、企业、政府会开放一些数据，你需要到特定的网站去下载这些数据。这些数据集通常比较完善、质量相对较高。当然这种方式也有一些缺陷，通常数据会发布的比较滞后，但通常因为客观性、权威性，仍然具有很大的价值。
第三种是编写网页爬虫，去收集互联网上的数据。比如你可以通过爬虫获取招聘网站某一职位的招聘信息，爬取租房网站上某城市的租房信息，爬取豆瓣评分评分最高的电影列表，获取知乎点赞排行、网易云音乐评论排行列表。基于互联网爬取的数据，你可以对某个行业、某种人群进行分析，这算是非常靠谱的市场调研、竞品分析的方式了。
当然，比较BUG的一点是，你通常并不能够获得所有你需要的数据，这对你的分析结果是有一定影响的，但不不影响的是，你通过有限的可获取的数据，提取更多有用的信息。

3.数据预处理
现实世界中数据大体上都是不完整，不一致的脏数据，无法直接进行数据分析，或分析结果差强人意。数据预处理有多种方法：数据清理，数据集成，数据变换，数据归约等。把这些影响分析的数据处理好，才能获得更加精确地分析结果。
比如空气质量的数据，其中有很多天的数据由于设备的原因是没有监测到的，有一些数据是记录重复的，还有一些数据是设备故障时监测无效的。
那么我们需要用相应的方法去处理，比如残缺数据，我们是直接去掉这条数据，还是用临近的值去补全，这些都是需要考虑的问题。
当然在这里我们还可能会有数据的分组、基本描述统计量的计算、基本统计图形的绘制、数据取值的转换、数据的正态化处理等，能够帮助我们掌握数据的分布特征，是进一步深入分析和建模的基础。

4.数据分析与建模
在这个部分需要了解基本的数据分析方法、数据挖掘算法，了解不同方法适用的场景和适合的问题。分析时应切忌滥用和误用统计分析方法。滥用和误用统计分析方法主要是由于对方法能解决哪类问题、方法适用的前提、方法对数据的要求不清等原因造成的。
另外，选择几种统计分析方法对数据进行探索性的反复分析也是极为重要的。每一种统计分析方法都有自己的特点和局限，因此，一般需要选择几种方法反复印证分析，仅依据一种分析方法的结果就断然下结论是不科学的。
比如你发现在一定条件下，销量和价格是正比关系，那么你可以据此建立一个线性回归模型，你发现价格和广告是非线性关系，你可以先建立一个逻辑回归模型来进行分析。
一般情况下，回归分析的方法可以满足很大一部分的分析需求，当然你也可以了解一些数据挖掘的算法、特征提取的方法来优化自己的模型，获得更好地结果。

5.数据可视化及数据报告的撰写
分析结果最直接的结果是统计量的描述和统计量的展示。
比如我们通过数据的分布发现数据分析工资最高的5个城市，目前各种语言的流行度排行榜，近几年北京空气质量的变化趋势，避孕套消费的地区分布……这些都是我们通过简单数据分析与可视化就可以展现出的结果。
另外一些则需要深入探究内部的关系，比如影响产品质量最关键的几个指标，你需要对不同指标与产品质量进行相关性分析之后才能得出正确结论。又比如你需要预测未来某个时间段的产品销量，则需要你对历史数据进行建模和分析，才能对未来的情况有更精准的预测。
数据分析报告不仅是分析结果的直接呈现，还是对相关情况的一个全面的认识。我们经常看到一些行业分析报告从不同角度、深入浅析地剖析各种关系。所以你需要一个讲故事的逻辑，如何从一个宏观的问题，深入、细化到问题内部的方方面面，得出令人信服的结果，这需要从实践中不断训练。

数据分析的一般流程总的来说就是这几个步骤：问题定义、数据获取、数据预处理、数据分析与建模、数据可视化与数据报告的撰写。

3. 数据建模的分析方法有哪些并写出他们的大概介绍

从目前的数据库及数据仓库建模方法来说，主要分为四类。

第一类是大家最为熟悉的关系数据库的三范式建模，通常我们将三范式建模方法用于建立各种操作型数据库系统。

第二类是Inmon提倡的三范式数据仓库建模，它和操作型数据库系统的三范式建模在侧重点上有些不同。Inmon的数据仓库建模方法分为三层，第一层是实体关系层，也即企业的业务数据模型层，在这一层上和企业的操作型数据库系统建模方法是相同的；第二层是数据项集层，在这一层的建模方法根据数据的产生频率及访问频率等因素与企业的操作型数据库系统的建模方法产生了不同；第三层物理层是第二层的具体实现。

第三类是Kimball提倡的数据仓库的维度建模，我们一般也称之为星型结构建模，有时也加入一些雪花模型在里面。维度建模是一种面向用户需求的、容易理解的、访问效率高的建模方法，也是笔者比较喜欢的一种建模方式。

第四类是更为灵活的一种建模方式，通常用于后台的数据准备区，建模的方式不拘一格，以能满足需要为目的，建好的表不对用户提供接口，多为临时表。

下面简单谈谈第四类建模方法的一些的经验。

数据准备区有一个最大的特点，就是不会直接面对用户，所以对数据准备区中的表进行操作的人只有ETL工程师。ETL工程师可以自己来决定表中数据的范围和数据的生命周期。下面举两个例子：

1）数据范围小的临时表

当需要整合或清洗的数据量过大时，我们可以建立同样结构的临时表，在临时表中只保留我们需要处理的部分数据。这样，不论是更新还是对表中某些项的计算都会效率提高很多。处理好的数据发送入准备加载到数据仓库中的表中，最后一次性加载入数据仓库。

2）带有冗余字段的临时表

由于数据准备区中的表只有自己使用，所以建立冗余字段可以起到很好的作用而不用承担风险。

举例来说，笔者在项目中曾遇到这样的需求，客户表{客户ID，客户净扣值}，债项表{债项ID，客户ID，债项余额，债项净扣值}，即客户和债项是一对多的关系。其中，客户净扣值和债项余额已知，需要计算债项净扣值。计算的规则是按债项余额的比例分配客户的净扣值。这时，我们可以给两个表增加几个冗余字段，如客户表{客户ID，客户净扣值，客户余额}，债项表{债项ID，客户ID，债项余额，债项净扣值，客户余额，客户净扣值}。这样通过三条SQL就可以直接完成整个计算过程。将债项余额汇总到客户余额，将客户余额和客户净扣值冗余到债项表中，在债项表中通过（债项余额×客户净扣值/客户余额）公式即可直接计算处债项净扣值。

另外还有很多大家可以发挥的建表方式，如不需要主键的临时表等等。总结来说，正因为数据准备区是不对用户提供接口的，所以我们一定要利用好这一点，以给我们的数据处理工作带来最大的便利为目的来进行数据准备区的表设计。

4. #数据分析师#数据分析中的建模能力通常是指什么呢以及常用到的建模软件，求教

我理解的，数据分析师的建模能力是指对数据建立数学模型进行分析的能力，常规的方法有回归、聚类等等统计学方法，用spss或者MATLAB甚至Excel都可以实现。但是我觉得模型的复杂与否并不是最重要的，能把数据与业务结合去解决问题才是最重要的。 来自职Q用户：屈先生
r或者 Python 加上sql，统计学知识。思想是关键，工具是辅助。 来自职Q用户：奋不顾身一直向前的M

5. 数据分析建模步骤有哪些

1、分类和聚类

分类算法是极其常用的数据挖掘方法之一，其核心思想是找出目标数据项的共同特征，并按照分类规则将数据项划分为不同的类别。聚类算法则是把一组数据按照相似性和差异性分为若干类别，使得同一类别数据间的相似性尽可能大，不同类别数据的相似性尽可能小。分类和聚类的目的都是将数据项进行归类，但二者具有显着的区别。分类是有监督的学习，即这些类别是已知的，通过对已知分类的数据进行训练和学习，找到这些不同类的特征，再对未分类的数据进行分类。而聚类则是无监督的学习，不需要对数据进行训练和学习。常见的分类算法有决策树分类算法、贝叶斯分类算法等;聚类算法则包括系统聚类，K-means均值聚类等。

2、回归分析

回归分析是确定两种或两种以上变量间相互依赖的定量关系的一种统计分析方法，其主要研究的问题包括数据序列的趋势特征、数据序列的预测以及数据间的相关关系等。按照模型自变量的多少，回归算法可以分为一元回归分析和多元回归分析;按照自变量和因变量间的关系，又可分为线性回归和非线性回归分析。

3、神经网络

神经网络算法是在现代神经生物学研究的基础上发展起来的一种模拟人脑信息处理机制的网络系统，不但具备一般计算能力，还具有处理知识的思维、学习和记忆能力。它是一种基于导师的学习算法，可以模拟复杂系统的输入和输出，同时具有非常强的非线性映射能力。基于神经网络的挖掘过程由数据准备、规则提取、规则应用和预测评估四个阶段组成，在数据挖掘中，经常利用神经网络算法进行预测工作。

4、关联分析

关联分析是在交易数据、关系数据或其他信息载体中，查找存在于项目集合或对象集合之间的关联、相关性或因果结构，即描述数据库中不同数据项之间所存在关系的规则。例如，一项数据发生变化，另一项也跟随发生变化，则这两个数据项之间可能存在某种关联。关联分析是一个很有用的数据挖掘模型，能够帮助企业输出很多有用的产品组合推荐、优惠促销组合，能够找到的潜在客户，真正的把数据挖掘落到实处。4市场营销大数据挖掘在精准营销领域的应用可分为两大类，包括离线应用和在线应用。其中，离线应用主要是基于客户画像进行数据挖掘，进行不同目的针对性营销活动，包括潜在客户挖掘、流失客户挽留、制定精细化营销媒介等。而在线应用则是基于实时数据挖掘结果，进行精准化的广告推送和市场营销，具体包括DMP，DSP和程序化购买等应用。

6. 什么是数据建模

数据建模是一个用于定义和分析在组织的信息系统范围内支持商业流程所需的数据要求的过程。简单来说，数据建模是基于对业务数据的理解和数据分析的需要，将各类数据进行整合和关联，使得数据可以最终以可视化的方式呈现，让使用者能够快速地、高效地获取到数据中有价值的信息，从而做出准确有效的决策。

之所以数据建模会变得复杂且难度大，是因为在建模过程中会引入数学公式或模型，用于确定数据实体之间的关联关系。不同的业务逻辑和商业需求需要选择不同的数学公式或模型，而且，一个好的数据模型需要通过多次的测试和优化迭代来完成，这就使得数据建模的难度变得很高。但是，数据分析中的建模并没有想象中的那么高深莫测，人人都可以做出适合自己的模型。

数据建模总归是为了分析数据从而解决商业问题。如下图数据建模的流程图，数据建模核心部分是变量处理和模型搭建。

• 变量处理

在建模之前，首先要决定选择哪些变量进行建模，主要从业务逻辑和数据逻辑两方面来考虑。业务逻辑需要了解数据来源的背景，通过了解业务知识来判断哪些变量在业务上很有价值的，哪些变量是可以选择的。数据逻辑则是从数据的完整性，集中度，是否与其他变量强相关等角度来考虑。

除了选择变量，对于一些变量的重构也是需要在建模前进行。例如客户的满意度有“满意”“不满意”，可以将其重构成数字“0”和“1”，便于后续建模使用。除此以外，还有将变量单独计算（取平均值）和组合计算（如A*B）也是常用的重构方法，例如，缺失值以数据取平均值的方式替换。

• 模型搭建

在模型搭建时，会经历选择算法、设定参数、加载算法、测试结果四个过程。在这个过程中，测试结果会引导调整之前设定的参数，加载算法会对应调整之前选择的算法，而选择算法时会考虑到已定的变量，如果变量不满足算法要求，还需回到选择/重构变量，直至得到最合适的模型。

在优化模型的过程中，模型的解释能力和实用性会不断地提升。在结果输出之后，还需接收业务人员的反馈，看看模型是否解决了他们的问题，如果没有，还需进一步修改和调整。

MicroStrategy在数据领域深挖企业需求，经过多年的研究和沉淀，结合众多复杂的应用场景，不断更新体验，深入开发各种数据辅助功能，使客户可以一站式链接各类型数据资源，完成数据导入和数据建模。在MicroStrategy 平台中，既支持传统方式数据建模，即通过Project Schema 来进行建模，又支持自助式数据导入的建模方式。

7. 数据分析方法与模型都有哪些

现在的大数据的流行程度不用说大家都知道，大数据离不开数据分析，而数据分析的方法和数据分析模型多种多样，按照数据分析将这些数据分析方法与模型分为对比分析、分类分析、相关分析和综合分析四种方式，这四种方式的不同点前三类以定性的数据分析方法与模型为主，综合类数据分析方法与模型是注重定性与定量相结合。

一、分类分析数据分析法
在数据分析中，如果将数据进行分类就能够更好的分析。分类分析是将一些未知类别的部分放进我们已经分好类别中的其中某一类；或者将对一些数据进行分析，把这些数据归纳到接近这一程度的类别，并按接近这一程度对观测对象给出合理的分类。这样才能够更好的进行分析数据。

二、对比分析数据分析方法
很多数据分析也是经常使用对比分析数据分析方法。对比分析法通常是把两个相互有联系的数据进行比较，从数量上展示和说明研究对象在某一标准的数量进行比较，从中发现其他的差异，以及各种关系是否协调。

三、相关分析数据分析法相关分析数据分析法也是一种比较常见数据分析方法，相关分析是指研究变量之间相互关系的一类分析方法。按是否区别自变量和因变量为标准一般分为两类：一类是明确自变量和因变量的关系；另一类是不区分因果关系，只研究变量之间是否相关，相关方向和密切程度的分析方法。
而敏感性分析是指从定量分析的角度研究有关因素发生某种变化时对某一个或一组关键指标影响程度的一种不确定分析技术。
回归分析是确定两种或两种以上变数间相互依赖的定量关系的一种统计分析方法。
时间序列是将一个指标在不相同的时间点上的取值，按照时间的先后顺序排列而成的一列数。时间序列实验研究对象的历史行为的客观记录，因而它包含了研究对象的结构特征以及规律。

四、综合分析数据分析法
层次分析法，是一种实用的多目标或多方案的决策方法。由于他在处理复杂的决策问题上的实用性和有效性，而层次分析数据分析法在世界范围得到广泛的应用。它的应用已遍及经济计划和管理，能源政策和分配，行为科学、军事指挥、运输、农业、教育、医疗和环境等多领域。
而综合分析与层次分析是不同的，综合分析是指运用各种统计、财务等综合指标来反馈和研究社会经济现象总体的一般特征和数量关系的研究方法。

上述提到的数据分析方法与数据分析模型在企业经营、管理、投资决策最为常用，在企业决策中起着至关重要的作用。一般来说，对比分析、分类分析、相关分析和综合分析这四种方法都是数据分析师比较常用的，希望这篇文章能够帮助大家更好的理解大数据。

8. 数据处理与分析的步骤是怎么样

数据处理与分析分为五步：

第一步：确定客户的数据需求

比较典型的场景是我们需要针对企业的数据进行分析，比如公司通常会有销售数据、用户数据、运营数据、产品生产数据……需要从这些数据里获得哪些有用的信息，对策略的制定进行指导呢？又比如需要做的是一份市场调研或者行业分析，那么需要知道获得关于这个行业的哪些信息。

第二步：根据客户需求进行数据采集

采集来自网络爬虫、结构化数据、本地数据、物联网设备、人工录入五个数据源的数据，为客户提供定制化数据采集。目的是根据客户的需求，定制数据采集，构建单一数据源。

第三步：数据预处理

现实世界中数据大体上都是不完整，不一致的脏数据，无法直接进行数据分析，或分析结果差强人意。数据预处理有多种方法：数据清理，数据集成，数据变换，数据归约等。把这些影响分析的数据处理好，才能获得更加精确地分析结果。

第四步：数据分析与建模

数据分析是指用适当的统计分析方法对收集来的大量数据进行分析，提取有用信息和形成结论而对数据加以详细研究和概括总结的过程。这一过程也是质量管理体系的支持过程。在实用中，数据分析可帮助人们作出判断，以便采取适当行动。

数据模型是对信息系统中客观事物及其联系的数据描述，它是复杂的数据关系之间的一个整体逻辑结构图。数据模型不但提供了整个组织借以收集数据的基础，它还与组织中其他模型一起，精确恰当地记录业务需求，并支持信息系统不断地发展和完善，以满足不断变化的业务需求。

第五步：数据可视化及数据报告的撰写

分析结果最直接的结果是统计量的描述和统计量的展示。数据分析报告不仅是分析结果的直接呈现，还是对相关情况的一个全面的认识。