1. 如何分析两个变量之间的关系
1、首先,大家平时理解的变量是单纬的,而不是你说的多维的。因此,对spss而言,X1、X2、X3、Y1、Y2、Y3分别是6个变量。
2、spss的相关性分析中可以分别统计这6个变量间的相关性。通过他们之间相关性的计算,你或许可以得到你所说的X与Y之间的相关性,但这种相关性只是你推测的定性描述而已,是不能定量描述的。
3、主成分分析,目的是将分析对象的多个维度简化为少数几个维度,方便分析,这样做的前提是维度很多且其中的多个维度之间有较强的相关性。而不是你想象的可以把X1、X2、X3降维成一个变量,因为只有三个维度,已经很少了,这三个维度可以做降维分析的可能性几乎没有。
4、回归分析,只有一个因变量,可以有多个自变量,最终算得因变量与自变量间的回归关系。
估计你只是自己想象了一个例子,实际中一般是不会有这样的分析案例的。
2. 相关性分析的概念及方法
相关分析就是根据一个因素(变量)与另一个因素(变量)的相关系数是否大于临界值,判断两个因素是否相关。在相关的因素之间,根据相关系数大小判断两个因素关系的密切程度,相关系数越大,说明两者关系越密切(何晓群,2002)。这种方法从总体上对问题可以有一个大致认识,但却很难在错综复杂的关系中把握现象的本质,找出哪些是主要因素,哪些是次要因素,有时甚至得出错误结论。为此,提出使用数学上的偏相关分析与逐步回归相结合的办法来解决这类问题。
偏相关性分析基本原理是,若众多因素都对某一因素都存在影响,当分析某一因素的影响大小时,把其他因素都限制在某一水平范围内,单独分析该因素对某一因素所带来的影响,从而消除其他因素带来的干扰。比如分析压实作用(或埋深)对孔隙度和渗透率的影响时,便把岩石成分、粒度、胶结类型等都限制在一定范围来单独讨论压实作用,而数学上的偏相关分析恰恰就是解决这类问题的方法,偏相关系数的大小就代表了这种影响程度。结合多因素边引入、边剔除的逐步回归分析方法,也可消除多个因素(自变量)间的相互干扰和多个因素对因变量的重复影响,保留其中的有用信息,挑选出对因变量影响较显着的因素,剔除了一些次要因素,被挑选出的主要因素的标准回归系数和偏回归平方和的大小反映了各参数对因变量(充满度)的影响大小。因此根据各因素(自变量)与因变量间的偏相关系数大小,结合标准回归系数和偏回归平方和,便可以将各因素对因变量的影响大小进行定量排序。其基本步骤如下:
第一步,找出所有可能对因变量产生影响的因素(或参数),同时对一些非数值型参数进行量化处理;
第二步,计算因变量与各参数间的简单相关系数,根据这些简单相关系数的大小,初步分析它们与因变量间的简单相关关系;
第三步,计算因变量与各参数间的偏相关系数、标准回归系数和偏回归平方和;
第四步,根据偏相关系数的大小,再结合标准回归系数和偏回归平方和,综合分析因变量与各参数间的关系密切程度,其值越大,关系越密切,影响越大,反之亦然。
3. 相关性分析有哪几种方法
在做数据分析时,为了提炼观点,相关性分析是必不可少,而且尤为重要的一个环节。但是,对于不同类型的数据,相关性分析的方法都各不相同。本文,主要按照不同的数据类型,来对各种相关性分析方法进行梳理总结。
相关性分析是指对两个或多个具备相关性的变量元素进行分析,相关性不等于因果性。
一、离散与离散变量之间的相关性
1、卡方检验
卡方检验是一种用途很广的计数资料的假设检验方法。它属于非参数检验的范畴,主要是比较两个及两个以上样本率( 构成比)以及两个分类变量的关联性分析。其根本思想就是在于比较理论频数和实际频数的吻合程度或拟合优度问题。
它在分类资料统计推断中的应用,包括:两个率或两个构成比比较的卡方检验;多个率或多个构成比比较的卡方检验以及分类资料的相关分析等。
(1)假设,多个变量之间不相关
(2)根据假设计算得出每种情况的理论值,根据理论值与实际值的差别,计算得到卡方值 及 自由度
df=(C-1)(R-1)
(3)查卡方表,求p值
卡方值越大,P值越小,变量相关的可能性越大,当P<=0.05,否定原假设,认为变量相关。
2、信息增益 和 信息增益率
在介绍信息增益之前,先来介绍两个基础概念,信息熵和条件熵。
信息熵,就是一个随机变量的不确定性程度。
条件熵,就是在一个条件下,随机变量的不确定性。
(1)信息增益:熵 - 条件熵
在一个条件下,信息不确定性减少的程度。
Gain(Y,X)=H(Y)-H(Y|X)
信息增益越大,表示引入条件X之后,不纯度减少得越多。信息增益越大,则两个变量之间的相关性越大。
(2)信息增益率
假设,某个变量存在大量的不同值,例如ID,引入ID后,每个子节点的不纯度都为0,则信息增益减少程度达到最大。所以,当不同变量的取值数量差别很大时,引入取值多的变量,信息增益更大。因此,使用信息增益率,考虑到分支个数的影响。
Gain_ratio=(H(Y)-H(Y|X))/H(Y|X)
二、连续与连续变量之间的相关性
1、协方差
协方差,表达了两个随机变量的协同变化关系。如果两个变量不相关,则协方差为0。
Cov(X,Y)=E{[X-E(X)],[Y-E(Y)]}
当 cov(X, Y)>0时,表明 X与Y 正相关;
当 cov(X, Y)<0时,表明X与Y负相关;
当 cov(X, Y)=0时,表明X与Y不相关。
协方差只能对两组数据进行相关性分析,当有两组以上数据时就需要使用协方差矩阵。
协方差通过数字衡量变量间的相关性,正值表示正相关,负值表示负相关。但无法对相关的密切程度进行度量。当我们面对多个变量时,无法通过协方差来说明那两组数据的相关性最高。要衡量和对比相关性的密切程度,就需要使用下一个方法:相关系数。
2、线性相关系数
也叫Pearson相关系数, 主要衡量两个变量线性相关的程度。
r=cov(X,Y)/(D(X)D(Y))
相关系数是用协方差除以两个随机变量的标准差。相关系数的大小在-1和1之间变化。再也不会出现因为计量单位变化,而数值暴涨的情况了。
线性相关系数必须建立在因变量与自变量是线性的关系基础上,否则线性相关系数是无意义的。
三、连续与离散变量之间的相关性
1、连续变量离散化
将连续变量离散化,然后,使用离散与离散变量相关性分析的方法来分析相关性。
2、箱形图
使用画箱形图的方法,看离散变量取不同值,连续变量的均值与方差及取值分布情况。
如果,离散变量取不同值,对应的连续变量的箱形图差别不大,则说明,离散变量取不同值对连续变量的影响不大,相关性不高;反之,相关性高。
4. 运用什么模型能具体分析变量和因数的关系
回归分析方法可以!所谓回归分析法,是在掌握蔽滚大量观察数据的基础上,利用数理统计方法建立因变量与自变量稿消之间的回归关系函数表达式(称回归方程式)。回归分析中,当研究的因果关系只涉及因变量和一个自键并知变量时,叫做一元回归分析;当研究的因果
5. spss分析多个因变量的关系是什么
spss的相关性分析中可以分别统计这6个变量间的相关性,通过他们之间相关性的计算,这种相关性只是你推测的定性描述而已,是不能定量描述的。
自变量之间存在共线性,说明自变量枝物所提供的信息是重叠的,可以删除不重要的自变量减少重复信息,但从模型中删去自变量时应该注意:从实际经济分析确定为相对不重要并从偏相关系数检验证实为共线性原因的那些变量中删除,如果删除不当,会产生模型设定误差,造成雹搭春参数估计严重有偏的后果。
多重共线性问题的实质是样本信息的不充分而导致模型参数的不能精确估计,因此追加样本信息是解决该问题的一条有效途径。但是,由于资料收集及调查的困难,要追加样本信息在实践中有时并不容源耐易。
两连续变量线性回归模型的适用条件:
(1)线性趋势:自变量与因变量之间为线性关系,可通过散点图判断。
(2)独立性:因变量Y的值是相互独立的,它们之间没有联系。即残差必须相互独立且不存在自相关;否则,应采用自回归模型。
(3)正态性:因变量Y服从正态分布,即残差要求服从正态分布。
6. spss中的定类变量(自变量)与定距变量(因变量)之间的关系分析。
一般分类自变量与连续因变量的关系分析 也就是用方差分析,特别是像你这个数据 分类自变量只有两类,用均值t检验也可以了。
当然凡可以使用独立样本t检验的 自然也可以采用方差分析,所以你使用方差分析也没错,
从你的结果中看两组的方差不齐,此时在方差分析的选项中有一项是当方差不齐时选用的方法。
建议你直接采用独立样本t检验就好了,结果会输出方差齐性和不齐性两种结果
7. 简述变量间的相关分析有哪些方法
《变量间的相关关系》的主要内容为采用定性和定量相结合的方法研究变量之间的相关关系,主要研究线性相关关系.主要概念有“相关关系”、“散点图”、“回归直线和回归直线方程”、“相关系数”等。
变量之间除了函数关系外,还有相关关系。
例:
(1)商品销售收入与广告支出经费之间的关系
(2)粮食产量与施肥量之间的关系
(3)人体内脂肪含量与年龄之间的关系 不同点:函数关系是一种确定的关系;而 相关关系是一种非确定关系。
分类
按相关的形式分为线性相关和非线性相关
1、一种现象的一个数值和另一现象相应的数值在指教坐标系中确定为一个点,称为线性相关。
2、按影响因素的多少分为单相关和复相关
3、如果研究的是一个结果标志同某一因素标志相关,就称单相关。
4、如果分析若干因素标志对结果标志的影响,称为复相关或多元相关。
以上内容参考:网络-相关分析
8. 5种相关分析方法
相关分析(Analysis of Correlation)是网站分析中经常使用的分析方法之一。通过对不同特征或数据间的关系进行分析,发现业务运营中的关键影响及驱动因素。并对业务的发展进行预测。本篇文章将介绍5种常用的分析方法。在开始介绍相关分析之前,需要特别说明的是相关关系不等于因果关系。
相关分析的方法很多,初级的方法可以快速发现数据之间的关系,如正相关,负相关或不相关。中级的方法可以对数据间关系的强弱进行度量,如完全相关,不完全相关等。高级的方法可以将数据间的关系转化为模型,并通过模型对未来的业务发展进行预测。下面我们以一组广告的成本数据和曝光量数据对每一种相关分析方法进行介绍。
以下是每日广告曝光量和费用成本的数据,每一行代表一天中的花费和获得的广告曝光数量。凭经验判断,这两组数据间应该存在联系,但仅通过这两组数据我们无法证明这种关系真实存在,也无法对这种关系的强度进行度量。因此我们希望通过相关分析来找出这两组数据之间的关系,并对这种关系进度度量。
1,图表相关分析(折线图及散点图)
第一种相关分析方法是将数据进行可视化处理,简单的说就是绘制图表。单纯从数据的角度很难发现其中的趋势和联系,而将数据点绘制成图表后趋势和联系就会变的清晰起来。对于有明显时间维度的数据,我们选择使用折线图。
为了更清晰的对比这两组数据的变化和趋势,我们使用双坐标轴折线图,其中主坐标轴用来绘制广告曝光量数据,次坐标轴用来绘制费用成本的数据。通过折线图可以发现,费用成本和广告曝光量两组数据的变化和趋势大致相同,从整体的大趋势来看,费用成本和广告曝光量两组数据都呈现增长趋势。从规律性来看费用成本和广告曝光量数据每次的最低点都出现在同一天。从细节来看,两组数据的短期趋势的变化也基本一致。
经过以上这些对比,我们可以说广告曝光量和费用成本之间有一些相关关系,但这种方法在整个分析过程和解释上过于复杂,如果换成复杂一点的数据或者相关度较低的数据就会出现很多问题。
比折线图更直观的是散点图。散点图去除了时间维度的影响,只关注广告曝光量和费用成本这里两组数据间的关系。在绘制散点图之前,我们将费用成本标识为X,也就是自变量,将广告曝光量标识为y,也就是因变量。下面是一张根据每一天中广告曝光量和费用成本数据绘制的散点图,X轴是自变量费用成本数据,Y轴是因变量广告曝光量数据。从数据点的分布情况可以发现,自变量x和因变量y有着相同的变化趋势,当费用成本的增加后,广告曝光量也随之增加。
折线图和散点图都清晰的表示了广告曝光量和费用成本两组数据间的相关关系,优点是对相关关系的展现清晰,缺点是无法对相关关系进行准确的度量,缺乏说服力。并且当数据超过两组时也无法完成各组数据间的相关分析。若要通过具体数字来度量两组或两组以上数据间的相关关系,需要使用第二种方法:协方差。
2,协方差及协方差矩阵
第二种相关分析方法是计算协方差。协方差用来衡量两个变量的总体误差,如果两个变量的变化趋势一致,协方差就是正值,说明两个变量正相关。如果两个变量的变化趋势相反,协方差就是负值,说明两个变量负相关。如果两个变量相互独立,那么协方差就是0,说明两个变量不相关。以下是协方差的计算公式:
下面是广告曝光量和费用成本间协方差的计算过程和结果,经过计算,我们得到了一个很大的正值,因此可以说明两组数据间是正相关的。广告曝光量随着费用成本的增长而增长。在实际工作中不需要按下面的方法来计算,可以通过Excel中COVAR()函数直接获得两组数据的协方差值。
协方差只能对两组数据进行相关性分析,当有两组以上数据时就需要使用协方差矩阵。下面是三组数据x,y,z,的协方差矩阵计算公式。
协方差通过数字衡量变量间的相关性,正值表示正相关,负值表示负相关。但无法对相关的密切程度进行度量。当我们面对多个变量时,无法通过协方差来说明那两组数据的相关性最高。要衡量和对比相关性的密切程度,就需要使用下一个方法:相关系数。,
3,相关系数
第三个相关分析方法是相关系数。相关系数(Correlation coefficient)是反应变量之间关系密切程度的统计指标,相关系数的取值区间在1到-1之间。1表示两个变量完全线性相关,-1表示两个变量完全负相关,0表示两个变量不相关。数据越趋近于0表示相关关系越弱。以下是相关系数的计算公式。
其中rxy表示样本相关系数,Sxy表示样本协方差,Sx表示X的样本标准差,Sy表示y的样本标准差。下面分别是Sxy协方差和Sx和Sy标准差的计算公式。由于是样本协方差和样本标准差,因此分母使用的是n-1。
Sxy样本协方差计算公式:
Sx样本标准差计算公式:
Sy样本标准差计算公式:
下面是计算相关系数的过程,在表中我们分别计算了x,y变量的协方差以及各自的标准差,并求得相关系数值为0.93。0.93大于0说明两个变量间正相关,同时0.93非常接近于1,说明两个变量间高度相关。
在实际工作中,不需要上面这么复杂的计算过程,在Excel的数据分析模块中选择相关系数功能,设置好x,y变量后可以自动求得相关系数的值。在下面的结果中可以看到,广告曝光量和费用成本的相关系数与我们手动求的结果一致。
相关系数的优点是可以通过数字对变量的关系进行度量,并且带有方向性,1表示正相关,-1表示负相关,可以对变量关系的强弱进行度量,越靠近0相关性越弱。缺点是无法利用这种关系对数据进行预测,简单的说就是没有对变量间的关系进行提炼和固化,形成模型。要利用变量间的关系进行预测,需要使用到下一种相关分析方法,回归分析。,
4,一元回归及多元回归
第四种相关分析方法是回归分析。回归分析(regression analysis)是确定两组或两组以上变量间关系的统计方法。回归分析按照变量的数量分为一元回归和多元回归。两个变量使用一元回归,两个以上变量使用多元回归。进行回归分析之前有两个准备工作,第一确定变量的数量。第二确定自变量和因变量。我们的数据中只包含广告曝光量和费用成本两个变量,因此使用一元回归。根据经验广告曝光量是随着费用成本的变化而改变的,因此将费用成本设置为自变量x,广告曝光量设置为因变量y。
以下是一元回归方程,其中y表示广告曝光量,x表示费用成本。b0为方程的截距,b1为斜率,同时也表示了两个变量间的关系。我们的目标就是b0和b1的值,知道了这两个值也就知道了变量间的关系。并且可以通过这个关系在已知成本费用的情况下预测广告曝光量。
这是b1的计算公式,我们通过已知的费用成本x和广告曝光量y来计算b1的值。
以下是通过最小二乘法计算b1值的具体计算过程和结果,经计算,b1的值为5.84。同时我们也获得了自变量和因变量的均值。通过这三个值可以计算出b0的值。
以下是b0的计算公式,在已知b1和自变量与因变量均值的情况下,b0的值很容易计算。
将自变量和因变量的均值以及斜率b1代入到公式中,求出一元回归方程截距b0的值为374。这里b1我们保留两位小数,取值5.84。
在实际的工作中不需要进行如此繁琐的计算,Excel可以帮我们自动完成并给出结果。在Excel中使用数据分析中的回归功能,输入自变量和因变量的范围后可以自动获得b0(Intercept)的值362.15和b1的值5.84。这里的b0和之前手动计算获得的值有一些差异,因为前面用于计算的b1值只保留了两位小数。
这里还要单独说明下R Square的值0.87。这个值叫做判定系数,用来度量回归方程的拟合优度。这个值越大,说明回归方程越有意义,自变量对因变量的解释度越高。
将截距b0和斜率b1代入到一元回归方程中就获得了自变量与因变量的关系。费用成本每增加1元,广告曝光量会增加379.84次。通过这个关系我们可以根据成本预测广告曝光量数据。也可以根据转化所需的广告曝光量来反推投入的费用成本。获得这个方程还有一个更简单的方法,就是在Excel中对自变量和因变量生成散点图,然后选择添加趋势线,在添加趋势线的菜单中选中显示公式和显示R平方值即可。
以上介绍的是两个变量的一元回归方法,如果有两个以上的变量使用Excel中的回归分析,选中相应的自变量和因变量范围即可。下面是多元回归方程。
5,信息熵及互信息
最后一种相关分析方法是信息熵与互信息。前面我们一直在围绕消费成本和广告曝光量两组数据展开分析。实际工作中影响最终效果的因素可能有很多,并且不一定都是数值形式。比如我们站在更高的维度来看之前的数据。广告曝光量只是一个过程指标,最终要分析和关注的是用户是否购买的状态。而影响这个结果的因素也不仅仅是消费成本或其他数值化指标。可能是一些特征值。例如用户所在的城市,用户的性别,年龄区间分布,以及是否第一次到访网站等等。这些都不能通过数字进行度量。
度量这些文本特征值之间相关关系的方法就是互信息。通过这种方法我们可以发现哪一类特征与最终的结果关系密切。下面是我们模拟的一些用户特征和数据。在这些数据中我们忽略之前的消费成本和广告曝光量数据,只关注特征与状态的关系。
对于信息熵和互信息具体的计算过程请参考我前面的文章《 决策树分类和预测算法的原理及实现 》,这里直接给出每个特征的互信息值以及排名结果。经过计算城市与购买状态的相关性最高,所在城市为北京的用户购买率较高。
到此为止5种相关分析方法都已介绍完,每种方法各有特点。其中图表方法最为直观,相关系数方法可以看到变量间两两的相关性,回归方程可以对相关关系进行提炼,并生成模型用于预测,互信息可以对文本类特征间的相关关系进行度量。
9. 5种常用的相关分析方法
初级的方法可以快速发现数据之间的关系,如正相关,负相关或不相关。
中级的方法可以对数据间关系的强弱进行度量,如完全相关,不完全相关等。
高级的方法可以将数据间的关系转化为模型,并通过模型对未来的业务发展进行预测。
折线图、散点图
协方差
相关系数(相关系数的取值区间在1到-1之间)
R Square的值叫做判定系数,用来度量回归方程的拟合优度。这个值越大,说明回归方程越有意义,自变量对因变量的解释度越高。
最后一种相关分析方法是信息熵与互信息。可能是一些特征值。例如用户所在的城市,用户的性别,年龄区间分布,以及是否第一次到访网站等等。这些都不能通过数字进行度量。度量这些文本特征值之间相关关系的方法就是互信息。