目录

变量间的关系分析

什么是相关分析

什么是回归分析

分析步骤

回归分析与相关分析的主要区别

一元线性相关分析

一元线性回归分析

建模

方差分析检验

 t检验

多元回归分析模型建立

线性回归模型基本假设

多元回归分析用途

多元线性相关分析

矩阵相关分析

复相关分析

曲线回归模型

多项式曲线

二次函数

对数函数

指数函数

幂函数

双曲线函数

---

变量间的关系分析

变量间的关系有两类，一类是变量间存在着完全确定的关系，称为函数关系，另一类是变量间的关系不存在完全的确定性，不能用精缺的数学公式表示，但变量间存在十分密切的关系，这种称为相关关系，存在相关关系的变量称为相关变量。

相关变量间的关系有两种：一种是平行关系，即两个或两个以上变量相互影响。另一种是依存关系，即是一个变量的变化受到另一个或多个变量的影响。相关分析是研究呈平行关系的相关变量之间的关系。而回归分析是研究呈依存关系的相关变量间的关系。表示原因的变量称为自变量-independent variable，表示结果的变量称为因变量-dependent variable。

什么是相关分析

通过计算变量间的相关系数来判断两个变量的相关程度及正负相关。

什么是回归分析

通过研究变量的依存关系，将变量分为因变量和自变量，并确定自变量和因变量的具体关系方程式

分析步骤

建立模型、求解参数、对模型进行检验

回归分析与相关分析的主要区别

1.在回归分析中，解释变量称为自变量，被解释变量称为因变量，相关分析中，并不区分自变量和因变量，各变量处于平的地位。--（自变量就是自己会变得变量，因变量是因为别人改变的）

2.在相关分析中所涉及的变量全部是随机变量，在回归分析中只有只有因变量是随机变量。

3.相关分析研究主要是为刻画两类变量间的线性相关的密切程度，而回归分析不仅可以揭示自变量对因变量的影响大小，还可以由回归方程进行预测和控制。

一元线性相关分析

线性相关分析是用相关系数来表示两个变量间相互的线性关系，总体相关系数的计算公式为：

 δ^2x代表x的总体方差， δ^2y代表y的总体方差，δxy代表x变量与y变量的协方差，相关系数ρ没有单位，在-1到1之间波动，绝对值越接近1越相关，符号代表正相关或复相关。

一元线性回归分析

使用自变量与因变量绘制散点图，如果大致呈直线型，则可以拟合一条直线方程

建模

直线模型为：

 y是因变量y的估计值，x为自变量的实际值，a、b为待估值

几何意义：a是直线方程的截距，b是回归系数

经济意义：a是x=0时y的估计值，b是回归系数

对于上图来说，x与y有直线的趋势，但并不是一一对应的，y与回归方程上的点的差距成为估计误差或残差，残差越小，方程愈加理想。

当误差的平方和最小时，即Q，a和b最合适

对Q求关于a和b的偏导数，并令其分别等于零，可得：

 式中，lxx表示x的离差平方和，lxy表示x与y的离差积和。

方差分析检验

将因变量y实测值的离均差平方和分成两部分即使：

分为：

实测值yi扣除了x对y的线性影响后剩下的变异

和x对y的线性影响，简称为回归评方或回归贡献

然后证明：

 t检验

当β成立时，样本回归系数b服从正态分布，这是可以使用T检验判断是否有数学意义，检验所用统计量为

例如t=10，那么可以判断α=0.05水平处拒绝H0，接受H1，那么x与y存在回归关系

多元回归分析模型建立

一个因变量与多个自变量间的线性数量关系可以用多元线性回归方程来表示

b0是方程中的常数项，bi,i=1,2,3称为偏回归系数。

当我们得到N组观测数据时，模型可表示为：

其矩阵为：

X为设计阵，β为回归系数向量。

线性回归模型基本假设

在建立线性回归模型前，需要对模型做一些假定，经典线性回归模型的基本假设前提为：

1.解释变量一般来说是非随机变量

2.误差等方差及不相关假定（G-M条件）

3.误差正太分布的假定条件为：

4. n>p,即是要求样本容量个数多于解释变量的个数

多元回归分析用途

1.描述解释现象，希望回归方程中的自变量尽可能少一些

2.用于预测，希望预测的均方误差较小

3.用于控制，希望各个回归系数具有较小的方差和均方误差

变量太多，容易引起以下四个问题：
1.增加了模型的复杂度

2.计算量增大

3.估计和预测的精度下降

4.模型应用费用增加

多元线性相关分析

两个变量间的关系称为简单相关，多个变量称为偏相关或复相关

矩阵相关分析

设n个样本的资料矩阵为：

此时任意两个变量间的相关系数构成的矩阵为：

其中rij为任意两个变量之间的简单相关系数，即是：

复相关分析

系数计算：

设y与x1，x2，....，回归模型为

y与x1，x2，....做相关分析就是对y于y^做相关分析，相关系数计算公式为

曲线回归模型

多项式曲线

二次函数

y=a+bx+cx^2

对数函数

y=a+blogx

指数函数

y = ae^bx或y = ae^(b/x)

幂函数

y=ax^b (a>0)

双曲线函数

y = a+b/x

 实战操作见下一篇文章

一、 多元线性回归含义

现实生活中的一种现象常常是与多种因素想联系的，由自变量的最优组合共同来预测或估计因变量的，假定一个变量Y与多个变量 , ,… 之间具有线性关系，是关于变量Y的多元线性函数，称为多元线性回归模型。即：

Y为被解释变量， 为k个解释变量， 为k+1个未知参数， 为随机误差项。

二、 多元线性回归计算

对于n组观测数值有以下的公式：

化为矩阵形式为：
= +
其中
为观测值向量； 为解释变量的观测值矩阵； 为参数向量；
为随机误差项的向量。
通过样本观测值X,Y，求出参数向量 的样本估计值，得到一个关于Y的样本估计值多元线性回归方程：

由于样本值X对应的有一个真实值Y，通过真实值Y与 的差值的平方和最小,即：
= 取最小值.

三、 多元线性回归应用

多元线性回归应用方面很多，例如：

1. 房价与房子的大小，房子的所处位置，房子的类型等方面的关系的影响。
2. 家庭电量的消耗与耗电的各个方面的因素之间的关系，来实现节约用电，比如开灯，手机充电，电视…
3. 一个车站的客流，与影响其的相关因素之间的关系，分析其波动最大的时刻，来进行相应的调节，来合理接待这些乘客，比如在节假日时刻的影响，可以多安排几个车次，受天气异常的影响时，车次易晚点情况，随时提醒乘客车次问题等。
   等等。

四、 多元线性回归的总结

1. 对于多元线性回归，我的理解大概是，多元线性回归大致是分析一个因素，与其他相关因素对其的影响，来进行预测该因素的走向情况，或者分析其相关因素谁是影响其的最主要因素。
2. 多元线性回归是一个可以广泛使用的公式，在生活中的很多方面都可以应用，很多生活情况都可以通过这个公式来分析，比如房价，车价等等。
3. 多元线性回归可以与很多公式混合使用，来实现不同效果，比如均方误差可以来检测我们的多元线性回归模型的拟合度等。
   请各位大神批评指正！