终于找到一篇全面而又简洁的讲多元线性回归模型检验方法的文章

PDF下载地址

链接：https://pan.baidu.com/s/1UbyZcMC1VRTmlCEaX4Vybg

提取码：g481
具体内容
一、经济意义检验
经济意义检验主要检验模型参数估计量在经济意义。其表现为检验求得的参数估计值的符号与大小是否合理，是否与根据人们的经验和经济理论所拟定的期望值相符合。如果不符，则要查找原因和采取必要的修正措施，重新建立模型。
二、统计检验
1.拟合优度检验(${R^2}$检验)
拟合优度检验是检验回归方程对样本观测值的拟合程度，即检验所有解释变量与被解释变量之间的相关程度。
2.方程显著性检验(F检验)

方程显著性检验就是对模型中解释变量与被解释变

量之间的线性关系在总体上是否显著成立作出推断。即

检验被解释变量Y与所有解释变量戈l，石2，……，菇^之间

的线性关系是否显著，方程显著性检验所应用的方法是

数理统计学中假设检验。
3.变量显著性检验(t检验)

R2检验和F检验都是将所有的解释变量作为一个整体来检验它们与被解释变量Y的相关程度以及回归效果，但对于多元回归模型，方程的总体显著性并不意味每个解释变量对被解释变量Y的影响都是显著的。如果某个解释变量并不显著，则应该从方程中把它剔除，重新建立更为简单的方程。所以必须对每个解释变量进行显著性检验。
三、计量经济学检验
计量经济学检验是由计量经济学理论决定的，目的
在于检验模型的计量经济学性质。通常检验准则有随机
误差项的序列相关检验和异方差性检验，解释变量的多
重共线性检验等，其中最常用的是随机误差项的序列相
关检验。
在回归分析法中，假设随机误差项在不同的样本点
之间是不相关的，即si与8i(i≠_『)相互独立。但在实际
问题中，经常出现与此相违背的情况，占i与si(i≠．『)之
间存在相关性，称为序列相关。若存在序列相关，则此时
的回归模型无效，必须重新建立回归模型。
在序列相关中，最常见的是一阶自相关即占i与sf+l
相关，而对一阶自相关最常用的检验方法是DW检验法
模型预测检验
预测检验主要检验模型参数估计量的稳定性以及相对样本容量变化时的灵敏度，确定所建立的模型是否可以用于样本观测值以外的范围，即模型的所谓超样本特性。具体检验方法为：
①利用扩大了的样本重新估计模型参数，将新的估计值与原来的估计值进行比较，并检验二者之间差距的显著性。

②将所建立的模型用于样本以外某一时期的实际预测，并将该预测值与实际观测值进行比较，并检验二者之间差距的显著性。

多元线性回归模型是社会科学中常用的模型，但其实这个模型有很多的要求，在应用模型前必须要了解背后的假设，然后来判断在自己的变量上应用这个模型是否适切，如果某些地方有违背，我们可以通过一些统计的方法来修正。
多元线性回归模型的假设
比较重要的假设有5个，至少要同时满足这5个才是一个好的多元线性回归模型。
既然是线性模型，那关系必然是线性的。
误差与自变量不相关
方差齐性 homoscedasticity (equal variance of ui)
误差之间不相关
误差正态分布 normality disturbance
下面逐个解释
1.自变量与因变量呈线性关系
通过散点图可以大致看出，左图是个曲线，但是右图可能是直线。因此右图就更加适合线性模型。如果非把曲线关系用线性模型来呈现，那么这个斜率其实是没有意义的，因为曲线模型的斜率一直是变化的，我们做这个模型预测得出的因变量会非常不准确。
2.误差项（u）与自变量不相关
误差项是自变量以外，解释因变量变异的部分。因为我们无法测量，所以称为误差。
导致误差项和自变量相关的几种情况：
影响因变量的自变量没有放入模型中
因果关系倒置(reverse causation)： 因变量成了自变量，可不就与误差相关了吗？因为误差本来就是解释因变量变异的
自变量的测量误差（measurement erros)： 没有完美的测量工具，measurement error必然存在，只有当测量误差比较大，或与自变量相关时，才有问题。例如，
误差项与自变量相关会导致什么问题？
3.方差齐性
不同的自变量X取值，对应的因变量Y的变化，应该是类似的，也就是Y的方差变化不能太大。如果因变量方差变化太大，也就是方差不齐，会导致几个后果： 1）斜率没有偏倚unbiased，但是斜率的误差变大了。 2）统计检验会出问题
4.不同个案之间的误差不相关 errors across cases are not correlated
也就是说，个案之间是相互独立，互不影响的。常见的影响个案独立性的群组效应，例如同一个班级的学生对某位老师的看法可能类似、同一个家庭的生活习惯也可能相似。追踪数据也会出现观察值之间有关联的问题，因为毕竟都是同一个人的数据，一个人在不同时期的体重可能具有很高的相关度。
如果个案之间相互影响，斜率依然没有偏倚unbiased，但是斜率的误差会变大（通常是变小），也会带来统计检验的问题。（why???)
5.正态分布
误差是正态分布的。
多元线性回归模型的检验 Detection of assumption violation
具体解释：
1.检验线性关系
1）偏回归图: 在简单线性回归（一个X一个Y）中，我们画出自变量和因变量的散点图大致可以判断是否为线性关系。但是在多元线性回归中，我们不能再用这种一个自变量和一个因变量的bivariate plot，因为它没有控制其他自变量的影响，而是应该用偏回归图。什么是偏回归图？partial regression plots (residuals of Y on the remaining explanatory variables vs residuals of the target explanatory variable on the remaining explanatory variables)
2)  检验多项式; 如果X的平方、X的三次方在多元线性回归方程中也显著，说明X和Y不是线性关系。
3) 检验虚拟变量dummy variables： 把X划分为几个虚拟变量，然后检验这几个虚拟变量和Y的关系如何。如果虚拟变量和Y的关系类似，那么比较有可能是线性，如果几个虚拟变量和Y之间的关系差异比较大，那么X和Y之间更有可能是非线性关系。例如，探讨年龄和幸福感之间的关系，把年龄分为6-19儿童，20-40青年，41-60中年，61以上老年几个年龄段，儿童的幸福感随着年龄的增长而提高，但青年和中年的幸福感可能随着时间而降低，老年时人的幸福感可能又会提高。
2.自变量与误差不相关
理论与逻辑推断
3.检验方差齐性
1) 偏回归图；
2) 自变量和因变量的散点图
如图就是一个方差不齐的例子，可以看到点越来越分散了，离散程度越来越大。
3）在stata中检验方差是否整齐：
Breusch-Pagan test, stata 命令: hettest （只用于检验线性的方差异质性）
White's general test, stata命令：首先ssc install whitetest 安装程序，然后whitetst.( 除了可以检验线性的异质性，还可以检验曲线的方差的异质性，也就是检验X平方、X三次方的方差是否整齐）
4.误差之间不相关
注意时间序列数据、群组数据，这些数据可能会有误差相关的问题
多元线性回归模型的修正 Remedies of assumption violation
1.线性关系：用正确的模型，如果是曲线关系应该用log转化，或平方项，或虚拟变量（见用多元线性回归模型表示曲线关系）
2.误差与自变量不相关：
1）增加遗漏的变量
2）如果有因果倒置reverse causation的问题： 2SLS
3）如果有measurement errors, multilevel models
3. 方差不齐：
robust standard error：也就是用white standard error, 在stata中只要reg y x1 x2, robust即可（具体原理待补充）
加权最小二乘法weighted least square：如果方差是整齐的，那么每一个数据都是被同等对待的，权重是一样的；如果方差不齐，那么我们就给方差小的数据更多的权重，给方差大的数据更少的权重（因为方差大意味着偏离整体的程度高）
4. 误差不相关：
1）multilevel/mixed model
2）autoregressive model

本文收集整理关于spss多元线性回归结果解读的相关议题，使用内容导航快速到达。
内容导航：
Q1：请高手帮忙分析下SPSS的多元线性回归结果吧~急啊~~~
你的回归方法是直接进入法
拟合优度R方等于0.678，表示自变量可以解释因变量的67.8%变化，说明拟合优度还可以。
方差检验表中F值对应的概率P值为0.000，小于显著度0.05，因此应拒绝原假设，说明自变量和因变量之间存在显著的线性关系。
参数检验表中只有自变量X2和常数项的概率P值为0.000，小于显著度0.05，而自变量X1和X3的概率P值大于显著度0.05，说明只有自变量X2对因变量在总体中存在显著的线性关系，X1、X3和因变量在总体中不存在显著的线性关系。
得到的线性方程为:y=-4.517-0.000028X1+0.76X2+0.000074X3(记住这里用的是直接进入法进行拟合方程的，所以即使X1和X3没通过检验，也要放到方程中去)
Q2：关于多元线性回归用spss分析后结果该怎么看
多元回归分析 你要先确定一下自变量间是否存在严重的共线性，如果没有共线性，然后还要通过散点矩阵看看是否成线性关系，这些之后才可以做多元线性回归
所以只看你现在的结果，的确只有x5才有意义， 所以你要根据
Q3：多元线性回归 spss如何结果分析
如果你做的是多元回归 看beta那列数据 绝对值越大影响越大 正负号是影响的方向
WWW.^yIJITaO.coM
Q4：SPSS13.0多元线性回归后得到的结果如何分析，从方差到B值，求解啊！越详细越好！方程的结果是什么啊？
第一个图是关于回归系数的，那个B应该就是你的每一项的回归系数了，但是你那个为什么会有那么多数字，我就不清楚了，可能是你变量的问题吧
中间的图是标准回归预测图吧，反正就是你在做回归的时候选的那个图表选项才会有的。
最后一个图是方差分析，给的平方，自由度，标准差，F统计量，显著性概率，楼主你这个回归的显著性是很好的。
但是我不知道你这个R的那个表去哪里了，R是相关系数；R Square是相关系数的平方，也是判定系数，用于判定线性回归的拟合程度，说明自变量解释因变量的程度(所占比例)。
如果这样你还不明白的话，你可以去下个中文版的SPSS了╮(╯▽╰)╭
Q5：运用SPSS多元线性回归分析得到下面结果，该怎么分析？
看回归系数对应的 sig值，若小于0.05，说明 该自变量对因变量具有显著营销，反之没有影响
Q6：SPSS多元线性回归结果怎么判断是有效的
不是，判wWw@.YiJITaO.coM断有效性是看p值。就是你的只有三行的那个表，依次写着回归，残差什么的。你看那个回归里边的p值。小于0.05就是模型有效
Q7：求高手帮忙分析下述spss多元线性回归结果案例！
从输出表看，这是个多元线性回归的分析结果啊！第一列显示了有6个自变量(第一行是常数项)，因变量是什么楼主没有显示出来。第二列是分别是常数项与6个自变量的回归系数。第三列是回归系数的标准误差。第四列是标准化的回归系数，因为标准化了，所以没有常数项了。第五列是对每个回归系数显著性检验的t值。通过与临界值对比可以判断哪些自变量是显著的。第五列是各个自变量显著性P值，相比于第四列，看这个值做显著性检验更方便。这些值(常数项没必要考虑)都小于0.05，可以认为在0.05的显著水平下，这些自变量都是显著的。另外，通过P值的大小，可以初步判断“interest”这个变量最显著，其次是GDP，也就是说，P值越小越显著。
WWw.yiJIt；AO.coM

##作业：分析影响中国人口自然增长的主要原因，并建立人口自然增长率与各经济因子之间的多元回归模型，并对建立的模型进行统计检验（包括拟合优度、F检验、t 检验，并用多元逐步回归方法解决多重共性问题。
%基于矩阵运算的多元线性回归分析

%参数估计

x1=[15037 17001 18718 21826 26937 35260 48108 59811 70142 78061 83024 88479 98000 108068 119096 135174 159587 184089 213132];

x2=[18.8 18 3.1 3.4	6.4 14.7 24.1 17.1 8.3 2.8 -0.8 -1.4 0.4 0.7 -0.8 1.2 3.9 1.8 1.5];

x3=[1366 1519 1644 1893	2311 2998 4044 5046 5846 6420 6796 7159 7858 8622 9398 10542 12336 14040 16024];

y=[15.73 15.04 14.39 12.98 11.6 11.45 11.21 10.55 10.42 10.06 9.14 8.18 7.58 6.95 6.45 6.01 5.87 5.89 5.38];

x=[x1;x2;x3];                                      %向量合并为矩阵

X=[ones(length(y),1) x’];                    %在矩阵中加入常数向量并转置

Y=y’;                                                  %因变量向量转置

[m,n]=size(x);                                    %计算自变量矩阵的行列数

B=inv(X’*X)*X’Y;                              %计算回归系数

Yp=XB;                                            %建立预测模型
%计算用于检验的统计量

R2=(abs(B’X’Y)-nmean(y)2)/(abs(Y’*Y)-n*mean(y)2);

%计算复相关系数

Radj2=R2-(1-R2)(m+1)/(n-m-1);                    %计算校正相关系数平方

s=sqrt((Y’*Y-B’*X’*Y)/(n-m-1));                        %计算标准误差

v=s/mean(y);                                                   %计算变异系数

F=(abs(B’*X’Y)-nmean(y)2)/(m*s2);            %计算F统计量

e=Y-Yp;                                                           %计算残差

i=1:n-1;                                                            %残差编号

DW=sumsqr(e(i+1)-e(i))/sumsqr(e);                %计算Durbin-Watson统计量
%计算偏自相关系数

i=1:n;j=1:m+1;                                                %定义矩阵元素编号

Xy=[x’ Y];                                                       %将变量合并为一个新矩阵

M=mean(Xy(:,j));                                           %计算各个变量的均值

S=std(Xy(:,j));                                                %计算各个变量的标准差

Mv=M(ones(n,1)😅;                                       %均值向量平移为矩阵

Sv=S(ones(n,1)😅;                                        %标准差向量平移为矩阵

Xs=(Xy-Mv)./Sv;                                           %数据标准化

Rs=cov(Xs);                                                  %计算简单相关系数矩阵

C=inv(Rs);                                                    %计算简单相关系数矩阵的逆矩阵

Cjy=C(:,m+1);                                               %提取逆矩阵的末列

Cjj=diag©;                                                  %提取逆矩阵的对角线元素

Pr=-Cjy./((Cjj*C(m+1,m+1)).^0.5);                %计算偏相关系数

Rjy=Pr(1:m);                                                %提取自变量的偏相关系数
%计算t统计量

i=1:n;j=1:m;                                           %定义矩阵元素编号

xt=x’;                                                     %自变量矩阵转置

M=mean(xt(:,j));                                    %计算自变量均值

N=M(ones(n,1)😅;                                 %均值向量平移为矩阵

Z=xt-N;                                                 %变量中心化

P=Z’Z;                                                 %计算自变量的交叉乘积和

D=inv§;                                              %交叉乘积和矩阵求逆

d=diag(D);                                            %提取逆矩阵的对角线元素

sb=d.^0.5s;                                         %计算参数标准误差

b=B(2:m+1);                                         %提取回归系数

T=b./sb;                                                %计算t统计量
%给出部分计算结果

B,R2,s,F,DW,T,Rjy                            %给出参数和统计量的计算值
%借助相关系数矩阵计算共线性容忍度和相应的VIF值

% x1=[15037 17001 18718 21826 26937 35260 48108 59811 70142 78061 83024 88479 98000 108068 119096 135174 159587 184089 213132];

% x2=[18.8 18 3.1 3.4	6.4 14.7 24.1 17.1 8.3 2.8 -0.8 -1.4 0.4 0.7 -0.8 1.2 3.9 1.8 1.5];

% x3=[1366 1519 1644 1893	2311 2998 4044 5046 5846 6420 6796 7159 7858 8622 9398 10542 12336 14040 16024];

x=[x1;x2;x3];                                %自变量向量合并为矩阵

[m,n]=size(x);                               %计算矩阵的行列数

i=1:n;j=1:m;                                 %定义矩阵元素编号

X=x’;                                           %自变量矩阵转置

M=mean(X(:,j));                          %计算各个变量的均值

S=std(X(:,j));                               %计算各个变量的标准差

Mv=M(ones(n,1)😅;                      %均值向量平移为矩阵

Sv=S(ones(n,1)😅;                       %标准差向量平移为矩阵

Xs=(X-Mv)./Sv;                            %数据标准化

Rs=cov(Xs);                                 %计算简单相关系数矩阵

C=inv(Rs);                                   %计算简单相关系数矩阵的逆矩阵

VIF=diag©;                                %提取对角线上的VIF值

Tol=ones(m,1)./VIF;                      %计算容忍度Tol值

Col=[[j]’ Tol VIF];                          %提取自变量的偏相关系数
%输出多重共线性判断计算结果

Rs
后话：本人只是搬运工，文章非原创！如有错误，请指出。