本博文源于《商务统计》,旨在讲述如何理解多元线性回归中的F检验。
 
问题起源
 

 我们通过统计软件计算多元线性回归的参数，计算测得后，如何更好的描述你拥有回归参数对y的影响呢？换句话说，如果某一个参数消失会不会对y产生影响。那我们就要做假设检验证明它们具有很强的线性关系。
 假设
 $$\begin{gathered} H_0:{\beta }_1={\beta }_2=....={\beta }_k=0线性关系不显著 \\ {H}_1:{\beta }_1,{\beta }_2,....{\beta }_k至少有一个不等于0 \end{gathered}$$
 
线性关系检验简要介绍
 
刚才上面给出了原假设和备择假设。它是检验因变量与所有自变量之间的线性关系是否显著.也被称为总体的显著性检验。
 所采用的检验方法是将回归均方和(MSR)同离差均方和(MSE)加以比较,应用F检验来分析二者之间的差别是否显著。
 
如果是显著的，因变量与自变量之间存在线性关系。
如果不显著，因变量与自变量之间不存在线性关系。
 
计算检验统计量F
 
$$F=\frac{SSR/k}{SSE/n-k-1}=\frac{{\sum }_{i=1}^n({\hat{y}}_i-\bar{y}{)}^2/k}{{\sum }_{i=1}^n(y_i-\hat{y}{)}^2/n-k-1}\sim F(k,n-k-1)$$
 确定显著性水平$\alpha$和分子自由度k、分母自由度n-k-1找出临界值$F_{\alpha }$
 
统计决策
 
若$F>F_{\alpha }$，或P值<$\alpha$，拒绝$H_0$
 
总结
 
当我们想要测定多元自变量是否整体与y因变量线性相关时，就需要F检验。 F检验的计算公式都已经给出，在相应的统计软件中只需要输入数据，选中几个选项即可。

F检验    对于多元线性回归模型，在对每个回归系数进行显著性检验之前，应该对回归模型的整体做显著性检验。这就是
F检验。当检验被解释变量
yt与一组解释变量
x
1, 
x
2 , ... ,
 xk 
-1是否存在回归关系时，给出的零假设与备择假设分别是 
H0：b1 = b2 = ... = bk-1 = 0 ,
 
H1：bi, i = 1, ..., k -1不全为零。
 
首先要构造F统计量。由（3.36）式知总平方和（SST）可分解为回归平方和（SSR）与残差平方和（SSE）两部分。与这种分解相对应，相应自由度也可以被分解为两部分。
 
SST具有T - 1个自由度。这是因为在T个变差 ( yt -), t = 1, ..., T，中存在一个约束条件，即 = 0。由于回归函数中含有k个参数，而这k个参数受一个约束条件  制约，所以SSR具有k -1个自由度。因为SSE中含有T个残差，= yt -, t = 1, 2, ..., T，这些残差值被k个参数所约束，所以SSE具有T - k个自由度。与SST相对应，自由度T - 1也被分解为两部分，
 
(T -1) = ( k - 1) + (T - k)                                              (3.44)
 
平方和除以它相应的自由度称为均方。所以回归均方定义为
 
MSR = SSR / ( k - 1)
 
误差均方定义为
 
MSE = SSE / (T - k)
 
（显然MSE = s 2 (见3.23式)，它的期望是s 2）。定义F统计量为
 
                                                    (3.45)
 
在H0成立条件下，有
 
F = ~ F(k -1, T - k)
 
设检验水平为 a ，则检验规则是
 
若用样本计算的F £ Fa (k -1, T - k)，则接受H0，
 
若用样本计算的F > Fa (k -1, T - k)，则拒绝H0。
 
拒绝H0意味着肯定有解释变量与yt存在回归关系。若F检验的结论是接受H0，则说明k – 1个解释变量都不与yt存在回归关系。此时，假设检验应该到此为止。当F检验的结论是拒绝H0时，应该进一步做t检验，从而确定模型中哪些是重要解释变量，哪些是非重要解释变量。
 
from：http://classroom.dufe.edu.cn/spsk/c102/wlkj/CourseContents/Chapter03/03_07_01.htm
 
http://classroom.dufe.edu.cn/spsk/c102/wlkj/CourseContents/Chapter03/
 

##作业：分析影响中国人口自然增长的主要原因，并建立人口自然增长率与各经济因子之间的多元回归模型，并对建立的模型进行统计检验（包括拟合优度、F检验、t 检验，并用多元逐步回归方法解决多重共性问题。
 
%基于矩阵运算的多元线性回归分析
 %参数估计
 x1=[15037 17001 18718 21826 26937 35260 48108 59811 70142 78061 83024 88479 98000 108068 119096 135174 159587 184089 213132];
 x2=[18.8 18 3.1 3.4 6.4 14.7 24.1 17.1 8.3 2.8 -0.8 -1.4 0.4 0.7 -0.8 1.2 3.9 1.8 1.5];
 x3=[1366 1519 1644 1893 2311 2998 4044 5046 5846 6420 6796 7159 7858 8622 9398 10542 12336 14040 16024];
 y=[15.73 15.04 14.39 12.98 11.6 11.45 11.21 10.55 10.42 10.06 9.14 8.18 7.58 6.95 6.45 6.01 5.87 5.89 5.38];
 x=[x1;x2;x3]; %向量合并为矩阵
 X=[ones(length(y),1) x’]; %在矩阵中加入常数向量并转置
 Y=y’; %因变量向量转置
 [m,n]=size(x); %计算自变量矩阵的行列数
 B=inv(X’*X)*X’Y; %计算回归系数
 Yp=XB; %建立预测模型
 
%计算用于检验的统计量
 R2=(abs(B’X’Y)-nmean(y)2)/(abs(Y’*Y)-n*mean(y)2);
 %计算复相关系数
 Radj2=R2-(1-R2)(m+1)/(n-m-1); %计算校正相关系数平方
 s=sqrt((Y’*Y-B’*X’*Y)/(n-m-1)); %计算标准误差
 v=s/mean(y); %计算变异系数
 F=(abs(B’*X’Y)-nmean(y)2)/(m*s2); %计算F统计量
 e=Y-Yp; %计算残差
 i=1:n-1; %残差编号
 DW=sumsqr(e(i+1)-e(i))/sumsqr(e); %计算Durbin-Watson统计量
 
%计算偏自相关系数
 i=1:n;j=1:m+1; %定义矩阵元素编号
 Xy=[x’ Y]; %将变量合并为一个新矩阵
 M=mean(Xy(:,j)); %计算各个变量的均值
 S=std(Xy(:,j)); %计算各个变量的标准差
 Mv=M(ones(n,1)😅; %均值向量平移为矩阵
 Sv=S(ones(n,1)😅; %标准差向量平移为矩阵
 Xs=(Xy-Mv)./Sv; %数据标准化
 Rs=cov(Xs); %计算简单相关系数矩阵
 C=inv(Rs); %计算简单相关系数矩阵的逆矩阵
 Cjy=C(:,m+1); %提取逆矩阵的末列
 Cjj=diag©; %提取逆矩阵的对角线元素
 Pr=-Cjy./((Cjj*C(m+1,m+1)).^0.5); %计算偏相关系数
 Rjy=Pr(1:m); %提取自变量的偏相关系数
 
%计算t统计量
 i=1:n;j=1:m; %定义矩阵元素编号
 xt=x’; %自变量矩阵转置
 M=mean(xt(:,j)); %计算自变量均值
 N=M(ones(n,1)😅; %均值向量平移为矩阵
 Z=xt-N; %变量中心化
 P=Z’Z; %计算自变量的交叉乘积和
 D=inv§; %交叉乘积和矩阵求逆
 d=diag(D); %提取逆矩阵的对角线元素
 sb=d.^0.5s; %计算参数标准误差
 b=B(2:m+1); %提取回归系数
 T=b./sb; %计算t统计量
 
%给出部分计算结果
 B,R2,s,F,DW,T,Rjy %给出参数和统计量的计算值
 
%借助相关系数矩阵计算共线性容忍度和相应的VIF值
 % x1=[15037 17001 18718 21826 26937 35260 48108 59811 70142 78061 83024 88479 98000 108068 119096 135174 159587 184089 213132];
 % x2=[18.8 18 3.1 3.4 6.4 14.7 24.1 17.1 8.3 2.8 -0.8 -1.4 0.4 0.7 -0.8 1.2 3.9 1.8 1.5];
 % x3=[1366 1519 1644 1893 2311 2998 4044 5046 5846 6420 6796 7159 7858 8622 9398 10542 12336 14040 16024];
 x=[x1;x2;x3]; %自变量向量合并为矩阵
 [m,n]=size(x); %计算矩阵的行列数
 i=1:n;j=1:m; %定义矩阵元素编号
 X=x’; %自变量矩阵转置
 M=mean(X(:,j)); %计算各个变量的均值
 S=std(X(:,j)); %计算各个变量的标准差
 Mv=M(ones(n,1)😅; %均值向量平移为矩阵
 Sv=S(ones(n,1)😅; %标准差向量平移为矩阵
 Xs=(X-Mv)./Sv; %数据标准化
 Rs=cov(Xs); %计算简单相关系数矩阵
 C=inv(Rs); %计算简单相关系数矩阵的逆矩阵
 VIF=diag©; %提取对角线上的VIF值
 Tol=ones(m,1)./VIF; %计算容忍度Tol值
 Col=[[j]’ Tol VIF]; %提取自变量的偏相关系数
 
%输出多重共线性判断计算结果
 Rs
 
后话：本人只是搬运工，文章非原创！如有错误，请指出。

终于找到一篇全面而又简洁的讲多元线性回归模型检验方法的文章
 PDF下载地址
 链接：https://pan.baidu.com/s/1UbyZcMC1VRTmlCEaX4Vybg
 提取码：g481
 
具体内容
 
一、经济意义检验
 经济意义检验主要检验模型参数估计量在经济意义。其表现为检验求得的参数估计值的符号与大小是否合理，是否与根据人们的经验和经济理论所拟定的期望值相符合。如果不符，则要查找原因和采取必要的修正措施，重新建立模型。 
二、统计检验
 
1.拟合优度检验(${R^2}$检验) 拟合优度检验是检验回归方程对样本观测值的拟合程度，即检验所有解释变量与被解释变量之间的相关程度。 
2.方程显著性检验(F检验)
 方程显著性检验就是对模型中解释变量与被解释变
 量之间的线性关系在总体上是否显著成立作出推断。即
 检验被解释变量Y与所有解释变量戈l，石2，……，菇^之间
 的线性关系是否显著，方程显著性检验所应用的方法是
 数理统计学中假设检验。
 
3.变量显著性检验(t检验)
 R2检验和F检验都是将所有的解释变量作为一个整体来检验它们与被解释变量Y的相关程度以及回归效果，但对于多元回归模型，方程的总体显著性并不意味每个解释变量对被解释变量Y的影响都是显著的。如果某个解释变量并不显著，则应该从方程中把它剔除，重新建立更为简单的方程。所以必须对每个解释变量进行显著性检验。
 
三、计量经济学检验
 计量经济学检验是由计量经济学理论决定的，目的 在于检验模型的计量经济学性质。通常检验准则有随机 误差项的序列相关检验和异方差性检验，解释变量的多 重共线性检验等，其中最常用的是随机误差项的序列相 关检验。 在回归分析法中，假设随机误差项在不同的样本点 之间是不相关的，即si与8i(i≠_『)相互独立。但在实际 问题中，经常出现与此相违背的情况，占i与si(i≠．『)之 间存在相关性，称为序列相关。若存在序列相关，则此时 的回归模型无效，必须重新建立回归模型。 在序列相关中，最常见的是一阶自相关即占i与sf+l 相关，而对一阶自相关最常用的检验方法是DW检验法 
模型预测检验
 预测检验主要检验模型参数估计量的稳定性以及相对样本容量变化时的灵敏度，确定所建立的模型是否可以用于样本观测值以外的范围，即模型的所谓超样本特性。具体检验方法为： 
①利用扩大了的样本重新估计模型参数，将新的估计值与原来的估计值进行比较，并检验二者之间差距的显著性。
 ②将所建立的模型用于样本以外某一时期的实际预测，并将该预测值与实际观测值进行比较，并检验二者之间差距的显著性。