精华内容
下载资源
问答
  • 本博文源于《商务统计》,旨在讲述如何理解多元线性回归中F检验。当我们想要测定多元自变量是否整体与y因变量线性相关时,就需要F检验F检验的计算公式都已经给出,在相应的统计软件只需要输入数据,选中几个...

    本博文源于《商务统计》,旨在讲述如何理解多元线性回归中的F检验。

    问题起源

    在这里插入图片描述
    我们通过统计软件计算多元线性回归的参数,计算测得后,如何更好的描述你拥有回归参数对y的影响呢?换句话说,如果某一个参数消失会不会对y产生影响。那我们就要做假设检验证明它们具有很强的线性关系。
    假设
    H 0 : β 1 = β 2 = . . . . = β k = 0 线 性 关 系 不 显 著 H 1 : β 1 , β 2 , . . . . β k 至 少 有 一 个 不 等 于 0 H_0:\beta_1=\beta_2=....=\beta_k=0 线性关系不显著\\ H_1:\beta_1,\beta_2,....\beta_k 至少有一个不等于0 H0:β1=β2=....=βk=0线H1:β1,β2,....βk0

    线性关系检验简要介绍

    刚才上面给出了原假设和备择假设。它是检验因变量与所有自变量之间的线性关系是否显著.也被称为总体的显著性检验。
    所采用的检验方法是将回归均方和(MSR)同离差均方和(MSE)加以比较,应用F检验来分析二者之间的差别是否显著。

    • 如果是显著的,因变量与自变量之间存在线性关系。
    • 如果不显著,因变量与自变量之间不存在线性关系。

    计算检验统计量F

    F = S S R / k S S E / n − k − 1 = ∑ i = 1 n ( y ^ i − y ˉ ) 2 / k ∑ i = 1 n ( y i − y ^ ) 2 / n − k − 1 ∼ F ( k , n − k − 1 ) F=\frac{SSR/k}{SSE/n-k-1}=\frac{\sum_{i=1}^n(\hat{y}_i-\bar{y})^2/k}{\sum_{i=1}^n(y_i-\hat{y})^2/n-k-1}\sim{F(k,n-k-1)} F=SSE/nk1SSR/k=i=1n(yiy^)2/nk1i=1n(y^iyˉ)2/kF(k,nk1)
    确定显著性水平 α \alpha α和分子自由度k、分母自由度n-k-1找出临界值 F α F_\alpha Fα

    统计决策

    F > F α F\gt{F_\alpha} F>Fα,或P值< α \alpha α,拒绝 H 0 H_0 H0

    总结

    当我们想要测定多元自变量是否整体与y因变量线性相关时,就需要F检验。 F检验的计算公式都已经给出,在相应的统计软件中只需要输入数据,选中几个选项即可。

    展开全文
  • 多元线性回归模型的F检验

    万次阅读 2017-02-13 14:03:08
    F检验 对于多元线性回归模型,在对每个回归系数进行显著性检验之前,应该对回归模型的整体做显著性检验。这就是F检验。当检验被解释变量yt与一组解释变量x1, x2 , ... , xk -1是否存在回归关系时,给出的零假设...
    F检验    对于多元线性回归模型,在对每个回归系数进行显著性检验之前,应该对回归模型的整体做显著性检验。这就是
    F检验。当检验被解释变量
    yt与一组解释变量
    x
    1x
    2 , ... ,
     x
    -1是否存在回归关系时,给出的零假设与备择假设分别是 
    

    H0b1 = b2 = ... = bk-1 = 0 ,

    H1bii = 1, ..., k -1不全为零。

    首先要构造F统计量。由(3.36)式知总平方和(SST)可分解为回归平方和(SSR)与残差平方和(SSE)两部分。与这种分解相对应,相应自由度也可以被分解为两部分。

    SST具有- 1个自由度。这是因为在T个变差 ( yt -), t = 1, ..., T,中存在一个约束条件,即 = 0。由于回归函数中含有k个参数,而这k个参数受一个约束条件  制约,所以SSR具有k -1个自由度。因为SSE中含有T个残差,yt -t = 1, 2, ..., T,这些残差值被k个参数所约束,所以SSE具有T - k个自由度。与SST相对应,自由度- 1也被分解为两部分,

    (-1) = ( k - 1) + (k)                                              (3.44)

    平方和除以它相应的自由度称为均方。所以回归均方定义为

    MSR = SSR / ( k - 1)

    误差均方定义为

    MSE = SSE / (k)

    (显然MSE = 2 (见3.23式),它的期望是2)。定义F统计量为

                                                        (3.45)

    在H0成立条件下,有

    F = ~ F(-1, k)

    设检验水平为 ,则检验规则是

    若用样本计算的F £ Fa (-1, k),则接受H0

    若用样本计算的F > Fa (-1, k),则拒绝H0

    拒绝H0意味着肯定有解释变量与yt存在回归关系。若F检验的结论是接受H0,则说明k – 1个解释变量都不与yt存在回归关系。此时,假设检验应该到此为止。当F检验的结论是拒绝H0时,应该进一步做t检验,从而确定模型中哪些是重要解释变量,哪些是非重要解释变量。

    from:http://classroom.dufe.edu.cn/spsk/c102/wlkj/CourseContents/Chapter03/03_07_01.htm

    http://classroom.dufe.edu.cn/spsk/c102/wlkj/CourseContents/Chapter03/

    展开全文
  • ##作业:分析影响中国人口...%基于矩阵运算的多元线性回归分析 %参数估计 x1=[15037 17001 18718 21826 26937 35260 48108 59811 70142 78061 83024 88479 98000 108068 119096 135174 159587 184089 213132]; x2=[18.8

    ##作业:分析影响中国人口自然增长的主要原因,并建立人口自然增长率与各经济因子之间的多元回归模型,并对建立的模型进行统计检验(包括拟合优度、F检验、t 检验,并用多元逐步回归方法解决多重共性问题。

    %基于矩阵运算的多元线性回归分析
    %参数估计
    x1=[15037 17001 18718 21826 26937 35260 48108 59811 70142 78061 83024 88479 98000 108068 119096 135174 159587 184089 213132];
    x2=[18.8 18 3.1 3.4 6.4 14.7 24.1 17.1 8.3 2.8 -0.8 -1.4 0.4 0.7 -0.8 1.2 3.9 1.8 1.5];
    x3=[1366 1519 1644 1893 2311 2998 4044 5046 5846 6420 6796 7159 7858 8622 9398 10542 12336 14040 16024];
    y=[15.73 15.04 14.39 12.98 11.6 11.45 11.21 10.55 10.42 10.06 9.14 8.18 7.58 6.95 6.45 6.01 5.87 5.89 5.38];
    x=[x1;x2;x3]; %向量合并为矩阵
    X=[ones(length(y),1) x’]; %在矩阵中加入常数向量并转置
    Y=y’; %因变量向量转置
    [m,n]=size(x); %计算自变量矩阵的行列数
    B=inv(X’*X)*X’Y; %计算回归系数
    Yp=X
    B; %建立预测模型

    %计算用于检验的统计量
    R2=(abs(B’X’Y)-nmean(y)2)/(abs(Y’*Y)-n*mean(y)2);
    %计算复相关系数
    Radj2=R2-(1-R2)
    (m+1)/(n-m-1); %计算校正相关系数平方
    s=sqrt((Y’*Y-B’*X’*Y)/(n-m-1)); %计算标准误差
    v=s/mean(y); %计算变异系数
    F=(abs(B’*X’Y)-nmean(y)2)/(m*s2); %计算F统计量
    e=Y-Yp; %计算残差
    i=1:n-1; %残差编号
    DW=sumsqr(e(i+1)-e(i))/sumsqr(e); %计算Durbin-Watson统计量

    %计算偏自相关系数
    i=1:n;j=1:m+1; %定义矩阵元素编号
    Xy=[x’ Y]; %将变量合并为一个新矩阵
    M=mean(Xy(:,j)); %计算各个变量的均值
    S=std(Xy(:,j)); %计算各个变量的标准差
    Mv=M(ones(n,1)😅; %均值向量平移为矩阵
    Sv=S(ones(n,1)😅; %标准差向量平移为矩阵
    Xs=(Xy-Mv)./Sv; %数据标准化
    Rs=cov(Xs); %计算简单相关系数矩阵
    C=inv(Rs); %计算简单相关系数矩阵的逆矩阵
    Cjy=C(:,m+1); %提取逆矩阵的末列
    Cjj=diag©; %提取逆矩阵的对角线元素
    Pr=-Cjy./((Cjj*C(m+1,m+1)).^0.5); %计算偏相关系数
    Rjy=Pr(1:m); %提取自变量的偏相关系数

    %计算t统计量
    i=1:n;j=1:m; %定义矩阵元素编号
    xt=x’; %自变量矩阵转置
    M=mean(xt(:,j)); %计算自变量均值
    N=M(ones(n,1)😅; %均值向量平移为矩阵
    Z=xt-N; %变量中心化
    P=Z’Z; %计算自变量的交叉乘积和
    D=inv§; %交叉乘积和矩阵求逆
    d=diag(D); %提取逆矩阵的对角线元素
    sb=d.^0.5
    s; %计算参数标准误差
    b=B(2:m+1); %提取回归系数
    T=b./sb; %计算t统计量

    %给出部分计算结果
    B,R2,s,F,DW,T,Rjy %给出参数和统计量的计算值

    %借助相关系数矩阵计算共线性容忍度和相应的VIF值
    % x1=[15037 17001 18718 21826 26937 35260 48108 59811 70142 78061 83024 88479 98000 108068 119096 135174 159587 184089 213132];
    % x2=[18.8 18 3.1 3.4 6.4 14.7 24.1 17.1 8.3 2.8 -0.8 -1.4 0.4 0.7 -0.8 1.2 3.9 1.8 1.5];
    % x3=[1366 1519 1644 1893 2311 2998 4044 5046 5846 6420 6796 7159 7858 8622 9398 10542 12336 14040 16024];
    x=[x1;x2;x3]; %自变量向量合并为矩阵
    [m,n]=size(x); %计算矩阵的行列数
    i=1:n;j=1:m; %定义矩阵元素编号
    X=x’; %自变量矩阵转置
    M=mean(X(:,j)); %计算各个变量的均值
    S=std(X(:,j)); %计算各个变量的标准差
    Mv=M(ones(n,1)😅; %均值向量平移为矩阵
    Sv=S(ones(n,1)😅; %标准差向量平移为矩阵
    Xs=(X-Mv)./Sv; %数据标准化
    Rs=cov(Xs); %计算简单相关系数矩阵
    C=inv(Rs); %计算简单相关系数矩阵的逆矩阵
    VIF=diag©; %提取对角线上的VIF值
    Tol=ones(m,1)./VIF; %计算容忍度Tol值
    Col=[[j]’ Tol VIF]; %提取自变量的偏相关系数

    %输出多重共线性判断计算结果
    Rs

    后话:本人只是搬运工,文章非原创!如有错误,请指出。

    展开全文
  • 多元线性回归模型检验方法

    万次阅读 2019-08-10 22:07:21
    终于找到一篇全面而又简洁的讲多元线性回归模型检验方法的文章 PDF下载地址 链接:https://pan.baidu.com/s/1UbyZcMC1VRTmlCEaX4Vybg 提取码:g481 具体内容 一、经济意义检验 经济意义检验主要检验模型参数估计量在...

    终于找到一篇全面而又简洁的讲多元线性回归模型检验方法的文章
    PDF下载地址
    链接:https://pan.baidu.com/s/1UbyZcMC1VRTmlCEaX4Vybg
    提取码:g481

    具体内容

    一、经济意义检验

    经济意义检验主要检验模型参数估计量在经济意义。其表现为检验求得的参数估计值的符号与大小是否合理,是否与根据人们的经验和经济理论所拟定的期望值相符合。如果不符,则要查找原因和采取必要的修正措施,重新建立模型。

    二、统计检验

    1.拟合优度检验(${R^2}$检验) 拟合优度检验是检验回归方程对样本观测值的拟合程度,即检验所有解释变量与被解释变量之间的相关程度。

    2.方程显著性检验(F检验)
    方程显著性检验就是对模型中解释变量与被解释变
    量之间的线性关系在总体上是否显著成立作出推断。即
    检验被解释变量Y与所有解释变量戈l,石2,……,菇^之间
    的线性关系是否显著,方程显著性检验所应用的方法是
    数理统计学中假设检验。

    3.变量显著性检验(t检验)
    R2检验和F检验都是将所有的解释变量作为一个整体来检验它们与被解释变量Y的相关程度以及回归效果,但对于多元回归模型,方程的总体显著性并不意味每个解释变量对被解释变量Y的影响都是显著的。如果某个解释变量并不显著,则应该从方程中把它剔除,重新建立更为简单的方程。所以必须对每个解释变量进行显著性检验。

    三、计量经济学检验

    计量经济学检验是由计量经济学理论决定的,目的 在于检验模型的计量经济学性质。通常检验准则有随机 误差项的序列相关检验和异方差性检验,解释变量的多 重共线性检验等,其中最常用的是随机误差项的序列相 关检验。 在回归分析法中,假设随机误差项在不同的样本点 之间是不相关的,即si与8i(i≠_『)相互独立。但在实际 问题中,经常出现与此相违背的情况,占i与si(i≠.『)之 间存在相关性,称为序列相关。若存在序列相关,则此时 的回归模型无效,必须重新建立回归模型。 在序列相关中,最常见的是一阶自相关即占i与sf+l 相关,而对一阶自相关最常用的检验方法是DW检验法

    模型预测检验

    预测检验主要检验模型参数估计量的稳定性以及相对样本容量变化时的灵敏度,确定所建立的模型是否可以用于样本观测值以外的范围,即模型的所谓超样本特性。具体检验方法为:

    ①利用扩大了的样本重新估计模型参数,将新的估计值与原来的估计值进行比较,并检验二者之间差距的显著性。
    ②将所建立的模型用于样本以外某一时期的实际预测,并将该预测值与实际观测值进行比较,并检验二者之间差距的显著性。

    展开全文
  • R语言:多元线性回归和模型检验

    万次阅读 多人点赞 2015-01-02 17:02:43
    R语言:多元线性回归和模型检验
  • 二、回归模型检验检验回归模型的好坏常用的是F检验和t检验。F检验验证的是偏回归系数是否不全为0(或全为0),t检验验证的是单个自变量是否对因变量的影响是显著的(或不显著)。F检验和t检验步骤:提出问题的原假设...
  • 多元线性回归检验

    千次阅读 2020-07-13 10:43:33
    多元线性回归模型通常用来研究一个应变量依赖多个自变量的变化关系,如果二者的以来关系可以用线性形式来刻画,则可以建立多元线性模型来进行分析。 1.t检验 t检验是对单个变量系数的显著性检验,一般看p值;如果p...
  • 终于找到一篇全面而又简洁的讲多元线性回归模型检验方法的文章,涵盖了 主要的统计检验——F检验、t检验、DW检验
  • 多元线性回归模型的检验

    千次阅读 2019-05-10 11:18:47
    1.总平方和、回归平方和、残差平方和 因变量体重是一个数值,这个数值一般来说不会太大,也不会太小,是在一个范围内的。我们可以简单认为,这个"范围”越大,人们的体重多样性越大(严格来说,范围大说明极差比较大...
  • 多元线性回归模型

    万次阅读 多人点赞 2019-07-02 19:22:12
    多元线性回归模型通常用来研究一个应变量依赖多个自变量的变化关系,如果二者的以来关系可以用线性形式来刻画,则可以建立多元线性模型来进行分析。 1.模型简介 1.1模型的结构 多元线性回归模型通常用来描述变脸y和x...
  • 利用MATLAB进行多元线性回归 2.线性回归 b=regress(y,X) [b,bint,r,rint,s]=regress(y,X,alpha) 输入: y~因变量(列向量), X~1与自变量组成的矩阵, Alpha~显著性水平(缺省时设定为0.05) s: 3个统计统计 量:决定...
  • 【回归分析】[5]--多元线性回归对参数的F检验 目标:为了检验 (a).多个系数同时为0 (b).系数相等 (c).系数存在线性关系 思想: 利用条件得到简化模型,用简化模型与原模型比较,若两者误差相差不大...
  • 多元统计分析之多元线性回归的R语言实现多元统计分析--multivariate statistical analysis研究客观事物多个变量之间相互依赖的统计规律性。或从数学上说, 如果个体的观测数据能表为 P维欧几里得空间的点,那么...
  • 多元线性回归 一个因变量依赖两个或两个以上自变量变化而变化的回归模型称为多元线性回归 ● 一元线性回归: y(x)=theta0 + theta1* x 1 ● 多元线性回归: y(x)=theta0 + theta1* x 1 + theta2* x 2 + theta3* x...
  • 多元线性回归模型是一种简单而且有效的数学模型,一直在各领域广泛使用。一个多元回归模型建好后,如何评价模型的优劣呢?1. F检验因变量的总变异(数据与均值之差的平方和,记为SStotal)由回归平方和(因变量的变异...
  • VB开发,可计算多元线性回归方程,并进行方程F检验和偏回归显著性检验
  • matlab实现一元线性回归和多元线性回归

    万次阅读 多人点赞 2018-01-30 10:58:46
    回归分析,如果有两个或两个以上的自变量,就称为多元回归。事实上,一种现象常常是与多个因素相联系的,由多个自变量的最优组合共同来预测或估计因变量,比只用一个自变量进行预测或估计更有效,更符合实际。 ...
  • 2.0多元线性回归

    2020-05-16 08:34:13
    多元线性回归模型的显著性检验 回归方程是否显著: F 检验 回归系数是否显著:t 检验 多元线性回归模型的相关系数 自变量的标准化 简单相关系数 复相关系数与偏相关系数 多元线性回归案例 汽车油耗分析 建模 模型...
  • 线性回归模型属于经典的统计学模型,该模型的应用场景是根据已知的变量(自变量)来预测某个连续的数值变量(因变量)。例如,餐厅根据每天的营业数据(包括菜谱价格、就餐人数、预定人数、特价菜折扣等)预测就餐...
  • 多元线性回归及显著性检验Matlab程序完美版 一说明 1本程序是硕士教材数理统计杨虎刘琼钟波 编著 例4.4.1P133Matlab编程解答程序教材上例题只做了回归方程显著性分析和一次回归系数显著性分析剔除x1后没有再检验x2和...
  • 多元线性回归

    2021-10-18 10:18:56
    多元线性回归所需线性代数知识矩阵运算加减数乘内积 模 正交矩阵乘法 结合律 乘积的转置对称阵 方阵逆阵 乘积逆 二阶逆阵计算特征值 特征向量矩阵的秩 及性质迹幂等矩阵 及性质向量导数 二次型多元线性回归模型条件...
  • 多元线性回归总结

    万次阅读 2018-10-26 10:51:45
    相对上一篇文章之的一元线性回归,多元线性回归的主要特点是,自变量不再是一组数据,而是由多于一组以上的数据作为自变量。所以,多元线性回归的模型形式为: 其中,...是待定系数。是自变量,是剩余项。 ...
  • SPSS多元线性回归输出结果的详细解释

    万次阅读 多人点赞 2017-06-27 17:41:05
    最近做了一些用SPSS进行线性回归的实验,还是感觉很多细节把握不好,这里结合我的实验结果,以及网上别人的介绍总结一下,先贴几张SPSS的输出: 下面简单解释一下这三张图的结果: 第一个表模型汇总表,...
  • 多元线性回归的基本表达式在多元线性回归中会有多个解释变量:预测解释变量的估计方程如下:注:额外的假设条件①解释变量之间不能存在太强的线性相关关系(一般ρ<0.7)②其他条件与一元线性回归类似。2.回归方程...
  • 多元线性回归之预测房价一、多元线性回归二、使用EXCEL三、Python使用Sklearn分析四、总结参考 一、多元线性回归 在回归分析,如果有两个或两个以上的自变量,就称为多元回归。事实上,一种现象常常是与多个...
  • 线性回归的假设检验及Python编程0 引言1 一元线性回归模型2 对于回归方程的检验F检验T检验一元线性回归的Python编程实现与 `statsmodels` 包的对比关于多元线性回归 0 引言 本文介绍一元线性回归的基本假设,推导...

空空如也

空空如也

1 2 3 4 5 ... 20
收藏数 3,111
精华内容 1,244
关键字:

多元线性回归中的f检验