🚀【MOOC数学建模与实验---学习笔记---整理汇总表】🚀

🌈【学习网址：MOOC---郑州轻工业大学---数学建模与实验】🌈

【第1、2章】【概述、软件介绍】
	
【第3章】【数据处理方法】
	
【第4章】【规划模型】
	
【第5章】【图与网络模型】
	
【第6章】【微分方程模型】
	
【第7章】【统计模型】
	
【第8章】【系统评价决策模型】
	
【各个章节---作业题解析】


目   录

7.1 单因素方差分析

7.1.1 方差分析概念

7.1.2 单因素方差分析的数据结构

例7.1.1  三种治疗方案对降血糖的疗效比较

7.1.3 单因素方差分析模型

定理7.1.1 总变异 = 组间变异 + 组内变异

例7.1.1 Matlab求解

7.2 双因素方差分析

7.2.1 问题引入

7.2.2 双因素方差分析的数据结构

7.2.3 因素方差分析模型

1. 无交互作用的双因素方差分析模型

2. 有交互作用的双因素方差分析模型

7.3 一元线性回归分析

7.3.1 回归分析的概念

相关关系的类型

7.3.2 一元线性回归模型

1.回归参数的估计

2.回归模型的显著性检验

3.回归参数的显著性检验

7.3.3 一元线性回归分析应用

7.4 多元线性回归分析

7.4.1 多元线性回归模型

多元线性回归分析内容

7.4.2 回归参数的估计

7.4.3 回归方程的拟合优度

7.4.4 显著性检验

1.模型的显著性检验

2. 偏回归系数的显著性检验

7.4.5 共线性诊断

7.5 牙膏价格问题

7.5.1 问题描述

7.5.2 问题分析

7.5.3 模型假设与符号

7.5.4 模型建立与求解

1.牙膏价格差对销售量影响模型

2.广告费用对销售量影响模型

3.牙膏价格差与广告费用对销售量影响模型

4.模型改进

7.5.5 结果分析

7.6 方差分析与回归分析的SPSS实现

7.6.1 SPSS软件概述

1 SPSS版本与安装

2 SPSS界面

3 SPSS特点

4 SPSS数据

7.6.2 SPSS与方差分析

1 单因素方差分析

2 双因素方差分析

7.6.3 SPSS与回归分析 

SPSS回归分析过程

牙膏价格问题的回归分析


数学方法解决实际问题，应用数学方法、概念：应用 -> 理论 -> 研究



常用数据分析统计方法：方差分析、回归分析、主成分分析、因子分析、聚类分析、判别分析...

历年赛题方法（全国赛）：

2010B 上海世博会影响力的定量评估
	
2012A 葡萄酒的评价（回归分析、关联性分析）
	
2013A 车道被占用对城市道路通行能力的影响（回归分析）
	
2017B “拍照赚钱”的任务定价（回归分析、聚类分析）
主要内容：方差分析、回归分析

单因素方差分析
	
多因素方差分析
	
一元回归分析
	
多元回归分析


7.1 单因素方差分析


数据分析   统计模型：方差分析模型、回归分析模型、主成分分析模型、聚类分析模型、因子分析模型


7.1.1 方差分析概念


在工农业生产和科学研究中，经常遇到这样的问题：影响产品产量、质量的因素很多，我们需要了解在这众多的因素中，哪些因素对影响产品产量、质量有显著影响。为此，要先做试验，然后对测试的结果进行分析。方差分析（Analysis of Variance，简称ANOVA）就是分析测试结果的一种方法。                主要是多组实验数据比较所采用的方法



方差分析是检验多组样本均值间的差异是否具有统计意义的一种方法。
例如，医学界研究几种药物对某种疾病的疗效；农业研究土壤、肥料、日照时间等因素对某种农作物产量的影响；不同饲料对牲畜体重增长的效果等都可以使用方差分析方法去解决。


7.1.2 单因素方差分析的数据结构


若指标观测值X只受一个因素A的影响，检验A在取不同的状态或水平时，对指标值X的影响称为单因素试验。
	
观测值X称为因变量(响应变量)，是连续型的数值变量。
	
因素(Factor)A是影响因变量变化的客观条件。
设因素A有r个水平，每个水平下重复观测n次（n：重复数），则观测数据为如下形式

   ：第i行的平均值；：整个实验数据的算数平均值（总均值）


例7.1.1  三种治疗方案对降血糖的疗效比较


例7.1.1 某医生研究一种四类降糖新药的疗效，按完全随机设计方案治疗糖尿病患者，治疗一月后，记录下每名受试者血糖下降值，资料见下表，问三种治疗方案对降血糖的疗效是否相同？【No，第1组疗效显著高于另外两组！】



每一组，18名受试验者。3个剂量水平，每个剂量水平 重复观测 18次（n=18）。比较均值！


7.1.3 单因素方差分析模型


方差分析是从总体上判断多组数据平均数（r≥3）之间的差异是否显著。
	
方差分析将全部数据看成是一个整体，分析构成变量的变异原因，进而计算不同变异来源的总体方差的估值。然后进行F检验，判断各样本的总体平均数是否有显著差异。若差异显著，再对平均数进行两两之间的比较。
假设检验：分析数据之间差异是否显著。



   i：代表水平；j：代表重复数

 ： 观测值 = 治疗方案 + 随机因素

 ：反映第x种(x = 1\2\3)治疗方案的平均治疗水平。



 H0：原假设；各个水平下的均值相同

H0：先假定不同水平下的均值是相等的；三种治疗方案之间是没有差异的。-> 利用 数据分析 进行检验（类似于 反证法）



单因素方差分析法是将样本总偏差的平方和分解成两个平方和（因子平方和和误差平方和），通过这两个平方和之间的比较，导出假设检验的统计量和拒绝域。



总偏差平方和：所有数据的偏差平方和。（求和：每个观测值与总均值之间的差的平方。）

因子平方和：比较各个水平(行)下，数据之间的差异。xi：第i个水平下的样本均值。每个水平下的均值与总均值的偏差平方和。

误差平方和：各个组内的偏差平方和。每一行数据内部的偏差平方和。主要与 随机误差 有关。

自由度：自由取值的变量个数。


定理7.1.1 总变异 = 组间变异 + 组内变异




ST：所有数据之间的差异（xij之间的差异越大，ST就越大）。

 ： (组间变异\不同治疗方案) + (组内变异)

H0：原假设（）





用“均方和”进行比较：消除自由度的影响。MSA、MSE进行比较：观察SA、SE哪个引起的误差偏大。

如果，因子平方和 所占的比例较大：各个因子之间的差异较大；

如果，误差平方和 所占的比例较大：数据之间的差异，主要由随机误差引起。

数据量越多，随机因素多占的比例越大，ST越大，∴ 用均方和进行比较。

 ：F分布(第一自由度, 第二自由度)

第一自由度：(r-1)、(水平数-1)          第二自由度：(n-r)、(样本观测值的个数-水平数)

H0不合理：SA占的比例越大，F越大，越拒绝原假设。

一般，r ≥ 3   《概率论与数理统计》





拒绝原假设（各个水平下的均值相等）：各个水平下的均值 有 显著差异。P值越小（小于α）（α一般为0.05）






例7.1.1 Matlab求解






% 例7.1.1
x = xlsread('C:\Users\lwx\Desktop\chapter7.xlsx','Sheet1','A1:C18') % 读取数据
% 每个水平（列）下 观测值、重复数都是一样的 单因素误差分析：重复数一样的数据容易分析处理
[p,table,stats] = anova1(x)



图1：方差分析表        图2：均值盒形图    箱形图    红线：反映平均血糖下降值(第1个下降值最高)     

    

n:[18 18 18]：样本量          s：残差均方           残差自由度：51       means：均值比较

三列数据：三组治疗方案的治疗效果；18个测试者；行数：重复数。






7.2 双因素方差分析

7.2.1 问题引入


在实际应用中，指标值（因变量）往往受多个不同因素的影响。不仅这些因素会影响指标值，而且这些因素的不同水平交叉也会影响指标值。统计学中把多个因素不同水平交叉对指标值的影响称为交互作用。在多因素方差分析中，交互作用作为一个新因素来处理。 这里介绍两个因素的方差分析，亦称为双因素方差分析。






7.2.2 双因素方差分析的数据结构


假设在观测指标X的试验中，有两个变化因素A和B。因素A有r个水平，记作A1 ,A2 ,…,Ar；因素B有k个水平，记作B1 ,B2 ,…,Bk；则A 与B的不同水平组合（i=1,2,…,r；j=1,2,…,k）共有rk个，每个 水平组合称为一个处理，每个处理作m次试验（亦可1次试验），得rkm个观测值，双因素的有重复（无重复）观测数据表7.2.2。
   交叉项：重复观测数

A1、B1水平下，有m个观测值。


7.2.3 因素方差分析模型

1. 无交互作用的双因素方差分析模型


在双因素方差分析中，若不考虑两因素的交互作用效应，数据可采用无重复观测。

   类似于 单因素方差分析

x11...xrk：交叉水平下的观测值。

：第i行的算数平均（代表因素A的各个水平下的样本平均值）；

：第j列的算数平均（代表因素B的各个水平下的样本平均值，因素B的第j个水平下 数据的算数平均）；

：所有数据的算数平均（总算数平均值）。



 ：第i个水平下



在无交互作用下，分析因素A，B的不同水平对试验结果是否有显著影响，即为检验如下假设是否成立：

 检验两组假设：假设因素A下，不同水平下的均值没有差异；假设因素B...



类似单因素方差分析数据的处理，在上述定义下，无交互作用双因素方差分析模型中的平方和分解如下。

 m=1的情况。

SA：不同行数据之间的差异，因素A的不同水平之间的差异；SB：不同列数据之间的差异。SE：随机误差平方和。





检验两组假设：假设因素A下，不同水平下的均值没有差异；假设因素B...   -->   构造两个检验统计量。








在Matlab中进行双因素方差分析，采用命令

[p, table, stats] = anova2(x，reps)

reps：试验数据（每个交叉水平下）重复次数，缺省时为1。





% 例7.2.1
x = [365,350,343,340,323;345,368,363,330,333;
    358,232,353,343,308;288,280,298,260,298]'; % 不转置 也行
[p,table,stats] = anova2(x)



  此图，表格数据有误。看matlab运行图，即可。

P值越大，越不拒绝原假设。


2. 有交互作用的双因素方差分析模型




在数据分析种，不一定存在交互作用，但是可以通过数据处理来识别有没有交互作用。

交叉水平下的重复数 m。l：交叉水平下的重复数。

：第i行的算数平均（代表因素A的各个水平下的样本平均值）；

：第j列的算数平均（代表因素B的各个水平下的样本平均值，因素B的第j个水平下 数据的算数平均）；

：因素A、B交叉水平下的平均值。



存在交互作用的情况下，双因素方差分析需要检验如下假设



原假设 H03：假设不存在交互作用。










 重复观测、交互作用影响



拒绝原假设（各个水平下的均值相等）：各个水平下的均值 有 显著差异。P值越小（小于α）（α一般为0.05）

P值大，不拒绝 原假设。



% 例7.2.2
x = [26,19;24,20;27,23;25,22;25,21;
    20,18;17,17;22,13;21,16;17,12];
[p,table,stats] = anova2(x,5) % 5:每个交叉水平下的重复数




7.3 一元线性回归分析


 在应用问题研究当中，如果涉及到变量与变量之间的分析，可以借助回归分析来进行研究。


7.3.1 回归分析的概念


研究变量间的关系常有两种。

确定性关系（函数关系）
如圆面积与圆半径的关系；价格一定时，商品销售额与销售量的关系等。

相关关系
如父亲与子女身高的关系；收入水平与受教育程度间的关系等。

变量间的相关关系不能用完全确切的函数形式表示，但在平均意义下 有一定的定量关系表达式。研究总体（总体规律）


相关关系的类型


   不相关：无明显相关关系



回归分析（Regression Analysis）就是研究变量间的相关关系的统计方法，是英国生物学家兼统计学家高尔顿在研究父代与子代身高关系时得到的分析方法。

通过对客观事物中变量的大量观察或试验获得的数据，寻找隐藏在数据背后的相关关系，并给出它们的表达形式——回归函数的估计。

回归分析主要用于研究指标的估计和预测。

通过数据分析，得到 回归表达式（回归函数），对变量进行估计、预测。



设变量y与x（一维或多维）间有相关关系，称x为自变量(解释变量)，y为因变量(被解释变量)。

若x为一般变量，在获得x取值后，设y 的取值为一随机变量，可表示为

                                       y = f(x) + ε

上式称为一般回归模型，其中ε称为随机误差项，一般假设 ε~N(0, )。正态分布


7.3.2 一元线性回归模型


 ：反映 x组数据与y组数据的线性相关程度。

 越大，线性相关程度越强。            || ≤ 1              





一元线性回归分析内容

（1）回归参数的估计

（2）回归模型的显著性检验

（3）回归参数的显著性检验


1.回归参数的估计




yi：观测值          最小二乘法（参数估计、数据拟合）              ：yi的回归值

 (7.3.3) 求导式



 ：x、y数据的样本均值




2.回归模型的显著性检验








在模型假定下，可以证明



对模型（7.3.2）的显著性提出假设

      H0 : 回归方程不显著，H1 : 回归方程显著

如果回归方程显著，意味着SSE应该比较小，F值应该比较大，所以在显著水平α下，当  (1,n-2)时，拒绝原假设，认为回归方程显著。






3.回归参数的显著性检验


 t^2 = F



MATLAB进行回归分析的命令为 regress，其调用方式为 [b,bint,r,rint,stats] = regress(y, x) ，其输出结果为

b ：回归方程的系数
	
bint：回归方程系数的95%置信区间
	
r: 回归方程的残差
	
rint：残差的95%置信区间
	
stats: 可决系数、模型检验F值、模型检验P值


7.3.3 一元线性回归分析应用


例7.3.1 为研究销售收入与广告费用支出之间的关系，某医药管理部门随机抽取20家药品生产企业，得到它们的年销售收入和广告费用支出(万元)的数据如下表。分析销售收入与广告费用之间的关系。













分析 由表（1）可得模型检验F值为116.3958，P值非常小，即模型是显著的；由表（2）可得模型的决定系数 = 0.866067，接近于1，说明模型拟合效果较好；由表（3）可得回归方程的系数 = 274.5502， = 5.1308，且参数检验的P值较小，显著非零，则回归方程为



根据得到的回归方程可进行因变量y的估计和预测。


7.4 多元线性回归分析


研究多个变量之间相关性的常用统计方法：多元线性回归分析。


7.4.1 多元线性回归模型


实际应用中影响因变量变化的因素往往有多个，例如产出受各种投入要素（资本、劳动力、技术等）的影响；销售额受价格和广告费投入等的影响。      研究 多个变量 影响 因变量的情况。

回归模型中自变量（解释变量）个数为两个及两个以上时，即为多元回归模型。

多元线性回归模型的一般形式为

 （p=1：一元线性回归模型）

，，...， 称为 偏回归系数               ：辅助作用，根据实际问题分析，选择是否保留。
	
 表示假定其他变量不变，当 xi 每变动一个单位时，y 的平均变动值。 






多元线性回归分析内容


回归参数的估计
	
回归方程的拟合优度
	
显著性检验
	
共线性诊断


7.4.2 回归参数的估计




 ：第p个自变量的观测值。

yi的值 由 自变量xi的线性回归值、随机误差  的值 所构成。



Y：因变量构成的列向量；：回归参数向量；：随机误差项构成的向量。



 偏导数 = 0






7.4.3 回归方程的拟合优度













7.4.4 显著性检验


多元线性回归分析的显著性检验包括模型的显著性检验和各偏回归系数的显著性检验。


1.模型的显著性检验





2. 偏回归系数的显著性检验




关于模型的显著性检验 不拒绝 原假设 时，模型是不显著的，此时 不必做 偏回归系数的显著性检验。






7.4.5 共线性诊断


多元线性回归分析中，要求回归模型（7.4.1）中自变量之间线性无关。若有两个或两个以上的自变量彼此相关，称模型存在多重共线性。

多重共线性产生的问题

（1）可能会使回归的结果造成混乱，甚至会把分析引入歧途；

（2）可能对参数估计值的正负号产生影响，特别是各回归系数的正负号有可能同预期的正负号相反 。



检测多重共线性的最简单的一种办法是计算模型中各对自变量之间的相关系数，并对各相关系数进行显著性检验。若有一个或多个相关系数显著，就表示模型中所用的自变量之间相关，存在着多重共线性。

如果出现下列情况，暗示存在多重共线性。（存在多重共线性，需要对模型进行修正）

模型中各对自变量之间显著相关；
	
当模型的线性关系检验(F检验)显著时，几乎所有回归系数的t检验却不显著；
	
回归系数的正负号与预期的相反。


7.5 牙膏价格问题

7.5.1 问题描述


某大型牙膏制造企业为了更好地拓展产品市场，有效地管理库存，公司董事会要求销售部门根据市场调查，找出公司生产的牙膏销 售量与销售价格、广告投入等因素之间的关系，从而预测出在不同价格和广告费用下的销售量。表7.5.1是30个销售周期(4周为1销售周期)中收集到的资料。试根据这些数据建立一个数学模型，分析牙膏的销售量与其它因素的关系，为制定价格策略和广告投入提供决策依据。




7.5.2 问题分析


1.牙膏价格与销售量

由于牙膏是小件生活必需品，对大多数顾客来说，在购买同类产品的牙膏时更多地会在意不同品牌中间的价格差异，而不是他们的 价格本身。因此在研究各个因素对销售量的影响时，用价格差代替公司销售价格更为合适。

通过分析其他厂家牙膏价格与本公司牙膏价格差对销售量的影响关系，建立价格差与销售量的相关模型。

2.广告费用与销售量

通过分析广告费用对销售量的影响关系，建立广告费用与销售 量的相关模型。


7.5.3 模型假设与符号


实际中，由于影响牙膏销售量的因素有很多，根据问题分析和相关数据，提出假设：

(1)假设牙膏销售量主要受价格差和广告费用影响，即其它因素对销售量的影响归入随机误差。

(2)令 y~本公司牙膏销售量；~其它厂家牙膏价格与本公司牙膏价格差；~本公司广告费用。、对y的影响、建立模型。


7.5.4 模型建立与求解

1.牙膏价格差对销售量影响模型


 正相关的线性关系


2.广告费用对销售量影响模型


   勉强接受：线性关系

建立模型：多尝试，以合理性为前提，越简单越好。


3.牙膏价格差与广告费用对销售量影响模型


由(7.5.1)和(7.5.2)，将常数项合并，随机误差项合并，且不考虑牙膏价格差与广告费用对销售量的交叉影响。可得牙膏价格差与广告 费用对销售量影响模型

                                 

由数据进行回归分析，见表7.5.2

                                    






4.模型改进


 只考虑 线性关系



由表7.5.3回归结果可得，修正可决系数为0.874，模型显著性检验的p值为0，模型是显著的。并且各回归参数均显著非0，说明模型 有效，得到牙膏价格差与广告费用对销售量影响模型为

                                                     


7.5.5 结果分析


                                                     

由模型(7.5.5)可知，提高本公司牙膏价格，将会减少本公司牙膏销售量，例如，广告费不变时，本公司牙膏价格比其它厂家平均价格 提高1元，估计销售量将会减少约1.468百万支。

另一方面，一定程度上，增加广告费用将会提高销售量，但过 度增加广告费用就会增加成本。



根据模型(7.5.5)，只要给定了，，代入就可以对销售量进行估计和预测，还可以进行一定的置信度下的区间预测。如当=0.2，=6.5时，可以计算得到销售量的预测值约为8.379（百万支），其95%的预测区间为[7.874, 8.863]。

在公司管理中，这个预测上限可以用来作为公司的生产和库存数量；而这个预测下限可以用来较好地把握公司的现金流，因为到时至少有7.874百万支牙膏可以有把握的卖出去，可以回来相应的销售款。



若考虑牙膏价格差与广告费用两个因素间可能会有交互作用，可以将二者的乘积来表示这个作用对销售量的影响，对原来的模型进行改进，

   

同理，可对模型7.5.6进行回归分析，研究模型的有效性和显著性（略）。


7.6 方差分析与回归分析的SPSS实现


数据统计分析：Matlab、R、SPSS


7.6.1 SPSS软件概述





1 SPSS版本与安装


SPSS的版本每年更新，当前最新为SPSS26.0，较新版本都有中文版，这里以2013年的SPSS22.0中文版为例介绍其安装及应用。



 数学建模【SPSS 下载、安装】


2 SPSS界面








SPSS的主要界面 有 数据编辑窗口 和 结果输出窗口。

SPSS软件在其基本界面上集成了数据录入、转换、检索、统计分析、作图、制表及编辑等功能；采用类似EXCEL表格的方式输入与管理数据，数据接口较为通用，能方便的从其他数据库中读入数据。



数据编辑窗口：标题栏、菜单栏、工具栏、状态栏、数据视图、变量视图

控制菜单图标、窗口名称、窗口控制图标、窗口控制按钮









变量视图




3 SPSS特点


（1）囊括了各种成熟的统计方法与模型，为统计分析用户提供了全方位的统计学算法，为各种研究提供了相应的统计学方法。
	
（2）提供了各种数据准备与数据整理技术。
	
（3）自由灵活的表格功能。
	
（4）各种常用的统计学图形。



SPSS最突出的特点就是操作界面极为友好，输出结果美观漂亮。SPSS是第一个采用人机交互界面的统计软件，非常容易学习和使用。

SPSS软件基本操作可通过点击鼠标来完成，有一定统计基础且熟悉Windows一般操作的应用者参考它的帮助系统 基本上 可以自学使用；除了数据录入及部分命令程序等少数输入工作需要使用键盘键入外，对于常见的统计分析方法完全可以通过对“菜单”、“对话框”的操作完成，无需编程。


4 SPSS数据


SPSS能够与常用的数据文件格式互交。                  Excel文件

SPSS数据文件中，变量有三种的基本类型：数值型、字符型和日期型。

SPSS的文件类型：

（1）数据文件：拓展名为.sav

（2）结果文件：拓展名为.spv

（3）图形文件：拓展名为.cht

（4）语法文件：拓展名为.sps


7.6.2 SPSS与方差分析


【例7.1.1、例7.2.2 Excel文件：链接：https://pan.baidu.com/s/1PLXyYCelCfOGgMPbl7T2AA   提取码：zjxs】


1 单因素方差分析






生成数据：1、导入数据；2、手工录入

54条数据：因变量（血糖下降值）记为A，分组变量（3个组别）记为g。Excel表中，第一行为变量名。







   




单因素方差分析



  

   



多重比较：将 各个水平下的均值 进行比较。Tukey：针对重复次数一样的多重比较。显著性水平 默认 0.05。







左边：输出列表；右边：输出结果（概括性描述）。



表2：方差极性检验（显著性-P值：0.871）   表3：方差分析表（因子平方和、误差平方和；总平方和）



 只要P值小于0.05，就认为 是有 显著差异的。

根据多重比较的结果，进行分类得到的分类表。



  

均值图                      1、2之间，有显著差异；2、3无显著差异。


2 双因素方差分析


【例7.1.1、例7.2.2 Excel文件：链接：https://pan.baidu.com/s/1PLXyYCelCfOGgMPbl7T2AA   提取码：zjxs】 





双因素并且考虑交互作用的方差分析：将分析数据作为因变量指标；将时段、路段两个因素 建立 两个分组变量。





将Excel表中的数据，导入SPSS。









   



选择 “模型”：

    

   



绘图



  -> 点击“添加”  ->   



事后多重比较





选项

    



  

    

    


7.6.3 SPSS与回归分析 

SPSS回归分析过程





牙膏价格问题的回归分析


   







   



      















   





表1：自变量、因变量、标准差...描述结果；表2：相关系数矩阵表---研究共线性；



模型汇总统计量计算 Model Summary；ANOVA：回归分析的方差分析表；



coefficients：回归系数估计





不考虑x2（将x2从模型中去除！）

  

目录

变量间的关系分析

什么是相关分析

什么是回归分析

分析步骤

回归分析与相关分析的主要区别

一元线性相关分析

一元线性回归分析

建模

方差分析检验

 t检验

多元回归分析模型建立

线性回归模型基本假设

多元回归分析用途

多元线性相关分析

矩阵相关分析

复相关分析

曲线回归模型

多项式曲线

二次函数

对数函数

指数函数

幂函数

双曲线函数

变量间的关系分析

变量间的关系有两类，一类是变量间存在着完全确定的关系，称为函数关系，另一类是变量间的关系不存在完全的确定性，不能用精缺的数学公式表示，但变量间存在十分密切的关系，这种称为相关关系，存在相关关系的变量称为相关变量。

相关变量间的关系有两种：一种是平行关系，即两个或两个以上变量相互影响。另一种是依存关系，即是一个变量的变化受到另一个或多个变量的影响。相关分析是研究呈平行关系的相关变量之间的关系。而回归分析是研究呈依存关系的相关变量间的关系。表示原因的变量称为自变量-independent variable，表示结果的变量称为因变量-dependent variable。



什么是相关分析

通过计算变量间的相关系数来判断两个变量的相关程度及正负相关。

什么是回归分析

通过研究变量的依存关系，将变量分为因变量和自变量，并确定自变量和因变量的具体关系方程式

分析步骤

建立模型、求解参数、对模型进行检验

回归分析与相关分析的主要区别

1.在回归分析中，解释变量称为自变量，被解释变量称为因变量，相关分析中，并不区分自变量和因变量，各变量处于平的地位。--（自变量就是自己会变得变量，因变量是因为别人改变的）

2.在相关分析中所涉及的变量全部是随机变量，在回归分析中只有只有因变量是随机变量。

3.相关分析研究主要是为刻画两类变量间的线性相关的密切程度，而回归分析不仅可以揭示自变量对因变量的影响大小，还可以由回归方程进行预测和控制。

一元线性相关分析

线性相关分析是用相关系数来表示两个变量间相互的线性关系，总体相关系数的计算公式为：



 δ^2x代表x的总体方差， δ^2y代表y的总体方差，δxy代表x变量与y变量的协方差，相关系数ρ没有单位，在-1到1之间波动，绝对值越接近1越相关，符号代表正相关或复相关。

一元线性回归分析

使用自变量与因变量绘制散点图，如果大致呈直线型，则可以拟合一条直线方程



建模

直线模型为：



 y是因变量y的估计值，x为自变量的实际值，a、b为待估值

几何意义：a是直线方程的截距，b是回归系数

经济意义：a是x=0时y的估计值，b是回归系数

对于上图来说，x与y有直线的趋势，但并不是一一对应的，y与回归方程上的点的差距成为估计误差或残差，残差越小，方程愈加理想。

当误差的平方和最小时，即Q，a和b最合适



对Q求关于a和b的偏导数，并令其分别等于零，可得：



 式中，lxx表示x的离差平方和，lxy表示x与y的离差积和。

方差分析检验

将因变量y实测值的离均差平方和分成两部分即使：



分为：

实测值yi扣除了x对y的线性影响后剩下的变异



和x对y的线性影响，简称为回归评方或回归贡献



然后证明：



 t检验

当β成立时，样本回归系数b服从正态分布，这是可以使用T检验判断是否有数学意义，检验所用统计量为



例如t=10，那么可以判断α=0.05水平处拒绝H0，接受H1，那么x与y存在回归关系



多元回归分析模型建立

一个因变量与多个自变量间的线性数量关系可以用多元线性回归方程来表示



b0是方程中的常数项，bi,i=1,2,3称为偏回归系数。

当我们得到N组观测数据时，模型可表示为：



其矩阵为：



X为设计阵，β为回归系数向量。

线性回归模型基本假设

在建立线性回归模型前，需要对模型做一些假定，经典线性回归模型的基本假设前提为：

1.解释变量一般来说是非随机变量

2.误差等方差及不相关假定（G-M条件）



3.误差正太分布的假定条件为：



4. n>p,即是要求样本容量个数多于解释变量的个数

多元回归分析用途

1.描述解释现象，希望回归方程中的自变量尽可能少一些

2.用于预测，希望预测的均方误差较小

3.用于控制，希望各个回归系数具有较小的方差和均方误差

变量太多，容易引起以下四个问题：

1.增加了模型的复杂度

2.计算量增大

3.估计和预测的精度下降

4.模型应用费用增加

多元线性相关分析

两个变量间的关系称为简单相关，多个变量称为偏相关或复相关

矩阵相关分析

设n个样本的资料矩阵为：



此时任意两个变量间的相关系数构成的矩阵为：



其中rij为任意两个变量之间的简单相关系数，即是：



复相关分析

系数计算：

设y与x1，x2，....，回归模型为



y与x1，x2，....做相关分析就是对y于y^做相关分析，相关系数计算公式为



曲线回归模型

多项式曲线

二次函数

y=a+bx+cx^2



对数函数

y=a+blogx



指数函数

y = ae^bx或y = ae^(b/x)



幂函数

y=ax^b (a>0)



双曲线函数

y = a+b/x



 实战操作见下一篇文章

	

医学统计之多元回归分析
一、多元线性回归相关介绍
在医学统计领域，变量之间的关系常常是需要进行分析的。如血压值与年龄、性别的关系；身高与饮食习惯、年龄的关系；肿瘤预后与救治方法、肿瘤种类的关系等。对于这类变量之间关系的研究可采取回归分析来完成，对每个因素做出相应的评价，同时，回归分析还可以用来对预测和判别。其中，回归分析可分为一元线性回归和多元线性回归，一元线性回归研究的是一个因变量与单个自变量之间的关系；多元线性回归研究的是一个因变量与多个自变量间的关系，从实用意义上看，多元线性回归优于一元线性回归。
PS:多元线性回归的模型结构为:β0+β1x1+…+βkxk+ε
多元线性回归的预测模型为：`Y= b0+ b1x1+…+bkxk
其中Y表示任意的数值变量，β0、β1、βk称为偏回归系数，这些偏回归系数的估计值b0、b1、bk是采用最小二乘法获得。
二、实例分析
     本文随机选取了某院27名糖尿病人，并测量了其各自的血清总胆固醇、甘油三脂、空腹胰岛素、糖化血红蛋白和空腹血糖值，旨在研究空腹血糖与其他几个指标的关系。具体操作如下所示。
样本数据：
步骤指导：
【1】将数据导入spss22.0中→【2】点击“分析”→【3】点击“回归”→【4】点击“线性回归”→【5】将“血糖”导入因变量栏中，将其余值导入自变量栏中→【6】点击“确定”。结果如下图所示。
1、结果描述
     从【输出表一】可以看出，决定系数R2为0.601，校正系数R2为0.52，此外，决定系数的大小可以说明回归方程的拟合程度，越大说明越好，反之越差;【输出表二】是对模型作的方差分析， F为8.28，显著性小于0.001，说明该回归模型有统计学意义;【输出表三】是回归方程的参数估计和统计学检验，非标准系数包括B偏回归系数和标准误。可以根据该输出表写出回归方程：血糖=5.943+0.142总胆固醇+0.351甘油三脂-0.271胰岛素+0.638血红蛋白。可以看出总胆固醇的显著性为0.701，甘油三脂的显著性为0.099，均大于0.05，因此说明其回归系数无统计学意义。胰岛素和血红 蛋白的显著性分别为0.036、0.016，均小于0.05，因此说明 其回归系数有统计学意义。即，即胰岛素和血红蛋白影响空腹血糖水平。
三、多元逐步线性回归
     同样采用上文数据，多元逐步线性回归的操作步骤为：【1】将数据导入spss22.0中→【2】点击“分析”→【3】点击“回归”→【4】点击“线性回归”→【5】将“血糖”导入因变量栏中，将其余值导入自变量栏中→【6】在方法栏中选择“逐步”，如下图所示，而后点击确定即可。通过此番操作旨在筛选出不会对因变量造成影响的自变量。
结果显示：
2、结果描述
注意事项：
结果显示：
3、结果描述
    【输出表一】可以看出，血红蛋白和总胆固醇的容忍度均为0.828，方差膨胀因子均为1.208。容忍度是以每个自变量作为因变量，对其他自变量进行回归分析时得到的残差比例，可由1-定系数来表示。该指标越小，说明该自变量被其余自变量预测的越精确，共线性就越严重。方差膨胀因子是容忍度的倒数，该值越大，说明共线性越严重。 由此可以认为案例中的自变量间不存在共线性。【输出表二】可以看出第二个模型的第一维度的特征值为2.944，其余3个维度的条件指数均小于30，因此可以认为本例中自变量间不存在共线性。
PS：判断自变量间可能存在共线性的前提条件是要有大于30的维度的条件指数
四、小结
     在作回归分析时，可忽略那些无法影响因变量的自变量，这样不但能减少计算量，而且还能提高计算的精确度。故，要适当选取需要的研究变量，建立较优的回归模型。若出现多重共线性的问题，可采取以下措施来解决多重共线性的问题，第一，增大样本含量；第二，剔除不重要的解释变量；第三，进行主成分分析等。
再会！！！
好啦，本期的讲解就到此结束啦，感谢大家浏览，我们下期见~
腾讯课堂：泞露专案分析免费课堂：https://ke.qq.com/course/350356?
tuin=119f8c8a
叁藏科研平台联合泞露文化发布
科研就像一场旅行，有人指引你，你不必担心前方的路
叁藏【D2导师】陪你一起完成科研旅行

昨天将书本的每一章的思维导图图片单独发文，感觉太浪费发文次数。想了想，都放在一篇文章里，能一下子找到很多信息，方便大家连着看完。