精华内容
下载资源
问答
  • 因子分析与对应分析

    2012-08-17 20:29:32
    ppt课件 spss因子分析与对应分析
  • 主成分分析与因子分析及SPSS实现

    万次阅读 多人点赞 2018-05-25 11:27:12
    主成分分析与因子分析及SPSS实现一、主成分分析(1)问题提出在问题研究中,为了不遗漏和准确起见,往往会面面俱到,取得大量的指标来进行分析。比如为了研究某种疾病的影响因素,我们可能会收集患者的人口学资料、...

    主成分分析与因子分析及SPSS实现

    一、主成分分析

    (1)问题提出
    在问题研究中,为了不遗漏和准确起见,往往会面面俱到,取得大量的指标来进行分析。比如为了研究某种疾病的影响因素,我们可能会收集患者的人口学资料、病史、体征、化验检查等等数十项指标。如果将这些指标直接纳入多元统计分析,不仅会使模型变得复杂不稳定,而且还有可能因为变量之间的多重共线性引起较大的误差。有没有一种办法能对信息进行浓缩,减少变量的个数,同时消除多重共线性?
    这时,主成分分析隆重登场。
    (2)主成分分析的原理
    主成分分析的本质是坐标的旋转变换,将原始的n个变量进行重新的线性组合,生成n个新的变量,他们之间互不相关,称为n个“成分”。同时按照方差最大化的原则,保证第一个成分的方差最大,然后依次递减。这n个成分是按照方差从大到小排列的,其中前m个成分可能就包含了原始变量的大部分方差(及变异信息)。那么这m个成分就成为原始变量的“主成分”,他们包含了原始变量的大部分信息。
    注意得到的主成分不是原始变量筛选后的剩余变量,而是原始变量经过重新组合后的“综合变量”。
    我们以最简单的二维数据来直观的解释主成分分析的原理。假设现在有两个变量X1、X2,在坐标上画出散点图如下:

     

    可见,他们之间存在相关关系,如果我们将坐标轴整体逆时针旋转45°,变成新的坐标系Y1、Y2,如下图:
    根据坐标变化的原理,我们可以算出:
    Y1 = sqrt(2)/2 * X1 + sqrt(2)/2 * X2
    Y2 = sqrt(2)/2 * X1 – sqrt(2)/2 * X2
    其中sqrt(x)为x的平方根。
    通过对X1、X2的重新进行线性组合,得到了两个新的变量Y1、Y2。
    此时,Y1、Y2变得不再相关,而且Y1方向变异(方差)较大,Y2方向的变异(方差)较小,这时我们可以提取Y1作为X1、X2的主成分,参与后续的统计分析,因为它携带了原始变量的大部分信息。
    至此我们解决了两个问题:降维和消除共线性。
    对于二维以上的数据,就不能用上面的几何图形直观的表示了,只能通过矩阵变换求解,但是本质思想是一样的。
     
    二、因子分析
    (一)原理和方法:
    因子分析是主成分分析的扩展。
    在主成分分析过程中,新变量是原始变量的线性组合,即将多个原始变量经过线性(坐标)变换得到新的变量。
    因子分析中,是对原始变量间的内在相关结构进行分组,相关性强的分在一组,组间相关性较弱,这样各组变量代表一个基本要素(公共因子)。通过原始变量之间的复杂关系对原始变量进行分解,得到公共因子和特殊因子。将原始变量表示成公共因子的线性组合。其中公共因子是所有原始变量中所共同具有的特征,而特殊因子则是原始变量所特有的部分。因子分析强调对新变量(因子)的实际意义的解释。
    举个例子:
    比如在市场调查中我们收集了食品的五项指标(x1-x5):味道、价格、风味、是否快餐、能量,经过因子分析,我们发现了:
    x1 = 0.02 * z1 + 0.99 * z2 + e1
    x2 = 0.94 * z1 – 0.01 * z2 + e2
    x3 = 0.13* z1 + 0.98 * z2 + e3
    x4 = 0.84 * z1 + 0.42 * z2 + e4
    x5 = 0.97 * z1 – 0.02 * z2 + e1
    (以上的数字代表实际为变量间的相关系数,值越大,相关性越大)
    第一个公因子z1主要与价格、是否快餐、能量有关,代表“价格与营养”
    第二个公因子z2主要与味道、风味有关,代表“口味”
    e1-5是特殊因子,是公因子中无法解释的,在分析中一般略去。
    同时,我们也可以将公因子z1、z2表示成原始变量的线性组合,用于后续分析。
    (二)使用条件:
    (1)样本量足够大。通常要求样本量是变量数目的5倍以上,且大于100例。
    (2)原始变量之间具有相关性。如果变量之间彼此独立,无法使用因子分析。在SPSS中可用KMO检验和Bartlett球形检验来判断。
    (3)生成的公因子要有实际的意义,必要时可通过因子旋转(坐标变化)来达到。
     
    三、主成分分析和因子分析的联系与区别
    联系:两者都是降维和信息浓缩的方法。生成的新变量均代表了原始变量的大部分信息且互相独立,都可以用于后续的回归分析、判别分析、聚类分析等等。
    区别:
    (1)主成分分析是按照方差最大化的方法生成的新变量,强调新变量贡献了多大比例的方差,不关心新变量是否有明确的实际意义。
    (2)因子分析着重要求新变量具有实际的意义,能解释原始变量间的内在结构。
     
    SPSS没有提供单独的主成分分析方法,而是混在因子分析当中,下面通过一个例子来讨论主成分分析与因子分析的实现方法及相关问题。
     
    一、问题提出
     
    男子十项全能比赛包含100米跑、跳远、跳高、撑杆跳、铅球、铁饼、标枪、400米跑、1500米跑、110米跨栏十个项目,总分为各个项目得分之和。为了分析十项全能主要考察哪些方面的能力,以便有针对性的进行训练,研究者收集了134个顶级运动员的十项全能成绩单,将通过因子分析来达到分析目的。
     
    二、分析过程
     
    变量视图:
     
    数据视图(部分):
    菜单选择(分析->降维->因子分析):

    打开因子分析的主界面,将十项成绩选入”变量“框中(不要包含总分),如下:
    点击”描述“按钮,打开对话框,选中”系数“和”KMO和Bartlett球形度检验“:

    上图相关解释:
    ”系数“:为变量之间的相关系数阵列,可以直观的分析相关性。
    ”KMO和Bartlett球形度检验“:用于定量的检验变量之间是否具有相关性。
    点击”继续“,回到主界面,点击”抽取“,打开对话框。
    ”方法“ =>”主成分“,”输出“=>”未旋转的因子解“和”碎石图“,”抽取“=>”基于特征值“,其余选择默认。

    解释:
    ①因子抽取的方法:选取默认的主成分法即可,其余方法的计算结果可能有所差异。
    ②输出:”未旋转的因子解”极为主成分分析结果。碎石图有助于我们判断因子的重要性(详细介绍见后面)。
    ③抽取:为抽取主成分(因子)的方法,一般是基于特征值大于1,默认即可。
    点击”继续“,回到主界面,点击”确定“,进入分析。
    输出的主要表格如下:
    (1)相关性检验
    因子分析要求变量之间有相关性,所以首先要进行相关性检验。首先输出的是变量之间的相关系数矩阵:

    可以直观的看到,变量之间有相关性。但需要检验,接着输出的是相关性检验:
    上图有两个指标:第一个是KMO值,一般大于0.7就说明不了之间有相关性了。第二个是Bartlett球形度检验,P值<0.001。综合两个指标,说明变量之间存在相关性,可以进行因子分析。否则,不能进行因子分析。
    (2)提取主成分和公因子
    接下来输出主成分结果:

    这就是主成分分析的结果,表中第一列为10个成分;第二列为对应的”特征值“,表示所解释的方差的大小;第三列为对应的成分所包含的方差占总方差的百分比;第四列为累计的百分比。一般来说,选择”特征值“大于1的成分作为主成分,这也是SPSS默认的选择。
    在本例中,成分1和2的特征值大于1,他们合计能解释71.034%的方差,还算不错。所以我们可以提取1和2作为主成分,抓住了主要矛盾,其余成分包含的信息较少,故弃去。
    下面,输出碎石图,如下:
    碎石图来源于地质学的概念。在岩层斜坡下方往往有很多小的碎石,其地质学意义不大。碎石图以特征值为纵轴,成分为横轴。前面陡峭的部分特征值大,包含的信息多,后面平坦的部分特征值小,包含的信息也小。
    由图直观的看出,成分1和2包含了大部分信息,从3开始就进入平台了。
    接下来,输出提取的成分矩阵:

    上表中的数值为公因子与原始变量之间的相关系数,绝对值越大,说明关系越密切。公因子1和9个运动项目都正相关(注意跑步运动运动的计分方式,时间越短,分数越高),看来只能称为“综合运动”因子了。公因子2与铁饼、铅球正相关,与1500米跑、400米跑负相关,这究竟代表什么意思呢?看来只能成为“不知所云”因子了。
    (三)因子旋转
    前面提取的两个公因子一个是大而全的“综合因子”,一个不知所云,得到这样的结果,无疑是分析的失败。不过,不要灰心,我们可以通过因子的旋转来获得更好的解释。在主界面中点击“旋转”按钮,打开对话框,“方法”=>“最大方差法”,“输出”=>“旋转解”。

    点击“继续”,回到主界面点击“确认”进行分析。输出结果如下:
    这是选择后的成分矩阵。经过旋转,可以看出:
    公因子1得分越高,所有的跑步和跨栏成绩越差,而跳远、撑杆跳等需要助跑类项目的成绩也越差,所以公因子1代表的是奔跑能力的反向指标,可称为“奔跑能力”。
    公因子2与铁饼和铅球的正相关性很高,与标枪、撑杆跳等需要上肢力量的项目也正相关,所以该因子可以成为“上肢力量”。
    经过旋转,可以看出公因子有了更合理的解释。
    (四)结果的保存
    在最后,我们还要将公因子储存下来供后续使用。点击“得分”按钮,打开对话框,选中“保存为变量”,方法采用默认的“回归”方法,同时选中“显示因子得分系数矩阵”。

    SPSS会自动生成2个新变量,分别为公因子的取值,放在数据的最后。同时会输出一个因子系数表格:

    由上图,我们可以写出公因子的表达式(用F1、F2代表两个公因子,Z1~Z10分别代表原始变量):

    F1 = -0.16*Z1+0.161*Z2+0.145*Z3+0.199*Z4-0.131*Z5-0.167*Z6+0.137*Z7+0.174*Z8+0.131*Z9-0.037*Z10
    F2同理,略去。
    注意,这里的变量Z1~Z10,F1、F2不再是原始变量,而是标准正态变换后的变量。
    展开全文
  • spss案例教程&主成分分析与因子分析及SPSS实现

    万次阅读 多人点赞 2019-01-15 00:19:33
    spss案例教程 原文地址:... 主成分分析与因子分析及SPSS实现一、主成分分析(1)问题提出在问题研究中,为了不遗漏和准确起见,往往会面面俱到,取得大量的指标来进行分析。...

    spss案例教程
    原文地址:https://www.ixueshu.com/document/934cf7bb1ff99338318947a18e7f9386.html

    主成分分析与因子分析及SPSS实现

    一、主成分分析

    (1)问题提出
    在问题研究中,为了不遗漏和准确起见,往往会面面俱到,取得大量的指标来进行分析。比如为了研究某种疾病的影响因素,我们可能会收集患者的人口学资料、病史、体征、化验检查等等数十项指标。如果将这些指标直接纳入多元统计分析,不仅会使模型变得复杂不稳定,而且还有可能因为变量之间的多重共线性引起较大的误差。有没有一种办法能对信息进行浓缩,减少变量的个数,同时消除多重共线性?
    这时,主成分分析隆重登场。
    (2)主成分分析的原理
    主成分分析的本质是坐标的旋转变换,将原始的n个变量进行重新的线性组合,生成n个新的变量,他们之间互不相关,称为n个“成分”。同时按照方差最大化的原则,保证第一个成分的方差最大,然后依次递减。这n个成分是按照方差从大到小排列的,其中前m个成分可能就包含了原始变量的大部分方差(及变异信息)。那么这m个成分就成为原始变量的“主成分”,他们包含了原始变量的大部分信息。
    注意得到的主成分不是原始变量筛选后的剩余变量,而是原始变量经过重新组合后的“综合变量”。
    我们以最简单的二维数据来直观的解释主成分分析的原理。假设现在有两个变量X1、X2,在坐标上画出散点图如下:

     

    可见,他们之间存在相关关系,如果我们将坐标轴整体逆时针旋转45°,变成新的坐标系Y1、Y2,如下图:
    根据坐标变化的原理,我们可以算出:
    Y1 = sqrt(2)/2 * X1 + sqrt(2)/2 * X2
    Y2 = sqrt(2)/2 * X1 – sqrt(2)/2 * X2
    其中sqrt(x)为x的平方根。
    通过对X1、X2的重新进行线性组合,得到了两个新的变量Y1、Y2。
    此时,Y1、Y2变得不再相关,而且Y1方向变异(方差)较大,Y2方向的变异(方差)较小,这时我们可以提取Y1作为X1、X2的主成分,参与后续的统计分析,因为它携带了原始变量的大部分信息。
    至此我们解决了两个问题:降维和消除共线性。
    对于二维以上的数据,就不能用上面的几何图形直观的表示了,只能通过矩阵变换求解,但是本质思想是一样的。
    二、因子分析
    (一)原理和方法:
    因子分析是主成分分析的扩展。
    在主成分分析过程中,新变量是原始变量的线性组合,即将多个原始变量经过线性(坐标)变换得到新的变量。
    因子分析中,是对原始变量间的内在相关结构进行分组,相关性强的分在一组,组间相关性较弱,这样各组变量代表一个基本要素(公共因子)。通过原始变量之间的复杂关系对原始变量进行分解,得到公共因子和特殊因子。将原始变量表示成公共因子的线性组合。其中公共因子是所有原始变量中所共同具有的特征,而特殊因子则是原始变量所特有的部分。因子分析强调对新变量(因子)的实际意义的解释。
    举个例子:
    比如在市场调查中我们收集了食品的五项指标(x1-x5):味道、价格、风味、是否快餐、能量,经过因子分析,我们发现了:
    x1 = 0.02 * z1 + 0.99 * z2 + e1
    x2 = 0.94 * z1 – 0.01 * z2 + e2
    x3 = 0.13* z1 + 0.98 * z2 + e3
    x4 = 0.84 * z1 + 0.42 * z2 + e4
    x5 = 0.97 * z1 – 0.02 * z2 + e1
    (以上的数字代表实际为变量间的相关系数,值越大,相关性越大)
    第一个公因子z1主要与价格、是否快餐、能量有关,代表“价格与营养”
    第二个公因子z2主要与味道、风味有关,代表“口味”
    e1-5是特殊因子,是公因子中无法解释的,在分析中一般略去。
    同时,我们也可以将公因子z1、z2表示成原始变量的线性组合,用于后续分析。
    (二)使用条件:
    (1)样本量足够大。通常要求样本量是变量数目的5倍以上,且大于100例。
    (2)原始变量之间具有相关性。如果变量之间彼此独立,无法使用因子分析。在SPSS中可用KMO检验和Bartlett球形检验来判断。
    (3)生成的公因子要有实际的意义,必要时可通过因子旋转(坐标变化)来达到。
    三、主成分分析和因子分析的联系与区别
    联系:两者都是降维和信息浓缩的方法。生成的新变量均代表了原始变量的大部分信息且互相独立,都可以用于后续的回归分析、判别分析、聚类分析等等。
    区别:
    (1)主成分分析是按照方差最大化的方法生成的新变量,强调新变量贡献了多大比例的方差,不关心新变量是否有明确的实际意义。
    (2)因子分析着重要求新变量具有实际的意义,能解释原始变量间的内在结构。
    SPSS没有提供单独的主成分分析方法,而是混在因子分析当中,下面通过一个例子来讨论主成分分析与因子分析的实现方法及相关问题。
     
    一、问题提出
     
    男子十项全能比赛包含100米跑、跳远、跳高、撑杆跳、铅球、铁饼、标枪、400米跑、1500米跑、110米跨栏十个项目,总分为各个项目得分之和。为了分析十项全能主要考察哪些方面的能力,以便有针对性的进行训练,研究者收集了134个顶级运动员的十项全能成绩单,将通过因子分析来达到分析目的。
     
    二、分析过程
     
    变量视图:
     
    数据视图(部分):
    菜单选择(分析->降维->因子分析):

    打开因子分析的主界面,将十项成绩选入”变量“框中(不要包含总分),如下:
    点击”描述“按钮,打开对话框,选中”系数“和”KMO和Bartlett球形度检验“:

    上图相关解释:
    ”系数“:为变量之间的相关系数阵列,可以直观的分析相关性。
    ”KMO和Bartlett球形度检验“:用于定量的检验变量之间是否具有相关性。
    点击”继续“,回到主界面,点击”抽取“,打开对话框。
    ”方法“ =>”主成分“,”输出“=>”未旋转的因子解“和”碎石图“,”抽取“=>”基于特征值“,其余选择默认。

    解释:
    ①因子抽取的方法:选取默认的主成分法即可,其余方法的计算结果可能有所差异。
    ②输出:”未旋转的因子解”极为主成分分析结果。碎石图有助于我们判断因子的重要性(详细介绍见后面)。
    ③抽取:为抽取主成分(因子)的方法,一般是基于特征值大于1,默认即可。
    点击”继续“,回到主界面,点击”确定“,进入分析。
    输出的主要表格如下:
    (1)相关性检验
    因子分析要求变量之间有相关性,所以首先要进行相关性检验。首先输出的是变量之间的相关系数矩阵:

    可以直观的看到,变量之间有相关性。但需要检验,接着输出的是相关性检验:
    上图有两个指标:第一个是KMO值,一般大于0.7就说明不了之间有相关性了。第二个是Bartlett球形度检验,P值<0.001。综合两个指标,说明变量之间存在相关性,可以进行因子分析。否则,不能进行因子分析。
    (2)提取主成分和公因子
    接下来输出主成分结果:

    这就是主成分分析的结果,表中第一列为10个成分;第二列为对应的”特征值“,表示所解释的方差的大小;第三列为对应的成分所包含的方差占总方差的百分比;第四列为累计的百分比。一般来说,选择”特征值“大于1的成分作为主成分,这也是SPSS默认的选择。
    在本例中,成分1和2的特征值大于1,他们合计能解释71.034%的方差,还算不错。所以我们可以提取1和2作为主成分,抓住了主要矛盾,其余成分包含的信息较少,故弃去。
    下面,输出碎石图,如下:
    碎石图来源于地质学的概念。在岩层斜坡下方往往有很多小的碎石,其地质学意义不大。碎石图以特征值为纵轴,成分为横轴。前面陡峭的部分特征值大,包含的信息多,后面平坦的部分特征值小,包含的信息也小。
    由图直观的看出,成分1和2包含了大部分信息,从3开始就进入平台了。
    接下来,输出提取的成分矩阵:

    上表中的数值为公因子与原始变量之间的相关系数,绝对值越大,说明关系越密切。公因子1和9个运动项目都正相关(注意跑步运动运动的计分方式,时间越短,分数越高),看来只能称为“综合运动”因子了。公因子2与铁饼、铅球正相关,与1500米跑、400米跑负相关,这究竟代表什么意思呢?看来只能成为“不知所云”因子了。
    (三)因子旋转
    前面提取的两个公因子一个是大而全的“综合因子”,一个不知所云,得到这样的结果,无疑是分析的失败。不过,不要灰心,我们可以通过因子的旋转来获得更好的解释。在主界面中点击“旋转”按钮,打开对话框,“方法”=>“最大方差法”,“输出”=>“旋转解”。

    点击“继续”,回到主界面点击“确认”进行分析。输出结果如下:
    这是选择后的成分矩阵。经过旋转,可以看出:
    公因子1得分越高,所有的跑步和跨栏成绩越差,而跳远、撑杆跳等需要助跑类项目的成绩也越差,所以公因子1代表的是奔跑能力的反向指标,可称为“奔跑能力”。
    公因子2与铁饼和铅球的正相关性很高,与标枪、撑杆跳等需要上肢力量的项目也正相关,所以该因子可以成为“上肢力量”。
    经过旋转,可以看出公因子有了更合理的解释。
    (四)结果的保存
    在最后,我们还要将公因子储存下来供后续使用。点击“得分”按钮,打开对话框,选中“保存为变量”,方法采用默认的“回归”方法,同时选中“显示因子得分系数矩阵”。

    SPSS会自动生成2个新变量,分别为公因子的取值,放在数据的最后。同时会输出一个因子系数表格:

    由上图,我们可以写出公因子的表达式(用F1、F2代表两个公因子,Z1~Z10分别代表原始变量):

    F1 = -0.16*Z1+0.161*Z2+0.145*Z3+0.199*Z4-0.131*Z5-0.167*Z6+0.137*Z7+0.174*Z8+0.131*Z9-0.037*Z10
    F2同理,略去。
    注意,这里的变量Z1~Z10,F1、F2不再是原始变量,而是标准正态变换后的变量。

    将教程和案例整合在一起了,方便大家学习

    展开全文
  • 主成分分析,主成份是原始...因子分析,公共因子和原始变量的关系是不可逆转的,但是可以通过回归得到。是将变量拆开,分成公共因子和特殊因子。过程是:因子载荷计算,因子旋转,因子得分。 主成份分析 主成份分...

    主成分分析,主成份是原始变量的线性组合,在考虑所有主成份的情况下主成份和原始变量间是可以逆转的。即“简化变量”,将变量以不同的系数合起来,得到好几个复合变量,然后在从中挑几个能表示整体的复合变量就是主成份,然后计算得分。

    因子分析,公共因子和原始变量的关系是不可逆转的,但是可以通过回归得到。是将变量拆开,分成公共因子和特殊因子。过程是:因子载荷计算,因子旋转,因子得分。

    主成份分析

    主成份分析需要知道两变量之间的相关性,生成协方差举证和相关新矩阵,对应的生成的新向量矩阵Y还有特征值λi,对应是第I个新向量对总体信息的贡献率为λi/(λ1+λ2+...+λn),对应的还有一个累积贡献率。

    确定主成份的个数的方法有:特征值大于1(要求原始数据的每一个变量至少能贡献1各单位的变异)、陡坡检验法(陡坡图中开始平坦的点之前的点的个数)、累积解释变异比例法(即(λ1+...+λi)/(λ1+λ2+...+λn)>70%)。

    同时也可以知道主成分分析对应的几个难点①是使用协方差矩阵还是相关系数矩阵②如何确定主成份的个数。当数据中不同变量的度量单位不同并且数值相差较大就用标准化后的相关系数矩阵,当数值相差不大并且指标的权重不一样时,考虑用协方差矩阵。对于个数的确定就是我们一些边界问题是否1左右的也可以囊括进主成份中,是否难以确定开始变平坦的是那个点,是否70%不够。等几个问题。

    主成分分析可以用两个过程步完成PROC FACTORS 、PROC PRINCOMP。后者能处理的数据量大一些,效率高一些,,前者输出的内容丰富些,还可以做旋转因子。

    以下是主成分分析过程;

    proc princomp data=sashelp.cars out=car_component;
        var mpg_city mpg_highway weight wheelbase length;
    run;

    输出结果:

    先是输出统计结果,再是输出相关性矩阵,这里princomp步默认使用的是相关系数矩阵,实际应用过程中,可以通过cov选项来指定使用的矩阵。从一扇那个结果可以看出:highway和city、wheelbase和length和weight相关性较强。

    接下来是相关矩阵的特征值以及特征向量,可以看出前两个特征值的贡献率就已经发到了92%,所以前两个对用的特征向量就足以表达整体的92%了。可以得出第一主成份线性表达式为:PRIN1=-0.443657*CITY-0.44858*HIGHWAY+0.4793*WEIGHT+0.4399*WHEELBASE+0.4226*LENGHT,一次类推第二主成份表达式即可。

    还输出陡坡图如下:

    可以看出是从第三个点开始变平坦,所以此数据的只有两个主成分变量。

    从输出数据集中可有主成分变量的打分状况。

     

    其中有负分是因为计算主成份时用了标准化后的原始数据集。

    接下来看FACTOR过程步:

    proc factor data=sashelp.cars n=2  simple corr;
        var mpg_city mpg_highway weight wheelbase length;
    run;

    其中simple为输出常见的统计量,CORR输出相关性矩阵,N=2为保留两个主成分(这里是先进行过出成分分析结果已知主成分个数之后确定的两个,默认是输出一个,但是在没有先进行主成分分析的情况下也可以直接输出最大个数,即总变量的个数,然后再确定主成分个数)。输出结果如下:

     

     

    这里不一样的是:这里的主成分名称被因子替换了,并且指出有几个因子被保留,也给出了特征向量的贡献率。

    这里得出的线性方程不于princomp过程的系数一致,原因是factor是假设所有因子或者主成份的方差为1,为princomp是方差为特征值,实际上可以转化过来;

    现如下代码就于前面结果一致:

    proc factor data=sashelp.cars n=5 score;
        ods output stdscorecoef=coef;
        var mpg_city mpg_highway weight wheelbase length;
    run;
    proc stdsize method=ustd mult=0.44721 data=coef out=eigenvectors;
        var factor1-factor5;
    run;

    输出的结果就会一致。

    因子分析

    对于主成分分析的目的是“降维”,而因子分析的目的通过“降维”,来找到能解释原始便能量的公共因子和特殊因子。

    计算因子载荷的方法有:主成份分析法(即特征向量对应的值),极大似然法。

    因子旋转有:正交旋转(公共因子间不相关)和斜交旋转。

    proc factor data=sashelp.cars corr priors=smc rotate=varimax;
        var mpg_city mpg_highway weight wheelbase length;
    run;

    corr使用相关系数矩阵,priors=smc指明先验公因子估计方法为多元相关系数的平方。rotate=varimax为指明使用最大正交旋转法进行对因子的旋转。

    输出结果和前面相似的有:

     

     

    旋转之前各自变量均有载荷而且大部分载荷明显不利于对因子的意义进行解释,接下来就是用rotate=varimax是指明用最大正交旋转法对因子进行旋转,结果如下:

    旋转之后的因子特征比较明显,高低载荷分明,除了weight不便归类外其余的factor1包含city和highway和weight三个变量可解释为“整车油耗”,factor可解释为“整车舒适”。接下来是用两公共因子进行得分计算,使用PROC SCORE过程即可满足:

     

    proc factor data=sashelp.cars corr priors=smc rotate=varimax
        outstat=factcars score;
        var mpg_city mpg_highway weight wheelbase length;
    run;
    
    proc score data=sashelp.cars score=factcars out=fscore;
        var mpg_city mpg_highway weight wheelbase length;
    run;

    得到的打分后的数据集为:

    总结:主成分分析为:把变量合起来形成个数较少的新变量(简化变量),因子分析是把变量拆开(公共因子和特殊因子)即分析学生成绩由什么因子组成的。

     

     

     

     

     

    转载于:https://www.cnblogs.com/immaculate/p/6413948.html

    展开全文
  • 2006-2007两年的5-10月期间, 分别在黑龙江黑河段水域进行藻类植物的生态调查, 在藻类分类的基础上, 应用典型对应分析揭示黑龙江黑河江段6个监测点藻类植物的种群结构环境因子之间的关系。 生化需氧量、总磷、水温...
  • 主成分分析和因子分析区别与联系

    万次阅读 多人点赞 2018-03-25 20:53:54
    可以通过矩阵变换知道原始数据能够浓缩成几个主成分,以及每个主成分原来变量之间线性组合关系式。但是细心的朋友会发现,每个原始变量在主成分中都占有一定的分量,这些分量(载荷)之间的大小分...

    主成分分析可以简单的总结成一句话:数据的压缩和解释。常被用来寻找判断某种事物或现象的综合指标,并且给综合指标所包含的信息以适当的解释。在实际的应用过程中,主成分分析常被用作达到目的的中间手段,而非完全的一种分析方法。



    可以通过矩阵变换知道原始数据能够浓缩成几个主成分,以及每个主成分与原来变量之间线性组合关系式。但是细心的朋友会发现,每个原始变量在主成分中都占有一定的分量,这些分量(载荷)之间的大小分布没有清晰的分界线,这就造成无法明确表述哪个主成分代表哪些原始变量,也就是说提取出来的主成分无法清晰的解释其代表的含义。



    因子分析

    鉴于主成分分析现实含义的解释缺陷,统计学斯皮尔曼又对主成分分析进行扩展。因子分析在提取公因子时,不仅注意变量之间是否相关,而且考虑相关关系的强弱,使得提取出来的公因子不仅起到降维的作用,而且能够被很好的解释。因子分析与主成分分析是包含与扩展的关系。

    其次是扩展关系。因子分析解决主成分分析解释障碍的方法是通过因子轴旋转。因子轴旋转可以使原始变量在公因子(主成分)上的载荷重新分布,从而使原始变量在公因子上的载荷两级分化,这样公因子(主成分)就能够用哪些载荷大的原始变量来解释。以上过程就解决了主成分分析的现实含义解释障碍。


    1.原理不同:

    主成分分析(Principal components analysis,PCA)基本原理:利用降维(线性变换)的思想,在损失很少信息的前提下把多个指标转化为几个不相关的综合指标(主成分),即每个主成分都是原始变量的线性组合,且各个主成分之间互不相关,使得主成分比原始变量具有某些更优越的性能(主成分必须保留原始变量90%以上的信息),从而达到简化系统结构,抓住问题实质的目的。

    因子分析(Factor Analysis,FA)基本原理:利用降维的思想,由研究原始变量相关矩阵内部的依赖关系出发,把一些具有错综复杂关系的变量表示成少数的公共因子和仅对某一个变量有作用的特殊因子线性组合而成。就是要从数据中提取对变量起解释作用的少数公共因子(因子分析是主成分的推广,相对于主成分分析,更倾向于描述原始变量之间的相关关系)。

    2.线性表示方向不同:

    因子分析是把变量表示成各公因子的线性组合;主成分分析中则是把主成分表示成各变量的线性组合。

    3.假设条件不同:

    主成分分析:不需要有假设(assumptions);

    因子分析:需要一些假设。因子分析的假设包括:各个共同因子之间不相关,特殊因子(specificfactor)之间也不相关,共同因子和特殊因子之间也不相关。 

    4.求解方法不同:

    (1)求解主成分的方法:

    从协方差阵出发(协方差阵已知),从相关阵出发(相关阵R已知),采用的方法只有主成分法。(实际研究中,总体协方差阵与相关阵是未知的,必须通过样本数据来估计);

    注意事项:由协方差阵出发与由相关阵出发求解主成分所得结果不一致时,要恰当的选取某一种方法;

    一般当变量单位相同或者变量在同一数量等级的情况下,可以直接采用协方差阵进行计算;对于度量单位不同的指标或是取值范围彼此差异非常大的指标,应考虑将数据标准化,再由协方差阵求主成分。

    实际应用中应该尽可能的避免标准化,因为在标准化的过程中会抹杀一部分原本刻画变量之间离散程度差异的信息。此外,最理想的情况是主成分分析前的变量之间相关性高,且变量之间不存在多重共线性问题(会出现最小特征根接近0的情况);

    2)求解因子载荷的方法:

    主成分法,主轴因子法,极大似然法,最小二乘法,a因子提取法。

    5.主成分和因子的变化不同:

    主成分分析:当给定的协方差矩阵或者相关矩阵的特征值唯一时,主成分一般是固定的独特的;

    因子分析:因子不是固定的,可以旋转得到不同的因子。

    6.因子数量与主成分的数量

    主成分分析:主成分的数量是一定的,一般有几个变量就有几个主成分(只是主成分所解释的信息量不等),实际应用时会根据碎石图提取前几个主要的主成分。

    因子分析:因子个数需要分析者指定(SPSS和SAS根据一定的条件自动设定,只要是特征值大于1的因子主可进入分析),指定的因子数量不同而结果也不同;


    7.解释重点不同:

    主成分分析:重点在于解释个变量的总方差;因子分析:则把重点放在解释各变量之间的协方差。 

    8.算法上的不同:

    主成分分析:协方差矩阵的对角元素是变量的方差;

    因子分析:所采用的协方差矩阵的对角元素不在是变量的方差,而是和变量对应的共同度(变量方差中被各因子所解释的部分)。

    9.优点不同:

    (1)因子分析:

    对于因子分析,可以使用旋转技术,使得因子更好的得到解释,因此在解释主成分方面因子分析更占优势;其次因子分析不是对原有变量的取舍,而是根据原始变量的信息进行重新组合,找出影响变量的共同因子,化简数据;

    (2)主成分分析:

    第一:如果仅仅想把现有的变量变成少数几个新的变量(新的变量几乎带有原来所有变量的信息)来进入后续的分析,则可以使用主成分分析,不过一般情况下也可以使用因子分析;

    第二:通过计算综合主成分函数得分,对客观经济现象进行科学评价;

    第三:它在应用上侧重于信息贡献影响力综合评价;

    第四:应用范围广,主成分分析不要求数据来自正态分布总体,其技术来源是矩阵运算的技术以及矩阵对角化和矩阵的谱分解技术,因而凡是涉及多维度问题,都可以应用主成分降维。

    1)主成分分析:

    可以用于系统运营状态做出评估,一般是将多个指标综合成一个变量,即将多维问题降维至一维,这样才能方便排序评估;此外还可以应用于经济效益、经济发展水平、经济发展竞争力、生活水平、生活质量的评价研究上;主成分还可以用于和回归分析相结合,进行主成分回归分析,甚至可以利用主成分分析进行挑选变量,选择少数变量再进行进一步的研究。一般情况下主成分用于探索性分析,很少单独使用,用主成分来分析数据,可以让我们对数据有一个大致的了解。

    几个常用组合:

    主成分分析+判别分析,适用于变量多而记录数不多的情况;

    主成分分析+多元回归分析,主成分分析可以帮助判断是否存在共线性,并用于处理共线性问题;

    主成分分析+聚类分析,不过这种组合因子分析可以更好的发挥优势;

    2)因子分析:

    首先,因子分析+多元回归分析,可以利用因子分析解决共线性问题;其次,可以利用因子分析,寻找变量之间的潜在结构;再次,因子分析+聚类分析,可以通过因子分析寻找聚类变量,从而简化聚类变量;此外,因子分析还可以用于内在结构证实。


    展开全文
  • 面试的时候被问到主成分分析与因子分析的区别与联系,算是答上来了,但是感觉回答时面试官并不满意,回去搜了一下,感觉这篇博文介绍的比较详细。 一、问题的提出  在科学研究或日常生活中,常常需要判断某一...
  • 关于主成分分析与因子分析的几点

    万次阅读 2015-05-15 17:03:21
    一、主成分分析 主成分分析流程 1、原始数据标准化。 2、计算标准化变量间的相关系数矩阵。 3、计算相关系数矩阵的特征值和特征向量。 4、计算主成分变量值。 5、统计结果分析,提取所需的主成分。...主成分变量对应
  • 对应分析与典型相关分析笔记_数学建模系列这里的对应分析与典型相关分析仍然用于降维,因子分析的进阶! 对应分析:在同一张图上,直观的展现样本和属性的聚类效果,同时省去因子选择、因子轴旋转等复杂过程。具体...
  • 主成分分析与因子分析的区别   1. 目的不同: 因子分析把诸多变量看成由对每一个变量都有作用的一些公共因子和仅对某一个变量有作用的特殊因子线性组合而成,因此就是要从数据中控查出对变量起解释作用的...
  • 主成分分析和因子分析有十大区别:1.原理不同主成分分析基本原理:利用降维(线性变换)的思想,在损失很少信息的前提下把多个指标转化为几个不相关的综合指标(主成分),即每个主成分都是原始变量的线性组合,且各个...
  • 因子分析是研究如何以最少的信息丢失,将众多原始变量浓缩成少数几个因子变量,以及如何使因子变量具有较强的可解释性的一种多元统计分析方法。 聚类分析是依据实验数据本身所具有的定性或定量...
  • 1 聚类分析 聚类分析这种多元统计分析方法,用于定量...因子分析法是一种多变量统计分析方法,是以所观察变量的内在相关性为研究基础,将这些有复杂内在相关性的观测变量,浓缩成少数具有代表性的综合因子,并进行 ...
  • 因子分析在SPSS中的操作过程及结果解读

    万次阅读 多人点赞 2019-01-14 16:28:27
    因子分析在SPSS中的操作过程及结果解读 笔者在做该项研究时在网络上查阅了大量资料,都写得不够十分完整,所以该篇文章将因子分析从前到后做一个通俗易懂的解释,全文并不涉及非常晦涩的公式原理。 一.因子分析是...
  • 对应分析

    万次阅读 2018-10-21 17:58:45
    对应分析的提出:因子分析的不足 因子分析法分为R型因子分析和Q型因子分析。R型因子分析研究变量(指标)之间的相关关系,Q型因子分析研究样本之间的相关关系。 有时不仅关心变量之间或样本之间的相关...
  • R语言与因子分析

    千次阅读 2019-11-16 12:50:21
    因子分析 ... 因子分析时研究相关阵或协方差阵的内部依赖关系,它将多个变量综合为少数几个因子,以再现原始变量因子之间的相关关系因子分析的主要用途 较少分析变量的个数 通过对变量间相关关...
  • 主成分分析和因子分析的区别

    千次阅读 2015-07-19 22:27:16
    降维分类是多元统计分析的两个主题,在这里,我浅谈一下的主成分和因子分析主要用于降维。 主成分分析就是将多项指标转化为少数几项综合指标,用综合指标来解释多变量的方差- 协方差结构。综合指标即为主成分...
  • 主成分分析和因子分析的主要区别

    万次阅读 多人点赞 2018-05-17 11:40:00
    (1)原理不同主成分分析基本原理:利用降维(线性变换)的思想,在损失很少信息的前提下把多个指标转化为几个不相关的综合...因子分析基本原理:利用降维的思想,由研究原始变量相关矩阵内部的依赖关系出发,把一...
  • R语言之主成分分析和因子分析

    千次阅读 2020-03-27 20:35:11
    现在是信息爆炸的时代,当数据变量过度复杂时怎么阐明其之间的相互关系呢?主成分分析和探索性因子分析就派上了用场,本文主要运用R语言的psych包进行分析。
  • python数据分析的相关分析和因子分析-第五次笔记 –*相关分析 –*因子分析 相关分析 *相关分析的含义:是研究现象之间是否存在某种依存关系,并对具体有依存关系的现象探讨其相关方向以及相关程度,是研究...
  • 主成分分析和因子分析十大不同点

    千次阅读 2014-09-20 09:09:04
    主成分分析和因子分析无论从算法上还是应用上都有着比较相似之处,本文结合以往资料以及自己的理解总结了以下十大不同之处,适合初学者学习之用。 1.原理不同 主成分分析基本原理:利用降维(线性变换)的思想,...
  • 因子分析

    2019-09-02 17:00:18
    系统聚类分析可以对变量进行分类,但是难以判断变量分类结果的合理性。另外,如果要衡量每个变量...因子分析是通过研究变量间的相关系数矩阵,把这些变量间错综复杂的关系归结成少数几个综合因子,并据此对变量进行...
  • 主成份分析与因子分析

    千次阅读 2007-12-08 14:23:00
    多个指标(变量)可以分别进行分析,但是,我们往往希望综合使用这些指标,这时,有主成份分析、因子分析 等方法可以把数据的维数降低,同时又尽量不损失数据中的信息。 I. 主成份分析 II. 因子分析 ...
  • 因子分析基础概念 因子分析是一种统计方法,可用于描述观察到的相关变量之间的变异性,即潜在的未观察到的变量数量可能更少(称为因子)。例如,六个观察变量的变化可能主要反映了两个未观察(基础)变量的变化。...
  • 听说这是一篇论文 不过我没详细看。... 因子分析是研究如何以最少的信息丢失,将众多原始变量浓缩成少数几个因子变量,以及如何使因子变量具有较强的可解释性的一种多元统计分析方法。  聚类分析是依据...

空空如也

空空如也

1 2 3 4 5 ... 20
收藏数 44,857
精华内容 17,942
关键字:

对应分析与因子分析的关系