主成分分析与因子分析及SPSS实现

一、主成分分析

（1）问题提出

在问题研究中，为了不遗漏和准确起见，往往会面面俱到，取得大量的指标来进行分析。比如为了研究某种疾病的影响因素，我们可能会收集患者的人口学资料、病史、体征、化验检查等等数十项指标。如果将这些指标直接纳入多元统计分析，不仅会使模型变得复杂不稳定，而且还有可能因为变量之间的多重共线性引起较大的误差。有没有一种办法能对信息进行浓缩，减少变量的个数，同时消除多重共线性？

这时，主成分分析隆重登场。

（2）主成分分析的原理

主成分分析的本质是坐标的旋转变换，将原始的n个变量进行重新的线性组合，生成n个新的变量，他们之间互不相关，称为n个“成分”。同时按照方差最大化的原则，保证第一个成分的方差最大，然后依次递减。这n个成分是按照方差从大到小排列的，其中前m个成分可能就包含了原始变量的大部分方差（及变异信息）。那么这m个成分就成为原始变量的“主成分”，他们包含了原始变量的大部分信息。

注意得到的主成分不是原始变量筛选后的剩余变量，而是原始变量经过重新组合后的“综合变量”。

我们以最简单的二维数据来直观的解释主成分分析的原理。假设现在有两个变量X1、X2，在坐标上画出散点图如下：




 


可见，他们之间存在相关关系，如果我们将坐标轴整体逆时针旋转45°，变成新的坐标系Y1、Y2，如下图：



根据坐标变化的原理，我们可以算出：

Y1 = sqrt(2)/2 * X1 + sqrt(2)/2 * X2


Y2 = sqrt(2)/2 * X1 – sqrt(2)/2 * X2


其中sqrt(x)为x的平方根。

通过对X1、X2的重新进行线性组合，得到了两个新的变量Y1、Y2。

此时，Y1、Y2变得不再相关，而且Y1方向变异（方差）较大，Y2方向的变异（方差）较小，这时我们可以提取Y1作为X1、X2的主成分，参与后续的统计分析，因为它携带了原始变量的大部分信息。

至此我们解决了两个问题：降维和消除共线性。

对于二维以上的数据，就不能用上面的几何图形直观的表示了，只能通过矩阵变换求解，但是本质思想是一样的。

 

二、因子分析

（一）原理和方法：

因子分析是主成分分析的扩展。

在主成分分析过程中，新变量是原始变量的线性组合，即将多个原始变量经过线性（坐标）变换得到新的变量。

因子分析中，是对原始变量间的内在相关结构进行分组，相关性强的分在一组，组间相关性较弱，这样各组变量代表一个基本要素（公共因子）。通过原始变量之间的复杂关系对原始变量进行分解，得到公共因子和特殊因子。将原始变量表示成公共因子的线性组合。其中公共因子是所有原始变量中所共同具有的特征，而特殊因子则是原始变量所特有的部分。因子分析强调对新变量（因子）的实际意义的解释。

举个例子：

比如在市场调查中我们收集了食品的五项指标（x1-x5）:味道、价格、风味、是否快餐、能量，经过因子分析，我们发现了：

x1 = 0.02 * z1 + 0.99 * z2 + e1

x2 = 0.94 * z1 – 0.01 * z2 + e2

x3 = 0.13* z1 + 0.98 * z2 + e3

x4 = 0.84 * z1 + 0.42 * z2 + e4

x5 = 0.97 * z1 – 0.02 * z2 + e1

（以上的数字代表实际为变量间的相关系数，值越大，相关性越大）

第一个公因子z1主要与价格、是否快餐、能量有关，代表“价格与营养”

第二个公因子z2主要与味道、风味有关，代表“口味”

e1-5是特殊因子，是公因子中无法解释的，在分析中一般略去。

同时，我们也可以将公因子z1、z2表示成原始变量的线性组合，用于后续分析。

（二）使用条件：

（1）样本量足够大。通常要求样本量是变量数目的5倍以上，且大于100例。

（2）原始变量之间具有相关性。如果变量之间彼此独立，无法使用因子分析。在SPSS中可用KMO检验和Bartlett球形检验来判断。

（3）生成的公因子要有实际的意义，必要时可通过因子旋转（坐标变化）来达到。

 

三、主成分分析和因子分析的联系与区别

联系：两者都是降维和信息浓缩的方法。生成的新变量均代表了原始变量的大部分信息且互相独立，都可以用于后续的回归分析、判别分析、聚类分析等等。

区别：

（1）主成分分析是按照方差最大化的方法生成的新变量，强调新变量贡献了多大比例的方差，不关心新变量是否有明确的实际意义。

（2）因子分析着重要求新变量具有实际的意义，能解释原始变量间的内在结构。

 


SPSS没有提供单独的主成分分析方法，而是混在因子分析当中，下面通过一个例子来讨论主成分分析与因子分析的实现方法及相关问题。


 

一、问题提出

 

男子十项全能比赛包含100米跑、跳远、跳高、撑杆跳、铅球、铁饼、标枪、400米跑、1500米跑、110米跨栏十个项目，总分为各个项目得分之和。为了分析十项全能主要考察哪些方面的能力，以便有针对性的进行训练，研究者收集了134个顶级运动员的十项全能成绩单，将通过因子分析来达到分析目的。

 

二、分析过程

 

变量视图：

 



数据视图（部分）：



菜单选择（分析->降维->因子分析）：





打开因子分析的主界面，将十项成绩选入”变量“框中（不要包含总分），如下：



点击”描述“按钮，打开对话框，选中”系数“和”KMO和Bartlett球形度检验“：





上图相关解释：

”系数“：为变量之间的相关系数阵列，可以直观的分析相关性。

”KMO和Bartlett球形度检验“：用于定量的检验变量之间是否具有相关性。

点击”继续“，回到主界面，点击”抽取“，打开对话框。

”方法“ =>”主成分“，”输出“=>”未旋转的因子解“和”碎石图“，”抽取“=>”基于特征值“，其余选择默认。





解释：

①因子抽取的方法：选取默认的主成分法即可，其余方法的计算结果可能有所差异。

②输出：”未旋转的因子解”极为主成分分析结果。碎石图有助于我们判断因子的重要性（详细介绍见后面）。

③抽取：为抽取主成分（因子）的方法，一般是基于特征值大于1，默认即可。

点击”继续“，回到主界面，点击”确定“，进入分析。

输出的主要表格如下：

（1）相关性检验

因子分析要求变量之间有相关性，所以首先要进行相关性检验。首先输出的是变量之间的相关系数矩阵：





可以直观的看到，变量之间有相关性。但需要检验，接着输出的是相关性检验：



上图有两个指标：第一个是KMO值，一般大于0.7就说明不了之间有相关性了。第二个是Bartlett球形度检验，P值<0.001。综合两个指标，说明变量之间存在相关性，可以进行因子分析。否则，不能进行因子分析。

（2）提取主成分和公因子

接下来输出主成分结果：





这就是主成分分析的结果，表中第一列为10个成分；第二列为对应的”特征值“，表示所解释的方差的大小；第三列为对应的成分所包含的方差占总方差的百分比；第四列为累计的百分比。一般来说，选择”特征值“大于1的成分作为主成分，这也是SPSS默认的选择。

在本例中，成分1和2的特征值大于1，他们合计能解释71.034%的方差，还算不错。所以我们可以提取1和2作为主成分，抓住了主要矛盾，其余成分包含的信息较少，故弃去。

下面，输出碎石图，如下：



碎石图来源于地质学的概念。在岩层斜坡下方往往有很多小的碎石，其地质学意义不大。碎石图以特征值为纵轴，成分为横轴。前面陡峭的部分特征值大，包含的信息多，后面平坦的部分特征值小，包含的信息也小。

由图直观的看出，成分1和2包含了大部分信息，从3开始就进入平台了。

接下来，输出提取的成分矩阵：





上表中的数值为公因子与原始变量之间的相关系数，绝对值越大，说明关系越密切。公因子1和9个运动项目都正相关（注意跑步运动运动的计分方式，时间越短，分数越高），看来只能称为“综合运动”因子了。公因子2与铁饼、铅球正相关，与1500米跑、400米跑负相关，这究竟代表什么意思呢？看来只能成为“不知所云”因子了。

（三）因子旋转

前面提取的两个公因子一个是大而全的“综合因子”，一个不知所云，得到这样的结果，无疑是分析的失败。不过，不要灰心，我们可以通过因子的旋转来获得更好的解释。在主界面中点击“旋转”按钮，打开对话框，“方法”=>“最大方差法”，“输出”=>“旋转解”。





点击“继续”，回到主界面点击“确认”进行分析。输出结果如下：



这是选择后的成分矩阵。经过旋转，可以看出：

公因子1得分越高，所有的跑步和跨栏成绩越差，而跳远、撑杆跳等需要助跑类项目的成绩也越差，所以公因子1代表的是奔跑能力的反向指标，可称为“奔跑能力”。

公因子2与铁饼和铅球的正相关性很高，与标枪、撑杆跳等需要上肢力量的项目也正相关，所以该因子可以成为“上肢力量”。

经过旋转，可以看出公因子有了更合理的解释。

（四）结果的保存

在最后，我们还要将公因子储存下来供后续使用。点击“得分”按钮，打开对话框，选中“保存为变量”，方法采用默认的“回归”方法，同时选中“显示因子得分系数矩阵”。





SPSS会自动生成2个新变量，分别为公因子的取值，放在数据的最后。同时会输出一个因子系数表格：




由上图，我们可以写出公因子的表达式（用F1、F2代表两个公因子，Z1~Z10分别代表原始变量）：


F1 = -0.16*Z1+0.161*Z2+0.145*Z3+0.199*Z4-0.131*Z5-0.167*Z6+0.137*Z7+0.174*Z8+0.131*Z9-0.037*Z10

F2同理，略去。

注意，这里的变量Z1~Z10，F1、F2不再是原始变量，而是标准正态变换后的变量。

spss案例教程

原文地址：https://www.ixueshu.com/document/934cf7bb1ff99338318947a18e7f9386.html

								            
						

                
主成分分析与因子分析及SPSS实现
一、主成分分析
（1）问题提出
在问题研究中，为了不遗漏和准确起见，往往会面面俱到，取得大量的指标来进行分析。比如为了研究某种疾病的影响因素，我们可能会收集患者的人口学资料、病史、体征、化验检查等等数十项指标。如果将这些指标直接纳入多元统计分析，不仅会使模型变得复杂不稳定，而且还有可能因为变量之间的多重共线性引起较大的误差。有没有一种办法能对信息进行浓缩，减少变量的个数，同时消除多重共线性？
这时，主成分分析隆重登场。
（2）主成分分析的原理
主成分分析的本质是坐标的旋转变换，将原始的n个变量进行重新的线性组合，生成n个新的变量，他们之间互不相关，称为n个“成分”。同时按照方差最大化的原则，保证第一个成分的方差最大，然后依次递减。这n个成分是按照方差从大到小排列的，其中前m个成分可能就包含了原始变量的大部分方差（及变异信息）。那么这m个成分就成为原始变量的“主成分”，他们包含了原始变量的大部分信息。
注意得到的主成分不是原始变量筛选后的剩余变量，而是原始变量经过重新组合后的“综合变量”。
我们以最简单的二维数据来直观的解释主成分分析的原理。假设现在有两个变量X1、X2，在坐标上画出散点图如下：
 
可见，他们之间存在相关关系，如果我们将坐标轴整体逆时针旋转45°，变成新的坐标系Y1、Y2，如下图：
根据坐标变化的原理，我们可以算出：
Y1 = sqrt(2)/2 * X1 + sqrt(2)/2 * X2
Y2 = sqrt(2)/2 * X1 – sqrt(2)/2 * X2
其中sqrt(x)为x的平方根。
通过对X1、X2的重新进行线性组合，得到了两个新的变量Y1、Y2。
此时，Y1、Y2变得不再相关，而且Y1方向变异（方差）较大，Y2方向的变异（方差）较小，这时我们可以提取Y1作为X1、X2的主成分，参与后续的统计分析，因为它携带了原始变量的大部分信息。
至此我们解决了两个问题：降维和消除共线性。
对于二维以上的数据，就不能用上面的几何图形直观的表示了，只能通过矩阵变换求解，但是本质思想是一样的。
二、因子分析
（一）原理和方法：
因子分析是主成分分析的扩展。
在主成分分析过程中，新变量是原始变量的线性组合，即将多个原始变量经过线性（坐标）变换得到新的变量。
因子分析中，是对原始变量间的内在相关结构进行分组，相关性强的分在一组，组间相关性较弱，这样各组变量代表一个基本要素（公共因子）。通过原始变量之间的复杂关系对原始变量进行分解，得到公共因子和特殊因子。将原始变量表示成公共因子的线性组合。其中公共因子是所有原始变量中所共同具有的特征，而特殊因子则是原始变量所特有的部分。因子分析强调对新变量（因子）的实际意义的解释。
举个例子：
比如在市场调查中我们收集了食品的五项指标（x1-x5）:味道、价格、风味、是否快餐、能量，经过因子分析，我们发现了：
x1 = 0.02 * z1 + 0.99 * z2 + e1
x2 = 0.94 * z1 – 0.01 * z2 + e2
x3 = 0.13* z1 + 0.98 * z2 + e3
x4 = 0.84 * z1 + 0.42 * z2 + e4
x5 = 0.97 * z1 – 0.02 * z2 + e1
（以上的数字代表实际为变量间的相关系数，值越大，相关性越大）
第一个公因子z1主要与价格、是否快餐、能量有关，代表“价格与营养”
第二个公因子z2主要与味道、风味有关，代表“口味”
e1-5是特殊因子，是公因子中无法解释的，在分析中一般略去。
同时，我们也可以将公因子z1、z2表示成原始变量的线性组合，用于后续分析。
（二）使用条件：
（1）样本量足够大。通常要求样本量是变量数目的5倍以上，且大于100例。
（2）原始变量之间具有相关性。如果变量之间彼此独立，无法使用因子分析。在SPSS中可用KMO检验和Bartlett球形检验来判断。
（3）生成的公因子要有实际的意义，必要时可通过因子旋转（坐标变化）来达到。
三、主成分分析和因子分析的联系与区别
联系：两者都是降维和信息浓缩的方法。生成的新变量均代表了原始变量的大部分信息且互相独立，都可以用于后续的回归分析、判别分析、聚类分析等等。
区别：
（1）主成分分析是按照方差最大化的方法生成的新变量，强调新变量贡献了多大比例的方差，不关心新变量是否有明确的实际意义。
（2）因子分析着重要求新变量具有实际的意义，能解释原始变量间的内在结构。
SPSS没有提供单独的主成分分析方法，而是混在因子分析当中，下面通过一个例子来讨论主成分分析与因子分析的实现方法及相关问题。
 
一、问题提出
 
男子十项全能比赛包含100米跑、跳远、跳高、撑杆跳、铅球、铁饼、标枪、400米跑、1500米跑、110米跨栏十个项目，总分为各个项目得分之和。为了分析十项全能主要考察哪些方面的能力，以便有针对性的进行训练，研究者收集了134个顶级运动员的十项全能成绩单，将通过因子分析来达到分析目的。
 
二、分析过程
 
变量视图：
 
数据视图（部分）：
菜单选择（分析->降维->因子分析）：
打开因子分析的主界面，将十项成绩选入”变量“框中（不要包含总分），如下：
点击”描述“按钮，打开对话框，选中”系数“和”KMO和Bartlett球形度检验“：
上图相关解释：
”系数“：为变量之间的相关系数阵列，可以直观的分析相关性。
”KMO和Bartlett球形度检验“：用于定量的检验变量之间是否具有相关性。
点击”继续“，回到主界面，点击”抽取“，打开对话框。
”方法“ =>”主成分“，”输出“=>”未旋转的因子解“和”碎石图“，”抽取“=>”基于特征值“，其余选择默认。
解释：
①因子抽取的方法：选取默认的主成分法即可，其余方法的计算结果可能有所差异。
②输出：”未旋转的因子解”极为主成分分析结果。碎石图有助于我们判断因子的重要性（详细介绍见后面）。
③抽取：为抽取主成分（因子）的方法，一般是基于特征值大于1，默认即可。
点击”继续“，回到主界面，点击”确定“，进入分析。
输出的主要表格如下：
（1）相关性检验
因子分析要求变量之间有相关性，所以首先要进行相关性检验。首先输出的是变量之间的相关系数矩阵：
可以直观的看到，变量之间有相关性。但需要检验，接着输出的是相关性检验：
上图有两个指标：第一个是KMO值，一般大于0.7就说明不了之间有相关性了。第二个是Bartlett球形度检验，P值<0.001。综合两个指标，说明变量之间存在相关性，可以进行因子分析。否则，不能进行因子分析。
（2）提取主成分和公因子
接下来输出主成分结果：
这就是主成分分析的结果，表中第一列为10个成分；第二列为对应的”特征值“，表示所解释的方差的大小；第三列为对应的成分所包含的方差占总方差的百分比；第四列为累计的百分比。一般来说，选择”特征值“大于1的成分作为主成分，这也是SPSS默认的选择。
在本例中，成分1和2的特征值大于1，他们合计能解释71.034%的方差，还算不错。所以我们可以提取1和2作为主成分，抓住了主要矛盾，其余成分包含的信息较少，故弃去。
下面，输出碎石图，如下：
碎石图来源于地质学的概念。在岩层斜坡下方往往有很多小的碎石，其地质学意义不大。碎石图以特征值为纵轴，成分为横轴。前面陡峭的部分特征值大，包含的信息多，后面平坦的部分特征值小，包含的信息也小。
由图直观的看出，成分1和2包含了大部分信息，从3开始就进入平台了。
接下来，输出提取的成分矩阵：
上表中的数值为公因子与原始变量之间的相关系数，绝对值越大，说明关系越密切。公因子1和9个运动项目都正相关（注意跑步运动运动的计分方式，时间越短，分数越高），看来只能称为“综合运动”因子了。公因子2与铁饼、铅球正相关，与1500米跑、400米跑负相关，这究竟代表什么意思呢？看来只能成为“不知所云”因子了。
（三）因子旋转
前面提取的两个公因子一个是大而全的“综合因子”，一个不知所云，得到这样的结果，无疑是分析的失败。不过，不要灰心，我们可以通过因子的旋转来获得更好的解释。在主界面中点击“旋转”按钮，打开对话框，“方法”=>“最大方差法”，“输出”=>“旋转解”。
点击“继续”，回到主界面点击“确认”进行分析。输出结果如下：
这是选择后的成分矩阵。经过旋转，可以看出：
公因子1得分越高，所有的跑步和跨栏成绩越差，而跳远、撑杆跳等需要助跑类项目的成绩也越差，所以公因子1代表的是奔跑能力的反向指标，可称为“奔跑能力”。
公因子2与铁饼和铅球的正相关性很高，与标枪、撑杆跳等需要上肢力量的项目也正相关，所以该因子可以成为“上肢力量”。
经过旋转，可以看出公因子有了更合理的解释。
（四）结果的保存
在最后，我们还要将公因子储存下来供后续使用。点击“得分”按钮，打开对话框，选中“保存为变量”，方法采用默认的“回归”方法，同时选中“显示因子得分系数矩阵”。
SPSS会自动生成2个新变量，分别为公因子的取值，放在数据的最后。同时会输出一个因子系数表格：
由上图，我们可以写出公因子的表达式（用F1、F2代表两个公因子，Z1~Z10分别代表原始变量）：
F1 = -0.16*Z1+0.161*Z2+0.145*Z3+0.199*Z4-0.131*Z5-0.167*Z6+0.137*Z7+0.174*Z8+0.131*Z9-0.037*Z10
F2同理，略去。
注意，这里的变量Z1~Z10，F1、F2不再是原始变量，而是标准正态变换后的变量。
            
                
将教程和案例整合在一起了，方便大家学习

主成分分析，主成份是原始变量的线性组合，在考虑所有主成份的情况下主成份和原始变量间是可以逆转的。即“简化变量”，将变量以不同的系数合起来，得到好几个复合变量，然后在从中挑几个能表示整体的复合变量就是主成份，然后计算得分。
因子分析，公共因子和原始变量的关系是不可逆转的，但是可以通过回归得到。是将变量拆开，分成公共因子和特殊因子。过程是：因子载荷计算，因子旋转，因子得分。
主成份分析
主成份分析需要知道两变量之间的相关性，生成协方差举证和相关新矩阵，对应的生成的新向量矩阵Y还有特征值λi，对应是第I个新向量对总体信息的贡献率为λi/(λ1+λ2+...+λn),对应的还有一个累积贡献率。
确定主成份的个数的方法有：特征值大于1（要求原始数据的每一个变量至少能贡献1各单位的变异）、陡坡检验法（陡坡图中开始平坦的点之前的点的个数）、累积解释变异比例法（即（λ1+...+λi）/(λ1+λ2+...+λn)>70%）。
同时也可以知道主成分分析对应的几个难点①是使用协方差矩阵还是相关系数矩阵②如何确定主成份的个数。当数据中不同变量的度量单位不同并且数值相差较大就用标准化后的相关系数矩阵，当数值相差不大并且指标的权重不一样时，考虑用协方差矩阵。对于个数的确定就是我们一些边界问题是否1左右的也可以囊括进主成份中，是否难以确定开始变平坦的是那个点，是否70%不够。等几个问题。
主成分分析可以用两个过程步完成PROC FACTORS 、PROC PRINCOMP。后者能处理的数据量大一些，效率高一些，，前者输出的内容丰富些，还可以做旋转因子。
以下是主成分分析过程；

proc princomp data=sashelp.cars out=car_component;
    var mpg_city mpg_highway weight wheelbase length;
run;

输出结果：

先是输出统计结果，再是输出相关性矩阵，这里princomp步默认使用的是相关系数矩阵，实际应用过程中，可以通过cov选项来指定使用的矩阵。从一扇那个结果可以看出：highway和city、wheelbase和length和weight相关性较强。

接下来是相关矩阵的特征值以及特征向量，可以看出前两个特征值的贡献率就已经发到了92%，所以前两个对用的特征向量就足以表达整体的92%了。可以得出第一主成份线性表达式为：PRIN1=-0.443657*CITY-0.44858*HIGHWAY+0.4793*WEIGHT+0.4399*WHEELBASE+0.4226*LENGHT,一次类推第二主成份表达式即可。
还输出陡坡图如下：

可以看出是从第三个点开始变平坦，所以此数据的只有两个主成分变量。
从输出数据集中可有主成分变量的打分状况。

 
其中有负分是因为计算主成份时用了标准化后的原始数据集。
接下来看FACTOR过程步：

proc factor data=sashelp.cars n=2  simple corr;
    var mpg_city mpg_highway weight wheelbase length;
run;

其中simple为输出常见的统计量，CORR输出相关性矩阵，N=2为保留两个主成分（这里是先进行过出成分分析结果已知主成分个数之后确定的两个，默认是输出一个，但是在没有先进行主成分分析的情况下也可以直接输出最大个数，即总变量的个数，然后再确定主成分个数）。输出结果如下：

 

 
这里不一样的是：这里的主成分名称被因子替换了，并且指出有几个因子被保留，也给出了特征向量的贡献率。

这里得出的线性方程不于princomp过程的系数一致，原因是factor是假设所有因子或者主成份的方差为1，为princomp是方差为特征值，实际上可以转化过来；
现如下代码就于前面结果一致：

proc factor data=sashelp.cars n=5 score;
    ods output stdscorecoef=coef;
    var mpg_city mpg_highway weight wheelbase length;
run;
proc stdsize method=ustd mult=0.44721 data=coef out=eigenvectors;
    var factor1-factor5;
run;

输出的结果就会一致。
因子分析
对于主成分分析的目的是“降维”，而因子分析的目的通过“降维”，来找到能解释原始便能量的公共因子和特殊因子。
计算因子载荷的方法有：主成份分析法（即特征向量对应的值），极大似然法。
因子旋转有：正交旋转（公共因子间不相关）和斜交旋转。

proc factor data=sashelp.cars corr priors=smc rotate=varimax;
    var mpg_city mpg_highway weight wheelbase length;
run;

corr使用相关系数矩阵，priors=smc指明先验公因子估计方法为多元相关系数的平方。rotate=varimax为指明使用最大正交旋转法进行对因子的旋转。
输出结果和前面相似的有：

 

 
旋转之前各自变量均有载荷而且大部分载荷明显不利于对因子的意义进行解释，接下来就是用rotate=varimax是指明用最大正交旋转法对因子进行旋转，结果如下：

旋转之后的因子特征比较明显，高低载荷分明，除了weight不便归类外其余的factor1包含city和highway和weight三个变量可解释为“整车油耗”，factor可解释为“整车舒适”。接下来是用两公共因子进行得分计算，使用PROC SCORE过程即可满足：
 

proc factor data=sashelp.cars corr priors=smc rotate=varimax
    outstat=factcars score;
    var mpg_city mpg_highway weight wheelbase length;
run;

proc score data=sashelp.cars score=factcars out=fscore;
    var mpg_city mpg_highway weight wheelbase length;
run;

得到的打分后的数据集为：

总结：主成分分析为：把变量合起来形成个数较少的新变量（简化变量），因子分析是把变量拆开（公共因子和特殊因子）即分析学生成绩由什么因子组成的。
 
 
 
 
 
转载于:https://www.cnblogs.com/immaculate/p/6413948.html

主成分分析可以简单的总结成一句话：数据的压缩和解释。常被用来寻找判断某种事物或现象的综合指标，并且给综合指标所包含的信息以适当的解释。在实际的应用过程中，主成分分析常被用作达到目的的中间手段，而非完全的一种分析方法。


可以通过矩阵变换知道原始数据能够浓缩成几个主成分，以及每个主成分与原来变量之间线性组合关系式。但是细心的朋友会发现，每个原始变量在主成分中都占有一定的分量，这些分量（载荷）之间的大小分布没有清晰的分界线，这就造成无法明确表述哪个主成分代表哪些原始变量，也就是说提取出来的主成分无法清晰的解释其代表的含义。


因子分析
鉴于主成分分析现实含义的解释缺陷，统计学斯皮尔曼又对主成分分析进行扩展。因子分析在提取公因子时，不仅注意变量之间是否相关，而且考虑相关关系的强弱，使得提取出来的公因子不仅起到降维的作用，而且能够被很好的解释。因子分析与主成分分析是包含与扩展的关系。
其次是扩展关系。因子分析解决主成分分析解释障碍的方法是通过因子轴旋转。因子轴旋转可以使原始变量在公因子（主成分）上的载荷重新分布，从而使原始变量在公因子上的载荷两级分化，这样公因子（主成分）就能够用哪些载荷大的原始变量来解释。以上过程就解决了主成分分析的现实含义解释障碍。

1.原理不同：
主成分分析（Principal components analysis，PCA）基本原理：利用降维（线性变换)的思想，在损失很少信息的前提下把多个指标转化为几个不相关的综合指标（主成分)，即每个主成分都是原始变量的线性组合，且各个主成分之间互不相关，使得主成分比原始变量具有某些更优越的性能（主成分必须保留原始变量90%以上的信息），从而达到简化系统结构，抓住问题实质的目的。
因子分析（Factor Analysis，FA）基本原理：利用降维的思想，由研究原始变量相关矩阵内部的依赖关系出发，把一些具有错综复杂关系的变量表示成少数的公共因子和仅对某一个变量有作用的特殊因子线性组合而成。就是要从数据中提取对变量起解释作用的少数公共因子（因子分析是主成分的推广，相对于主成分分析，更倾向于描述原始变量之间的相关关系）。
2.线性表示方向不同：
因子分析是把变量表示成各公因子的线性组合；主成分分析中则是把主成分表示成各变量的线性组合。
3.假设条件不同：
主成分分析：不需要有假设(assumptions)；
因子分析：需要一些假设。因子分析的假设包括：各个共同因子之间不相关，特殊因子（specificfactor）之间也不相关，共同因子和特殊因子之间也不相关。 
4.求解方法不同：
（1）求解主成分的方法：
从协方差阵出发（协方差阵已知），从相关阵出发（相关阵R已知），采用的方法只有主成分法。（实际研究中，总体协方差阵与相关阵是未知的，必须通过样本数据来估计）；
注意事项：由协方差阵出发与由相关阵出发求解主成分所得结果不一致时，要恰当的选取某一种方法；
一般当变量单位相同或者变量在同一数量等级的情况下，可以直接采用协方差阵进行计算；对于度量单位不同的指标或是取值范围彼此差异非常大的指标，应考虑将数据标准化，再由协方差阵求主成分。
实际应用中应该尽可能的避免标准化，因为在标准化的过程中会抹杀一部分原本刻画变量之间离散程度差异的信息。此外，最理想的情况是主成分分析前的变量之间相关性高，且变量之间不存在多重共线性问题（会出现最小特征根接近0的情况）；
2）求解因子载荷的方法：
主成分法，主轴因子法，极大似然法，最小二乘法，a因子提取法。
5.主成分和因子的变化不同：
主成分分析：当给定的协方差矩阵或者相关矩阵的特征值唯一时，主成分一般是固定的独特的；
因子分析：因子不是固定的，可以旋转得到不同的因子。
6.因子数量与主成分的数量
主成分分析：主成分的数量是一定的，一般有几个变量就有几个主成分（只是主成分所解释的信息量不等），实际应用时会根据碎石图提取前几个主要的主成分。
因子分析：因子个数需要分析者指定（SPSS和SAS根据一定的条件自动设定，只要是特征值大于1的因子主可进入分析），指定的因子数量不同而结果也不同；

7.解释重点不同：
主成分分析：重点在于解释个变量的总方差；因子分析：则把重点放在解释各变量之间的协方差。 
8.算法上的不同：
主成分分析：协方差矩阵的对角元素是变量的方差；
因子分析：所采用的协方差矩阵的对角元素不在是变量的方差，而是和变量对应的共同度（变量方差中被各因子所解释的部分）。
9.优点不同：
（1）因子分析：
对于因子分析，可以使用旋转技术，使得因子更好的得到解释，因此在解释主成分方面因子分析更占优势；其次因子分析不是对原有变量的取舍，而是根据原始变量的信息进行重新组合，找出影响变量的共同因子，化简数据；
（2）主成分分析：
第一：如果仅仅想把现有的变量变成少数几个新的变量（新的变量几乎带有原来所有变量的信息）来进入后续的分析，则可以使用主成分分析，不过一般情况下也可以使用因子分析；
第二：通过计算综合主成分函数得分，对客观经济现象进行科学评价；
第三：它在应用上侧重于信息贡献影响力综合评价；
第四：应用范围广，主成分分析不要求数据来自正态分布总体，其技术来源是矩阵运算的技术以及矩阵对角化和矩阵的谱分解技术，因而凡是涉及多维度问题，都可以应用主成分降维。
1）主成分分析：
可以用于系统运营状态做出评估，一般是将多个指标综合成一个变量，即将多维问题降维至一维，这样才能方便排序评估；此外还可以应用于经济效益、经济发展水平、经济发展竞争力、生活水平、生活质量的评价研究上；主成分还可以用于和回归分析相结合，进行主成分回归分析，甚至可以利用主成分分析进行挑选变量，选择少数变量再进行进一步的研究。一般情况下主成分用于探索性分析，很少单独使用，用主成分来分析数据，可以让我们对数据有一个大致的了解。
几个常用组合：
主成分分析+判别分析，适用于变量多而记录数不多的情况；
主成分分析+多元回归分析，主成分分析可以帮助判断是否存在共线性，并用于处理共线性问题；
主成分分析+聚类分析，不过这种组合因子分析可以更好的发挥优势；
2）因子分析：
首先，因子分析+多元回归分析，可以利用因子分析解决共线性问题；其次，可以利用因子分析，寻找变量之间的潜在结构；再次，因子分析+聚类分析，可以通过因子分析寻找聚类变量，从而简化聚类变量；此外，因子分析还可以用于内在结构证实。