精华内容
下载资源
问答
  • 多维数据分析方法应用实例
    千次阅读
    2021-08-27 10:43:50


    原文链接: 统计学中数据分析方法大全!

    1. 描述统计

    描述统计是通过图表或数学方法,对数据资料进行整理、分析,并对数据的分布状态、数字特征和随机变量之间关系进行估计和描述的方法。描述统计分为集中趋势分析离中趋势分析相关分析三大部分。

    1.1 集中趋势分析

    集中趋势分析主要靠平均数、中数、众数等统计指标来表示数据的集中趋势。例如被试的平均成绩多少?是正偏分布还是负偏分布?

    1.2 离中趋势分析

    离中趋势分析主要靠全距、四分差、平均差、方差(协方差:用来度量两个随机变量关系的统计量)、标准差等统计指标来研究数据的离中趋势。例如,我们想知道两个教学班的语文成绩中,哪个班级内的成绩分布更分散,就可以用两个班级的四分差或百分点来比较。

    1.3 相关分析

    相关分析探讨数据之间是否具有统计学上的关联性。

    1. 既包括两个数据之间的单一相关关系——如年龄与个人领域空间之间的关系,也包括多个数据之间的多重相关关系——如年龄、抑郁症发生率、个人领域空间之间的关系;
    2. 既包括A大B就大(小),A小B就小(大)的直线相关关系,也可以是复杂相关关系(A=Y-B*X);既可以是A、B变量同时增大这种正相关关系,也可以是A变量增大时B变量减小这种负相关,
    3. 还包括两变量共同变化的紧密程度——即相关系数。实际上,相关关系唯一不研究的数据关系,就是数据协同变化的内在根据——即因果关系。获得相关系数有什么用呢?简而言之,有了相关系数,就可以根据回归方程,进行A变量到B变量的估算,这就是所谓的回归分析,因此,相关分析是一种完整的统计研究方法,它贯穿于提出假设,数据研究,数据分析,数据研究的始终。

    例如,我们想知道对监狱情景进行什么改造,可以降低囚徒的暴力倾向。我们就需要将不同的囚舍颜色基调、囚舍绿化程度、囚室人口密度、放风时间、探视时间进行排列组合,然后让每个囚室一种实验处理,然后用因素分析法找出与囚徒暴力倾向的相关系数最高的因素。假定这一因素为囚室人口密度,我们又要将被试随机分入不同人口密度的十几个囚室中生活,继而得到人口密度和暴力倾向两组变量(即我们讨论过的A、B两列变量)。然后,我们将人口密度排入X轴,将暴力倾向分排入Y轴,获得了一个很有价值的图表,当某典狱长想知道,某囚舍扩建到N人/间囚室,暴力倾向能降低多少。我们可以当前人口密度和改建后人口密度带入相应的回归方程,算出扩建前的预期暴力倾向和扩建后的预期暴力倾向,两数据之差即典狱长想知道的结果。

    2 推论统计

    推论统计是统计学乃至于心理统计学中较为年轻的一部分内容。它以统计结果为依据,来证明或推翻某个命题。具体来说,就是通过分析样本与样本分布的差异,来估算样本与总体、同一样本的前后测成绩差异,样本与样本的成绩差距、总体与总体的成绩差距是否具有显著性差异。例如,我们想研究教育背景是否会影响人的智力测验成绩。可以找100名24岁大学毕业生和100名24岁初中毕业生。采集他们的一些智力测验成绩。用推论统计方法进行数据处理,最后会得出类似这样儿的结论:“研究发现,大学毕业生组的成绩显著高于初中毕业生组的成绩,二者在0.01水平上具有显著性差异,说明大学毕业生的一些智力测验成绩优于中学毕业生组。”

    其中,如果用EXCEL 来求描述统计。其方法是:工具-加载宏-勾选"分析工具库",然后关闭Excel然后重新打开,工具菜单就会出现"数据分析"。描述统计是“数据分析”内一个子菜单,在做的时候,记得要把方格输入正确。最好直接点选。

    3 正态性检验

    很多统计方法都要求数值服从或近似服从正态分布,所以之前需要进行正态性检验。常用方法:非参数检验的K-量检验、P-P图、Q-Q图、W检验、动差法。

    4 假设检验

    参数检验

    参数检验是在已知总体分布的条件下(一股要求总体服从正态分布)对一些主要的参数(如均值、百分数、方差、相关系数等)进行的检验。

    1. U检验 :使用条件:当样本含量n较大时,样本值符合正态分布
    2. T检验:使用条件:当样本含量n较小时,样本值符合正态分布
      • 单样本t检验:推断该样本来自的总体均数μ与已知的某一总体均数μ0 (常为理论值或标准值)有无差别;
      • 配对样本t检验:当总体均数未知时,且两个样本可以配对,同对中的两者在可能会影响处理效果的各种条件方面极为相似;
      • 两独立样本t检验:无法找到在各方面极为相似的两样本作配对比较时使用。

    非参数检验

    非参数检验则不考虑总体分布是否已知,常常也不是针对总体参数,而是针对总体的某些一股性假设(如总体分布的位罝是否相同,总体分布是否正态)进行检验。

    适用情况: 顺序类型的数据资料,这类数据的分布形态一般是未知的。

    • 虽然是连续数据,但总体分布形态未知或者非正态;
    • 总体分布虽然正态,数据也是连续类型,但样本容量极小,如10以下;

    主要方法包括: 卡方检验、秩和检验、二项检验、游程检验、K-量检验等。

    5 信度分析

    信度(Reliability)即可靠性,它是指采用同样的方法对同一对象重复测量时所得结果的一致性程度。信度指标多以相关系数表示,大致可分为三类:稳定系数(跨时间的一致性),等值系数(跨形式的一致性)和内在一致性系数(跨项目的一致性)。信度分析的方法主要有以下四种:重测信度法、复本信度法、折半信度法、α信度系数法。

    方法

    1. 重测信度法:这一方法是用同样的问卷对同一组被调查者间隔一定时间重复施测,计算两次施测结果的相关系数。显然,重测信度属于稳定系数。重测信度法特别适用于事实式问卷,如性别、出生年月等在两次施测中不应有任何差异,大多数被调查者的兴趣、爱好、习惯等在短时间内也不会有十分明显的变化。如果没有突发事件导致被调查者的态度、意见突变,这种方法也适用于态度、意见式问卷。由于重测信度法需要对同一样本试测两次,被调查者容易受到各种事件、活动和他人的影响,而且间隔时间长短也有一定限制,因此在实施中有一定困难。

    2. 复本信度法:让同一组被调查者一次填答两份问卷复本,计算两个复本的相关系数。复本信度属于等值系数。复本信度法要求两个复本除表述方式不同外,在内容、格式、难度和对应题项的提问方向等方面要完全一致,而在实际调查中,很难使调查问卷达到这种要求,因此采用这种方法者较少。

    3. 折半信度法:折半信度法是将调查项目分为两半,计算两半得分的相关系数,进而估计整个量表的信度。折半信度属于内在一致性系数,测量的是两半题项得分间的一致性。这种方法一般不适用于事实式问卷(如年龄与性别无法相比),常用于态度、意见式问卷的信度分析。在问卷调查中,态度测量最常见的形式是5级李克特(Likert)量表(李克特量表(Likert scale)是属评分加总式量表最常用的一种,属同一构念的这些项目是用加总方式来计分,单独或个别项目是无意义的。它是由美国社会心理学家李克特于1932年在原有的总加量表基础上改进而成的。该量表由一组陈述组成,每一陈述有"非常同意"、“同意”、“不一定”、“不同意”、"非常不同意"五种回答,分别记为5、4、3、2、1,每个被调查者的态度总分就是他对各道题的回答所得分数的加总,这一总分可说明他的态度强弱或他在这一量表上的不同状态。)。进行折半信度分析时,如果量表中含有反意题项,应先将反意题项的得分作逆向处理,以保证各题项得分方向的一致性,然后将全部题项按奇偶或前后分为尽可能相等的两半,计算二者的相关系数(rhh,即半个量表的信度系数),最后用斯皮尔曼-布朗(Spearman-Brown)公式:求出整个量表的信度系数(ru)。

    4. α信度系数法:Cronbach
      α信度系数是目前最常用的信度系数,其公式为:
      α = ( k / ( k − 1 ) ) ∗ ( 1 − ( ∑ S i 2 ) / S T 2 ) α=(k/(k-1))*(1-(∑Si^2)/ST^2) α=(k/(k1))(1(Si2)/ST2)
      其中,K为量表中题项的总数, S i 2 Si^2 Si2为第i题得分的题内方差, S T 2 ST^2 ST2为全部题项总得分的方差。从公式中可以看出,α系数评价的是量表中各题项得分间的一致性,属于内在一致性系数。这种方法适用于态度、意见式问卷(量表)的信度分析。
      总量表的信度系数最好在0.8以上,0.7-0.8之间可以接受;分量表的信度系数最好在0.7以上,0.6-0.7还可以接受。Cronbach 's alpha系数如果在0.6以下就要考虑重新编问卷。
      检查测量的可信度,例如调查问卷的真实性。

    分类

    • 外在信度:不同时间测量时量表的一致性程度,常用方法重测信度。
    • 内在信度;每个量表是否测量到单一的概念,同时组成两表的内在体项一致性如何,常用方法分半信度。

    6. 列联表分析

    列联表是观测数据按两个或更多属性(定性变量)分类时所列出的频数表

    简介

    一般,若总体中的个体可按两个属性A、B分类,A有r个等级A1,A2,…,Ar,B有c个等级B1,B2,…,Bc,从总体中抽取大小为n的样本,设其中有nij个个体的属性属于等级Ai和Bj,nij称为频数,将r×c个nij排列为一个r行c列的二维列联表,简称r×c表。若所考虑的属性多于两个,也可按类似的方式作出列联表,称为多维列联表。

    列联表又称交互分类表,所谓交互分类,是指同时依据两个变量的值,将所研究的个案分类。交互分类的目的是将两变量分组,然后比较各组的分布状况,以寻找变量间的关系。

    用于分析离散变量或定型变量之间是否存在相关。

    列联表分析的基本问题是,判明所考察的各属性之间有无关联,即是否独立。如在本例中,问题是:一个人是否色盲与其性别是否有关?在r×с表中,若以pi、pj和pij分别表示总体中的个体属于等级Ai,属于等级Bj和同时属于Ai、Bj的概率(pi,pj称边缘概率,pij称格概率),“A、B两属性无关联”的假设可以表述为H0:pij=pi·pj,(i=1,2,…,r;j=1,2,…,с),未知参数pij、pi、pj的最大似然估计(见点估计)分别为行和及列和(统称边缘和)。

    n为样本大小。根据K.皮尔森(1904)的拟合优度检验或似然比检验(见假设检验),当h0成立,且一切pi>0和pj>0时,统计量的渐近分布是自由度为(r-1)(с-1) 的 χ 2 \chi^2 χ2分布 ,式中Eij=(ni·nj)/n称为期望频数。当n足够大,且表中各格的Eij都不太小时,可以据此对h0作检验:若 χ 2 \chi^2 χ2值足够大,就拒绝假设h0,即认为A与B有关联。在前面的色觉问题中,曾按此检验,判定出性别与色觉之间存在某种关联。

    需要注意

    若样本大小n不是很大,则上述基于渐近分布的方法就不适用。对此,在四格表情形,R.A.费希尔(1935)提出了一种适用于所有n的精确检验法。其思想是在固定各边缘和的条件下,根据超几何分布(见概率分布),可以计算观测频数出现任意一种特定排列的条件概率。把实际出现的观测频数排列,以及比它呈现更多关联迹象的所有可能排列的条件概率都算出来并相加,若所得结果小于给定的显著性水平,则判定所考虑的两个属性存在关联,从而拒绝h0。

    对于二维表,可进行卡方检验,对于三维表,可作Mentel-Hanszel分层分析。

    列联表分析还包括配对计数资料的卡方检验、行列均为顺序变量的相关检验。

    7 相关分析

    研究现象之间是否存在某种依存关系,对具体有依存关系的现象探讨相关方向及相关程度。

    单相关:两个因素之间的相关关系叫单相关,即研究时只涉及一个自变量和一个因变量;
    复相关:三个或三个以上因素的相关关系叫复相关,即研究时涉及两个或两个以上的自变量和因变量相关;
    偏相关:在某一现象与多种现象相关的场合,当假定其他变量不变时,其中两个变量之间的相关关系称为偏相关。

    8 方差分析

    使用条件:各样本须是相互独立的随机样本;各样本来自正态分布总体;各总体方差相等。

    分类

    单因素方差分析: 一项试验只有一个影响因素,或者存在多个影响因素时,只分析一个因素与响应变量的关系
    多因素有交互方差分析: 一顼实验有多个影响因素,分析多个影响因素与响应变量的关系,同时考虑多个影响因素之间的关系
    多因素无交互方差分析: 分析多个影响因素与响应变量的关系,但是影响因素之间没有影响关系或忽略影响关系
    协方差分祈:传统的方差分析存在明显的弊端,无法控制分析中存在的某些随机因素,使之影响了分祈结果的准确度。协方差分析主要是在排除了协变量的影响后再对修正后的主效应进行方差分析,是将线性回归与方差分析结合起来的一种分析方法。

    9 回归分析

    分类

    • 一元线性回归分析:只有一个自变量X与因变量Y有关,X与Y都必须是连续型变量,因变量y或其残差必须服从正态分布。
    • 多元线性回归分析
      使用条件:分析多个自变量与因变量Y的关系,X与Y都必须是连续型变量,因变量y或其残差必须服从正态分布 。
      • 残差检验:观测值与估计值的差值要服从正态分布

      • 强影响点判断:寻找方式一般分为标准误差法、Mahalanobis距离法

      • 共线性诊断

      • 诊断方式:容忍度、方差扩大因子法(又称膨胀系数VIF)、特征根判定法、条件指针CI、方差比例

      • 处理方法:增加样本容量或选取另外的回归如主成分回归、岭回归等

      • 变呈筛选方式:选择最优回归方程的变里筛选法包括全横型法(CP法)、逐步回归法,向前引入法和向后剔除法

      • 横型诊断方法

    • Logistic回归分析
      线性回归模型要求因变量是连续的正态分布变量,且自变量和因变量呈线性关系,而Logistic回归模型对因变量的分布没有要求,一般用于因变量是离散时的情况
      分类:Logistic回归模型有条件与非条件之分,条件Logistic回归模型和非条件Logistic回归模型的区别在于参数的估计是否用到了条件概率
    • 其他回归方法
      非线性回归、有序回归、Probit回归、加权回归等

    10 聚类分析

    聚类与分类的不同在于,聚类所要求划分的类是未知的。

    聚类是将数据分类到不同的类或者簇这样的一个过程,所以同一个簇中的对象有很大的相似性,而不同簇间的对象有很大的相异性。

    从统计学的观点看, 聚类分析是通过数据建模简化数据的一种方法。传统的统计聚类分析方法包括系统聚类法、分解法、加入法、动态聚类法、有序样品聚类、有重叠聚类和模糊聚类等。采用k-均值、k-中心点等算法的聚类分析工具已被加入到许多著名的统计分析软件包中,如SPSS、SAS等。

    从机器学习的角度讲, 簇相当于隐藏模式。聚类是搜索簇的无监督学习过程。与分类不同,无监督学习不依赖预先定义的类或带类标记的训练实例,需要由聚类学习算法自动确定标记,而分类学习的实例或数据对象有类别标记。聚类是观察式学习,而不是示例式的学习。

    聚类分析是一种探索性的分析,在分类的过程中,人们不必事先给出一个分类的标准,聚类分析能够从样本数据出发,自动进行分类。聚类分析所使用方法的不同,常常会得到不同的结论。不同研究者对于同一组数据进行聚类分析,所得到的聚类数未必一致。

    从实际应用的角度看, 聚类分析是数据挖掘的主要任务之一。而且聚类能够作为一个独立的工具获得数据的分布状况,观察每一簇数据的特征,集中对特定的聚簇集合作进一步地分析。聚类分析还可以作为其他算法(如分类和定性归纳算法)的预处理步骤。

    定义

    依据研究对象(样品或指标)的特征,对其进行分类的方法,减少研究对象的数目。
    各类事物缺乏可靠的历史资料,无法确定共有多少类别,目的是将性质相近事物归入一类。

    各指标之间具有一定的相关关系。

    聚类分析(cluster analysis)是一组将研究对象分为相对同质的群组(clusters)的统计分析技术。聚类分析区别于分类分析(classification analysis) ,后者是有监督的学习。

    变量类型: 定类变量、定量(离散和连续)变量

    样本个体或指标变量按其具有的特性进行分类,寻找合理的度量事物相似性的统计量。

    1. 性质分类
      Q型聚类分析: 对样本进行分类处理,又称样本聚类分祈使用距离系数作为统计量衡量相似度,如欧式距离、极端距离、绝对距离等
      R型聚类分析: 对指标进行分类处理,又称指标聚类分析使用相似系数作为统计量衡量相似度,相关系数、列联系数等
    2. 方法分类
      系统聚类法:适用于小样本的样本聚类或指标聚类,一般用系统聚类法来聚类指标,又称分层聚类
      逐步聚类法:适用于大样本的样本聚类
      其他聚类法:两步聚类、K均值聚类等

    11 判别分析

    判别分析:根据已掌握的一批分类明确的样品建立判别函数,使产生错判的事例最少,进而对给定的一个新样品,判断它来自哪个总体。

    与聚类分析区别

    1. 聚类分析可以对样本逬行分类,也可以对指标进行分类;而判别分析只能对样本
    2. 聚类分析事先不知道事物的类别,也不知道分几类;而判别分析必须事先知道事物的类别,也知道分几类
    3. 聚类分析不需要分类的历史资料,而直接对样本进行分类;而判别分析需要分类历史资料去建立判别函数,然后才能对样本进行分类

    分类

    1. Fisher判别分析法
    以距离为判别准则来分类,即样本与哪个类的距离最短就分到哪一类,适用于两类判别;
    以概率为判别准则来分类,即样本属于哪一类的概率最大就分到哪一类,适用于多类判别。
    2. BAYES判别分析法
    BAYES判别分析法比FISHER判别分析法更加完善和先进,它不仅能解决多类判别分析,而且分析时考虑了数据的分布状态,所以一般较多使用

    12 主成分分析

    主成分分析(Principal Component Analysis,PCA), 是一种统计方法。通过正交变换将一组可能存在相关性的变量转换为一组线性不相关的变量,转换后的这组变量叫主成分。

    在实际课题中,为了全面分析问题,往往提出很多与此有关的变量(或因素),因为每个变量都在不同程度上反映这个课题的某些信息。

    主成分分析首先是由K.皮尔森(Karl Pearson)对非随机变量引入的,尔后H.霍特林将此方法推广到随机向量的情形。信息的大小通常用离差平方和或方差来衡量。

    将彼此相关的一组指标变换转化为彼此独立的一组新的指标变量,并用其中较少的几个新指标变量就能综合反应原多个指标变量中所包含的主要信息。

    原理

    在用统计分析方法研究多变量的课题时,变量个数太多就会增加课题的复杂性。人们自然希望变量个数较少而得到的信息较多。在很多情形,变量之间是有一定的相关关系的,当两个变量之间有一定相关关系时,可以解释为这两个变量反映此课题的信息有一定的重叠。主成分分析是对于原先提出的所有变量,将重复的变量(关系紧密的变量)删去多余,建立尽可能少的新变量,使得这些新变量是两两不相关的,而且这些新变量在反映课题的信息方面尽可能保持原有的信息。

    设法将原来变量重新组合成一组新的互相无关的几个综合变量,同时根据实际需要从中可以取出几个较少的综合变量尽可能多地反映原来变量的信息的统计方法叫做主成分分析或称主分量分析,也是数学上用来降维的一种方法。

    缺点

    1. 在主成分分析中,我们首先应保证所提取的前几个主成分的累计贡献率达到一个较高的水平(即变量降维后的信息量须保持在一个较高水平上),其次对这些被提取的主成分必须都能够给出符合实际背景和意义的解释(否则主成分将空有信息量而无实际含义)。
    2. 主成分的解释其含义一般多少带有点模糊性,不像原始变量的含义那么清楚、确切,这是变量降维过程中不得不付出的代价。因此,提取的主成分个数m通常应明显小于原始变量个数p(除非p本身较小),否则维数降低的“利”可能抵不过主成分含义不如原始变量清楚的“弊”。

    13 因子分析

    一种旨在寻找隐藏在多变量数据中、无法直接观察到却影响或支配可测变量的潜在因子、并估计潜在因子对可测变量的影响程度以及潜在因子之间的相关性的一种多元统计分析方法。

    与主成分分析比较

    • 相同:都能够起到治理多个原始变量内在结构关系的作用
    • 不同:主成分分析重在综合原始变适的信息,而因子分析重在解释原始变量间的关系,是比主成分分析更深入的一种多元统计方法

    用途

    • 减少分析变量个数
    • 通过对变量间相关关系探测,将原始变量进行分类

    14 时间序列分析

    动态数据处理的统计方法,研究随机数据序列所遵从的统计规律,以用于解决实际问题;时间序列通常由4种要素组成:趋势、季节变动、循环波动和不规则波动。

    主要方法

    移动平均滤波与指数平滑法、ARIMA横型、量ARIMA横型、ARIMAX模型、向呈自回归横型、ARCH族模型。

    时间序列是指同一变量按事件发生的先后顺序排列起来的一组观察值或记录值。构成时间序列的要素有两个:其一是时间,其二是与时间相对应的变量水平。实际数据的时间序列能够展示研究对象在一定时期内的发展变化趋势与规律,因而可以从时间序列中找出变量变化的特征、趋势以及发展规律,从而对变量的未来变化进行有效地预测。

    时间序列的变动形态一般分为四种:长期趋势变动,季节变动,循环变动,不规则变动。

    时间序列预测法的应用

    1. 系统描述:根据对系统进行观测得到的时间序列数据,用曲线拟合方法对系统进行客观的描述;
    2. 系统分析:当观测值取自两个以上变量时,可用一个时间序列中的变化去说明另一个时间序列中的变化,从而深入了解给定时间序列产生的机理;
    3. 预测未来: 一般用ARMA模型拟合时间序列,预测该时间序列未来值;
    4. 决策和控制: 根据时间序列模型可调整输入变量使系统发展过程保持在目标值上,即预测到过程要偏离目标时便可进行必要的控制。

    特点

    假定事物的过去趋势会延伸到未来;预测所依据的数据具有不规则性;撇开了市场发展之间的因果关系。

    1. 时间序列分析预测法是根据市场过去的变化趋势预测未来的发展,它的前提是假定事物的过去会同样延续到未来。事物的现实是历史发展的结果,而事物的未来又是现实的延伸,事物的过去和未来是有联系的。市场预测的时间序列分析法,正是根据客观事物发展的这种连续规律性,运用过去的历史数据,通过统计分析,进一步推测市场未来的发展趋势。市场预测中,事物的过去会同样延续到未来,其意思是说,市场未来不会发生突然跳跃式变化,而是渐进变化的。
      时间序列分析预测法的哲学依据,是唯物辩证法中的基本观点,即认为一切事物都是发展变化的,事物的发展变化在时间上具有连续性,市场现象也是这样。市场现象过去和现在的发展变化规律和发展水平,会影响到市场现象未来的发展变化规律和规模水平;市场现象未来的变化规律和水平,是市场现象过去和现在变化规律和发展水平的结果。
      需要指出,由于事物的发展不仅有连续性的特点,而且又是复杂多样的。因此,在应用时间序列分析法进行市场预测时应注意市场现象未来发展变化规律和发展水平,不一定与其历史和现在的发展变化规律完全一致。随着市场现象的发展,它还会出现一些新的特点。因此,在时间序列分析预测中,决不能机械地按市场现象过去和现在的规律向外延伸。必须要研究分析市场现象变化的新特点,新表现,并且将这些新特点和新表现充分考虑在预测值内。这样才能对市场现象做出既延续其历史变化规律,又符合其现实表现的可靠的预测结果。
    2. 时间序列分析预测法突出了时间因素在预测中的作用,暂不考虑外界具体因素的影响。时间序列在时间序列分析预测法处于核心位置,没有时间序列,就没有这一方法的存在。虽然,预测对象的发展变化是受很多因素影响的。但是,运用时间序列分析进行量的预测,实际上将所有的影响因素归结到时间这一因素上,只承认所有影响因素的综合作用,并在未来对预测对象仍然起作用,并未去分析探讨预测对象和影响因素之间的因果关系。因此,为了求得能反映市场未来发展变化的精确预测值,在运用时间序列分析法进行预测时,必须将量的分析方法和质的分析方法结合起来,从质的方面充分研究各种因素与市场的关系,在充分分析研究影响市场变化的各种因素的基础上确定预测值。
      需要指出的是,时间序列预测法因突出时间序列暂不考虑外界因素影响,因而存在着预测误差的缺陷,当遇到外界发生较大变化,往往会有较大偏差,时间序列预测法对于中短期预测的效果要比长期预测的效果好。因为客观事物,尤其是经济现象,在一个较长时间内发生外界因素变化的可能性加大,它们对市场经济现象必定要产生重大影响。如果出现这种情况,进行预测时,只考虑时间因素不考虑外界因素对预测对象的影响,其预测结果就会与实际状况严重不符。

    15 生存分析

    用来研究生存时间的分布规律以及生存时间和相关因索之间关系的一种统计分析方法

    包含内容

    1. 描述生存过程,即研究生存时间的分布规律
    2. 比较生存过程,即研究两组或多组生存时间的分布规律,并进行比较
    3. 分析危险因素,即研究危险因素对生存过程的影响
    4. 建立数学模型,即将生存时间与相关危险因素的依存关系用一个数学式子表示出来。

    方法

    1. 统计描述: 包括求生存时间的分位数、中数生存期、平均数、生存函数的估计、判断生存时间的图示法,不对所分析的数据作出任何统计推断结论
    2. 非参数检验: 检验分组变量各水平所对应的生存曲线是否一致,对生存时间的分布没有要求,并且检验危险因素对生存时间的影响。
      • 乘积极限法(PL法)
      • 寿命表法(LT法)
      • 半参数横型回归分析:在特定的假设之下,建立生存时间随多个危险因素变化的回归方程,这种方法的代表是Cox比例风险回归分析法
      • 参数模型回归分析:已知生存时间服从特定的参数横型时,拟合相应的参数模型,更准确地分析确定变量之间的变化规律

    16 典型相关分析

    相关分析一般分析两个变量之间的关系,而典型相关分析是分析两组变量(如3个学术能力指标与5个在校成绩表现指标)之间相关性的一种统计分析方法。

    典型相关分析的基本思想和主成分分析的基本思想相似,它将一组变量与另一组变量之间单变量的多重线性相关性研究转化为对少数几对综合变量之间的简单线性相关性的研究,并且这少数几对变量所包含的线性相关性的信息几乎覆盖了原变量组所包含的全部相应信息。

    17 ROC分析

    R0C曲线是根据一系列不同的二分类方式(分界值或决定阈),以真阳性率(灵敏度)为纵坐标,假阳性率(1-特异度)为横坐标绘制的曲线。

    用途

    1. ROC曲线能很容易地査出任意界限值时的对疾病的识别能力;
    2. 选择最佳的诊断界限值。ROC曲线越靠近左上角,试验的准确性就越高;
    3. 两种或两种以上不同诊断试验对疾病识别能力的比较,一股用ROC曲线下面积反映诊断系统的准确性。

    18 其他分析方法

    多重响应分析、距离分祈、项目分祈、对应分祈、决策树分析、神经网络、系统方程、蒙特卡洛模拟等。

    决策树分析与随机森林

    尽管有剪枝等等方法,一棵树的生成肯定还是不如多棵树,因此就有了随机森林,解决决策树泛化能力弱的缺点。(可以理解成三个臭皮匠顶过诸葛亮)

    1. 决策树(Decision Tree):是在已知各种情况发生概率的基础上,通过构成决策树来求取净现值的期望值大于等于零的概率,评价项目风险,判断其可行性的决策分析方法,是直观运用概率分析的一种图解法。由于这种决策分支画成图形很像一棵树的枝干,故称决策树。在机器学习中,决策树是一个预测模型,他代表的是对象属性与对象值之间的一种映射关系。Entropy = 系统的凌乱程度,使用算法ID3, C4.5和C5.0生成树算法使用熵。这一度量是基于信息学理论中熵的概念。
      决策树是一种树形结构,其中每个内部节点表示一个属性上的测试,每个分支代表一个测试输出,每个叶节点代表一种类别。
    2. 分类树(决策树):是一种十分常用的分类方法。他是一种监督学习,所谓监督学习就是给定一堆样本,每个样本都有一组属性和一个类别,这些类别是事先确定的,那么通过学习得到一个分类器,这个分类器能够对新出现的对象给出正确的分类。这样的机器学习就被称之为监督学习。

    优点: 决策树易于理解和实现,人们在在学习过程中不需要使用者了解很多的背景知识,这同时是它的能够直接体现数据的特点,只要通过解释后都有能力去理解决策树所表达的意义。

    对于决策树,数据的准备往往是简单或者是不必要的,而且能够同时处理数据型和常规型属性,在相对短的时间内能够对大型数据源做出可行且效果良好的结果。易于通过静态测试来对模型进行评测,可以测定模型可信度;如果给定一个观察的模型,那么根据所产生的决策树很容易推出相应的逻辑表达式。

    缺点: 对连续性的字段比较难预测;对有时间顺序的数据,需要很多预处理的工作;当类别太多时,错误可能就会增加的比较快;一般的算法分类的时候,只是根据一个字段来分类。

    更多相关内容
  • 数据仓库【多维分析

    千次阅读 2020-10-12 21:13:03
    1、BI 1.1 BI 技术 2、OLAP基本操作和类型 ...3.1.3 Presto应用场景 3.2 Druid 3.2.1 概念 3.2.2 Druid架构 3.2.3 基本特点 3.2.4 应用场景 3.2.5 Druid案例 3.3 Kylin 3.3.1 概述 3.3.2 kylin特性
      

    目录

    1、BI

    1.1 BI 技术

    2、OLAP基本操作和类型

    2.1 OLAP基本操作

    2.2 OLAP分类

    3、OLAP数据库选型

    3.1 Presto

    3.1.1 概念

    3.1.2 presto架构(master+slaver模式)

    3.1.3 Presto应用场景

    3.2 Druid 

    3.2.1 概念

    3.2.2 Druid架构

    3.2.3 基本特点

    3.2.4 应用场景

    3.2.5 Druid案例

    3.3 Kylin

    3.3.1 概述

    3.3.2 kylin特性

    3.3.3 kylin生态圈

    4、Clickhouse 

    4.1 概述

    4.2 场景特征

    4.3 clickhouse自身限制


        数据应用,是真正体现数仓价值的部分,包括且又不局限于 数据可视化、BI、OLAP、即席查询,实时大屏,用户画像,推荐系统,数据分析,数据挖掘,人脸识别,风控反欺诈,ABtest等等。

    ​​​​​​​   ​​​​​​​ 本文侧重于数据应用之BI可视化和OLAP技术选型。

    1、BI

    1.1 BI 技术

        大数据时代商业智能(BI)和数据可视化诉求更为强烈,淘宝大屏更是风靡全球!数据可视化是大数据『最后一公里』。
    1.2 BI分类
        统看业界可视化BI工具可大致分为:开源bi,商业bi,和传统重bi工具。
        业界目前比较流行的开源bi工具有Superset、metabase、Redash、Cboard、Spagobi等,商业bi工具有帆软、tableau、PowerBI、SmartBI、QlinkView、QuickBI等,传统企业、传统数仓,大多依然沿用重bi产品,如Congos、BIEE、BO、MicroStrategydeng等。

    2、OLAP基本操作和类型

        OLAP,On-Line Analytical Processing,在线分析处理,主要用于支持企业决策管理分析。区别于OLTP,On-Line Transaction Processing,联机事务处理。
        OLAP的优势:丰富的数据展现方式、高效的数据查询以及多视角多层次的数据分析。
        数据仓库与OLAP的关系是互补的,现代OLAP系统一般以数据仓库作为基础,即从数据仓库中抽取详细数据的一个子集并经过必要的聚集存储到OLAP存储器中供前端分析工具读取。

    2.1 OLAP基本操作

    OLAP的多维分析操作包括:钻取(Drill-down)、上卷(Roll-up)、切片(Slice)、切块(Dice)以及旋转(Pivot)。

    钻取:维的层次变化,从粗粒度到细粒度,汇总数据下钻到明细数据。如通过季度销售数据钻取每个月的销售数据
    上卷:钻取的逆,向上钻取。从细粒度到粗粒度,细粒度数据到不同维层级的汇总。eg. 通过每个月的销售数据汇总季度、年销售数据
    切片:特定维数据(剩余维两个)。eg.  只选电子产品销售数据
    切块:维区间数据(剩余维三个)。eg. 第一季度到第二季度销售数据
    旋转:维位置互换(数据行列互换),通过旋转可以得到不同视角的数据。

    2.2 OLAP分类

        OLAP按存储器的数据存储格式分为ROLAP(Relational OLAP)、MOLAP(Multi-dimensional OLAP)和 HOLAP(Hybrid OLAP)。

    • MOLAP,基于多维数组的存储模型,也是OLAP最初的形态,特点是对数据进行预计算,以空间换效率,明细和聚合数据都保存在cube中。但生成cube需要大量时间和空间。
    • ROLAP,完全基于关系模型进行存储数据,不需要预计算,按需即时查询。明细和汇总数据都保存在关系型数据库事实表中。
    • HOLAP,混合模型,细节数据以ROLAP存放,聚合数据以MOLAP存放。这种方式相对灵活,且更加高效。可按企业业务场景和数据粒度进行取舍,没有最好,只有最适合。

    3、OLAP数据库选型

        在大数据数仓架构中,离线以Hive为主,实时计算一般是Spark+Flink配合,消息队列Kafka一家独大,后起之秀Pulsar想要做出超越难度很大,Hbase、Redis和MySQL都在特定场景下有一席之地。唯独在OLAP领域,百家争鸣,各有所长。OLAP引擎/工具/数据库,技术选型可有很多选择,传统公司大多以Congos、Oracle、MicroStrategy等OLAP产品,互联网公司则普遍强势拥抱开源,如:Presto,Druid ,Impala,SparkSQL,AnalyticDB,(Hbase)Phoenix,kudu, Kylin,Greenplum,Clickhouse, Hawq,  Drill,ES等。在数据架构时,可以说目前没有一个引擎能在数据量,灵活程度和性能上(吞吐和并发)做到完美,用户需要根据自己的业务场景进行选型。
        开源技术选型,MOLAP可选Kylin、Druid,ROLAP可选Presto、impala、ClickHouse 等。

    3.1 Presto

    3.1.1 概念

        Presto 是由 Facebook 开源的大数据分布式 SQL 查询引擎,基于内存的低延迟高并发并行计算(mpp),适用于交互式分析查询。首先我们先来看一下Presto官方的介绍:
        ☆ 本身并不存储数据,但是可以接入多种数据源,包括Hive、RDBMS(Mysql、Oracle、Tidb等)、Kafka、MongoDB、Redis等
        ☆ 完全支持ANSI SQL标准,用户可以直接使用 ANSI SQL 进行数据查询和计算。
        ☆ 可以混合多个catalog进行join查询和计算,支持跨数据源的级联查询
        ☆ 基于PipeLine进行设计的,流水管道式数据处理,支持数据规模GB~PB,计算中拿出一部分放在内存、计算、抛出、再拿。
        ☆ SQL on Hadoop:弥补Hive的效率性能和灵活性的不足,Presto和Spark SQL、Impala有很多异曲同工之处。

    3.1.2 presto架构(master+slaver模式)

    3.1.3 Presto应用场景

    3.2 Druid 

    3.2.1 概念

        Druid是一个用于大数据实时查询和分析的高容错、高性能开源分布式系统,用于解决如何在大规模数据集下进行快速的、交互式的查询和分析。    
        数据可以实时摄入,进入到Druid后立即可查,同时数据是几乎是不可变。通常是基于时序的事实事件,事实发生后进入Druid,外部系统就可以对该事实进行查询。

    3.2.2 Druid架构

    3.2.3 基本特点

        Apache Druid 具有以下特点:

    • 亚秒级 OLAP 查询,包括多维过滤、Ad-hoc 的属性分组、快速聚合数据等等。
    • 实时的数据消费,真正做到数据摄入实时、查询结果实时。
    • 高效的多租户能力,最高可以做到几千用户同时在线查询。
    • 扩展性强,支持 PB 级数据、千亿级事件快速处理,支持每秒数千查询并发。
    • 极高的高可用保障,支持滚动升级。

    3.2.4 应用场景

        实时数据分析是 Apache Druid 最典型的使用场景。该场景涵盖的面很广,例如:
    • 实时指标监控
    • 推荐模型
    • 广告平台
    • 搜索模型
        Druid也有很多不足需要注意,由于druid属于时间存储,删除操作比较繁琐,且不支持查询条件删除数据,只能根据时间范围删除数据。Druid能接受的数据的格式相对简单,比如不能处理嵌套结构的数据。

    3.2.5 Druid案例

        知乎:技术选型上,知乎根据不同业务场景选择了HBase 和 Redis 作为实时指标的存储引擎,在OLAP选型上,知乎选择了Druid。
        OPPO:而OPPO根据自身不同的业务场景,报表层选择了Druid,标签选择了ES,接口层选择了Hbase。

    3.3 Kylin

    3.3.1 概述

        Apache Kylin™是一个开源的分布式分析引擎,提供Hadoop/Spark之上的SQL查询接口及多维分析(OLAP)能力以支持超大规模数据,最初由eBay Inc. 开发并贡献至开源社区。它能在亚秒内查询巨大的Hive表。

    3.3.2 kylin特性

    • 可扩展超快olap引擎,Hadoop/Spark上百亿数据规模
    • 提供 Hadoop ANSI SQL 接口
    • 交互式查询能力,用户可以与Hadoop数据进行亚秒级交互
    • 百亿以上数据集构建多维立方体(MOLAP CUBE)
    • 与BI工具无缝整合,如Tableau,PowerBI/Excel,MSTR,QlikSense,Hue和SuperSet

    3.3.3 kylin生态圈

    4、Clickhouse 

    4.1 概述

        Clickhouse是一个用于在线分析处理(OLAP)的列式数据库管理系统(DBMS)。是由俄罗斯的Yandex公司为了Yandex Metrica网络分析服务而开发。它支持分析实时更新的数据,Clickhouse以高性能著称。

    4.2 场景特征

    • 大多数是读请求
    • 数据总是以相当大的批(> 1000 rows)进行写入
    • 不修改已添加的数据
    • 每次查询都从数据库中读取大量的行,但是同时又仅需要少量的列
    • 宽表,即每个表包含着大量的列
    • 较少的查询(通常每台服务器每秒数百个查询或更少)
    • 对于简单查询,允许延迟大约50毫秒
    • 列中的数据相对较小:数字和短字符串(例如,每个URL 60个字节)
    • 处理单个查询时需要高吞吐量(每个服务器每秒高达数十亿行)
    • 事务不是必须的
    • 对数据一致性要求低
    • 每一个查询除了一个大表外都很小
    • 查询结果明显小于源数据,换句话说,数据被过滤或聚合后能够被盛放在单台服务器的内存中

    4.3 clickhouse自身限制

    • 不支持真正的删除/更新支持 不支持事务
    • 不支持二级索引
    • 有限的SQL支持,join实现与众不同
    • 不支持窗口功能
    • 元数据管理需要人工干预维护
    展开全文
  • Hive多维统计分析案例实战

    千次阅读 2020-12-06 21:45:22
    1 数据结构 2 准备工作 2.1 准备表 2.2 安装TEZ计算引擎 3 业务分析 3.1 统计视频观看数Top10 3.2 统计视频类别热度Top10 3.3 统计出视频观看数最高的20个视频的所属类别以及类别包含Top20视频的个数 3.4 ...

    目录

    0 需求描述

    1 数据结构

    2 准备工作

    2.1 准备表

    2.2 安装TEZ计算引擎

    3 业务分析

    3.1 统计视频观看数Top10

    3.2 统计视频类别热度Top10

    3.3 统计出视频观看数最高的20个视频的所属类别以及类别包含Top20视频的个数

    3.4 统计视频观看数Top50所关联视频的所属类别排序

    3.5 统计每个类别中的视频热度Top10,以Music为例

    3.6 统计每个类别视频观看数Top10

    3.7 统计上传视频最多的用户Top10以及他们上传的视频观看次数在前20的视频


    0 需求描述

    统计爱奇艺视频网站的常规指标,各种TopN指标:(多维分析

    -- 统计视频观看数Top10

    -- 统计视频类别热度Top10

    -- 统计出视频观看数最高的20个视频的所属类别以及类别包含Top20视频的个数

    -- 统计视频观看数Top50所关联视频的所属类别排序

    -- 统计每个类别中的视频热度Top10,以Music为例

    -- 统计每个类别视频观看数Top10

    -- 统计上传视频最多的用户Top10以及他们上传的视频观看次数在前20的视频

    1 数据结构

    (1)视频表

    视频表

    字段

    备注

    详细描述

    videoId

    视频唯一idString

    11位字符串

    uploader

    视频上传者(String

    上传视频的用户名String

    age

    视频年龄(int

    视频在平台上的整数天

    category

    视频类别(Array<String>

    上传视频指定的视频分类

    length

    视频长度(Int

    整形数字标识的视频长度

    views

    观看次数(Int

    视频被浏览的次数

    rate

    视频评分(Double

    满分5

    Ratings

    流量(Int

    视频的流量,整型数字

    conments

    评论数(Int

    一个视频的整数评论数

    relatedId

    相关视频idArray<String>

    相关视频的id,最多20

    (2)用户表

    用户表

    字段

    备注

    字段类型

    uploader

    上传者用户名

    string

    videos

    上传视频数

    int

    friends

    朋友数量

    int

    2 准备工作

    2.1 准备表

    (1)需要准备的表

    创建原始数据表:gulivideo_ori,gulivideo_user_ori,

    创建最终表:gulivideo_orc,gulivideo_user_orc

    (2创建原始数据表


        1)gulivideo_ori

    
    create table gulivideo_ori(
    
        videoId string,
    
        uploader string,
    
        age int,
    
        category array<string>,
    
        length int,
    
        views int,
    
        rate float,
    
        ratings int,
    
        comments int,
    
        relatedId array<string>)
    
    row format delimited fields terminated by "\t"
    
    collection items terminated by "&"
    
    stored as textfile;

    2)创建原始数据表: gulivideo_user_ori

    create table gulivideo_user_ori(
    
        uploader string,
    
        videos int,
    
        friends int)
    
    row format delimited
    
    fields terminated by "\t"
    
    stored as textfile;

    (3)创建orc存储格式带snappy压缩的表:

    (1)gulivideo_orc

    create table gulivideo_orc(
    
        videoId string,
    
        uploader string,
    
        age int,
    
        category array<string>,
    
        length int,
    
        views int,
    
        rate float,
    
        ratings int,
    
        comments int,
    
        relatedId array<string>)
    
    stored as orc
    
    tblproperties("orc.compress"="SNAPPY");

    (2)gulivideo_user_orc

    create table gulivideo_user_orc(
    
        uploader string,
    
        videos int,
    
        friends int)
    
    row format delimited
    
    fields terminated by "\t"
    
    stored as orc
    
    tblproperties("orc.compress"="SNAPPY");

    (3)向ori表插入数据

    load data local inpath "/opt/module/data/video" into table gulivideo_ori;
    
    load data local inpath "/opt/module/user" into table gulivideo_user_ori;

    (4)向orc表插入数据

    insert into table gulivideo_orc select * from gulivideo_ori;
    
    insert into table gulivideo_user_orc select * from gulivideo_user_ori;

    2.2 安装TEZ计算引擎

    Tez是一个Hive的运行引擎,性能优于MR。为什么优于MR呢?看下。

    https://images2015.cnblogs.com/blog/16956/201603/16956-20160327150439042-1656855042.jpg

    用Hive直接编写MR程序,假设有四个有依赖关系的MR作业,上图中,绿色是Reduce Task,云状表示写屏蔽,需要将中间结果持久化写到HDFS。

    Tez可以将多个有依赖的作业转换为一个作业,这样只需写一次HDFS,且中间节点较少,从而大大提升作业的计算性能。

    1)将tez安装包拷贝到集群,并解压tar

    [root@hadoop102 software]$ mkdir /opt/module/tez
    
    [root@hadoop102 software]$ tar -zxvf /opt/software/tez-0.10.1-SNAPSHOT-minimal.tar.gz -C /opt/module/tez

    2)上传tez依赖到HDFS

    [root@hadoop102 software]$ hadoop fs -mkdir /tez
    
    [root@hadoop102 software]$ hadoop fs -put /opt/software/tez-0.10.1-SNAPSHOT.tar.gz /tez

    3新建tez-site.xml

    [root@hadoop102 software]$ vim $HADOOP_HOME/etc/hadoop/tez-site.xml

    添加如下内容:

    <?xml version="1.0" encoding="UTF-8"?>
    
    <?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
    
    <configuration>
    
    <property>
    
        <name>tez.lib.uris</name>
    
        <value>${fs.defaultFS}/tez/tez-0.10.1-SNAPSHOT.tar.gz</value>
    
    </property>
    
    <property>
    
         <name>tez.use.cluster.hadoop-libs</name>
    
         <value>true</value>
    
    </property>
    
    <property>
    
         <name>tez.am.resource.memory.mb</name>
    
         <value>1024</value>
    
    </property>
    
    <property>
    
         <name>tez.am.resource.cpu.vcores</name>
    
         <value>1</value>
    
    </property>
    
    <property>
    
         <name>tez.container.max.java.heap.fraction</name>
    
         <value>0.4</value>
    
    </property>
    
    <property>
    
         <name>tez.task.resource.memory.mb</name>
    
         <value>1024</value>
    
    </property>
    
    <property>
    
         <name>tez.task.resource.cpu.vcores</name>
    
         <value>1</value>
    
    </property>
    
    </configuration>

    4)修改Hadoop环境变量

     [root@hadoop102 software]$ vim $HADOOP_HOME/etc/hadoop/shellprofile.d/tez.sh

    添加Tez的Jar包相关信息

    hadoop_add_profile tez
    
    function _tez_hadoop_classpath
    
    {
    
        hadoop_add_classpath "$HADOOP_HOME/etc/hadoop" after
    
        hadoop_add_classpath "/opt/module/tez/*" after
    
        hadoop_add_classpath "/opt/module/tez/lib/*" after
    
    }

    5)修改Hive的计算引擎

    [root@hadoop102 software]$ vim $HIVE_HOME/conf/hive-site.xml

    添加

    <property>
    
        <name>hive.execution.engine</name>
    
        <value>tez</value>
    
    </property>
    
    <property>
    
        <name>hive.tez.container.size</name>
    
        <value>1024</value>
    
    </property>

    6)解决日志Jar包冲突

    [root@hadoop102 software]$ rm /opt/module/tez/lib/slf4j-log4j12-1.7.10.jar

    3 业务分析

    3.1 统计视频观看数Top10

    思路:使用order by按照views字段做一个全局排序即可,同时我们设置只显示前10条。

    最终代码:

    SELECT
    
         videoId,
    
         views
    
    FROM
    
         gulivideo_orc
    
    ORDER BY
    
         views DESC
    
    LIMIT 10;

    3.2 统计视频类别热度Top10

    思路:

    • (1)即统计每个类别有多少个视频,显示出包含视频最多的前10个类别。
    • (2)我们需要按照类别group by聚合,然后count组内的videoId个数即可。
    • (3)因为当前表结构为:一个视频对应一个或多个类别。所以如果要group by类别,需要先将类别进行列转行(展开),然后再进行count即可。
    • (4)最后按照热度排序,显示前10条。

    最终代码:

    SELECT
    
        t1.category_name ,
    
        COUNT(t1.videoId) hot
    
    FROM
    
    (
    
    SELECT
    
        videoId,
    
        category_name
    
    FROM
    
        gulivideo_orc
    
    lateral VIEW explode(category) gulivideo_orc_tmp AS category_name
    
    ) t1
    
    GROUP BY
    
        t1.category_name
    
    ORDER BY
    
        hot
    
    DESC
    
    LIMIT 10

    3.3 统计出视频观看数最高的20个视频的所属类别以及类别包含Top20视频的个数

    思路:

    • (1)先找到观看数最高的20个视频所属条目的所有信息,降序排列
    • (2)把这20条信息中的category分裂出来(列转行)
    • (3)最后查询视频分类名称和该分类下有多少个Top20的视频

    最终代码:

    SELECT
    
        t2.category_name,
    
        COUNT(t2.videoId) video_sum
    
    FROM
    
    (
    
    SELECT
    
        t1.videoId,
    
        category_name
    
    FROM
    
    (
    
    SELECT
    
        videoId,
    
        views ,
    
        category
    
    FROM
    
        gulivideo_orc
    
    ORDER BY
    
        views
    
    DESC
    
    LIMIT 20
    
    ) t1
    
    lateral VIEW explode(t1.category) t1_tmp AS category_name
    
    ) t2
    
    GROUP BY t2.category_name

    3.4 统计视频观看数Top50所关联视频的所属类别排序

    代码:

    SELECT
    
       t6.category_name,
    
       t6.video_sum,
    
       rank() over(ORDER BY t6.video_sum DESC ) rk
    
    FROM
    
    (
    
    SELECT
    
       t5.category_name,
    
       COUNT(t5.relatedid_id) video_sum
    
    FROM
    
    (
    
    SELECT
    
      t4.relatedid_id,
    
      category_name
    
    FROM
    
    (
    
    SELECT
    
      t2.relatedid_id ,
    
      t3.category
    
    FROM
    
    (
    
    SELECT
    
       relatedid_id
    
    FROM
    
    (
    
    SELECT
    
       videoId,
    
       views,
    
       relatedid
    
    FROM
    
       gulivideo_orc
    
    ORDER BY
    
       views
    
    DESC
    
    LIMIT 50
    
    )t1
    
    lateral VIEW explode(t1.relatedid) t1_tmp AS relatedid_id
    
    )t2
    
    JOIN
    
       gulivideo_orc t3
    
    ON
    
     t2.relatedid_id = t3.videoId
    
    ) t4
    
    lateral VIEW explode(t4.category) t4_tmp AS category_name
    
    ) t5
    
    GROUP BY
    
      t5.category_name
    
    ORDER BY
    
      video_sum
    
    DESC
    
    ) t6

    3.5 统计每个类别中的视频热度Top10,以Music为例

    思路:

    • (1)要想统计Music类别中的视频热度Top10,需要先找到Music类别,那么就需要将category展开,所以可以创建一张表用于存放categoryId展开的数据。
    • (2)向category展开的表中插入数据。
    • (3)统计对应类别(Music)中的视频热度。

    统计Music类别的Top10(也可以统计其他)

    SELECT
    
        t1.videoId,
    
        t1.views,
    
        t1.category_name
    
    FROM
    
    (
    
    SELECT
    
        videoId,
    
        views,
    
        category_name
    
    FROM gulivideo_orc
    
    lateral VIEW explode(category) gulivideo_orc_tmp AS category_name
    
    )t1   
    
    WHERE
    
        t1.category_name = "Music"
    
    ORDER BY
    
        t1.views
    
    DESC
    
    LIMIT 10

    3.6 统计每个类别视频观看数Top10

    最终代码:

    SELECT
    
      t2.videoId,
    
      t2.views,
    
      t2.category_name,
    
      t2.rk
    
    FROM
    
    (
    
    SELECT
    
       t1.videoId,
    
       t1.views,
    
       t1.category_name,
    
       rank() over(PARTITION BY t1.category_name ORDER BY t1.views DESC ) rk
    
    FROM   
    
    (
    
    SELECT
    
        videoId,
    
        views,
    
        category_name
    
    FROM gulivideo_orc
    
    lateral VIEW explode(category) gulivideo_orc_tmp AS category_name
    
    )t1
    
    )t2
    
    WHERE t2.rk <=10

    3.7 统计上传视频最多的用户Top10以及他们上传的视频观看次数在前20的视频

    思路:

    • (1)求出上传视频最多的10个用户
    • (2)关联gulivideo_orc表,求出这10个用户上传的所有的视频,按照观看数取前20

    最终代码:

    SELECT
    
       t2.videoId,
    
       t2.views,
    
       t2.uploader
    
    FROM
    
    (
    
    SELECT
    
       uploader,
    
       videos
    
    FROM gulivideo_user_orc
    
    ORDER BY
    
       videos
    
    DESC
    
    LIMIT 10   
    
    ) t1
    
    JOIN gulivideo_orc t2
    
    ON t1.uploader = t2.uploader
    
    ORDER BY
    
      t2.views
    
    DESC
    
    

    欢迎关注石榴姐公众号"我的SQL呀",关注我不迷路

     

    展开全文
  • 为了优化多维、多层次复杂数据流的数据挖掘处理过程,在层次分析法与数据挖掘理论的基础上,提出了“层次分析法构建挖掘模型(ACMC)”的一个全新概念。设计了ACMC策略的结构与流程,不仅提供了一个用来支持不同挖掘...
  • 第二章 数据结构与基本运算 2.1 数据类型 数值型(numeric) 整数 小数 科学数 字符型(character) == 夹杂单引号或者双引号之间==“MR” 逻辑型 ==只能读取T (TRUE)或 F (FALSE)值 复数型 a+bi 原始型(raw) 以...

    @[TOC] (目录)

    第二章 数据结构与基本运算

    2.1 数据类型

    数值型(numeric)

    整数
    小数
    科学数

    字符型(character)

    == 夹杂单引号或者双引号之间==“MR”

    逻辑型

    ==只能读取T (TRUE)或 F (FALSE)值

    复数型

    a+bi

    原始型(raw)

    以二进制形式保存数据

    默认值(missing value)

    不可得到(not available)或 缺失值(missing value)时,相关位置可能会被保留并且赋予一个特定的NA
    任何NA的运算结果都是NA
    is.na()函数用来检测数据是否缺失

    在这里插入图片描述

    2.2 数据对象

    向量(vector)

    向量赋值

    由有相同基本类型元素组成的序列,相当于一维数组
    单个向量中的数据要求必须是相同类型,同一向量中无法混杂不同类型的数据

    赋值方法:<-;=;->;assign

    assign(“w”,c(1,2,3,4,5))
    w
    [1] 1 2 3 4 5

    用c( )构建向量

    v<-paste(“x”,1:5,sep="")
    v
    [1] “x1” “x2” “x3” “x4” “x5”
    paste("today is ",date())
    [1] “today is Sun Nov 21 10:14:20 2021”
    对于字符向量,一个很重要的函数paste()可以把自变量对应元素连成一个字符串,长度不想相同时,较短的向量会被重复使用

    向量运算

    对应向量的每个分量做乘法、除法和乘方运算

    x<-c(1,3,5,7,9)
    c(1,3,5,7,9)->y
    x*y
    [1] 1 9 25 49 81
    x/y
    [1] 1 1 1 1 1
    x^2
    [1] 1 9 25 49 81
    y^x
    [1] 1 27 3125 823543 387420489

    整数除法

    5%/%3
    [1] 1

    求余数

    5%%3
    [1] 2

    向量运算会对该向量的每一个元素进行同样的运算出现在同一个表达式的向量最好统一长度。如果长度不一,则表达式中短的向量会被循环使用,表达式的值将是一个和最长的向量等长的向量。

    c(1,3,5)+c(2,4,6,7,10)
    [1] 3 7 11 8 13
    Warning message:
    In c(1, 3, 5) + c(2, 4, 6, 7, 10) : 长的对象长度不是短的对象长度的整倍数

    生成有规则序列

    R可以产生正规则序列,最简单的是用“:”符号,就可以产生有规律的正规则序列。

    (t<-1:10)
    [1] 1 2 3 4 5 6 7 8 9 10
    (r<-5:1)
    [1] 5 4 3 2 1
    2*1:5
    [1] 2 4 6 8 10
    在表达式运算中,:的运算级别最高
    在表达式外面套()的意思是把结果直接打印出来,不套括号则运算结果保存在t对象里
    t<-1:10
    t
    [1] 1 2 3 4 5 6 7 8 9 10

    可以用seq()产生有规律的各种序列seq(from,to,by)

    seq(1,10,2)
    [1] 1 3 5 7 9
    seq(1,10)
    [1] 1 2 3 4 5 6 7 8 9 10
    seq(10,1,-1)
    [1] 10 9 8 7 6 5 4 3 2 1

    关注序列的长度

    seq(1,2,length=10)
    [1] 1.000000 1.111111 1.222222 1.333333 1.444444 1.555556
    [7] 1.666667 1.777778 1.888889 2.000000
    seq(1,by=2,length=10)
    [1] 1 3 5 7 9 11 13 15 17 19

    用各种复杂的方式重复一个对象rep(x,times,…)

    rep(c(1,3),4)
    [1] 1 3 1 3 1 3 1 3
    rep(c(1,3),each=4)
    [1] 1 1 1 1 3 3 3 3
    rep(1:3,rep(2,3)) rep()的嵌套使用里层的rep(1,3)等价于向量(2,2,2)
    [1] 1 1 2 2 3 3

    向量的常见函数

    向量里元素的个数称为向量的长度(length)。长度为1的向量就是常数(或标量)。函数length()可以返回向量的长度,mode()可以返回向量的数据类型,min()返回向量的最小值,range()返回向量的范围,which.min()、which.max()返回在第几个分量求到最小值和最大值。

    x<-c(1,2,3,4,5)
    length(x)
    [1] 5
    mode(x)
    [1] “numeric”
    min(x)
    [1] 1
    range(x)
    [1] 1 5
    which.min(x)
    [1] 1

    内置函数可以直接对向量进行运算:mean()求均值,median()求中位数,var()求方差,sd()求标准差。

    t<-1:10
    mean(t)
    [1] 5.5
    sd(t)
    [1] 3.02765
    sort()对向量排序,rev()将向量按原方向的反方向排列,rank()给出向量的秩,prod()求向量的连乘积,append()为向量添加元素。
    y<-c(2,6,7,3,5)
    sort(y)
    [1] 2 3 5 6 7
    rev(y)
    [1] 5 3 7 6 2
    rank(y)
    [1] 1 4 5 2 3
    prod(y)
    [1] 1260
    append(y,10:15,after = 3)
    [1] 2 6 7 10 11 12 13 14 15 3 5
    在这里插入图片描述

    向量索引

    向量下标运算:取出向量的某一个元素既可以用x[i]得出,也可以通过赋值语句来改变一个或多个元素的值。

    x<-c(1,3,5)
    x[2]
    [1] 3
    (c(1,2,3)+4)[2]
    [1] 6
    x[2]<-10
    x
    [1] 1 10 5
    x[c(1,3)]<-c(9,11)
    x
    [1] 9 10 11

    对向量进行逻辑运算

    x<-c(1,3,5)
    x<4
    [1] TRUE TRUE FALSE
    x[x<4]
    [1] 1 3
    z<-c(-1,1:3,NA)
    z
    [1] -1 1 2 3 NA
    z[is.na(z)]<-0
    z
    [1] -1 1 2 3 0
    z<-c(-1,1:3,NA)
    y<-z[!is.na(z)]
    y
    [1] -1 1 2 3

    对分段函数的定义上

    x<-c(-3,-2,-1,0,5,7)
    y<-numeric(length(x)) #生成与x向量长度相同的数值型向量
    y
    [1] 0 0 0 0 0 0
    y[x<0]<-1-x[x<0]
    y
    [1] 4 3 2 0 0 0
    y[x>=0]<-1+x[x>=0]
    y
    [1] 4 3 2 1 6 8

    如果下标取的是负整数,则表示删除相应位置的元素

    x<-1:10
    x[-(1:5)]
    [1] 6 7 8 9 10

    矩阵

    将数据用行和列排列的长方形表格,是二维数组,其单元必须是相同的数据类型。通常用列来表示通的变量,用行表示各个对象。
    matrix(data=NA,nrow=1,ncol=1,byrow=FALSE, dimnames=NULL)

    matrix(1:12,nrow=4,ncol=3)
    [,1] [,2] [,3]
    [1,] 1 5 9
    [2,] 2 6 10
    [3,] 3 7 11
    [4,] 4 8 12
    matrix(1:12,nrow=4,ncol=3,byrow=T)
    [,1] [,2] [,3]
    [1,] 1 2 3
    [2,] 4 5 6
    [3,] 7 8 9
    [4,] 10 11 12
    假定A为一个m*n矩阵,则A的转置可以用函数t()来计算。
    类似的若将函数t()作用于一个向量x,则当做x为列向量,返回结果为一个行向量;若想得到一个列向量,可用t(t(x))
    (A<-matrix(1:12,nrow=4,ncol=3))
    [,1] [,2] [,3]
    [1,] 1 5 9
    [2,] 2 6 10
    [3,] 3 7 11
    [4,] 4 8 12
    t(A)
    [,1] [,2] [,3] [,4]
    [1,] 1 2 3 4
    [2,] 5 6 7 8
    [3,] 9 10 11 12

    矩阵计算

    A<-B<-matrix(1:12,nrow=3)
    A+B
    [,1] [,2] [,3] [,4]
    [1,] 2 8 14 20
    [2,] 4 10 16 22
    [3,] 6 12 18 24
    3*A
    [,1] [,2] [,3] [,4]
    [1,] 3 12 21 30
    [2,] 6 15 24 33
    [3,] 9 18 27 36

    B<-t(A)
    A%*%B
    [,1] [,2] [,3]
    [1,] 166 188 210
    [2,] 188 214 240
    [3,] 210 240 270

    取一个方阵的对角元素

    A<-matrix(1:16,nrow=4)
    diag(A)
    [1] 1 6 11 16
    diag(diag(A)) 对向量应用
    [,1] [,2] [,3] [,4]
    [1,] 1 0 0 0
    [2,] 0 6 0 0
    [3,] 0 0 11 0
    [4,] 0 0 0 16
    diag(3)
    [,1] [,2] [,3]
    [1,] 1 0 0
    [2,] 0 1 0
    [3,] 0 0 1

    求逆

    (A<-matrix(rnorm(16),4,4))
    [,1] [,2] [,3] [,4]
    [1,] 0.6301784 2.4225384 0.5726452 -0.03666071
    [2,] -0.5308961 -0.1890815 0.8882178 0.25320483
    [3,] -0.3427778 0.1166931 0.1330065 -2.33152019
    [4,] 1.0215506 1.0354465 -1.2353513 2.08501209
    solve(A)
    [,1] [,2] [,3] [,4]
    [1,] 1.04091346 -4.1951340 -3.02955246 -2.8599709
    [2,] -0.01396465 1.3982578 1.15670814 1.1234135
    [3,] 0.65240603 -1.2592565 -1.56038581 -1.5804721
    [4,] -0.11651514 0.6149107 -0.01462486 0.3865359

    数组

    既可以看做是带有多个下标的且类型相同的元素的集合,也可以看做是向量和矩阵的推广,一维数组就是向量,二维数组就是矩阵。
    array(data=NA,dim=length(data),dimnames=NULL)

    (xx<-array(1:24,c(3,4,2)))
    , , 1

     [,1] [,2] [,3] [,4]
    

    [1,] 1 4 7 10
    [2,] 2 5 8 11
    [3,] 3 6 9 12

    , , 2

     [,1] [,2] [,3] [,4]
    

    [1,] 13 16 19 22
    [2,] 14 17 20 23
    [3,] 15 18 21 24

    xx[2,3,2]
    [1] 20
    xx[2,1:3,2]
    [1] 14 17 20
    xx[,2,]
    [,1] [,2]
    [1,] 4 16
    [2,] 5 17
    [3,] 6 18
    dim(xx)
    [1] 3 4 2

    dim()可以用来将向量换成数组或矩阵

    zz=c(2,5,6,8,1,4,6,9,10,7,3,5)
    dim(zz)=c(2,2,3)
    zz
    , , 1

     [,1] [,2]
    

    [1,] 2 6
    [2,] 5 8

    , , 2

     [,1] [,2]
    

    [1,] 1 6
    [2,] 4 9

    , , 3

     [,1] [,2]
    

    [1,] 10 3
    [2,] 7 5

    因子

    分类型数据经常要把数据分成不同的水平或因子,如学生的性别包含男和女两个因子。因子代表变量的不同可能水平(即使在数据中不出现),在统计分析中十分有用。
    factor(x=character(),levels,labels=levels,exclude=NA,ordered=is.ordered(x))

    y<-c(“女”,“男”,“男”,“女”,“女”,“女”,“男”)
    (f<-factor(y))
    [1] \u5973 \u7537 \u7537 \u5973 \u5973 \u5973 \u7537
    Levels: \u7537 \u5973

    score<-c(“B”,“C”,“D”,“B”,“A”,“D”,“A”)
    (score_o<-ordered(score,levels=c(“D”,“C”,“B”,“A”)))
    [1] B C D B A D A
    Levels: D < C < B < A

    列表

    如果一个数据对象需要含有不同的数据类型,则可以采用列表。列表中包含的对象又称为它的分量,分量可以是不同的模式或类型,如一个列表可以包含数值向量、逻辑向量、矩阵、字符和数组等。
    list(变量1=分量1,变量2=分量2,…)

    x<-c(1,1,2,2,3,3,3)
    y<-c(“女”,“男”,“男”,“女”,“女”,“女”,“男”)
    z<-c(80,85,92,76,61,95,83)
    (LST<-list(class=x,sex=y,score=z))
    $class
    [1] 1 1 2 2 3 3 3

    $sex
    [1] “\u5973” “\u7537” “\u7537” “\u5973” “\u5973” “\u5973”
    [7] “\u7537”

    $score
    [1] 80 85 92 76 61 95 83
    ==注意LST[[]]和LST[]的差别

    LST[[3]]
    [1] 80 85 92 76 61 95 83
    LST[[2]][1:3]
    [1] “\u5973” “\u7537” “\u7537”

    LST s c o r e [ 1 ] 80859276619583 L S T score [1] 80 85 92 76 61 95 83 LST score[1]80859276619583LSTsc
    [1] 80 85 92 76 61 95 83

    函数length()、mode()、names()可以返回列表的长度(分量的书目)、数据类型和列表里成分的名字。

    数据框

    数据库是一种矩阵形式的数据,但数据框中各列可以是不同类型的数据。数据框每列是一个变量,每行是一个观测。数据框既可以看做是矩阵的推广,也可以看做是一种特殊的列表对象。
    在这里插入图片描述
    data.frame(…, row.names=NULL, check.rows=FALSE,…)

    (student<-data.frame(x,y,z))
    x y z
    1 1 \u5973 80
    2 1 \u7537 85
    3 2 \u7537 92
    4 2 \u5973 76
    5 3 \u5973 61
    6 3 \u5973 95
    7 3 \u7537 83
    (student<-data.frame(class=x,sex=y,score=z)) #对列进行重新命名
    class sex score
    1 1 \u5973 80
    2 1 \u7537 85
    3 2 \u7537 92
    4 2 \u5973 76
    5 3 \u5973 61
    6 3 \u5973 95
    7 3 \u7537 83
    row.names(student)<-c(“王”,“张”,“赵”,“刘”,“黄”,“孙”,“李”) #对行进行重新命名
    student
    class sex score
    \u738b 1 \u5973 80
    \u5f20 1 \u7537 85
    \u8d75 2 \u7537 92
    \u5218 2 \u5973 76
    \u9ec4 3 \u5973 61
    \u5b59 3 \u5973 95
    \u674e 3 \u7537 83

    以数组形式访问

    student[, “score”]
    [1] 80 85 92 76 61 95 83
    student[,3]
    [1] 80 85 92 76 61 95 83
    student[1:5,1:3]
    class sex score
    \u738b 1 \u5973 80
    \u5f20 1 \u7537 85
    \u8d75 2 \u7537 92
    \u5218 2 \u5973 76
    \u9ec4 3 \u5973 61

    以列表形式访问数据框

    student s c o r e [ 1 ] 80859276619583 s t u d e n t [ [ " s c o r e " ] ] [ 1 ] 80859276619583 s t u d e n t [ [ 3 ] ] [ 1 ] 80859276619583 s t u d e n t [ s t u d e n t score [1] 80 85 92 76 61 95 83 student[["score"]] [1] 80 85 92 76 61 95 83 student[[3]] [1] 80 85 92 76 61 95 83 student[student score[1]80859276619583student[["score"]][1]80859276619583student[[3]][1]80859276619583student[studentscore>80,]
    class sex score
    \u5f20 1 \u7537 85
    \u8d75 2 \u7537 92
    \u5b59 3 \u5973 95
    \u674e 3 \u7537 83

    数据框绑定attach()函数

    数据框的主要用途是保存统计建模的数据。在使用数据框的变量时可以使用“数据框名$变量名的记法”。但是这样较为麻烦,attach()函数可以把数据框中的变量“链接”到内存中,将数据框“绑定”入当前的名字空间,从而可以直接用数据中的变量名访问。
    在这里插入图片描述

    第三章 函数与优化

    3.2条件控制语句

    if/else语句

    if(cond)statement-1
    if(cond)statement-1 else statement-2

    x<-1.5
    if(x>2) y=2x else y=3x
    y
    [1] 4.5
    x<-3
    if(x>2) y=2x else y=3x
    y
    [1] 6

    ifelse语句

    ifelse(cond,statement1,statement2)

    x<-1
    ifelse(x>2,y<-2x,y<-3x)
    [1] 3

    switch语句

    switch(statement,list)
    如果表达式的返回值在1到length(list)之间,则返回列表相应位置的值

    switch(1,23,sd(1:5),runif(3)) #返回23,sd(1:5),runif(3)list中的第一个成分
    [1] 6
    switch(2,23,sd(1:5),runif(3)) #返回第二个成分
    [1] 1.581139
    switch(3,2
    3,sd(1:5),runif(3))
    [1] 0.7357111 0.8724102 0.2977454
    当list是有名定义,statement等于变量名时,返回变量名对应的值;否则返回NULL值。
    x<-“meat”
    switch(x,meat=“chicken”,fruit=“apple”,vegetable=“potato”)
    [1] “chicken”

    3.3循环语句

    for循环

    for (ind in expr-1)expr-2

    Fibonacci<-NULL
    Fibonacci[1]<-Fibonacci[2]<-1
    n=16
    for (i in 3:n) Fibonacci[i]<-Fibonacci[i-2]+Fibonacci[i-1]
    Fibonacci
    [1] 1 1 2 3 5 8 13 21 34 55 89 144 233 377
    [15] 610 987

    while

    while(condition)expr

    Fibonacci[1]<-Fibonacci[2]<-1
    i<-1
    while (Fibonacci[i]+Fibonacci[i+1]<1000) {

    •    Fibonacci[i+2]<-Fibonacci[i]+Fibonacci[i+1]
      
    •    i<-i+1     }
      

    Fibonacci
    [1] 1 1 2 3 5 8 13 21 34 55 89 144 233 377
    [15] 610 987

    repeat语句

    repeat expr
    repeat循环依赖break语句跳出循环

    Fibonacci[1]<-Fibonacci[2]<-1
    i<-1
    repeat {Fibonacci[i+2]<-Fibonacci[i]+Fibonacci[i+1]

    •     i<-i+1
      
    •     if (Fibonacci[i]+Fibonacci[i+1]>=1000) break}
      

    Fibonacci
    [1] 1 1 2 3 5 8 13 21 34 55 89 144 233 377
    [15] 610 987

    编写自己的函数

    函数名=function(参数1,参数2…)
    {
    stataments
    return(object)
    }

    函数名

    函数名可以是任何值,但以前定义过的要小心使用,后来定义的函数会覆盖原先定义的函数。一旦你定义了函数名,就可以像使用R的其他函数一样使用它。

    std=function(x) sqrt(var(x))
    x=c(1,3,5,7,9)
    std(x)
    [1] 3.162278
    std
    function(x) sqrt(var(x))

    关键词function

    告诉R这个新的数据对象是函数

    参数

    1无参数:有时编写参数只是为了方便,函数每次返回值都是一样的,其输入不是那么重要。

    welcome=function() print(“welcome to use R”)
    welcome()
    [1] “welcome to use R”

    2单参数:假如要使你的函数个性化,则可以使用单参数,函数会根据参数的不同,返回值也不同。

    welcome.sb=function(names) print(paste(“welcome”, names,“to use R”))
    welcome.sb(“Mr fang”)
    [1] “welcome Mr fang to use R”

    3默认参数:即不输入任何参数

    welcome.sb=function(names=“Mr fang”) print(paste(“welcome”, names,“to use R”))
    welcome.sb()
    [1] “welcome Mr fang to use R”

    sim.t=function(n) {

    • mu=10;sigma=5;
    • x=rnorm(n,mu,sigma)
    • (mean(x)-mu)/(sd(x)/sqrt(n))
    • }

    sim.t(5)
    [1] 0.8751291

    sim.t=function(n,mu=10,sigma=5) {

    • x=rnorm(n,mu,sigma)
    • (mean(x)-mu)/(sd(x)/sqrt(n))
    • }

    sim.t(5)
    [1] 0.4513926
    sim.t(5,0,1)
    [1] -0.7608016
    sim.t(5,4)
    [1] -0.5832039
    sim.t(5,sigma = 100)
    [1] 1.175098
    sim.t(5,sigma=100,mu=1)
    [1] -0.6865917

    R语言允许定义一个变量,然后将变量值传递给R的内置函数。这在作图上非常有用。比如编写一个画图函数,允许先定义一个变量x,再用这个变量生成y变量,然后描出他们的图像。

    plot.f=function(f,a,b,…){

    • xvals=seq(a,b,length=100)
    • plot(xvals,f(xvals),…)
    • }

    plot.f(sin,0,2pi)
    curve(sin,0,2
    pi)
    plot.f(exp,-1,1)
    plot.f(log,0,1)

    函数体和函数返回值

    my.averange=function(x) sum(x)/length(x)
    my.averange(c(1,2,3))
    [1] 2

    当函数体的表达式超过一个时,要用{}封起来
    可以用return()返回函数需要的结果,当需要返回多个结果时,一般建议用list形式返回。

    vms=function(x) {

    • xx=rev(sort(x))
    • xx=xx[1:5]
    • mean(xx)
    • return(list(xbar=mean(xx),top5=xx))
    • }

    y=c(5,15,32,25,26,28,65,48,3,37,45,54,23,44)
    vms(y)
    $xbar
    [1] 51.2

    $top5
    [1] 65 54 48 45 44

    在这里插入图片描述

    程序调试

    在这里插入图片描述

    程序运行时间与效率

    在这里插入图片描述
    在这里插入图片描述

    用R做优化求解

    一元函数优化求解

    f=function(x) log(x)-x^2
    curve(f,xlim = c(0,2))
    optimize(f,c(0.1,10),tol=0.0001,maximum = T)
    $maximum
    [1] 0.7071232

    $objective
    [1] -0.8465736

    第四章 随机数与抽样模拟

    4.1一元随机数的产生

    均匀分布随机数

    runif(n,min,max=1)

    runif(3,1,3)
    [1] 1.679771 2.910882 2.381824
    runif(5) # 默认生成5个【0,1】上的均匀分布随机数
    [1] 0.9988105 0.6044897 0.5033955 0.4804998 0.4007253

    检验runif()生成的随机数的性质,通过直方图和散点图以及自相关系数图来检验独立同分布。

    x=runif(Nsim)
    x1=x[-Nsim] #因为要求自相关系数,去掉最后一个数
    x2=x[-1] #去掉第一个数
    par(mfrow=c(1,3))
    hist(x,prob=T,col=gray(0.3),main=“uniform on [0,1]”)
    curve(dunif(x,0,1),add=T,col=“red”)
    plot(x1,x2,col=“red”)
    acf(x) #画自相关系数图
    在这里插入图片描述

    正态分布随机数

    rnorm(n,mean=0,sd=1)

    rnorm(5,10,5)
    [1] -4.586236 7.835159 9.310051 16.012151 8.246510
    rnorm(5)
    [1] 0.3259324 0.9488270 -1.5844309 -0.8577230
    [5] -1.4327578

    x=rnorm(100)
    hist(x,prob=T,main=“nomal mu=0,sigma=1”)
    curve(dnorm(x),add=T)
    在这里插入图片描述

    指数分布随机数

    rexp(n,lamda=1)

    x=rexp(100,1/10)
    hist(x,prob=T,col=gray(0.9),main=“均值为10的指数分布随机数”)
    curve(dexp(x,1/10),add=T)
    在这里插入图片描述

    离散分布随机数的生成

    rbinom(10,size,p)
    [1] 0 0 1 1 1 0 1 1 1 1

    size=10;p=0.5
    rbinom(5,size,p)
    [1] 3 4 3 6 6

    par(mfrow=c(1,3))
    p=0.25
    for (n in c(10,20,50))

    • {x=rbinom(100,n,p)
    • hist(x,prob=T,main=paste(“n=”,n))
    • xvals=0:n
    • points(xvals,dbinom(xvals,n,p),type=“h”,lwd=3)
    • }

    par(mfrow=c(1,1))
    在这里插入图片描述
    在这里插入图片描述

    4.2多元随机数的生成

    4.3随机抽样

    放回与无放回抽样

    R可以进行有放回、无放回抽样。
    sample(x,n,replace=F,prob=NULL)
    x表示总体向量,可以是数值、字符、逻辑向量,n表示样本容量,replace=F表示无放回的抽样(默认),prob可以设置各个抽样单元不同的入样概率,进行不等概率抽样。

    sample(1:6,10,rep=T)
    [1] 3 4 5 5 4 4 5 2 4 6
    sample(c(“H”,“T”),10,rep=T)
    [1] “T” “T” “T” “H” “H” “T” “T” “H” “T” “H”

    sample(1:6,10,rep=T)
    [1] 5 1 4 3 3 1 5 4 3 6
    dice=as.vector(outer(1:6,1:6,paste))
    sample(dice,5,replace=T)
    [1] “5 4” “4 2” “5 5” “2 1” “2 6”
    dice=as.vector(outer(1:6,1:6,paste))
    dice
    [1] “1 1” “2 1” “3 1” “4 1” “5 1” “6 1” “1 2” “2 2”
    [9] “3 2” “4 2” “5 2” “6 2” “1 3” “2 3” “3 3” “4 3”
    [17] “5 3” “6 3” “1 4” “2 4” “3 4” “4 4” “5 4” “6 4”
    [25] “1 5” “2 5” “3 5” “4 5” “5 5” “6 5” “1 6” “2 6”
    [33] “3 6” “4 6” “5 6” “6 6”

    bootstrap重抽样

    属于重复抽样(Resampling)方法。它是以原始数据为基础的模拟抽样统计推断法,其基本思想是;在原始数据的范围内做有放回的再抽样,样本量仍为n,原始数据中每个观察单位每次被抽到的概率相等,为1/n。

    faithful
    eruptions waiting
    1 3.600 79
    2 1.800 54
    attach(faithful)
    sample(eruptions,10,replace=T)
    [1] 2.000 4.000 4.483 1.833 1.750 2.000 1.800 3.850 2.083 2.217

    Sample=sample(eruptions,1000,rep=T)
    par(mfrow=c(1,2))
    hist(eruptions,breaks = 25)
    hist(Sample,breaks = 25)
    par(mfrow=c(1,1))
    在这里插入图片描述

    4.4统计模拟

    几种常见的模拟方法

    第五章 数据读写与预处理

    5.1数据的读入

    直接输入数据

    1.c()函数
    把各个值连成一个向量或列表,可以形成数值型向量、字符型向量或者其他类型向量

    2.scan()函数
    类似c()函数,是一种键盘输入数据函数,当输入scan()并按回车键后,将等待输入数据,数据之间只用空格分开即可(c()函数要用逗号分开)。输入完成后,再次按回车键,这是数据录入完毕。

    x=scan()
    1: 1 2 3 4 5 6
    7:
    Read 6 items

    还可以读入外部文本文件
    x=scan(file=“dat.txt”)
    如果原文件的数据之间有逗号等分隔符,则用scan()函数读入时应该去掉这些分隔符:
    x=scan(file=“dat.txt”, sep=",")

    读R包中的数据

    在RStudio中,虽然可以直接查看、读取和修改数据,但有一些操作还是需要使用命令来运行。例如,查看当前环境下的数据ls()、删除数据rm()、查看所有预先提供的数据data()、查看某个包所有预先提供的数据data(package=“”)或读入数据data(datasetname)。
    如果需要从其他的软件包链接数据,则可以使用参数package。

    data(package=“SemiPar”) #查看包的信息
    data(copper,package=“SemiPar”) #查看包里的某个数据

    从外部文件读入数据

    1.读入文本文件
    read.table(file,header = logical_value,sep=“delimiter”,row.names = “name”)

    2.读入Excel数据
    对于一般常用的xls、xlsx数据表,由于该格式较为复杂,因此应尽量避免直接导入。通常的处理办法是将xls数据表转为CSV文件。
    read.csv(“file=file.name”,header=TRUE,sep=",",…)

    s2=read.csv(file=“student-1.csv”)
    s2
    class sex score
    1 1 女 80
    2 1 男 85
    3 2 男 92
    4 2 女 76
    5 3 女 61
    6 3 女 95
    7 3 男 83

    3.读入其他数据格式
    library(foreign)
    ①sas数据
    对于sas,R只能读入sas transport format(XPORT)文件。所以,需要把普通的sas数据文件(.ssd和.sas7bdat)转换为transport format(XPORT)文件,再用命令read.xport().
    read.xport(“dataname.xpt”)
    ②spss数据
    read.spss()可读入spss数据文件。
    ==read.spss(“dataname.sav”)==或
    install.packages(“Hmmisc”)
    library(Hmmisc)
    mydataframe<-spss.get(“dataname.sav”,use.value.labels=TRUE)
    ③Epi info数据
    R可读入epi5和6的数据库。
    read.epiinfo(“文件名.rec”)
    给数据集起一个名称:read.epiinfo(“d:/ttt.rec”)->ttt
    ④stata数据
    R可读入stata5,7和6的数据库。
    read.dta(“文件名.dta”)

    读入数据文件后,使用数据集名 变 量 名 , 既 可 以 使 用 各 个 变 量 。 m e a n ( d a t a 变量名,既可以使用各个变量。 mean(data 使meandataage)
    便是计算数据集data中变量age的均数。

    5.2写出数据

    write(x,file=“data”,ncolumns=if(is.character(x)) 1 else 5,append=FALSE,sep=" ")
    write.table(x,file=" “,append=FALSE,quote=TRUE,sep=” “,eol=”\n",na=“NA”,dec=".",row.names=TRUE,col.names=TRUE,qmethod=c(“escape”,“double”),fileEncoding=" ")
    write.csv()

    5.3数据预处理

    变量预处理

    1创建新变量
    var_names=expr
    读入数据

    cons<-c(5000,5800,6000,10200,8500)
    pop<-c(2000,3600,3500,5020,6100)
    gnp<-c(6000,7200,7400,11000,9200)

    直接进行变换

    pgnp<-gnp/pop
    psave<-(gnp-cons)/pop

    用transform()函数进行变换。
    > data<-data.frame(gnp,cons,pop)

    transform(data,pgnp=gnp/pop,psave=(gnp-cons)/pop )
    gnp cons pop pgnp psave
    1 6000 5000 2000 3.000000 0.5000000
    2 7200 5800 3600 2.000000 0.3888889
    3 7400 6000 3500 2.114286 0.4000000
    4 11000 10200 5020 2.191235 0.1593625
    5 9200 8500 6100 1.508197 0.1147541

    用with()函数进行变换。

    (pgnp<-with(data,gnp/pop ))
    [1] 3.000000 2.000000 2.114286 2.191235 1.508197
    (psave<-with(data,(gnp-cons)/pop))
    [1] 0.5000000 0.3888889 0.4000000 0.1593625 0.1147541

    变量重编码

    ①将连续性变量进行分组,变成一个离散型变量
    ②将某个值替换成另外一个值
    在这里插入图片描述

    data(Cars93)
    dat<-data.frame(manu=Cars93 M a n u f a c t u r e r , p r i c e = C a r s 93 Manufacturer,price=Cars93 Manufacturer,price=Cars93Price)
    head(dat)
    manu price
    1 Acura 15.9
    2 Acura 33.9
    3 Audi 29.1
    4 Audi 37.7
    5 BMW 30.0
    6 Buick 15.7

    利用【】将price分成不同的取值区间

    dat p r i c e g r a d e < − N A d a t pricegrade<-NA dat pricegrade<NAdatpricegrade[dat p r i c e > = 20 ] < − " e x p e n s i v e " d a t price>=20]<-"expensive" dat price>=20]<"expensive"datpricegrade[datKaTeX parse error: Expected 'EOF', got '&' at position 10: price>=12&̲datprice<20]<-“okay”
    dat p r i c e g r a d e [ d a t pricegrade[dat pricegrade[datprice<12]<-“cheap”
    head(dat)
    manu price pricegrade
    1 Acura 15.9 okay
    2 Acura 33.9 expensive
    3 Audi 29.1 expensive
    4 Audi 37.7 expensive
    5 BMW 30.0 expensive
    6 Buick 15.7 okay

    使用within()函数

    dat<-within(dat,{

    • pricegrade<-NA
    • pricegrade[price>=20]<-“expensive”
    • pricegrade[price>=12&dat$price<20]<-“okay”
    • pricegrade[price<12]<-“cheap”
    • })

    head(dat)
    manu price pricegrade
    1 Acura 15.9 okay
    2 Acura 33.9 expensive
    3 Audi 29.1 expensive
    4 Audi 37.7 expensive
    5 BMW 30.0 expensive
    6 Buick 15.7 okay

    使用cut()函数

    dat p r i c e g r a d e < − c u t ( d a t pricegrade<-cut(dat pricegrade<cut(datprice,c(0,12,20,max(dat p r i c e ) ) ) l e v e l s ( d a t price))) levels(dat price)))levels(datpricegrade)<-c(“cheap”,“okay”,“expensive”)
    head(dat)
    manu price pricegrade
    1 Acura 15.9 okay
    2 Acura 33.9 expensive
    3 Audi 29.1 expensive
    4 Audi 37.7 expensive
    5 BMW 30.0 expensive
    6 Buick 15.7 okay

    将数据直接替换

    recode(dat$pricegrade,"‘cheap’=‘A’;‘okay’=‘B’;‘expensive’=‘C’")
    [1] B C C C C B C C C C C B A B B B B B C B B C A A B B
    [27] B C B B A A A B B B C C A B B B B A A A B C C C C C
    [53] A A B B C C C B B A C A B B C B B B C B A A B B C C
    [79] A A A B A A B B C A B B C C C
    Levels: A B C

    变量重命名

    一使用交互式编辑器
    在命令窗口输入fix(data),会自动调用一个交互式的编辑器,单击变量名,然后在弹出的对话框中将其重命名。
    fix(data)

    二reshape包中有rename()函数,可用于修改变量名
    dat1 <- rename(dat, c(pricegrade=“grade”))
    head(dat1)

    三直接通过names()函数来重命名变量

    names(dat)[3] <- “grade”
    head(dat)
    manu price grade
    1 Acura 15.9 okay
    2 Acura 33.9 expensive
    3 Audi 29.1 expensive
    4 Audi 37.7 expensive
    5 BMW 30.0 expensive
    6 Buick 15.7 okay

    变量类型的转换

    在这里插入图片描述

    a <- c(1,2,3);
    a
    [1] 1 2 3
    is.numeric(a)
    [1] TRUE
    is.vector(a)
    [1] TRUE
    a <- as.character(a);
    a
    [1] “1” “2” “3”
    is.numeric(a)
    [1] FALSE
    is.vector(a)
    [1] TRUE
    is.character(a)
    [1] TRUE

    日期变量的转换

    日期值通常以字符串的形式输入到R中,然后转化为数值形式存储的日期变量。函数as.Date()用于执行这种转化。
    ==as.Date(x,“input_format”),其中x是字符型数据,input——format则给出了用于读入日期的适当格式。
    在这里插入图片描述

    madates <- as.Date(c(“2010-06-22”, “2013-09-14”))
    (madates <- as.Date(c(“2010-06-22”, “2013-09-14”)))
    [1] “2010-06-22” “2013-09-14”
    日期的默认输入格式为yyyy-mm-dd
    strDates <- c(“01/05/1965”, “08/16/1975”)
    dates <- as.Date(strDates, “%m/%d/%Y”)
    dates
    [1] “1965-01-05” “1975-08-16”

    5.4缺失数据处理

    完全随机缺失:数据的缺失是随机的,数据的缺失不依赖任何完全变量或完全变量。缺失情况相对于所有可观测和不可观测的数据来说,在统计意义上是独立的。
    随机缺失:数据的缺失不是完全随机的,依赖于其他变量,即一个观测出现缺失值的概率是由数据集中不含缺失值的变量决定的,而不是由含缺失值的变量决定的。
    完全非随机缺失:数据的缺失依赖于不完全变量自身,是与缺失数据本身存在某种关联,比如问题设计过于敏感造成的缺失。

    缺失数据的识别

    缺失值用符号NA表示。
    dataframe a g e [ d a t a f r a m e age[dataframe age[dataframeage == 99] <- NA
    在进行数据分析前,要确保所有的缺失数据被编码为缺失值,否则分析结果将失去意义。

    缺失数据的探索与检验

    R提供了一些函数,用于识别包含缺失值的观测。函数is.na()检测缺失值是否存在。

    y<-c(1,2,3,NA)
    is.na(y)
    [1] FALSE FALSE FALSE TRUE

    函数complete.cases() 可用来识别矩阵或者数据框中没有缺失值的行。若每行都包含完整的实例,则返回TRUE;若每行有一个或多个缺失值,则返回FALSE。由于逻辑值TRUE和FALSE分别等价于数值1和0,可用sum() 和mean() 来获取关于缺失数据有用的信息。

    data(sleep, package= “VIM”) #读取VIM包中的sleep数据
    sleep[!complete.cases(sleep),] #提取sleep数据中不完整的行

    sum(!complete.cases(sleep))
    [1] 20
    mean(complete.cases(sleep))
    [1] 0.6774194

    结果列出了20个含有一个或多个缺失值的观测值,并有67.7%的完整实例。

    缺失数据的处理

    (1)行删除:可以通过函数 na.omit() 移除所有含有缺失值的观测。na.omit() 可以删除所有含有缺失数据的行。

    newsleep <- na.omit(sleep)
    sleep[!complete.cases(newsleep),]
    [1] BodyWgt BrainWgt NonD Dream Sleep Span
    [7] Gest Pred Exp Danger
    <0 行> (或0-长度的row.names)

    删除缺失值后,观测值变为42个。
    行删除法假定数据是MCAR(即完整的观测值只是全数据集的一个随机样本)。此例中则为42个实例为62个样本的一个随机子样本。
    如果缺失值所占比例比较小的话, 这一方法十分有效。然而, 这种方法却有很大的局限性。它是以减少样本量来换取信息的完备, 会造成资源的大量浪费, 丢弃了大量隐藏在这些对象中的信息。在样本量较小的情况下, 删除少量对象就足以严重影响到数据的客观性和结果的正确性。因此, 当缺失数据所占比例较大, 特别是当缺失数据非随机分布时, 这种方法可能导致数据发生偏离, 从而得出错误的结论。

    (2)均值替换法(Mean Imputation):我们将变量的属性分为数值型和非数值型来分别进行处理。如果缺失值是数值型的, 就根据该变量在其他所有对象的取值的平均值来填充该缺失的变量值; 如果缺失值是非数值型的, 就根据统计学中的众数原理, 用该变量在其他所有对象的取值次数最多的值来补齐该缺失的变量值。
    均值替换法也是一种简便、快速的缺失数据处理方法。使用均值替换法插补缺失数据, 对该变量的均值估计不会产生影响。
    但这种方法是建立在完全随机缺失( MCAR ) 的假设之上的, 而且会造成变量的方差和标准差变小。同时,这种方法会产生有偏估计, 所以并不被推崇。

    (3)多重插补(Multiple Imputation):在面对复杂的缺失值问题时,MI是最常用的方法,它将从一个包含缺失值的数据集中生成一组完整的数据集。每个模拟的数据集中,缺失数据将用蒙特卡洛方法来填补。由于多重估算技术并不是用单一的值来替换缺失值, 而是试图产生缺失值的一个随机样本, 这种方法反映出了由于数据缺失而导致的不确定,R中的mice包可以用来执行这一操作。
    基于mice包的分析通常按照以下过程分析:
    library(mice)
    imp <- mice(data, m)
    fit <- with(imp, analysis)
    pooled <- pool(fit)
    summary(pooled)
    其中,imp是一个包含m个插补数据集的列表对象,同时还含有完成插补过程的信息。默认m值为5。
    analysis是一个表达式对象,用来设定应用于m个插补数据集的统计分析方法,例如线性回归模型的lm()函数、广义线性模型的glm()函数,做广义可加模型的gam()等。
    fit是一个包含m个单独统计分析结果的列表对象。
    pooled是一个包含这m个统计分析平均结果的列表对象。
    library(mice)
    data(sleep,package=“VIM”)
    imp<-mice(sleep,seed=6666)
    fit<-with(imp,lm(Dream~Span+Gest))
    pooled<-pool(fit)
    summary(pooled)

    5.5数据集的合并与拆分

    数据框的合并与拆分

    有时如果希望分组进行统计分析,或者只分析其中的一部分数据,则可以通过拆分数据集来加以分析,有时又希望把不同组的数据合并起来分析。数据框的拆分与合并是一个互逆的过程。R里拆分数据框和合并数据框很简单,分别用函数unstack( )、stack( )。

    data(“PlantGrowth”)
    PlantGrowth
    weight group
    1 4.17 ctrl
    2 5.58 ctrl
    3 5.18 ctrl
    4 6.11 ctrl
    27 4.92 trt2
    28 6.15 trt2
    29 5.80 trt2
    30 5.26 trt2
    unPG<-unstack(PlantGrowth)
    unPG
    ctrl trt1 trt2
    1 4.17 4.81 6.31
    2 5.58 4.17 5.12
    3 5.18 4.41 5.54
    4 6.11 3.59 5.50
    5 4.50 5.87 5.37
    6 4.61 3.83 5.29
    7 5.17 6.03 4.92
    8 4.53 4.89 6.15
    9 5.33 4.32 5.80
    10 5.14 4.69 5.26
    sPG=stack(unPG)
    sPG
    values ind
    1 4.17 ctrl
    2 5.58 ctrl
    3 5.18 ctrl
    4 6.11 ctrl
    5 4.50 ctrl
    6 4.61 ctrl
    7 5.17 ctrl
    8 4.53 ctrl
    27 4.92 trt2
    28 6.15 trt2
    29 5.80 trt2
    30 5.26 trt2

    数据集的合并

    要横向合并两个数据框(数据集),可以使用merge()函数。在多数情况下,两个数据框是通过一个或多个共有变量进行联结的(inner join)。例如:
    newdata <- merge(dataframeA, dataframeB, by= “ID”)
    将dataframeA和dataframeB按照ID进行了合并。
    若要直接横向合并两个矩阵或数据框,可以直接使用cbind() 函数,为了让它正常工作,每个对象必须拥有相同的行数,且要以相同的顺序排列。
    total <- cbind(A, B)

    数据集的抽取

    (1)保留变量:从一个大数据集中选择有限数量的变量来创建一个新的数据集。
    A.newdata <- dataframe[, c(n:m)]
    从dataframe数据框中选择了第n到第m个变量,将行下标留空(,)表示默认选择所有行,并将它们保存到了新的数据框newdata中。
    B.vars <- c(“var1”, “var2”, “var3”, “var4” )
    newdata <-dataframe[vars]

    (2)剔除变量
    可以使用如下语句:
    A. vars <- names(dataframe) %in% c(“var1”, “var2” )
    #x %in% table : 返回的是x中的每个元素是否在table中,是一个bool向量
    newdata <-dataframe[!vars]
    B. 在知道要删除的变量是第几个变量的情况下,可以使用语句:
    newdata <- dataframe[c(-n, -m)] #删除第n和第m个变量
    C. leadership v a r 1 < − l e a d e r s h i p var1 <- leadership var1<leadershipvar2 <- NULL

    (3)选择观测值

    newdata1 <- sleep[1:20, ] #选择前20个观测
    attach(sleep)
    newdata2 <- sleep[which(Sleep>=3 & Sleep <6),] #选择睡眠时间在3~6小时之间的观测
    detach(sleep)

    (4)subset()函数

    newdata3 <- subset(sleep, sleep>=3 & sleep<6, select=c(BodyWgt,Dream, Sleep,Span,Pred,Exp,Danger))
    newdata4<- subset(sleep, Pred=3 & sleep<6, select=BodyWgt: Pred)
    在第一个示例中,选择了所有睡眠时间在3~6小时之间的观测,且保留了BodyWgt, Dream, Sleep, Span, Pred, Exp, Danger变量。第二个示例选择了Pred为3且睡眠时间小于6小时的观测,且保留了变量BodyWgt到Pred之间的所有列。

    第六章 探索性数据分析

    6.1主要分析工具

    探索性数据分析工具

    探索性数据分析的工具包括数据的图形表示和解释。主要的图形表示方法有(括号中为R语言绘图函数):
    1.条图(barplot):用于分类数据。
    2.直方图(hist)、点图(dotchart)、茎叶图(stem):用于观察数值型分布的形状。
    3.箱线图(boxplot):给出数值型分布的汇总数据,适用于不同分布的比较和拖尾、截尾分布的识别。
    4.正态概率图(qqnorm):用于观察数据是否近似地服从正态分布。
    MS=read.csv(“mathstat.csv”)
    MS

    stem(MS$math)

    The decimal point is 1 digit(s) to the right of the |

    5 | 4
    6 | 00368
    7 | 003478
    8 | 01134558
    9 | 0135

    stem(MS$stat)

    The decimal point is 1 digit(s) to the right of the |

    5 | 68
    6 | 68
    7 | 1235688
    8 | 22246679
    9 | 04668

    茎叶图的第1位是十分位数,比如:数据成绩的茎叶图里,5|4表示有一位学生的数学成绩为54;6|00368表示有5位学生的成绩在[60,70]之间,其中两位是60分,一位63分,一位66分,一位68分,其余的类似。
    从上面的茎叶图中可以看出,数学成绩和统计成绩都不完全是正态分布,如果想要知道统计成绩是否好于数学成绩,该怎么办呢?
    下面将一些常用的进行探索性分析的图形函数整合建立一个拥有探索性数据分析功能的函数EDA ,来对数据进行全面探索性分析:

    EDA <- function (x)
    { par(mfrow=c(2,2)) # 同时做4个图(设置作图窗口为2行2列格式)
    hist(x); # 直方图
    dotchart(x); # 点图
    boxplot(x,horizontal=T); # 箱式图,详见6.2.2
    qqnorm(x);qqline(x) # 正态概率图
    par(mfrow=c(1,1)) # 恢复成单图
    }
    EDA(MSKaTeX parse error: Expected 'EOF', got '#' at position 13: math) #̲ 探索分析数学成绩 …stat) # 探索分析统计成绩
    在这里插入图片描述

    在这里插入图片描述

    pay=c(11,19,14,22,14,28,13,81,12,43,11,16,31,16,23,42,22,26,17,22,

    •   13,27,108,16,43,82,14,11,51,76,28,66,29,14,14,65,37,16,37,35,
      
    •   39,27,14,17,13,38,28,40,85,32,25,26,16,12,54,40,18,27,16,14,
      
    •   33,29,77,50,19,34)
      

    EDA(pay)在这里插入图片描述
    正如所预料的那样,我们看到了一个呈严重偏态的分布。此时可以进行数据变换,可以试试对数变换(以10为底)。
    log.pay =log10(pay)
    EDA(log.pay)
    在这里插入图片描述

    数据的类型

       按照对客观事物测度的程度或精确水平来划分,可将数据的计量尺度从低级到高级、由粗略到精确划分为四种。
    

    在这里插入图片描述

    在计量尺度的应用中,需要注意的是,同类事物用不同的尺度量化,会得到不同的类别数据。如,农民收入数据按实际填写就是区间数据;按高、中、低收入水平分就是有序;按有无收入计量则是分类;而说某人的收入是另一人的两倍,便是比例数据了。再如,学生成绩按及格、不及格评定是分类;按优、良、中、及格、不及格评定是有序数据;按具体分数评定是区间数据,而平均成绩则是比例数据。
    一般地,因为研究的目的和内容不同,计量尺度也会不同。如果不担心损失信息量,就可以降低度量层次。

    6.2单变量数据分析

    分类型数据

       统计学上把取值范围是有限个值或是一个数列构成的变量称为离散变量,其中表示分类情况的离散变量又称为分类变量。对于分类数据我们可以用频数表,条形图和饼图来描述。
       (1). 分类频数表(table)
       频数表可以描述一个分类变量的数值分布概况。R中的table命令可以生成频数表,它的使用很简单,如果x是分类数据,只要用table(x)就可以生成分类频数表。
    

    x=c(“是”,“否”,“否”,“是”,“是”,“否”,“否”,“是”,“是”)
    table(x)
    x
    否 是
    4 5

    (2). 条图(Barplot)
    条图的高度可以是频数或频率,图的形状看起来是一样,但是刻度不一样。R画条形图的命令是barplot()。对分类数据作条形图,需先对原始数据分组,否则作出的不是分类数据的条形图。

    drink=c(3, 4,1,1,3,4,3,3,1,3,2,1,2,1,2,3,2,3,1,1,1,1,4,3,1)
    barplot(drink)
    barplot(table(drink))
    在这里插入图片描述

    在这里插入图片描述

    barplot(table(drink)/length(drink))
    barplot(table(drink), col = c(“red”,“yellow”,“blue”,“white”))在这里插入图片描述
    在这里插入图片描述

    (3). 饼图(Pie Graph)
    对于分类数据还可以用饼图来描述。饼图用于表示各类别某种特征的构成比情况,它以图形的总面积为100%,扇形面积的大小表示事物内部各组成部分所占的百分比构成比。在R中作饼图也很简单,只要使用命令pie()就可以了,值得注意的一点是,像条形图一样对原始数据作饼图前要先分组。继续利用上面的饮酒者调查数据作饼图。

    drink.count=table(drink) #y数据分组后赋值给drink.count。
    pie(drink.count)
    names(drink.count)=c(“红酒”,“白酒”,“黄酒”,“啤酒”)
    pie(drink.count)
    pie(drink.count,col=c(“purple”,“green”,“cyan”,“white”))
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述

    数值型数据

       (1). 集中趋势和离散程度
       对于数值型数据,经常要分析一个分布的集中趋势和离散程度,用来描述集中趋势的主要有均值,中位数;描述离散程度的主要有方差、标准差。R可以很简单地得到这些结果,只要一个命令就可以了。求均值、中位数、方差、标准差的命令分别是mean()、median()、var()、sd()。
    

    mean(salary)
    [1] 2897.368
    median(salary)
    [1] 2850
    var(salary)
    [1] 414853.8
    sd(salary)
    [1] 644.0915
    fivenum(salary)
    [1] 2000 2400 2850 3250 4200
    summary(salary)
    Min. 1st Qu. Median Mean 3rd Qu. Max.
    2000 2400 2850 2897 3250 4200

    (2). 稳健的集中趋势和离散程度
    利用均值和方差描述集中趋势和离散程度往往基于正态分布,而如果数据是长尾或是有异常值时,这时用均值和方差就不能正确地描述集中趋势和离散程度。
    用中位数来描述集中趋势则是稳健的,不易受异常值影响。
    此外,我们还可以利用截尾均值来描述,用R计算截尾均值很简单:只要在mean函数里对trim参数进行设置就可以了。
    方差、标准差对异常值也很敏感, 可以用稳健的四分位间距(IQR)和平均差(mad)来描述离散程度。

    salarym=c(salary,15000)
    mean(salarym,trim=0.2) #对该部门的工资截去两头20%后的均值
    [1] 2870.833
    mean(salarym,trim=0.5) #这是对该部门的工资截去两头50%后的均值,实际上这就是中位数
    [1] 2875
    IQR(salarym)
    [1] 925
    mad(salarym)
    [1] 704.235

    (3). 茎叶图(Stem-and-Leaf Graph)
    由于绘制直方图时需要先对数据进行分组汇总,因此对样本量较小的情形,直方图会损失一部分信息,此时可以使用茎叶图来进行更精确的描述。茎叶图的形状与功能和直方图非常相似,但它是一种文本化的图形。R里作茎叶图很简单,只要用函数stem()就可以了。
    和直方图相比,茎叶图在反映数据整体分布趋势的同时还能够精确地反映出具体的数值大小,因此在小样本时(情况下)优势非常明显。

    stem(salary)

    The decimal point is 3 digit(s) to the right of the |

    2 | 01234
    2 | 556799
    3 | 0123
    3 | 58
    4 | 02

    stem(salarym)

    The decimal point is 4 digit(s) to the right of the |

    0 | 2222223333333334444
    0 |
    1 |
    1 | 5

    (4). 对数值数据分组
    统计分析中经常要碰到对数值数据进行分组,在R里可以用cut函数对数值数据进行分组。

    salaryg=cut(salary,breaks=c(2000,3000,4000,max(salary)))
    table(salaryg)
    salaryg
    (2e+03,3e+03] (3e+03,4e+03] (4e+03,4.2e+03]
    11 6 1

    (5). 直方图(Histogram)
    直方图用于表示(描述)连续性变量的频数分布,实际应用中常用于考察变量的分布是否服从某种分布类型,如正态分布。图形以矩形的面积表示各组段的频数(或频率),各矩形的面积总和为总频数(或等于1)。R里用来作(做)直方图的函数是hist(),也可以用频率作直方图,在R里作频率直方图很简单,只要把probability参数设置为T可以了,默认为F。

    hist(salary)
    hist(salary,prob=T) 在这里插入图片描述
    在这里插入图片描述
    rug(salary)
    在这里插入图片描述

    (6). 箱线图(Boxplot Graph)
    箱线图是由一个箱子和两根引线构成,可分为垂直型和水平型(详见图6-12),下端引线(垂直型)或左端引线(水平型)表示数据的最小值;箱子的下端(垂直型)或左端(水平型)表示下四分位数;箱子中间的线表示中位数;箱子上端(垂直型)或右端(水平型)表示上四分位数;上端引线(垂直型)或右端引线(水平型)表示最大值。
    箱线图和直方图一样都是用于考察连续变量的分布情况,但它的功能和直方图并不重叠,直方图侧重于对一个连续变量的分布情况进行详细考察,而箱线图更注重于勾勒出统计的主要信息(最小值,下四分位数,中位数、上四分位数和最大值),并且便于对多个连续变量同时考察,或者对一个变量分组进行考察,在使用上要比直方图更为灵活,用途也更为广泛。
    在R里作箱线图的函数是boxplot( ),而且可以设置垂直型和水平型,默认是垂直型,要得到水平型箱线图,只要把参数horizontal设为T就可以了。

    boxplot(salary)
    boxplot(salary,horizontal=T)
    在这里插入图片描述
    在这里插入图片描述

    (7). 密度函数线(Densitis)
    R语言里的density()函数可以画密度函数线。

    hist(faithfulKaTeX parse error: Expected 'EOF', got '#' at position 30: …=T,breaks=25) #̲使用faithful数据框 l…eruptions),col=‘red’)在这里插入图片描述

    离群值探索

      离群值(outlier)就是某个或少数几个值明显远离于其他大部分数据。理论上讲,离群值可以出现在各种分布中,但常见的主要出现在具有测量误差(measurement error)的数据或者总体是厚尾(heavy-tailed)分布的数据中。离群值的检验主要有
    

    箱线图
    Grubb检验
    Dixon’s Q检验

    (1).箱线图检验
       如果观测值距箱式图底线Q1(第25百分位数)或顶线Q3(第75百分位数)过远,如超出箱体高度(四分位数间距)的1.5以上,则可视该观测值为离群值。
       boxplot.stats()可以返回箱线图的有关统计量。
       其用法是boxplot.stats(x, coef = 1.5, do.conf = TRUE, do.out = TRUE)
    

    返回值里, s t a t s 是 由 5 个 值 组 成 , 第 一 个 值 是 箱 线 图 的 下 须 线 , 第 二 个 值 是 Q 1 ( 下 四 分 位 数 ) , 第 三 个 是 中 位 数 , 第 四 个 是 Q 3 ( 上 四 分 位 数 ) , 最 后 一 个 值 是 箱 线 图 的 上 须 线 。 stats是由5个值组成,第一个值是箱线图的下须线,第二个值是Q1(下四分位数),第三个是中位数,第四个是Q3(上四分位数),最后一个值是箱线图的上须线。 stats5线线Q1Q3线线n返回样本量 c o n f 返 回 置 信 区 间 , 默 认 是 95 的 置 信 区 间 。 conf返回置信区间,默认是95的置信区间。 conf95out返回离群值。

    boxplot(salarym)
    boxplot.stats(salarym)
    $stats
    [1] 2000 2400 2875 3400 4200

    $n
    [1] 20

    $conf
    [1] 2521.701 3228.299

    $out
    [1] 15000
    在这里插入图片描述
    (2).Grubbs 检验
    Grubbs 检验是由Grubbs F.E.提出来的用来探索来自于正态总体的单变量数据的离群值。Grubbs 检验是基于正态总体的假设,也就说在做检验前需要先检验数据的正态性。Grubbs 检验每次只能检验一个离群值。
    Grubbs 检验的假设:
    H0:数据集中没有离群值
    H1:数据集中至少有一个离群值
    R中的outliers包是专门用来做离群值检测的包,其中grubbs.test()函数可以进行Grubbs 检验,其用法grubbs.test(x, type = 10, opposite = FALSE, two.sided = FALSE)
    x是待检验数据,type表示检验类型,10表示检验一个离群值(默认值),11表示检验两个尾部上的两个离群值,20表示在一个尾部检验两个离群值。Opposite表示检验反方向上的离群值。Two.sided表示是否进行双边检验。

    (3).Dixon’s Q 检验
    R中outliers包里的dixon.test()函数可以用做Dixon’s Q 检验。其用法是dixon.test(x, type = 0, opposite = FALSE, two.sided = TRUE)
    x是待检验数据,type表示检验类型,根据样本量大小选择不同的类型,具体的选择有:10(样本量 3-7),11(样本量8-10),21(样本量11-13),22(14及以上)。opposite表示检验反方向上的离群值。two.sided表示是否进行双边检验。

    6.3双变量数据分析

    分类数据对分类数据

    (1). 二维表
    R的table()函数可以把双变量分类数据整理成二维表形式,table命令处理双变量数据类似于处理单变量数据,只是参数(变量)由原来的一个变成了两个。

    smoke=c(“Y”,“N”,“N”,“Y”,“N”,“Y”,“Y”,“Y”,“N”,“Y”)
    study=c("<5h",“5-10h”,“5-10h”,">10h",">10h","<5h",“5-10h”,"<5h", “>10h”,“5-10h”)
    table(smoke,study)
    study
    smoke <5h >10h 5-10h
    N 0 2 2
    Y 3 1 2

    对于二维表,我们经常要计算某个数据占行、列汇总数的比例或是占总的比例,也就是边缘概率。R可以很简单地计算这些比例,用函数prop.table( ),其句法是:prop.table(x, margin),当margin=1时,表示各个数据占行汇总数的比例,margin=2表示各个数据占列汇总数的比例,省略时,表示占总和的比例。

    tab=table(smoke,study)
    prop.table(tab,1)
    study
    smoke <5h >10h 5-10h
    N 0.0000000 0.5000000 0.5000000
    Y 0.5000000 0.1666667 0.3333333

    (2). 复杂(复式)条图
    条图用等宽直条的长短来表示相互独立的各指标数值大小,该指标可以是连续性变量的某汇总指标,也可以是分类变量的频数或构成比。各(组)直条间的间距(距离)应相等,其宽度一般与直条的宽度相等或为直条宽度的一半。R作条形图的函数是barplot( ),不过在作条形图前需对数据进行分组。

    par(mfrow=c(1,3)) #设置图形窗口以一行三列形式输出
    barplot(table(smoke,study)) #以study为分类变量作条形图
    barplot(table(study,smoke)) #以smoke为分类变量作条形图
    barplot(table(study,smoke),beside=T,legend.text=c("<5h",“5-10h”, “> 10h”)) # 设置图例

    其中main参数用来为图像添加标题,此外,还可以用sub添加副标题。beside参数设置为False时,作出的图是分段式条形图,True时作出的条形图是并列式,R默认的是False。参数legend.text为图添加图例说明。

    在这里插入图片描述

    分类数据对数据

    x=c(5,5,13,7,11,11,9,8,9)
    y=c(11,8,4,5,9,5,10,5,4,10)
    boxplot(x,y)
    在这里插入图片描述

    数值型数据对数值型数据

    比较两个数值变量的方法很多,可以从不同角度去比较。比如对两个独立的数值变量,可以比较它们的分布是否相同,也可以分析是否存在着某种相关关系、回归关系等。
    (1). 散点图
    简单分析两个数值变量的关系,经常使用散点图,在R里画散点图非常简单,只要用plot( )函数就可以了。

    data.entry(c(NA)) #用数据编辑器编辑数据
    plot(x,y) #做散点图
    abline(lm(y~x)) #添加趋势线)

    在这里插入图片描述
    (2). 相关系数
    相关系数用来反映两个数值变量的相关程度。经济变量之间的关系,大体可分为两类:
    (1)确定性关系:研究的是确定现象非随机变量间的关系。
    (2)统计相关关系:研究的是非确定现象随机变量间的关系。
    注意:
    ①不线性相关并不意味着不相关;
    ②有相关关系并不意味着一定有因果关系;
    ③相关分析研究一个变量对另一个(些)变量的统计依赖关系,但它们并不意味着一定有因果关系。
    ④相关分析对称地对待任何(两个)变量,两个变量都被看作是随机的。

    Person相关系数的取值范围是[-1,1],当-1 < r < 0,表示具有负线性相关,越接近-1,负相关性越强。0 < r < 1,表示具有正线性相关,越接近1,正相关性越强。r = -1表示具有完全负线性相关,r = 1表示具有完全正线性相关 r = 0表示两个变量不具有线性相关性。

    cor(x,y)
    [1] 0.9997906
    cor(y,x)
    [1] 0.9997906
    cor(x,y,method = “spearman”)
    [1] 1

    6.4多变量数据分析

    访问数据框数据

    在统计分析中经常碰到多变量数据,对于多变量数据,经常以类似电子表格的形式储存,以列表示变量,行表示观察值或样品。R使用数据框(data frame)形式储存多变量数据,关于数据框我们在第2.6.6节里已介绍了一些基础知识。在这里我们再深入地介绍一下如何访问数据框数据以及数据框拆分等问题。
    (1). 数据框绑定“attach”
    在前面我们已经接触过了attach( )和detach( )函数,但没有详细介绍它们的作用,其实这两个函数是应用数据框时很有用的工具。attach( )函数将数据框“连接(绑定)”入当前的名字空间,从而可以直接用数据框中的变量名访问而不必用“数据框名$变量名”这种格式。当变量较多时,通常将其存为一个文本文件。

    yx=read.table(“reg1.txt”,header=T)
    yx
    t y x
    1 1990 2937 2822
    2 1991 3149 2990

    11 2000 13395 12582
    12 2001 16386 15301

    该数据框有三个变量,对于数据框的变量我们不能直接引用,要用“数据框名$变量名”的格式,或是利用attach( )把数据框“连接(绑定)”入当前的名字空间。

    x
    错误:找不到这个目标对象"x"
    yx$x
    [1] 2822 2990 3297 4255 5127 6038 6910 8234 9263 10683 12582 15301
    attach(yx)
    x
    [1] 2822 2990 3297 4255 5127 6038 6910 8234 9263 10683 12582 15301
    detach() ##要取消连接,用函数detach()即可。
    x
    错误:找不到这个目标对象"x"

    R语言的名字空间管理是比较独特的。它在运行时保持一个变量搜索路径表,在读取某个变量时到这个变量搜索路径表中由前向后查找,找到最前一个。在赋值时总是在位置1赋值(除非有另外的特别指定)。读取某个变量的默认位置是在变量搜索路径表的位置2,rm( )默认去掉位置2上的数据,并(而)不删除原始数据。

    x=“That’s wrong”
    x
    [1] “That’s wrong”
    rm(x)
    x #注意这里显示的是上个例子中yx数据集里的x变量
    [1] 2822 2990 3297 4255 5127 6038 6910 8234 9263 10683 12582 15301
    detach()
    x
    错误:找不到这个目标对象"x"

    (2). 以数组形式访问
       其实,数据框可看作是特殊的数组,因此我们可以以数组形式访问数据框。数组是储存数据的一种有效方法,可以按行或列访问,就像电子表格一样,但输入的数据必须是同一类型。数据框之所以可以看作数组是因为数据框的列表示变量、行表示样本观察数,因此我们可以访问指定的行或列,在2.6.6我们介绍了可以利用“数组名[行,列]”的形式访问。
       > yx[,"y"]         #返回y变量的所有样本观察数
    

    [1] 2937 3149 3483 4349 5218 6242 7408 8651 9876 11444 13395 16386

    yx[,1] #返回第一列变量的所有样本观察数
    [1] 1990 1991 1992 1993 1994 1995 1996 1997 1998 1999 2000 2001
    yx[1:5,1:3] #返回第1至第5行,第1至第3列的观察数
    t y x
    1 1990 2937 2822
    2 1991 3149 2990
    3 1992 3483 3297
    4 1993 4349 4255
    5 1994 5218 5127
    yx[1,]
    t y x
    1 1990 2937 2822
    yx[1,2] #返回第2变量的第1个样本观察数
    [1] 2937
    yx[,] #返回所有行所有列数据

    (3). 以列表形式访问数据框
    列表是比数据框更为一般、更为广泛。列表是对象的集合,而且这些对象可以是不同类型的。数据框是特殊的列表,数据框的列看作向量,而且要求是同一类型对象。可以以列表形式访问数据框,只要在列表名称后面加$符号,再写上变量名就可以了。如:

    yxKaTeX parse error: Expected 'EOF', got '#' at position 11: x #̲返回x变量的所有样本观察数 […形式访问外,还可以用列表名[[变量名(号)]]形式访问:
    yx[[‘y’]] #返回y变量的所有样本观察数
    [1] 2937 3149 3483 4349 5218 6242 7408 8651 9876 11444 13395 16386
    yx[[1]] #返回t变量的所有样本观察数
    [1] 1990 1991 1992 1993 1994 1995 1996 1997 1998 1999 2000 2001

    列表还可以筛选出符合我们条件的数据,比如对上面的数据要得到1998后的资料,可以按如下的方法得到(去做)。

    yx[yx$t>‘1998’,]
    t y x
    9 1998 9876 9263
    10 1999 11444 10683
    11 2000 13395 12582
    12 2001 16386 15301

    多变量的数据分析

    (1). 多维列联表
    前面介绍了用table( )函数生成一、二维表,其实table( )函数还可以生成多维表,假如存在x、y、z三个变量,table(x,y)则生成x、y二维表,table(x,y,z)生成每个z值关于x、y的二维表(由于计算机作三维及三维以上的表格不方便,所以就用这种方式显示,类似于多维数组显示方式)。

    library(MASS)
    data(Cars93)
    attach(Cars93)
    names(Cars93)
    [1] “Manufacturer” “Model”
    [3] “Type” “Min.Price”
    [5] “Price” “Max.Price”
    [7] “MPG.city” “MPG.highway”
    [9] “AirBags” “DriveTrain”
    [11] “Cylinders” “EngineSize”
    [13] “Horsepower” “RPM”
    [15] “Rev.per.mile” “Man.trans.avail”
    [17] “Fuel.tank.capacity” “Passengers”
    [19] “Length” “Wheelbase”
    [21] “Width” “Turn.circle”
    [23] “Rear.seat.room” “Luggage.room”
    [25] “Weight” “Origin”
    [27] “Make”
    price=cut(Price,c(0,12,20,max(Price))) #把Price按区间分成三组levels(price)=c(“cheap”,“okay”,“expensive”) #对price的因子命名
    mpg=cut(MPG.highway,c(0,20,30,max(MPG.highway)))
    levels(mpg)=c(“gas guzzler”,“oky”,“miser”)
    table(Type)
    Type
    Compact Large Midsize Small Sporty Van
    16 11 22 21 14 9
    table(price,Type)
    Type
    price Compact Large Midsize Small Sporty Van
    (0,12] 3 0 0 18 1 0
    (12,20] 9 3 8 3 9 8
    (20,61.9] 4 8 14 0 4 1
    table(price,Type,mpg)
    , , mpg = gas guzzler

           Type
    

    price Compact Large Midsize Small Sporty Van
    (0,12] 0 0 0 0 0 0
    (12,20] 0 0 0 0 0 2
    (20,61.9] 0 0 0 0 0 0

    , , mpg = oky

           Type
    

    price Compact Large Midsize Small Sporty Van
    (0,12] 1 0 0 4 0 0
    (12,20] 5 3 6 0 6 6
    (20,61.9] 4 8 14 0 4 1

    , , mpg = miser

           Type
    

    price Compact Large Midsize Small Sporty Van
    (0,12] 2 0 0 14 1 0
    (12,20] 4 0 2 3 3 0
    (20,61.9] 0 0 0 0 0 0

    (2). 复式条形图
    多变量数据统计分析中经常用到复式条形图,复式条形图是指两条或两个以上小直条组成的条形图。与简单条形图相比,复式条形图多考察了一个分组因素,常用于考察比较两组研究对象的某观察指标。作复式条形图之前应先对数值数据进行分组,然后用table( )函数作频数表。作复式条形图的函数是barplot( ),R默认的分段式复式条形图,要作并列式复式条形图,要设置参数beside=TRUE。
    在这里插入图片描述

    在这里插入图片描述
    (3). 并列箱线图
    对于多变量数据经常要用到箱线图来分析各个变量的分布情况。R作箱线图的函数是boxplot( ),其用法前面已经介绍过了,这里主要通过几个例子来分析一下如何作多变量的箱线图。
    在这里插入图片描述
    (4). 点带图(stripchart)
    箱线图经常用来比较各变量的分布情况,尤其是当每个变量都有很(较)多的观察值时,点带图也可以用来比较各变量的分布情况,但主要用在样本观察值比较少时。R作点带图的函数是stripchart( ),对于双变量数据其用法是stripchart(z~t),z变量在t变量上的分布情况,不同的是这里z变量刻度在x轴上,而t变量在y轴上。
    stripchart(Type~price)在这里插入图片描述
    (1)重叠散点图
    有时出于研究的需要,需将两个或多组两个变量的散点图绘制在同一个图中,这样可以更好比较它们之间的相关关系,这时就可以绘重叠散点图。

    plot(iris[,1],iris[,3],type=“n”) # 绘制iris第1和第3列的散点图,不显示点type=“n”
    text(iris[,1],iris[,3],cex=0.6) # 显示样本序号,缩小字体cex=0.6在这里插入图片描述

    (2)矩阵式散点图
    当欲同时考察三个或三个以上的数值变量间的相关关系时一一绘制它们之间的简单散点图,十分麻烦。利用矩阵式散点图比较合适,这样可以快速发现多个变量间主要相关性,这一点在多元线性回归显得尤为重要。R作矩阵式散点图的函数是pairs()。
    > pairs(iris) 在这里插入图片描述

    第七章参数假设检验

    假设检验的基本思想

    在数学推导上,参数假设检验是与区间估计是相联系的,而在方法上,二者又有区别。对于区间估计,人们主要是通过数据推断未知参数的取值范围;而对于假设检验,人们则是做出一个关于未知参数的假设,然后根据观察到的样本判别该假设是否正确。在R中,区间估计和假设检验使用的是同一个函数。

    u.test<-function(a,mu,thegma)

    • { Se=thegma/sqrt(length(a))
    • u=(mean(a)-mu)/Se
    • p=2*(1-pnorm(abs(u)))
    • return(list(u=u, p=p))
    • }

    a<-c(4.89,5.99,5.89,6.22,4.79,5.47,4.50,6.61,4.25,6.67,4.46,4.50,6.97,5.39,

    •  4.56,5.03,2.54,5.27,4.48,4.05)
      

    u.test(a,5,1)
    $u
    [1] 0.5657252

    $p
    [1] 0.5715806

    正态总体单样本参数假设检验

    均值的检验

    1方差已知情形

    u.test<-function(a,mu,thegma,alternative=“twoside”)

    • { Se=thegma/sqrt(length(a))
    • u=(mean(a)-mu)/Se
    • if (alternative==“twoside”) p=2*(1-pnorm(abs(u)))
    • else if (alternative==“less”) p=pnorm(u)
    • else p=1-pnorm(u)
    • return(list(u=u, p=p))
    • }

    b=c(22,24,21,24,23,24,23,22,21,25)
    u.test(b,25,2.4,alternative=“less”) #左侧检验
    $u
    [1] -2.766993

    $p
    [1] 0.002828799

    2方差未知情形

    x=c(50.2,49.6,51.0,50.8,50.6,49.8,51.2,49.7,51.5,50.3,51.0,50.6)
    t.test(x,mu=50,alternative =“greater”)

    One Sample t-test
    

    data: x
    t = 2.9564, df = 11, p-value = 0.006529
    alternative hypothesis: true mean is greater than 50
    95 percent confidence interval:
    50.20609 Inf
    sample estimates:
    mean of x
    50.525

    方差检验

    x=c(512.952899108198, 503.85274864927, 495.06951127009, 477.193305294993,

    • 509.400520346022, 493.249014260413, 492.456674317536, 530.078195416527, 
      
    • 498.757258963417, 522.657000900506, 510.041124496973, 490.505063978937, 
      
    • 536.24855605503, 530.039965979141, 495.559165160148, 466.840695851664, 
      
    • 510.702680801237, 524.485012890925, 490.37616974915, 485.579333872921
      
    • )

    var.test1<-function(x, sigma2){

    • n<-length(x)
    • S2=var(x)
    • df=n-1
    • chi2<-df*S2/sigma2;
    • P<-pchisq(chi2,df)
    • data.frame(var=S2, df=df, chisq2=chi2, P_value=P)
    • }

    var.test1(x,400)
    var df chisq2 P_value
    1 346.8209 19 16.47399 0.3745438

    7.3正态总体双样本参数假设检验

    双样本方差的检验(方差齐性检验)

    x1=c(24, 29, 39, 40, 32, 32, 31, 44, 37, 37, 50, 28, 24, 48, 25, 40, 32, 34, 35, 41)
    x2=c(44, 34, 36, 38, 30, 30, 35, 38, 40, 46, 38, 35, 38, 36, 38, 40, 34, 37, 40, 46)
    var.test(x1,x2)

    F test to compare two variances
    

    data: x1 and x2
    F = 2.9283, num df = 19, denom df = 19, p-value =
    0.02385
    alternative hypothesis: true ratio of variances is not equal to 1
    95 percent confidence interval:
    1.159058 7.398216
    sample estimates:
    ratio of variances
    2.928304

    两样本均值检验

    1两独立样本t检验
    Step1在作两样本均值检验时,需要验证样本是否服从正态分布,即正态性检验。
    Step2判断两个样本是否有相同的方差,可以根据方差齐次检验判别。
    Step 3 t检验判断均值。对于R软件中,两个独立样本检验两种情况都用一个函数,t.test。
    用法如下: t.test(x1,x2,var.equal=T) #方差齐次条件满足时。
    t.test(x1,x2) #默认方差非齐次时。

    x1=c(48,47,44,45,46,47,43,47,42,48)
    x2=c(36,45,47,38,39,42,36,42,46,35)
    var.test(x1,x2)

    F test to compare two variances
    

    data: x1 and x2
    F = 0.22732, num df = 9, denom df = 9, p-value =
    0.03793
    alternative hypothesis: true ratio of variances is not equal to 1
    95 percent confidence interval:
    0.05646413 0.91520616
    sample estimates:
    ratio of variances
    0.2273243

    t.test(x1,x2)

    Welch Two Sample t-test
    

    data: x1 and x2
    t = 3.2882, df = 12.891, p-value = 0.005939
    alternative hypothesis: true difference in means is not equal to 0
    95 percent confidence interval:
    1.746412 8.453588
    sample estimates:
    mean of x mean of y
    45.7 40.6

    2两配对样本t检验

    before = c(94.5,101,110,103.5,97,88.5,96.5,101,104,116.5)
    after = c(85,89.5,101.5,96,86,80.5,87,93.5,93,102)
    t.test(before,after,paired=T)

    Paired t-test
    

    data: before and after
    t = 14.164, df = 9, p-value = 1.854e-07
    alternative hypothesis: true difference in means is not equal to 0
    95 percent confidence interval:
    8.276847 11.423153
    sample estimates:
    mean of the differences
    9.85

    7.4比例假设

    单样本比例检验

    proptest<-function(x,n,p,alternative)

    • { Se=sqrt(p*(1-p)/n)
    • u=(x/n-p)/Se
    • if (alternative==“twoside”) p=2*(1-pnorm(abs(u)))
    • else if (alternative==“less”) p=pnorm(u)
    • else p=1-pnorm(u)
    • return(list(u=u, p=p))
    • }

    proptest(45,100,0.5,alternative=“twoside”)
    $u
    [1] -1

    $p
    [1] 0.3173105

    proptest(450,1000,0.5,alternative=“twoside”)
    $u
    [1] -3.162278

    $p
    [1] 0.001565402

    两样本比例检验

    prop.test(c(45,56),c(45+35,56+47))

    2-sample test for equality of proportions with
    continuity correction
    

    data: c(45, 56) out of c(45 + 35, 56 + 47)
    X-squared = 0.010813, df = 1, p-value = 0.9172
    alternative hypothesis: two.sided
    95 percent confidence interval:
    -0.1374478 0.1750692
    sample estimates:
    prop 1 prop 2
    0.5625000 0.5436893

    第八章非参数检验

    8.1图示法

    1直方图
    2茎叶图
    3Q-Q图
    仅用于验证正态性
    以标准正态分布的分位数为横坐标,以处在相同百分位的样本分位数为纵坐标,把样本表现在直角坐标系中的散点。如果资料服从正态分布,则样本点应该呈一条围绕第一象限对角线的直线。也可以用累计概率来作图,成为P-P,但相较之下以Q-Q图为佳,效率较高。
    4经验分布图
    5箱式图

    8.2卡方检验

    卡方分布

    x=seq(0,20,0.1) #生成x序列
    curve(dchisq(x,2),0,20,ylab=“p(x)”)
    curve(dchisq(x,4),add=T,lty=2)
    curve(dchisq(x,6),add=T,lty=3)
    curve(dchisq(x,8),add=T,lty=4)
    curve(dchisq(x,10),add=T,lty=5)
    legend(13,0.4,c(“df=2”,“df=4”,“df=6”,“df=8”,“df=10”), lty=1:5, bty=“n”)
    在这里插入图片描述

    卡方拟合优度检验

    卡方拟合优度检验(Chi-squared goodness of fit tests)用来检验样本是否来自于特定类型分布的一种假设检验。

    1离散型分布验证

    freq = c(22,21,22,27,22,36)
    probs = c(1,1,1,1,1,1)/6 # 指定理论概率(多项分布)
    chisq.test(freq,p=probs)

    Chi-squared test for given probabilities
    

    data: freq
    X-squared = 6.72, df = 5, p-value = 0.2423

    freq = c(100,110,80,55,14)
    probs = c(29,21,17,17,16)/100
    chisq.test(freq,p=probs)

    Chi-squared test for given probabilities
    

    data: freq
    X-squared = 55.395, df = 4, p-value = 2.685e-11

    2连续型分布验证

    x<-c(159.8,178.5,168.9,183.2,174.0,160.9,180.0,171.7,152.4,174.3,170.2,185.3,169.6,160.1,158.9,164.6, 172.2, 168.0, 182.1, 171.1)
    fn=table(cut(x,breaks=c(min(x),160,170,180,190,max(x))))
    F=pnorm(c(min(x),160,170,180,190,max(x)),170,8)
    P=c(F[1],F[2]-F[1],F[3]-F[2],F[4]-F[3],1-F[4])
    chisq.test(fn,p=P)

    Chi-squared test for given probabilities
    

    data: fn
    X-squared = 26.537, df = 4, p-value = 2.466e-05

    卡方独立性检验

    卡方独立性检验(Chi-squared tests of independence),在原假设两个因素相互独立的前提下,比较两个及两个以上样本率( 构成比)以及两个分类变量的关联性分析。其根本思想就是在于比较理论频数和实际频数的吻合程度或拟合优度问题。基于这一原理,构造同前章节中的卡方统计量来检验列联表中的两个因子是否相互独立。

    yesbelt = c(12813,647,359,42)
    nobelt = c(65963,4000,2642,303)
    chisq.test(rbind(yesbelt,nobelt))

    Pearson's Chi-squared test
    

    data: rbind(yesbelt, nobelt)
    X-squared = 59.224, df = 3, p-value = 8.61e-13

    卡方两样本同质检验

    卡方同质性检验(Chi-squared tests for homogeneity),检验各行是否来自同一个总体。直观地,如果各行因子来自于相同的总体,每一类的出现概率应该是差不多的,而卡方统计量则将再次帮助我们解释“差不多” 的含义。

    die.fair = sample(1:6,100,p=c(1,1,1,1,1,1)/6,rep=T) # 均匀骰子
    die.bias = sample(1:6,100,p=c(.5,.5,1,1,1,2)/6,rep=T) # 不均匀骰子
    res.fair = table(die.fair);res.bias = table(die.bias)
    count=rbind(res.fair,res.bias)
    count
    1 2 3 4 5 6
    res.fair 15 15 16 17 12 25
    res.bias 12 8 18 16 10 36
    chisq.test(count)

    Pearson's Chi-squared test
    

    data: count
    X-squared = 4.7771, df = 5, p-value = 0.4437

    chisq.test(count)$exp # 获得期望频数
    1 2 3 4 5 6
    res.fair 13.5 11.5 17 16.5 11 30.5
    res.bias 13.5 11.5 17 16.5 11 30.5

    8.3秩和检验

    秩的概念

    x = c(21240,4632, 22836,5484,5052,5064,6972,7596,14760,15012, 18720, 9480, 4728, 67200,52788)
    (Ri = rank(x))
    [1] 12 1 13 5 3 4 6 7 9 10 11 8 2 15 14

    单样本符号秩检验

    x = c(21240,4632, 22836,5484,5052,5064,6972,7596,14760,15012, 18720, 9480, 4728, 67200,52788)
    stem(x)

    The decimal point is 4 digit(s) to the right of the |

    0 | 55555789559
    2 | 13
    4 | 3
    6 | 7

    wilcox.test (x, mu=5080)

    Wilcoxon signed rank exact test
    

    data: x
    V = 109, p-value = 0.003357
    alternative hypothesis: true location is not equal to 5080

    两独立秩和检验

    两样本wilcoxon秩和检验也可由函数wilcox.test完成,其本质是一种非参数的检验方法,用法和单样本检验相似。
    假定第一个样本有m个观测值,第二个有n个观测值。把两个样本混合之后把这m+n个观测值按升幂排序,记下每个观测值在混合排序下面的秩。再分别把两个样本所得到的秩相加。记第一个样本观测值的秩的和为W1,而第二个样本秩的和为W2。这两个值可以互相推算,称为Wilcoxon统计量。
    该统计量的分布和两个总体分布无关。由此分布可以得到p值。直观上看,如果W1与W2之中有一个显著地大,则可以选择拒绝原假设。该检验需要的唯一假定就是两个总体的分布有类似的形状,但不一定要求分布是对称的。

    多个独立样本秩和检验

    Kruskal-Wallis检验为非参数检验,可在数据非正态的情况下代替单因素方差分析。它的使用方式和用Wilcoxen符号秩检验代替t检验是一样的。另外它也是一个基于原始数据秩的检验,故不要求数据的正态性。
    当你不肯定单因素检验中的正态性假定是否成立时,便可考虑Kruskal-Wallis检验。

    kruskal.test(weight ~ group,data=PlantGrowth)

    Kruskal-Wallis rank sum test
    

    data: weight by group
    Kruskal-Wallis chi-squared = 7.9882, df = 2,
    p-value = 0.01842

    scores = c(4,3,4,5,2,3,4,5,4,4,5,4,4,4,5,5,4,5,4,4,5,5,4,5,3,4,2,4,4,5,3,4,2,2,1,1)
    person = c(1,1,1,1,1,1,1,1,1,1,1,1,2,2,2,2,2,2,2,2,2,2,2,2,3,3,3,3,3,3,3,3,3,3,3,2)
    boxplot(scores~person) #做一个箱线图比较分布
    kruskal.test(scores ~ person)

    Kruskal-Wallis rank sum test
    

    data: scores by person
    Kruskal-Wallis chi-squared = 6.9383, df = 2,
    p-value = 0.03114

    多个相关样本的秩和检验

    X=matrix(c(20.3,21.2,18.2,18.6,18.5,25.6,24.7,19.3,19.3,20.7, 24.0, 23.1,20.6,19.8,21.4),5)
    friedman.test(X)

    Friedman rank sum test
    

    data: X
    Friedman chi-squared = 7.6, df = 2, p-value =
    0.02237

    8.4 K-S检验

    K-S单样本总体分布验证

    检验是否服从已知参数的连续型分布

    x=rnorm(50)
    y=runif(50,0,1)
    ks.test(x, “pnorm”, mean=0, sd=1)

    One-sample Kolmogorov-Smirnov test
    

    data: x
    D = 0.13431, p-value = 0.3003
    alternative hypothesis: two-sided

    ks.test(y, “punif”, 0,1 )

    One-sample Kolmogorov-Smirnov test
    

    data: y
    D = 0.15158, p-value = 0.1812
    alternative hypothesis: two-sided

    ks.test(x,“pexp”,0.5)

    One-sample Kolmogorov-Smirnov test
    

    data: x
    D = 0.44256, p-value = 1.934e-09
    alternative hypothesis: two-sided

    K-S两独立样本同质检验

    x1=c(48,47,44,45,46,47,43,47,42,48)
    x2=c(36,45,47,38,39,42,36,42,46,35)
    boxplot(x1,x2,horizontal=T,names=c(“x1”,“x2”))
    ks.test(x1,x2)

    Two-sample Kolmogorov-Smirnov test
    

    data: x1 and x2
    D = 0.6, p-value = 0.05465
    alternative hypothesis: two-sided

    8.5常用正态性检验

    偏度、峰度检验法

    1用样本偏度、峰度的极限分布做检验
    偏度(Skewness)反映单峰分布的对称性。峰度(Kurtosis)反映分布峰的尖峭程度。
    在这里插入图片描述
    在这里插入图片描述
    2Jarque-Bera检验(偏度和峰度的联合分布检验法)

    Shapiro-Wilk(W检验)

    1一元正态性检验
    夏皮洛—威尔克(Shapiro-Wilk)检验也称为W检验,这个检验当8≤n≤50时可以使用。过小样本n<8对偏离正态分布的检验不太有效。大样本可以使用后面介绍的K-S检验。
    2多元正态分布检验

    其他常用正态检验

    1AD正态性检验
    2Cramer-von Mises正态性检验
    3Lilliefors正态性检验
    4Pearson卡方正态性检验
    5Shapiro-Francia正态性检验

    第九章方差分析

    t检验用于检验两个独立正态总体均值是否相等,当要同时检验多个总体的均值是否存在差异,就不能用t检验,需用利用方差分析(Analysis of Variance,简称ANOVA),其本质也是一种均值假设检验,通过对方差来源进行分解,判别某一个或多个因素下各个水平的因变量均值是否有明显的差异,从而判别哪些因素对因变量有显著影响。
    在这里插入图片描述

    9.1单因素方差分析

    方差分析是对全部样本观察值的差异(用样本方差来衡量)进行分解,将某种因素下各样本观察值之间可能存在的系统性误差与随机误差加以比较,据以推断各总体之间是否存在显著性差异。单因素方差分析就是只考虑一个因素对结果的影响。

    在R语言中做单因素方差分析(one-way analysis of variance)的函数为oneway.test。它要求有一变量观测值(本例为income),而另一个因子来描述分类情况(本例为group)

    sta<-c(3306,6496,3996,5572,4887,5084,6168,4740,4250,4031,

    •    3955,5291,4995,4398,4392,3475,4643,5562,3159,4403)
      

    Fina<- c(3882,4663,2429,5399,5127,3896,4039,4576,4012,3214,

    •      4525,4938,3716,4248,5318,2891,2737,3395,4053,6495)
      

    Trade<-c(4502,3222,3651,3189,4246,5004,4652,6058,2889,3567,

    •      2409,3710,4681,4485,3441,3356,3922,4455,2790, 4023)
      

    income<-c(sta,Fina,Trade)
    group<-c(rep(1,20),rep(2,20),rep(3,20))
    oneway.test(income ~ group, var.equal=T)

    One-way analysis of means
    

    data: income and group
    F = 3.1857, num df = 2, denom df = 57, p-value =
    0.0488

    data(PlantGrowth)
    oneway.test(weight ~ group, data=PlantGrowth, var.equal=T)

    One-way analysis of means
    

    data: weight and group
    F = 4.8461, num df = 2, denom df = 27, p-value =
    0.01591

    更多有关分析的详细信息可通过函数anova和aov按下面的方式得到。应用函数anova需要在线性模拟函数lm产生的结果基础上调用它。

    anova(lm(weight ~ group, data=PlantGrowth))
    Analysis of Variance Table

    Response: weight
    Df Sum Sq Mean Sq F value Pr(>F)
    group 2 3.7663 1.8832 4.8461 0.01591 *
    Residuals 27 10.4921 0.3886
    Signif. codes:
    0 ‘’ 0.001 ‘’ 0.01 ‘’ 0.05 ‘.’ 0.1 ‘ ’ 1

    summary(aov(weight ~ group, data=PlantGrowth))
    Df Sum Sq Mean Sq F value Pr(>F)
    group 2 3.766 1.8832 4.846 0.0159 *
    Residuals 27 10.492 0.3886


    Signif. codes:
    0 ‘’ 0.001 ‘’ 0.01 ‘’ 0.05 ‘.’ 0.1 ‘ ’ 1

    9.2两因素方差分析

    不考虑交互作用的两因素方差分析

    range=c(582,562,653,491,541,516,601,709,392,758,582,487)
    A=c(1,1,1,2,2,2,3,3,3,4,4,4)
    B=c(1,2,3,1,2,3,1,2,3,1,2,3)
    plot(range~A,pch=B) # pch 不同符号表示
    legend(1.5,750,legend=1:3,pch=B) #(1.5,750)处添加图例
    par(mfrow=c(1,2))
    boxplot(range~A,xlab=“A”); boxplot(range~B,xlab=“B”)
    par(mfrow=c(1,1))
    A = factor(A) ; B = factor(B) # 首先将A、B声明(转换)成因子
    (range.aov <- aov(range ~ A + B )) # 拟合方差分析模型
    Call:
    aov(formula = range ~ A + B)

    Terms:
    A B Residuals
    Sum of Squares 15759.00 22384.67 73198.00
    Deg. of Freedom 3 2 6

    Residual standard error: 110.4521
    Estimated effects may be unbalanced

    summary(range.aov)
    Df Sum Sq Mean Sq F value Pr(>F)
    A 3 15759 5253 0.431 0.739
    B 2 22385 11192 0.917 0.449
    Residuals 6 73198 12200

    在这里插入图片描述
    在这里插入图片描述

    A=c(1,2,3,4,1,2,3,4,1,2,3,4)
    B=c(1,1,1,1,2,2,2,2,3,3,3,3)
    A = factor(A) ; B = factor(B)
    aov(beef ~ A + B )
    Call:
    aov(formula = beef ~ A + B)

    Terms:
    A B Residuals
    Sum of Squares 588.2500 112.1667 1412.5000
    Deg. of Freedom 3 2 6

    Residual standard error: 15.34329
    Estimated effects may be unbalanced

    beef.aov <- aov(beef ~ A + B )
    summary(beef.aov)
    Df Sum Sq Mean Sq F value Pr(>F)
    A 3 588.3 196.08 0.833 0.523
    B 2 112.2 56.08 0.238 0.795
    Residuals 6 1412.5 235.42

    考虑交互作用的两因素方差分析

    单因素ANOVA是用于处理(总体)平均值相等的假设检验,无重复双因素ANOVA用分块来说明无总体变化,也是一种总体平均值相等的假设检验。这一节讲述有重复双因素ANOVA,它可用于检验两总体的效果。该检验适用于析因实验。这里限制为完全的随机化设计中的双因子。
    如果A、B两因素存在交互影响,这种交互作用也可能对各观察值组水平的差异产生影响,这就需要对每种水平的组合进行若干次独立观察。故这种方差分析也称为重复观察的两因素方差分析 >Y=c(60.7,61.1,61.5,61.3,61.6,62.0,61.7,61.1,61.5,60.8,61.7,61.2,62.2,62.8,62.1,61.7,60.6,60.3,60.6,61.0,61.4,61.5,60.7,60.9)

    A=c(rep(1,8),rep(2,8),rep(3,8))
    B=c(1,1,2,2,3,3,4,4, 1,1,2,2,3,3,4,4, 1,1,2,2,3,3,4,4)
    A=factor(A); B=factor(B)
    rate.aov <- aov(Y ~ A+B+A*B)
    rate.aov
    Call:
    aov(formula = Y ~ A + B + A * B)

    Terms:
    A B A:B Residuals
    Sum of Squares 3.083333 3.630000 0.300000 1.140000
    Deg. of Freedom 2 3 6 12

    Residual standard error: 0.3082207
    Estimated effects may be unbalanced

    summary(rate.aov)
    Df Sum Sq Mean Sq F value Pr(>F)
    A 2 3.083 1.542 16.228 0.000387 ***
    B 3 3.630 1.210 12.737 0.000487 ***
    A:B 6 0.300 0.050 0.526 0.778290
    Residuals 12 1.140 0.095


    Signif. codes:
    0 ‘’ 0.001 ‘’ 0.01 ‘’ 0.05 ‘.’ 0.1 ‘ ’ 1

    Y=c(2.8,2.73,2.04,1.33,1.58,1.23,

    •     + 3.29,2.68,1.5,1.4,1,1.82,
      
    •     + 2.54,2.59,3.15,2.88,1.92,1.33)
      

    A=c(rep(1,6),rep(2,6),rep(3,6))
    B=c(1,1,2,2,3,3, 1,1,2,2,3,3, 1,1,2,2,3,3)
    A=factor(A); B=factor(B)
    aov(Y ~ A + B + A*B)
    Call:
    aov(formula = Y ~ A + B + A * B)

    Terms:
    A B A:B Residuals
    Sum of Squares 0.816044 5.028211 2.272489 1.054750
    Deg. of Freedom 2 2 4 9

    Residual standard error: 0.3423367
    Estimated effects may be unbalanced

    ad.aov <- aov(Y ~ A + B + A*B)
    summary(ad.aov)
    Df Sum Sq Mean Sq F value Pr(>F)
    A 2 0.816 0.4080 3.482 0.075867 .
    B 2 5.028 2.5141 21.452 0.000376 ***
    A:B 4 2.272 0.5681 4.848 0.023161 *
    Residuals 9 1.055 0.1172


    Signif. codes:
    0 ‘’ 0.001 ‘’ 0.01 ‘’ 0.05 ‘.’ 0.1 ‘ ’ 1

    第十章线性回归模型

    回归分析是对客观事物数量依存关系的分析,是统计中的一个常用的方法,被广泛的应用于社会经济现象变量之间的影响因素和关联的研究。根据自变量和因变量之间的关系类型,可分为线性回归分析和非线性回归分析。

    consume=c(594,638,1122,1155,1408,1595,1969,2078,2585,2530)
    income=c(800,1100,1400,1700,2000,2300,2600,2900,3200,3500)
    cor(income,consume)
    [1] 0.9882517
    plot(income,consume)
    abline(lm(consume~income))
    在这里插入图片描述

    10.2一元线性回归

    一元线性回归概述

    回归分析(regression analysis)是研究一个变量关于另一个(些)变量的具体依赖关系的计算方法和理论。
    通常前一个变量被称为被解释变量(Explained Variable)或因变量(Dependent Variable)或响应变量(Response),后一个(些)变量被称为解释变量(Explanatory Variable)或自变量(Independent Variable)或者协变量(Covariate)。因变量往往又更加形象地称之为输出变量(Output variable),自变量称为输入变量(Input variable)。
    由于变量间关系的随机性,回归分析关心的是根据解释变量的已知或给定值,考察被解释变量的总体均值,即当解释变量取某个确定值时,被解释变量所有可能出现的对应值的平均值。

    一元线性回归的参数估计

    1普通最小二乘估计(OLS)

    高斯—马尔可夫定理(Gauss-Markov theorem):在给定经典线性回归的假定下,最小二乘估计量是具有最小方差的线性无偏估计量(best linear unbiased estimator, BLUE)

    2极大似然估计(MLE)
    极大似然估计(Maximum Likelihood Estimation, MLE)的基本原理是,当从模型总体随机 抽取n组样本观测值后,最合理的参数估计量应该使得从模型中抽取该n组样本观测值的概率最大。

    3参数估计量的概率分布及随机干扰项方差的估计

    一元线性回归模型的检验

    1拟合优度检验
    拟合优度检验是对回归拟合值与观测值之间拟合程度的一种检验。度量拟合优度的指标主要是判定系数(可决系数)
    2变量显著性检验

    一元线性回归模型的预测

    1点预测
    对于拟合得到的一元线性回归模型, 在给定样本以外的解释变量的观测值 ,可以得到被解释变量的预测值,可以此作为其条件均值或个别值的一个近似估计,称之为为点预测。

    2区间预测

    一元线性回归模型综合案例

    10.3多元线性回归

    在这里插入图片描述

    多元线性回归模型的检验

    1拟合优度检验
    拟合优度检验是对回归拟合值与观测值之间拟合程度的一种检验。度量拟合优度的指标主要是判定系数(可决系数)

    2方程总体显著性检验
    方程的整体显著性检验,旨在对模型中被解释变量与解释变量之间的线性关系在总体上是否显著成立作出推断。一般使用F检验。

    3单个变量显著性检验

    多元线性回归的预测

    1单值预测
    2区间预测

    多元线性回归综合案例

    第十一章线性回归模型的扩展

    11.1多重共线性

    多重共线性的定义和后果

    解释变量间存在线性关系。
    关于模型中解释变量之间的关系主要有三种:
    (1) 解释变量间毫无线性关系,变量间相互正交。
    (2)解释变量间完全共线性,此时模型参数将无法估计。
    (3) 解释变量间存在一定程度的线性关系。实际中碰到的主要是这种情形。当相关性较弱时,可能影响不大,但是随着解释变量间的共线性程度加强,对参数估计值的准确性、稳定性带来影响。

    多重共线性检验

    在这里插入图片描述
    在这里插入图片描述

    在这里插入图片描述

    多重共线性的克服

    1逐步回归
    逐步回归主要分为向前逐步回归(forward)、向后逐步回归(backward)和向后向前逐步回归(both)。逐步回归本身并不是一种新的回归或者参数的估计方法,所用到的参数估计方法都是原来的,是从众多的变量中选出最优模型的变量的一套方法。

    2岭回归

    11.2异方差

    异方差的定义和后果

    回归参数估计量不再具有有效性,会对模型的F检验和t检验
    带来问题。

    异方差性的检验

    (一)散点图与残差图
    定性分析主要利用散点图和残差图的形状来初步判断异方差的存在性。散点图和残差图呈“喇叭”型分布,说明数据可能存在递增型异方差。但定性分析只能提供一个主观、初略的判断,还需进一步借助更加精确的检验方法。

    (二)Goldfeld-Quandt检验
    Goldfeld-Quandt检验是Goldfeld-Quandt于1965年提出的,所要检验的问题为具有同方差还是递增型异方差。

    (三)Glejser检验
    既可以检验递增型异方差,也可以检验递减型异方差。

    (四)White检验

    异方差性的克服

    1广义最小二乘法
    2取对数

    11.3序列相关性

    序列相关性的定义和后果

    在这里插入图片描述

    在这里插入图片描述

    序列相关性的检验

    (一)定性分析法
    若残差序列图与图11-15类似,或者残差散点图与图11-16类似,则说明 存在正自相关;若残差序列图与图11-17类似,或者残差散点图与图11-18类似,则说明 存在负自相关。
    在这里插入图片描述
    (二)DW(Durbin-Watson)检验法
    在这里插入图片描述
    在这里插入图片描述

    序列相关性的克服

    在这里插入图片描述

    序列相关系数的估计

    第十二章 非线性回归模型

    非线性回归分析是线性回归分析的扩展,由于非线性回归的参数估计涉及非线性优化问题,计算比较困难,因此在计算机诞生前较少研究。20世纪七八十年代以来,随着计算机技术的发展,非线性回归的参数估计计算困难得到了克服,统计推断和预测分析技术也有很大发展。非线性回归分析也开始受到更多的重视,现在已经成为统计学、计量经济学研究的热点之一。

    12.2可线性化的非线性回归

    Cobb-Douglas生产函数

    在这里插入图片描述

    dat=read.csv(file=“douglas.csv”)
    lm1=lm(log(y)~log(x2)+log(x3),data=dat)
    summary(lm1)

    Call:
    lm(formula = log(y) ~ log(x2) + log(x3), data = dat)

    Residuals:
    Min 1Q Median 3Q Max
    -0.15920 -0.02914 0.01179 0.04087 0.09640

    Coefficients:
    Estimate Std. Error t value Pr(>|t|)
    (Intercept) -3.3385 2.4495 -1.363 0.197939
    log(x2) 1.4988 0.5398 2.777 0.016758 *
    log(x3) 0.4899 0.1020 4.800 0.000433 ***

    Signif. codes:
    0 ‘’ 0.001 ‘’ 0.01 ‘’ 0.05 ‘.’ 0.1 ‘ ’ 1

    Residual standard error: 0.07481 on 12 degrees of freedom
    Multiple R-squared: 0.889, Adjusted R-squared: 0.8705
    F-statistic: 48.07 on 2 and 12 DF, p-value: 1.867e-06

    多项式方程模型

    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述

    x = c(100,200,300,450,600,800,1000)
    y = c(253, 337,395,451,495,534,574)
    lm.1 = lm(y ~ x) # 一次模型 y=a+bx
    lm.2 = lm(y ~ x + I(x^2)) # 二次模型 y=a+bx+cx2
    lm.3 = lm(y ~ x + I(x^2) + I(x^3)) # 三次模型 y=a+bx+cx2+dx3
    summary(lm.1) c o e f E s t i m a t e S t d . E r r o r t v a l u e ( I n t e r c e p t ) 269.466073424.1842101611.142232 x 0.33412680.041806247.992271 P r ( > ∣ t ∣ ) ( I n t e r c e p t ) 0.0001015488 x 0.0004951455 s u m m a r y ( l m . 2 ) coef Estimate Std. Error t value (Intercept) 269.4660734 24.18421016 11.142232 x 0.3341268 0.04180624 7.992271 Pr(>|t|) (Intercept) 0.0001015488 x 0.0004951455 summary(lm.2) coefEstimateStd.Errortvalue(Intercept)269.466073424.1842101611.142232x0.33412680.041806247.992271Pr(>t)(Intercept)0.0001015488x0.0004951455summary(lm.2)coef
    Estimate Std. Error t value
    (Intercept) 2.002120e+02 1.695062e+01 11.811481
    x 7.061816e-01 7.567631e-02 9.331607
    I(x^2) -3.410076e-04 6.754293e-05 -5.048753
    Pr(>|t|)
    (Intercept) 0.0002940767
    x 0.0007341536
    I(x^2) 0.0072374199
    summary(lm.3) c o e f E s t i m a t e S t d . E r r o r t v a l u e ( I n t e r c e p t ) 1.554847 e + 028.182083 e + 0019.003076 x 1.118596 e + 006.453789 e − 0217.332397 I ( x 2 ) − 1.254302 e − 031.360356 e − 04 − 9.220394 I ( x 3 ) 5.550306 e − 078.183596 e − 086.782234 P r ( > ∣ t ∣ ) ( I n t e r c e p t ) 0.0003181899 x 0.0004185186 I ( x 2 ) 0.0026985540 I ( x 3 ) 0.0065518838 p l o t ( x , y ) l i n e s ( x , f i t t e d ( l m . 1 ) , l t y = 1 ) l i n e s ( x , f i t t e d ( l m . 2 ) , l t y = 2 ) l i n e s ( x , f i t t e d ( l m . 3 ) , l t y = 3 ) l e g e n d ( 700 , 400 , c ( " 直 线 " , " 二 次 曲 线 " , " 三 次 曲 线 " ) , l t y = 1 : 3 ) s u m m a r y ( l m . 1 ) coef Estimate Std. Error t value (Intercept) 1.554847e+02 8.182083e+00 19.003076 x 1.118596e+00 6.453789e-02 17.332397 I(x^2) -1.254302e-03 1.360356e-04 -9.220394 I(x^3) 5.550306e-07 8.183596e-08 6.782234 Pr(>|t|) (Intercept) 0.0003181899 x 0.0004185186 I(x^2) 0.0026985540 I(x^3) 0.0065518838 plot(x,y) lines(x,fitted(lm.1),lty=1) lines(x,fitted(lm.2),lty=2) lines(x,fitted(lm.3),lty=3) legend(700,400,c("直线","二次曲线","三次曲线"),lty=1:3) summary(lm.1) coefEstimateStd.Errortvalue(Intercept)1.554847e+028.182083e+0019.003076x1.118596e+006.453789e0217.332397I(x2)1.254302e031.360356e049.220394I(x3)5.550306e078.183596e086.782234Pr(>t)(Intercept)0.0003181899x0.0004185186I(x2)0.0026985540I(x3)0.0065518838plot(x,y)lines(x,fitted(lm.1),lty=1)lines(x,fitted(lm.2),lty=2)lines(x,fitted(lm.3),lty=3)legend(700,400,c("线","线","线"),lty=1:3)summary(lm.1)r.squared
    [1] 0.9274062
    summary(lm.2) r . s q u a r e d [ 1 ] 0.9901534 s u m m a r y ( l m . 3 ) r.squared [1] 0.9901534 summary(lm.3) r.squared[1]0.9901534summary(lm.3)r.squared
    [1] 0.9993971

    在这里插入图片描述

    指数函数模型

    在这里插入图片描述

    12.3不可线性化的非线性回归

    在这里插入图片描述
    实际上,非线性最小二乘估计和非线性极大似然估计都是非线性优化的问题,非线性优化有多种算法,比如有格点搜索法、二次爬坡法、高斯牛顿法和牛顿拉夫森法等。

    非线性模型的参数估计与迭代算法

    初始值选取

    在利用迭代算法进行非线性回归参数估计时,初始值的选择是一个值得重视的问题,如果我们想要得到较好的结果和提高工作效率,必须认真对待参数估计值的选择。但参数初始值的选择并没有一般法则。尽量接近参数真实值或最终估计值,最好是参数真实值的一致估计,是正确的初始值选择原则。但该原则的实用价值不大,因为参数真实值不可能知道,而一致估计量正是我们要求出的最小二乘估计量。在实践中,人们常常运用的是如下的经验方法:
    1、利用参数的经济意义。
    2、模型函数在特定点的性质。
    3、降维法。

    收敛性

    在这里插入图片描述

    12.4非线性回归评价和假设检验在这里插入图片描述

    可决定系数

    参数显著性的F检验

    似然比检验

    第十三章 二元选择模型

    前面我们探讨了连续型的因变量建模分析,但实际中,并非所有的变量都是连续型的数据,有时因变量是离散型的数据,这时候我们需要用广义线性模型(generalized linear model, GLM)。
    离散因变量(Discrete Dependent Variable)是指取值为0、1、2….等离散值的变量。在多数情况下,这些取值一般没有实际的意义,仅代表某一事件的发生,或者是用于描述某一事件发生的次数。根据取值的特点,离散因变量可以分为二元变量(binary variable)、多分变量和计数变量(count variable)。二元变量的取值一般为1和0,当取值为1时表示某件事情的发生,取值为0则表示不发生,比如信用卡客户发生违约的记为1,不违约的记为0。因变量为二元变量的模型称为二元选择模型(Binary Choice Model)。

    13.2线性概率(LP)模型原理

    13.3Probit模型原理

    Logit模型原理

    13.5边际效应分析

    13.6最大似然估计(MLE)

    13.7似然比检验和拟合优度

    在这里插入图片描述

    13.8案例

    13.9扩展案例

    第十四章多元选择模型

    多分变量所取的离散值个数多于两个,如果各种结果之间没有自然顺序的话,称为无序变量。多分变量为因变量的模型称为多元选择模型(Multinomial Model),其中又有有序选择模型(Ordered Model)、条件模型(Conditional Model)、嵌套模型(Nested Model)等分类。

    14.1有序选择模型

    14.2多元无序logit模型

    14.3嵌套logit模型

    第十五章

    计数变量主要用于描述某一事件发生的次数,它仅取整数值。例如,每户家庭的子女数。因变量为计数变量的模型称为计数模型(Count Model)。
    受限因变量(limited dependent variable)是指因变量的观测值是连续的,但是受到某种限制,其抽样并非完全随机的,得到的观测值并不完全反应因变量的真实情况。选择性样本(selective sample)是受限因变量的主要形式,其样本观测值是在选择性限制的情况下抽取的。受限因变量常见的两类数据:截断(truncation)数据和审查(Censoring)数据。受限因变量模型主要包括截断模型(Truncated Model)和审查模型(Censored Data)两类。这两类模型多应用在调查数据的分析当中。

    15.1计数模型

    15.2受限因变量模型

    第十六章分位数回归

    第十七章高级统计绘图

    17.1绘制地图

    地图毫无疑问是展示地理信息数据时最直观的工具,尤其是当地图和统计量结合时,其功效则会进一步加强。在本书的第一章中曾经提到过John Snow的地图,注意图中不仅标示出了霍乱发生的地点,每个地点的死亡人数也用点的数目标示了出来。历史上还有不少类似的使用地图的例子,而在今天,地理信息系统(GIS)已经成为研究空间和地理数据的热门工具,地图的应用也是屡见不鲜。
    地图的本质是多边形,而多边形的边界则由地理经纬度数据确定。R中的附加包 maps (Brownrigg,2010)是目前比较完善的地图程序包之一,因此本节主要介绍该程序包

    17.2高级绘图工具–ggplot2

    ggplot2它是一个有着完整的一套图形语法所支持的软件包,其语法基于《Grammar of Graphics》(Wilkinson,2005)一书。该绘图包的特点在于并不去定义具体的图形(如直方图,散点图),而是定义各种底层组件(如线条、方块)来合成复杂的图形,这使它能以非常简洁的函数构建各类图形,而且默认条件下的绘图品质就能达到出版要求。
    首先在ggplot2的语法中,有几个概念需要了解:
    图层(Layer):图层允许用户一步步的构建图形,方便单独对图层进行修改、增加、甚至改动数据。
    标度(Scale):标度是一种函数,它控制了数学空间到图形元素空间的映射。一组连续数据可以映射到X轴坐标,也可以映射到一组连续的渐变色彩。一组分类数据可以映射成为不同的形状,也可以映射成为不同的大小。
    坐标系统(Coordinate):坐标轴可以进行变换以满足不同的需要,除直角坐标外还有对数坐标、极坐标等。
    位面(Facet):很多时候需要将数据按某种方法分组,分别进行绘图。位面就是控制分组绘图的方法和排列形式。

    散点图

    一般对于一系列观测值的图形描述,可以用散点图来直观表达。这里基本的散点图绘制可以使用qplot()函数# 第十八章 如何制作自己的R包
    R包提供了一个加载所需代码、数据和文件的集合。R软件自身就包含大约30种不同功能的包,这些基本包提供了R软件的基本功能。与此同时,R作为一个开源软件,它提供了各种统计计算函数,从而方便使用者能够灵活机动的进行数据分析,甚至创造出符合特定需要的新统计计算方法,而这些函数大多是以包的形式提供,这些都是世界各地R用户自己编写的,并上传到网上分享。因此,制作出属于用户自己的R包,并与全世界的R用户共享是一件非常有意思的事情。
    library(ggplot2)
    qplot(carat,price,data=diamonds)
    qplot(carat,price,data=diamonds,colour=color)
    qplot(carat,price,data=diamonds,shape=cut)
    qplot(carat,price,data=diamonds,alpha= I(1/50))
    p <- ggplot(diamonds, aes(carat, price))
    p + stat_bin2d(bins = 100)
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述

    散点图上添加平滑曲线

    为了展示数据的趋势,一般需要在散点图上面添加一条平滑的曲线。这里可以通过添加smooth对象传递给geom参数,它会将这些图按照顺序进行重叠
    qplot(carat,price,data=diamonds,geom=c(“point”,“smooth”))
    p <- ggplot(diamonds, aes(carat, price,colour=cut))
    p + geom_point(alpha=0.1) + geom_smooth()

    在这里插入图片描述
    在这里插入图片描述

    条形图和箱线图

    对于离散型变量,频数一般可以使用条形图来绘制,并且不需要像基础图形下面使用barchart先对数据进行汇总。这里直接使用geom=”bar“即可,并且如果需要对数据分组,可以使用wight来表达。

    qplot(color,data=diamonds,geom=“bar”)
    qplot(color,data=diamonds,geom=“bar”,weight=carat)+scale_y_continuous(“carat”)
    p <- ggplot(data=diamonds,aes(x=color,fill=factor(cut)))
    p + geom_bar(position=‘stack’)
    p + geom_bar(position=‘dodge’)
    p + geom_bar(position=‘fill’)
    p + geom_bar(position=‘identity’,alpha=0.3)
    在这里插入图片描述
    在这里插入图片描述
    还可以对条形图分组并绘制不同类型的条形图。一般调整的参数有stack、dodge、fill、identity,stack方式是将不同年份数据堆叠放置;dodge方式是将不同年份的数据并列放置;fill方式和stack类似,但Y轴不再是计数,而是以百分比显示;identity方式是不做任何改变直接显示出来,所以需要设置透明度才能看得清楚,默认是stack

    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述
    qplot(color,price/carat,data=diamonds,geom=“boxplot”)
    p<- ggplot(diamonds,aes(color,price/carat,fill=color))
    p + geom_boxplot()
    p + geom_violin(alpha=0.8,width=0.9) + geom_jitter(shape= 21, alpha = 0.03)
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述

    直方图和密度曲线图

    一般对于连续性数据我们会只用直方图或者密度曲线图来绘制。这里只需在qplot()上面添加参数geom=”histogram”和geom=”density”。来进行实现。其中,直方图的组距使用binwidth参数来进行调整,密度曲线的平滑程度则使用adjust参数来进行设定
    qplot(carat,data=diamonds,geom=“histogram”,fill=cut)
    qplot(carat,data=diamonds,geom=“density”,colour=cut)
    p <- ggplot(diamonds, aes(carat))
    p + geom_histogram(position = ‘identity’,alpha=0.3,aes(y = …density…,fill = cut),color=“white”) + stat_density(geom = ‘line’, position = ‘identity’, aes(colour = cut))

    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述

    时间序列图

    qplot(date,uempmed,data=economics,geom=“line”)

    在这里插入图片描述

    图形标注

    unemp <- qplot(date, uempmed, data=economics, geom=“line”)
    presidential <- presidential[-(1:3),]
    unemp + geom_vline(aes(xintercept = as.numeric(start)), data = presidential)

    在这里插入图片描述
    library(scales)
    xr <- range(economics d a t e ) y r < − r a n g e ( e c o n o m i c s date) yr <- range(economics date)yr<range(economicsuempmed)
    unemp + geom_rect(aes(NULL,NULL,xmin=start,xmax=end,fill=name),ymin=yr[1],ymax=yr[2],data=presidential,alpha=0.2)
    在这里插入图片描述
    在这里插入图片描述

    17.3三维图形与等高线图

    三维图形

    x <- seq(-10, 10, length= 30)
    y <- x
    f <- function(x, y) { r <- sqrt(x2+y2); 10 * sin®/r }
    z <- outer(x, y, f)
    z[is.na(z)] <- 1
    op <- par(bg = “white”)
    persp(x, y, z, theta = 30, phi = 30, expand = 0.5, col = “lightblue”)

    在这里插入图片描述

    17.4词云

    在目前流行的文本挖掘中,词云(world cloud)是一个常用的对文本词汇频次进行表现的形式。一般通过文字字号的大小来表示词频的多少,还可以使用不同颜色加以区分。

    17.5散点图矩阵与关系矩阵图

    在这里插入图片描述

    17.6马赛克图

    ftable(Titanic)
    require(stats)
    library(graphics)
    mosaicplot(Titanic, main = “Survival on the Titanic”, color = TRUE)

    在这里插入图片描述

    18.1R包基础

    | package (包的名字)
    |–DESCRIPTION (描述文件,包括包名、版本号、标题、描述、依赖关系等)
    |–NAMESPACE (包的命名空间文件)
    |–R (函数源码)
    |–function1.R
    |–function2.R
    |–man (帮助文档,存放函数说明文件的目录)
    |–function1.Rd
    |–Package.Rd

    DESCRIPTION包含以下基本内容:
    Package: package name /表示包的名称
    Type: Package /表示R-Project的类型,R包对应的为“Package”
    Title: What the package does (short line) /标题,简要描述R包功能
    Version: 1.0 /记录R包的版本信息
    Date: when the package is built /记录R包的制作时间
    Author: Who wrote it /记录R包的作者
    Maintainer: Who to complain to yourfault@somewhere.net /记录R包的维护者
    Description: More about what it does (maybe more than one line) /详细描述R包的功能
    License: What license is it under? /表示R包的使用许可

    包的命名空间NAMESPACE是R包管理包内对象的一个途径,它可以帮助R包的作者控制保内的哪些函数对象是对用户可见的,哪些对象是从别的包导入(import),哪些对象从包中导出(export)。当我们在写一个R包时,有时候会涉及到许多函数,但是其中一些函数可能只是为了方便其它函数的编写而被抽象独立出来的子函数,这些子函数只需要被R包中的其他函数调用,对于外界用户而言并没有什么帮助,因此它们不需要对外界用户可见。NAMESPACE文件就提供了这样一个功能,我们可以通过在包的根目录下创建一个NAMESPACE文件,通过写上export(函数名)来导出那些需要对用户可见的函数。自R 2.14.0开始,所有的R包都必须有命名空间,如果没有的话,R也会自动创建。

    R文件夹下存放的是R包中所涉及到的,以.r格式保存的函数源文件。
    man文件夹下存放的是Rd文件,也就是R帮助的源代码,一般情况下,R会自动创建与R目录下的函数对应的.Rd文件以及一个额外的用以描述整个R包情况xxx-Package.Rd文件。

    18.2在windows中制作R包

    1制作R包前的环境配置
    首先确保正确安装R软件,RGUI或者Rstudio,注意安装路 径以及软件语言最好选择英文以避免可能因为语言出现的错误。
    目前最新版本的RGUI为R-3.0.2,RGUI的下载地址为(厦门大学镜像):
    http://mirrors.xmu.edu.cn/CRAN/bin/windows/base/
    目前最新版本的Rstudio为RStudio v0.98,下载地址为:
    http://www.rstudio.com/ide/download/
    而制作R包的工具软件主要有Rtools,MikTeX或Ctex (如果不需要pdf的帮助手册,则不需要安装)

    其中,Rtools是制作R包最重要也是最主要的工具,Rtools包含了windows环境下制作R包的一系列工具,其中包括:
    CYGWIN,用以在windows环境模拟UNIX环境。
    MinGW编译器,用以编译C和Fortran语言。
    Perl编译器,用以编译Perl语言。
    最新版本的Rtools的下载地址为(厦门大学镜像):
    http://mirrors.xmu.edu.cn/CRAN/bin/windows/Rtools/

    在完成上述软件的安装后,我们需要对文件的启动路径进行设置从而使得可以通过cmd命令行直接调用Rtools等相应软件。
    具体操作为:右键点击计算机>属性>高级系统设置>环境变量>系统变量 PATH一项,点击“编辑”,检查是否具有以下路径。通常软件在安装时已经自动配置好了启动路径。如果没有,需要手工添加,如图18-1所示
    在完成上述步骤之后,打开cmd命令行窗口,输入R cmd –help 以检测R环境是否成功配置,正确配置后返回的结果如图18-2所示

    2编写R程序
    在Windows下编写R程序包通常包括以下几步:
    ①编写.r函数源代码,也就是用来生成R程序包的函数脚本。
    在本文的演示中,假如现在我们已经有了一个编好的R函数Hello,用来在屏幕上输出问候:
    hello<-function(name)
    {
    print(paste(“Hello”,name))
    }
    存成了r脚本的格式,文件名为Hello.r
    ②利用R软件自带的package.skeleton()函数,生成R包中的Description 文件和帮助文件.rd。
    ③按要求填写生成的Description 文件和帮助文件.rd
    ④在windows cmd的命令行中输入相应的命令,生成zip文件或者.tar.gz,并进行相应的检查。

    18.3 在RStudio中制作R包

    打开Rstudio,利用左上方的菜单,Rstudio>File>New Project,打开新项目。选择New Directory为待创建的R包建立新的工作路径,选择R package,如图18-5所示。
    在接下来的操作页面中输入与R包有关的信息,如包名,源文件链接,以及创建R包的工作路径,如图18-6所示
    填选上述信息之后,点击“Creat Project”,在右下角展开如下工作页面,如图18-7所示
    可直接点选对应的文件,打开编辑窗口编辑文件内容,文件的格式要求与前文一致,如图18-8所示。
    在编辑好DESCRIPTION,hello.Rd,hello-package.Rd等文件后。点击Build按钮,如图18-9所示。
    Build & Reload 和 Check 选项提供了 R CMD的可视化操作,点选Check之后就相当于执行了Rcmd的 build 和 check 指令。执行结果将会显示于菜单下方窗口,如图18-10所示。
    最后,我们会在先前创建工程时设定好的工作路径下找到被创建好的R包。将R包载入后执行得到如下结果:

    library(hello)
    hello(“world”)
    [1] “Hello world”

    展开全文
  • 目录 Numpy库入门 数据存取与函数 Numpy库入门 1. 数据的维度 ...(3)多维数据:由一维或二维数据在新维度上扩展形成 (4)高维数据:高维数据仅利用最基本的二元关系展示数据间的复杂结构,数据之间的包含
  • 本书全面系统地介绍了Excel 2013数据透视表的技术特点和应用方法,深入揭示数据透视表的原理,并配合大量典型实用的应用实例,帮助读者全面掌握Excel 2013数据透视表技术。 本书共23章,分别介绍创建数据透视表,...
  • 统计学方法数据分析(上下册)

    热门讨论 2013-12-29 11:32:47
    第六部分数据分析:回归方法和模型的建立 第十一章线性回归和相关 11.1引言和案例 11.2估计模型中的参数 11.3回归参数的推断 11.4利用同归预测新的y值 11.5线性回归中拟合不足的考察 11.6逆回归问题(校准) ...
  • 主要介绍了微信小程序数据分析之自定义分析的实现,小编觉得挺不错的,现在分享给大家,也给大家做个参考。一起跟随小编过来看看吧
  • 数据清洗实例分析

    万次阅读 2017-02-05 10:54:18
    主要是通过分析“脏数据”的产生原因和存在形式,利用现有的数据挖掘手段和方法去清洗“脏数据”,将“脏数据”转化为满足数据质量要求或应用要求的数据,从而提高数据集的质量,满足现阶段数据分析的需求。...
  • 数据仓库多维数据模型设计

    万次阅读 多人点赞 2017-11-09 18:14:59
    建设数据模型既然是整个数据仓库建设中一个非常重要的关键部分,...数据仓库的建模方法同样也有很多种,每一种建模方法其实代表了哲学上的一个观点,代表了一种归纳,概括世界的一种方法。 目前业界较为流行的数据...
  • 来源:数据Seminar 本文约10500字,建议阅读15+分钟统计学中常用的数据分析方法汇总。 Part1描述统计描述统计是通过图表或数学方法,对数据资料进行整理、分析,并对数据的分...
  • 多维数据库分析系统在南航财务分析中的应用.pdf
  • 数据流为每个实例分配一个多维时间戳,以指定其执行顺序,为每个实例分配一个多维空间时间戳,以指定其执行位置(PE坐标)。 互连指定通过片上网络连接哪个PE。 目前,我们支持多种互连,包括一维收缩压,二维...
  • 本教程适合SSAS初学者使用,不包括数据挖掘部分,内容清晰简洁,29页的图文教程
  • 可控成本多维数据集允许用户通过各种业务单位视图和成本中心层次结构深入研究给定的支出类型,并根据需要应用适当的基本/可选和非保险百分比。 多维数据集上维护有多个版本的成本数据,允许用户查询成本数据的特定...
  • 多维尺 度分析MDS.ppt

    2020-10-19 16:54:17
    多维尺度分析MDS Multidimensional Scaling 主要内容 多维尺度分析MDS的基本概念 多维尺度分析MDS的主要步骤 如何揭示MDS感知图 收集和准备数据 MDS的应用实例 MDS分析软件使用 对维尺度分析-Multidimensional ...
  • 文本挖掘之情感分析在网络视频弹幕的应用 ——以《都挺好》弹幕数据为例 数据爬取 1.1数据定位 以腾讯视频《都挺好》为元数据材料,选取2019年3月1日开播以来到2019年4月15日46集的所有弹幕数据为研究...
  • DAP数据分析平台介绍

    千次阅读 2022-04-13 09:24:22
    科技飞速发展,企业信息化建设越来越完善,企业更加重视数据价值。DAP数据分析平台是一款专门用于企业大数据平台构建的产品,本文对此平台进行详细介绍。
  • 图像识别是一个综合性的问题,涵盖图像匹配、图像分类、图像检索、人脸检测、行人检测等技术,并在互联网搜索引擎、自动驾驶、医学分析、遥感分析等领域具有广泛的应用价值。为了让大家看完本文后对图像识别技术有个...
  • 多维时间序列分析

    2021-11-05 16:14:19
    多维时间序列 (1)Graph-augmented Normalizing Flows for Anomaly Detection of Multiple Time Series 论文地址: Abstract 对于各种各样的数据类型,异常检测是一项广泛研究的任务;其中,多时间序列经常出现在应用...
  • 多维数据模型

    千次阅读 2018-12-26 13:42:16
    多维数据模型是数据仓库的一大特点,也是数据仓库应用和实现的一个重要的方面,通过在数据的组织和存储上的优化,使其更适用于分析型的数据查询和获取。 多维数据模型的定义和作用 多维数据模型是为了满足用户从多...
  • 数据分析最具价值的49个案例(建议收藏)

    万次阅读 多人点赞 2019-01-04 16:18:44
    本文力图从企业运营和管理的角度,梳理出发掘大数据价值的一般规律:一是以数据驱动的决策,主要通过提高预测概率,来提高决策成功率;二是以数据驱动的流程,主要是形成营销闭环战略,提高销售漏斗的转化率;三是以...
  • 架构大数据分析应用

    万次阅读 2016-05-18 21:19:50
    这些考虑一般都是基于分析应用的日志,例如web访问日志,应用服务器日志,和数据库日志,但是也可以基于各种其他的数据源例如社交网络数据。当面对这些使用场景的时候,如果希望随着商务的增长而弹性扩展,就需要考虑...
  • 数据分析之—基于模型的复杂数据多维聚类分析 随着现实和虚拟世界的数据产生速度越来越迅猛,人们开始关注如何从这些数据中获取信息,知识,以及对于决策的支持。这样的任务通常被称作大数据分析(BigData ...
  • 数据分析与挖掘(一)】笔试题汇总(附答案)

    万次阅读 多人点赞 2019-08-04 17:08:34
    一直以来都有关注数据分析与挖掘领域,但网上信息繁杂,特此整理并筛选了python相关笔试题,供自己与感兴趣的同仁共同学习提高。第一次发文,引陆游《冬夜读书示子聿 》的诗句共勉! 古人学问无遗力,少壮工夫老始...
  • 数据分析实战

    千次阅读 2021-03-23 15:14:35
    数据分析实战数据分析基础数据分析全景图及修炼指南学习数据挖掘的最佳路径学数据分析要掌握哪些基本概念用户画像:标签化就是数据的抽象能力数据采集:如何自动化采集数据数据采集:如何用八爪鱼采集微博上的“D&...
  • 数据分析是指采用适当的统计分析方法对收集到的数据进行分析、概括和总结,对数据进行恰当的描述,提取出有用的信息的过程。对决策进行辅助,提供数据的根据,利用表格和列表进行展示。 数据挖掘是指在大量的数据中...
  • 1、大数据分析框架结构 2、数据、信息与数据分析 数据:是指对客观事件进行记录并可以鉴别的符号,是对客观事物的性质、状态以及相互关系等进行记载的物理符号或这些物理符号的组合。它是可识别的、抽象的符号。 ...
  • 《C#开发实例大全(基础卷)》筛选、汇集了C#开发从基础知识到高级应用各个层面约600个实例及源代码,每个实例都按实例说明、关键技术、设计过程、详尽注释、秘笈心法的顺序进行了分析解读。全书分6篇共25章,主要...

空空如也

空空如也

1 2 3 4 5 ... 20
收藏数 18,398
精华内容 7,359
关键字:

多维数据分析方法应用实例