精华内容
下载资源
问答
  • 多元正态分布具有两个参数——均值向量与自协方差函数,与数理统计一样,可以用抽样方式定义一些统计量对它们进行参数估计。在这里,我们使用极大似然估计方法,用样本均值和样本离差阵对它们进行估计。

    四、多元正态分布的参数估计

    1.多元正态分布的估计量

    对于多元正态分布Np(μ,Σ)N_p(\mu,\Sigma),其参数只有两个——均值向量μ\mu与自协方差矩阵Σ\Sigma,要对其进行估计,就要从总体中抽取简单随机样本。记抽取样本的容量为nn,每一个样本分别是X(α)=(xα1,,xαp)X_{(\alpha)}=(x_{\alpha1},\cdots,x_{\alpha p}),将样本纵向排列,得到样本数据阵
    X=[x11x1pxn1xnp]. X=\begin{bmatrix} x_{11} & \cdots & x_{1p} \\ \vdots & & \vdots \\ x_{n1} & \cdots & x_{np} \end{bmatrix}.
    从样本数据阵出发,可以获得以下统计量:

    1. 样本均值Xˉ\bar X,这是对每个维度求均值,得到的一个pp维向量
      Xˉ=1nα=1nX(α)=(xˉ1,,xˉp)=1nX1n. \bar X=\frac 1n\sum_{\alpha=1}^n X_{(\alpha)}=(\bar x_1,\cdots ,\bar x_p)'=\frac 1nX'\boldsymbol 1_n.
      这里xˉi\bar x_i是对第ii个分量的平均,即
      xˉi=1nα=1nxαi. \bar x_i=\frac 1n\sum_{\alpha=1}^n x_{\alpha i}.

    2. 样本离差阵AA,可以类比一维随机变量中的i=1n(xixˉ)2\sum_{i=1}^n (x_i-\bar x)^2,即
      A=α=1n(X(α)Xˉ)(X(α)Xˉ) A=\sum_{\alpha=1}^n(X_{(\alpha)}-\bar X)(X_{(\alpha)}-\bar X)'
      这样,AA是一个p×pp\times p对角阵,它的第(i,j)(i,j)元,其实就是
      aij=α=1n(xαixˉi)(xαjxˉj). a_{ij}=\sum_{\alpha=1}^n (x_{\alpha i}-\bar x_i)(x_{\alpha j}-\bar x_j).
      由此,还可以得到
      A=XXnXˉXˉ=X[In1n1n1n]X. A=X'X-n\bar X\bar X'=X'\left[I_n-\frac 1n\boldsymbol 1_n\boldsymbol 1_n' \right] X.
      这个式子用来计算离差阵更为方便。

    3. 样本协方差阵SS,可以类比一维随机变量中的样本方差,即
      S=1n1A, S=\frac 1{n-1}A,
      (i,i)(i,i)元是变量XiX_i的样本方差,即
      sii=1n1α=1n(xαixˉi)2. s_{ii}=\frac 1{n-1}\sum_{\alpha=1}^n (x_{\alpha i}-\bar x_i)^2.
      类似一维中样本方差的定义,也有
      S=1nα=1n(xαixˉi)2. S^*=\frac 1n\sum_{\alpha=1}^n(x_{\alpha i}-\bar x_i)^2.

    4. 样本相关阵RR,自然是由样本相关系数rijr_{ij}构成的p×pp\times p矩阵,即
      R=sijsiisjj=aijaiiajj. R=\frac{s_{ij}}{\sqrt{s_{ii}s_{jj}}}=\frac{a_{ij}}{\sqrt{a_{ii}a_{jj}}}.

    有了这些统计量,我们就可以对总体的参数μ,Σ\mu,\Sigma进行估计,使用的方法是最大似然估计。

    2.最大似然估计

    最大似然估计指的是,以使获得样本的出现几率最大的那组参数估计量,作为参数的点估计量。与一元情形类似,可以建立似然函数的概念。使用拉直运算,对Vec(X){\rm Vec}(X')的密度函数建立似然函数,称为样本X(i)X_{(i)}的似然函数(对数似然函数)。
    L(μ,Σ)=α=1n1(2π)p/2Σ1/2exp[12(x(α)μ)Σ1(x(α)μ)]=1(2π)np/2Σn/2exp[12α=1n(x(α)μ)Σ1(x(α)μ)]l(μ,Σ)=np2ln(2π)+n2lnΣ112α=1n(x(α)μ)Σ1(x(α)μ) \begin{aligned} L(\mu,\Sigma)=&\prod_{\alpha=1}^n \frac{1}{(2\pi)^{p/2}|\Sigma|^{1/2}}\exp\left[-\frac12(x_{(\alpha)}-\mu)'\Sigma^{-1}(x_{(\alpha)}-\mu) \right] \\ =&\frac{1}{(2\pi)^{np/2}|\Sigma|^{n/2}}\exp\left[-\frac12\sum_{\alpha=1}^n(x_{(\alpha)}-\mu)'\Sigma^{-1}(x_{(\alpha)}-\mu) \right]\\ l(\mu,\Sigma)=&-\frac{np}2\ln(2\pi)+\frac n2\ln |\Sigma^{-1}|-\frac12\sum_{\alpha=1}^n(x_{(\alpha)}-\mu)'\Sigma^{-1}(x_{(\alpha)}-\mu) \end{aligned}

    要求其极大似然估计,需要对矩阵Σ\Sigma,向量μ\mu求导(参见矩阵微商),得
    dl(μ,Σ)dμ=12α=1n(Σ1+(Σ1))(x(α)μ)=Σ1(α=1n(x(α)μ))=nΣ1(Xˉμ).dl(μ,Σ)dΣ1=n2Σ12α=1n(x(α)μ)(x(α)μ)=12(nΣA). \frac{{\rm d}l(\mu,\Sigma)}{{\rm d}\mu}=\frac12\sum_{\alpha=1}^n(\Sigma^{-1}+(\Sigma^{-1})')(x_{(\alpha)}-\mu)=\Sigma^{-1}(\sum_{\alpha=1}^n(x_{(\alpha)}-\mu))=n\Sigma^{-1}(\bar X-\mu).\\ \frac{{\rm d}l(\mu,\Sigma)}{{\rm d}\Sigma^{-1}}=-\frac n2\Sigma-\frac12\sum_{\alpha=1}^n(x_{(\alpha)}-\mu)(x_{(\alpha)}-\mu)'=-\frac12(n\Sigma-A).
    所以
    μ^=Xˉ,Σ^=An. \hat \mu=\bar X,\quad \hat\Sigma = \frac An.

    用到的矩阵微商结论:对于对称阵AA与列向量xx,有
    dlnAdA=A1,dxAxdA=xx,dxAxdx=(A+A)x. \frac{{\rm d}\ln |A|}{{\rm d}A}=A^{-1},\\ \frac{{\rm d}x'Ax}{{\rm d}A}=xx',\\ \frac{{\rm d}x'Ax}{{\rm d}x}=(A+A')x.

    如果在已知μ=μ0\mu=\mu_0的情况下,依照以上过程,就可以得到
    Σ^=1nα=1n(x(α)μ0)(x(α)μ0). \hat \Sigma=\frac{1}{n}\sum_{\alpha=1}^n(x_{(\alpha)}-\mu_0)(x_{(\alpha)}-\mu_0)'.
    所以,我们要找到(μ,Σ)(\mu,\Sigma)的估计,就需要计算(Xˉ,A)(\bar X,A),接下来对它们进行性质讨论。

    3.最大似然估计的性质

    (Xˉ,A)(\bar X,A)的分布具有类似一元统计中Xˉ\bar XS2S^2的性质。

    定理:设Xˉ\bar XAA分别是pp元正态总体Np(μ,Σ)N_p(\mu,\Sigma)的样本均值向量和样本离差阵,则有

    1. XˉNp(μ,1nΣ)\bar X\sim N_p(\mu,\frac1n\Sigma)
    2. A=dt=1nZtZtA\stackrel {\rm d}=\sum\limits_{t=1}^n Z_tZ_t',其中Z1,,Zn1Z_1,\cdots,Z_{n-1}独立同Np(0,Σ)N_p(0,\Sigma)分布;
    3. Xˉ\bar XAA相互独立;
    4. P{A>0}=1n>p{\rm P}\{A>0\}=1\Leftrightarrow n>p

    前三个性质的证明方式也与一元情况类似,设XX为从多元正态总体中抽取的n×pn\times p样本数据阵,Γ\Gammann正交阵,形式如同
    Γ=[r11r1nr(n1)1r(n1)n1/n1/n]=(rij)n×n. \Gamma=\begin{bmatrix} r_{11} & \cdots & r_{1n} \\ \vdots & & \vdots \\ r_{(n-1)1} & \cdots & r_{(n-1)n} \\ 1/\sqrt n & \cdots & 1/\sqrt n \end{bmatrix}=(r_{ij})_{n\times n}.

    Z=[Z1Zn]=Γ[X(1)X(n)]=ΓX. Z=\begin{bmatrix} Z_1' \\ \vdots \\ Z_n' \end{bmatrix} = \Gamma\begin{bmatrix} X_{(1)}' \\ \vdots \\ X_{(n)}' \end{bmatrix}=\Gamma X.
    Zi=(ri1,rin)XZ_i'=(r_{i1},\cdots r_{in})X
    Zi=(X(1),,X(n))[ri1rin],i=1,,n. Z_i=(X_{(1)},\cdots,X_{(n)})\begin{bmatrix} r_{i1} \\ \vdots \\ r_{in} \end{bmatrix},\quad i=1,\cdots,n.
    因为ZiZ_iX(1),,X(n)X_{(1)},\cdots,X_{(n)}的线性组合,所以ZiZ_i也是pp维正态向量,且
    EZi=α=1nriαE(X(α))={nα=1nriαrnαμ=0,tn;α=1n1nμ=nμ,t=n.Cov(Zα,Zβ)=i=1nrαirβiΣ={O,αβ;Σ,α=β. {\rm E}Z_i=\sum_{\alpha=1}^n r_{i\alpha}{\rm E}(X_{(\alpha)})=\left\{ \begin{array}l \sqrt{n}\sum\limits_{\alpha=1}^n r_{i\alpha}r_{n\alpha}\mu=0,&t\ne n;\\ \sum\limits_{\alpha=1}^n \frac 1{\sqrt n}\mu=\sqrt n \mu,&t=n. \end{array} \right.\\ {\rm Cov}(Z_\alpha,Z_{\beta})=\sum_{i=1}^nr_{\alpha i}r_{\beta i}\Sigma=\left\{ \begin{array}l O,&\alpha\ne \beta;\\ \Sigma,&\alpha=\beta. \end{array} \right.
    而显然Zn=nXˉZ_n=\sqrt n\bar X,且ZnNp(nμ,Σ)Z_n\sim N_p(\sqrt n\mu,\Sigma),所以XˉNp(μ,Σ/n)\bar X\sim N_p(\mu,\Sigma/n)。而
    α=1nZαZα=(Z1,,Zn)[Z1Zn]=ZZ=XX,α=1n1ZαZα=XXZnZn=XXnXˉXˉ=A. \sum_{\alpha=1}^nZ_{\alpha}Z_{\alpha}'=(Z_1,\cdots,Z_n)\begin{bmatrix} Z_1\\ \vdots \\ Z_n \end{bmatrix}=Z'Z=X'X,\\ \sum_{\alpha=1}^{n-1}Z_{\alpha}Z_{\alpha}'=X'X-Z_nZ_n'=X'X-n\bar X\bar X'=A.
    可以注意到,AAZ1,,Zn1Z_1,\cdots,Z_{n-1}的函数,Xˉ\bar XZnZ_n的函数,又因为Z1,,ZnZ_1,\cdots,Z_n互相独立,所以Xˉ\bar XAA相互独立。至于第四个性质,只需要记住,样本够多就能保证AA的非负定性即可。

    除此以外,Xˉ,A\bar X,A作为μ,Σ\mu,\Sigma的最大似然估计原型,还具有以下的性质:

    1. 无偏性:Xˉ\bar Xμ\mu的无偏估计,A/nA/n不是Σ\Sigma的无偏估计,但S=A/(n1)S=A/(n-1)Σ\Sigma的无偏估计。
    2. 有效性:Xˉ\bar XSSμ,Σ\mu,\Sigma的一致最小方差无偏估计,即Xˉ,S\bar X,Sμ,Σ\mu,\Sigma的有效估计量。
    3. 相合性:当nn\to \infty时,Xˉ,Σ^=A/n\bar X,\hat \Sigma=A/nμ,Σ\mu,\Sigma的强相合估计,即随着抽样数的增加,它们总会收敛于参数。
    4. 充分性:Xˉ,Σ^\bar X,\hat \Sigmaμ,Σ\mu,\Sigma的充分统计量。

    最大似然估计满足对参数函数依然适用的性质,即对于μ,Σ\mu,\Sigma的最大似然估计μ^,Σ^\hat \mu,\hat \Sigma,参数的函数φ(μ,Σ)\varphi(\mu,\Sigma)的最大似然估计还是φ(μ^,Σ^)\varphi(\hat \mu,\hat \Sigma)

    回顾总结

    1. 参数估计中,最重要的两个统计量是样本均值Xˉ\bar X与样本离差阵AA,它们与样本数据阵XX的关系分别是
      Xˉ=1nX1n,A=XXnXˉXˉ=X[In1n1n1n]X. \bar X=\frac 1nX'\boldsymbol 1_n,\\ A=X'X-n\bar X\bar X'=X'\left[I_n-\frac1n\boldsymbol 1_n\boldsymbol 1_n' \right]X.
      还有相关的统计量如S=A/(n1),S=A/nS=A/(n-1),S^*=A/n和样本相关阵R,rij=aij/aiiajjR,r_{ij}=a_{ij}/\sqrt{a_{ii}a_{jj}}

    2. Np(μ,Σ)N_p(\mu,\Sigma)的参数μ,Σ\mu,\Sigma的最大似然估计分别是μ^=Xˉ,Σ^=A/n\hat \mu=\bar X,\hat \Sigma=A/n,一般可以由Xˉ,A\bar X,A估计出μ,Σ\mu,\Sigma估计出。

    3. 关于Xˉ,A\bar X,A的性质,有Xˉ,A\bar X,A相互独立,且
      XˉNp(μ,Σ/n),A=dα=1n1ZαZα,Zαi.i.d.Np(0,Σ). \bar X\sim N_p(\mu,\Sigma/n),\\ A\stackrel {\rm d}=\sum_{\alpha=1}^{n-1} Z_\alpha Z_{\alpha}',\quad Z_\alpha\stackrel {\rm i.i.d.}\sim N_p(0,\Sigma).

    4. 在无偏性方面,Xˉ\bar Xμ\mu的无偏估计,S=A/(n1)S=A/(n-1)Σ\Sigma的无偏估计。

    5. 在有效性方面,Xˉ,S\bar X,Sμ,Σ\mu,\Sigma的最小方差无偏估计,即有效估计。

    6. 在相合性方面,Xˉ,A/n\bar X,A/nμ,Σ\mu,\Sigma的强相合估计。

    7. 对于参数函数φ(μ,Σ)\varphi(\mu,\Sigma),它的最大似然估计是φ(Xˉ,A/n)\varphi(\bar X,A/n)

    展开全文
  • 再求 ,使得似然函数最大]: 最大似然估计的性质: 由于充分利用了中信息,极大似然估计 和 有着非常好性质(估计的精确度很高),同时具有: 无偏性(需要修正),有效性,相合性,渐进正态性,且是 及 ...

    数字特征天团四人组:

    均值向量\small \overline{X} , 离差阵 A ,协方差阵 S ,相关阵 R 

    其中离差阵除以自由度就是协方差阵,相关阵的元素则由相关系数组成。

     

    \small \mu 及 \tiny \sum 的极大似然估计

    似然函数:将数据阵 X 进行拉直运算后形成的np维向量的联合密度函数被称为样本\small x_{(i)}的似然函数(关于\small \mu 及 \tiny \sum )

    极大似然估计:认为样本来自使样本出现概率最大的总体!

    了解思想后证明不难[因为存在两个变量,所以需要先固定\small \widehat{\mu},再求\tiny \widehat{\sum} ,使得似然函数最大]:

    最大似然估计的性质:

    由于充分利用了\small X_{(i)}中的信息,极大似然估计 \small \widehat{\mu} 和 \tiny \widehat{\sum} 有着非常好的性质(估计的精确度很高),同时具有:

    无偏性(\tiny \widehat{\sum}需要修正),有效性,相合性,渐进正态性,且是\small \mu 及 \tiny \sum的充分统计量。(数理统计的总结上会着重聊到,回头补链接= =)

     

     

     

     

     

    展开全文
  • 在多元统计分析中,多元正态分布有着核心地位(很容易与一元统计分析类比),今日将其分布密度函数及最大似然估计(ML)简单推导过程和结果记载于此,供我向SEM迈进奠基之用。首先是密度函数: 对于来自多元正态...

      在多元统计分析中,多元正态分布有着核心地位(很容易与一元统计分析类比),今日将其分布密度函数及最大似然估计(ML)的简单推导过程和结果记载于此,供我向SEM迈进奠基之用。首先是密度函数:

    b_EA7289976B701582.jpg

      对于来自多元正态分布总体的样本Y~Nm(μ, V),

    b_0A22BF4EBE550FC9.jpg

      显然很容易写出这n个样品的联合分布密度:

    b_C2D36A913E09D857.jpg

      按ML的常规套路,取对数(注意为了书写方便现令Ψ=V-1):

    b_CE2CD681E94B38CF.jpg

      现在根据推导需要引进几个记号:

    b_A7E7EB2E3571C213.jpg

      具体推导过程就省去了,忒麻烦,令人匪夷所思,恕我矩阵基础知识不太牢固,实在是没能咬牙把详细过程看完;最后的结果是:

    b_4BA967D5B6B8D0A8.jpg

    转载于:https://www.cnblogs.com/ysjxw/archive/2008/04/16/1155589.html

    展开全文
  • 此函数提供多元正态分布条件期望和协方差矩阵矢量化估计。 均值是一个矩阵,其中行表示期望向量。 Sigma 是协方差矩阵。 Ind 是第一个无条件参数的索引。 值是条件值矩阵,其中行对应于平均行。
  • 讨论随机阵的正态分布,我们将把多元统计与数理统计的知识结合起来,为接下来的参数估计、假设检验做准备。

    三、随机阵的正态分布

    由于我们在实际生活中,会从多元正态总体中抽取样本,得到样本数据阵。因此,像数理统计中一样,我们要对样本、统计量的分布作出讨论。而对于多元总体来说,首先要定义一些运算,将矩阵转化为可以用的统计量。

    1.拉直运算

    拉直运算指的是将随机矩阵转化为一个长的列向量。在样本数据阵中,存在pp个列向量X1,,Xp\mathcal X_1,\cdots,\mathcal X_p,每一个列向量代表一个属性维度。拉直运算就是将矩阵的每一个列向量按列排列,也就是X=(X1,,Xp)X=(\mathcal X_1,\cdots,\mathcal X_p),对其进行拉直处理得到
    Vec(X)=[X1X2Xp]=(x11,x21,,xn1,,x1p,x2p,,xnp). {\rm Vec}(X)=\begin{bmatrix} \mathcal X_1\\\mathcal X_2\\\vdots\\\mathcal X_p \end{bmatrix}=(x_{11},x_{21},\cdots,x_{n1},\cdots,x_{1p},x_{2p},\cdots,x_{np})'.
    如果要对样本进行拉直,就有
    Vec(X)=[X(1)X(2)X(n)]=(x11,x12,,x1p,,xn1,xn2,,xnp). {\rm Vec}(X')=\begin{bmatrix} X_{(1)}\\ X_{(2)} \\ \vdots \\ X_{(n)} \end{bmatrix}=(x_{11},x_{12},\cdots,x_{1p},\cdots,x_{n1},x_{n2},\cdots,x_{np})'.
    在多元统计中很多矩阵是对称矩阵,如果在已知XXpp阶对称阵的情况下,再直接进行拉直,则pppp个维度中只有p(p+1)/2p(p+1)/2个是不重复的,拉直成p2p^2是不合适的。对对称矩阵有专门的拉直运算,即
    Svec(S)=(S11,,Sp1,S22,,Sp2,,Spp). {\rm Svec}(S)=(S_{11},\cdots,S_{p1},S_{22},\cdots,S_{p2},\cdots,S_{pp})'.

    2.克罗内克(Kronecker)积

    A=(aij)A=(a_{ij})n×pn\times p矩阵,BBm×qm\times q矩阵,则ABA\otimes B称为A,BA,B的Kronecker积,又称为矩阵的直积,运算法则是
    AB=(aijB)=[a11Ba12Ba1pBa21Ba22Ba2pBan1Ban2BanpB]. A\otimes B=(a_{ij}B)= \begin{bmatrix} a_{11}B & a_{12}B & \cdots & a_{1p}B \\ a_{21}B & a_{22}B & \cdots & a_{2p}B \\ \vdots & \vdots & & \vdots \\ a_{n1}B & a_{n2}B & \cdots & a_{np}B \end{bmatrix}.
    也就是将右矩阵乘到左矩阵的每一个元素上,显然ABBAA\otimes B\ne B\otimes A。Kronecker积是多元统计分析中很重要的工具。

    3.随机阵的正态分布

    结合拉直运算与Kronecker积,我们可以用多元正态分布定义随机矩阵的正态性。以下定义1n\boldsymbol 1_n为长度是nn的列向量,结合前面的讨论,Vec(X){\rm Vec}(X')指的是将每个样本集合在一起拉直得到的列向量,所以如果样本来自正态总体Np(μ,Σ)N_p(\mu,\Sigma),就有
    Vec(X)Nnp(1nμ,InΣ). {\rm Vec}(X')\sim N_{np}(\boldsymbol 1_n\otimes \mu,I_n\otimes \Sigma).
    基于此,如果一个随机矩阵XX按样本拉直(按行拉直)后,满足
    Vec(X)Nnp(1nμ,InΣ) {\rm Vec}(X')\sim N_{np}(\boldsymbol 1_n\otimes \mu,I_n\otimes \Sigma)
    就称XX服从矩阵正态分布,记作
    XNn×p(M,InΣ)Vec(X)Nnp(Vec(M),InΣ). X\sim N_{n\times p}(M,I_n\otimes \Sigma)\Leftrightarrow {\rm Vec}(X')\sim N_{np}({\rm Vec}(M'),I_n\otimes \Sigma).
    这里
    M=[μ1μpμ1μp]=1nμ=[111](μ1,,μp). M=\begin{bmatrix} \mu_1 & \cdots & \mu_p \\ \vdots & &\vdots \\ \mu_1 & \cdots & \mu_p \end{bmatrix}=\boldsymbol 1_n\mu'=\begin{bmatrix} 1 \\ 1 \\ \vdots \\ 1 \end{bmatrix}(\mu_1,\cdots,\mu_p).
    此时的MM是一个每行都相同的矩阵,但实际上我们并不要求MM具有如此性质。

    随机阵正态分布具有如下的性质:如果XNn×p(M,InΣ)X\sim N_{n\times p}(M,I_n\otimes \Sigma)AAk×nk\times n常数矩阵,BBp×qp\times q常数矩阵,DDk×qk\times q常数矩阵,则令Z=AXB+DZ=AXB'+D,有
    ZNk×q(AMB+D,(AA)(BΣB)). Z\sim N_{k\times q}(AMB'+D,(AA')\otimes(B\Sigma B') ).

    总结回顾

    1. 拉直运算Vec{\rm Vec}指的是将一个矩阵,将列向量按列排列拉直称一个1×np1\times np的一维列向量。

    2. 对称矩阵的拉直运算Svec{\rm Svec}的拉直运算,将p×pp\times p矩阵的列向量下三角部分按列拉直成一个1×p(p1)/21\times p(p-1)/2的一维列向量。

    3. Kronecker积作用于两个矩阵An×p,Bm×qA_{n\times p},B_{m\times q}上,定义ABA\otimes Bnm×pqnm\times pq矩阵,将右矩阵乘到左矩阵的对应位置上,即
      AB=(aijB)n×p. A\otimes B=(a_{ij}B)_{n\times p}.
      Kronecker积不满足交换律,虽然AB,BAA\otimes B,B\otimes A得到的是同型矩阵但排列方式不同。

    4. 随机阵满足正态分布,指的是
      XNn×p(M,InΣ)Vec(X)Nnp(Vec(M),InΣ). X\sim N_{n\times p}(M,I_n\otimes \Sigma)\Leftrightarrow {\rm Vec}(X)\sim N_{np}({\rm Vec}(M),I_n\otimes \Sigma).

    5. XNn×p(M,InΣ)X\sim N_{n\times p}(M,I_n\otimes \Sigma),令Z=AXB+DZ=AXB'+D,则
      ZNk×q(AMB+D,(AA)(BΣB)). Z\sim N_{k\times q}(AMB'+D,(AA')\otimes (B\Sigma B')).

    展开全文
  • 利用多元正态分布和gamma分布定义了另一种形式多元t分布,称为第二类多元t分布,并研究了第二类多元t分布模型中参数的一致最小风险同变估计的存在性问题.
  • 多元统计:相关概念总结目录什么是多元统计分析多元正态分布的参数估计随机向量,密度函数和边缘密度函数多元正态分布多元正态分布的参数估计多元正太分布均值向量和协方差阵的检验三级目录三级目录三级目录三级目录...
  • 线性回归 高斯曲线 对数正态分布

    千次阅读 2013-12-28 23:14:44
    线性回归  回归分析中,只包括一个自变量和一个因变量,且... 在线性回归中,数据使用线性预测函数来建模,并且未知模型参数也是通过数据来估计。这些模型被叫做线性模型。最常用线性回归建模是给定X值y
  • §2.5 多元正态分布的参数估计 习题二 第三章 多元正态总体参数的假设检验 §3.1 几个重要统计量的分布 §3.2 单总体均值向量的检验及置信域 §3.3 多总体均值向量的检验 §3.4 协方差阵的检验 §3.5 独立性检验 §...
  • * 第二章 多元正态分布参数的估计 由定理2.3.1可知X(1) +X(2)和X(1) -X(2) 相互独立. 最新课件 * 第二章 多元正态分布参数的估计 (2) 因 所以 注意:由D(X)0,可知 (1-2) 0. 最新课件 * 第二章 多元正态分布参数...
  • 为什么要用参数估计? 在贝叶斯方法中,要事先估计先验概率和条件密度函数,然后再设计分类器。但是多数情况下训练样本数总是太少,而且当用于...例如,如果我们可以假设条件概率密度p(x|wi)是一个多元正态分布,...
  • 我们分别研究了最小二乘估计量 β^OLS 和 σ^OLS 相关性质,证明了 β^OLS 是 β 一个最优线性无偏估计量(BLUE), σ^2OLS 是 σ2 一个无偏估计量,并得到了其在正态性误差假设下所对应的分布: β^OLS∼N...
  • 参数估计(参数拟合),估计u和Σ公式如上图所示,u为平均值,Σ为协方差矩阵 使用多元高斯分布来进行异常检测 首先用我我们训练集来拟合参数u和Σ,从而拟合模型p(x) 拿到一个新样本,使用p(x)计算...
  • 多元统计学习日记1

    2015-09-13 09:35:27
    多元正态分布是一元正态分布的推广,多元统计分析的主要理论都是建立在多元正态总体基础上的,多元正态分布是多元统计分析的基础。包括聚类分析,判别分析,主成分分析,因子分析,对应分析,典型相关分析,定性数据...
  • -多元正态分布(单因素分析) -von Mises-Fisher分布 -Weibull分布 该程序易于使用,并允许丢失数据-所有丢失数据都应编码为NaN。 提供了有关如何使用该程序示例; 参见data / mm_example?.m。 更新版本0.4.0...
  • 本书对多元数据的如何描述以及正态分布的参数估计和 主成分分析等具体的应用 .这是一本基础的多元统计方面的书
  • 线性模型引论

    2018-09-10 16:23:35
    线性回归模型;方差分析;...多元正态分布参数估计;假设检验。可作为高等院校数学科学系、数理统计系或统计系、生物统计系、计量经济系等有关学科高年级本科生、硕士或博士学位学位课或选修课教材。
  • 首先,利用与正态分布有许多相似性质椭球等高分布族来构造混合分布模型,并引入标签变量,将基于椭球等高分布混合模型聚类转化为模型参数估计问题;然后,通过极大似然估计法和EM算法进行模型一般变量参数估计...
  • 应用多元分析(王学民)

    热门讨论 2010-08-03 16:29:43
     3.1 多元正态分布的定义  3.2 多元正态分布的性质  3.3 极大似然估计估计量的性质  3.4 〖WTHX〗〖Akx-〗和/n-1)S的抽样分布 *§3.5 二次型分布 小结 附录3-1 SAS的应用 附录3-2 §3.2中若干性质的数学证明 ...
  • 1.第2章 多元正态分布参数的估计 2.单尾、双尾检验 一、含义不同 1、双尾检验,也称双侧检验,只强调差异不强调方向性(比如大小,多少)检验叫双尾检验。如检验样本和总体均值有无差异, 或样本数之间有没有差异,...
  • 参考文献:《多元统计分析》高慧璇 编著 ,北京大学出版社 刚考完,做个总结,意在搭个学习《多元统计分析》简单架子,方便日后复习,虽然只学了一点皮毛,但是架...那么对应到多元中,多元正态分布也是核心,类似地
  • χ2分布是多元分析中重要的分布之一,在参数估计、假设检验、回归分析和判别分析等领域中有广泛的应用.旨在证明非中心χ2分布的几个重要性质和结论,重点讨论经线性变换后的n维正态随机向量的二次型所构成的分布,给...
  • ======================== % 1) 最大似然估计量% 2) 最小二乘估计量% 3) 用于估计多元高斯分布(混合高斯)EM算法% 4) 添加文件夹:创建 - 为 EM 算法测试创建样本% Plot - 用于绘制每个分布参数图) ...
  • 线性模型理论及其应用,扫描版PDF;包括多元正态及有关分布参数估计,假设检验,线性回归等章节
  • 回报是否可能遵循正态分布。 相关系数衡量两个变量之间关系呈线性程​​度。 它值始终在-1和1之间。 通过查看参数在查看数据不同子集时如何变化来量化估计不确定性。 通过查看此移动估算值随我们更改...
  • 线性、同方差性、多元正态分布、误差独立、无多重共线性 虚拟变量: 可以看下这篇对虚拟变量直观介绍:什么是虚拟变量?怎么设置才正确? 虚拟变量陷阱: 所谓“虚拟变量陷阱”就是当一个定性变量含有m个类别时...
  • -Beta 发行版-指数分布- 单变量伽马分布-几何分布-逆高斯分布- 单变量拉普拉斯分布-高斯线性回归-逻辑回归-多项分布-多元高斯分布-负二项分布- 单变量正态分布-泊松分布- 多元正态分布(单因素分析) -von Mises-...

空空如也

空空如也

1 2 3
收藏数 54
精华内容 21
关键字:

多元正态分布的参数估计