精华内容
下载资源
问答
  • 参数估计之矩估计法

    2013-07-22 10:41:44
    参数估计是概率统计中的重要问题,该文档描述了参数估计中的矩估计法
  • 广义矩估计法

    千次阅读 2021-02-12 02:08:46
    广义矩估计一、背景我们前面学了OLS 估计、工具变量估计方法,前面这几种方法都有重要假设就是需要知道分布才能估计,但是往往现实理论我们无法得到关于分布的信息,因此矩估计方法应运而生。矩估计方法的基本思想是...

    广义矩估计

    一、背景

    我们前面学了OLS 估计、工具变量估计方法,前面这几种方法都有重要假设就是需要知道分布才能估计,但是往往现实理论我们无法得到关于分布的信息,因此矩估计方法应运而生。矩估计方法的基本思想是利用样本矩的信息组成方程组来求总体矩,以此得到渐进性质下的一致性估计量。那么在构成方程组求解的过程中涉及识别问题和解决。本章详细介绍矩估计方法。矩估计方法实际应用非常广泛,应注意将矩估计与OLS 估计、工具变量估计和极大似然估计方法结合对比进行应用。

    二、知识要点 1,应用背景

    2,矩估计存在的问题(识别) 3,矩正交方程和矩条件 4,矩估计的属性 三、要点细纲 1、应用背景

    其基本思想是:在随机抽样中,样本统计量(在一个严格意义上,一个统计量是观察的n 维随机向量即子样(),,,12X X X n =

    X 的一个

    (波雷尔可测)函数,且要求它不包含任何未知参数)将依概率收敛于某个常数。这个常数又是分布中未知参数的一个函数。即在不知道分布的情况下,利用样本矩构造方程(包含总体的未知参数),利用这些方程求得总体的未知参数。

    基本定义

    统计量 11

    n m X i n i ν

    ν∑= 为子样的ν阶矩(ν阶原点矩); 统计量 ()

    11

    n B X X

    i

    n i ν

    ν

    ∑-= 为子样的ν阶中心矩。

    子样矩的均值与方差

    展开全文
  • 点估计(矩估计法和最大似然估计法)

    万次阅读 多人点赞 2018-07-05 23:23:31
    1、矩估计法 做题步骤: 1)、E(x),求总体均值(一般含有未知参数) 2)、命E(x) = 样本均值/样本均量 离散型: 例:设总体X有以下分布律 其实θ为未知参数,从中取样本(X1,X2,...

    估计即是近似地求某个参数的值,需要区别理解样本、总体、量、值
    大致的题型是已知某分布(其实包含未知参数),从中取样本并给出样本值
    我只是一个初学者,可能有的步骤比较繁琐,请见谅~


    1、矩估计法
    做题步骤:
    1)、E(x),求总体均值(一般含有未知参数)
    2)、命E(x) = 样本均值/样本均量
    离散型:
    例:设总体X有以下分布律
    这里写图片描述
    其实θ为未知参数,从中取样本(X1,X2,X3,X4),样本值为(-1,1,1,2),求θ的矩估计值

    解题过程:
    这里写图片描述
    注意这里求的是估计值,最后得出来的是一个数


    连续型:
    例:设总体X的概率密度为
    这里写图片描述
    (X1,X2…Xn)是来自总体的样本,(x1,x1…xn)为其样本值,求θ的矩估计量
    解题过程:
    这里写图片描述
    注意这里是估计量


    2、最大似然估计法

    离散型:
    1)、L(θ)=P{X1=x1}P{X2=x2}…P{Xn=xn}=P{x=x1}P{x=x2}…P{x=xn}
    2)、lnL(θ) = …
    3)、对lnL(θ)求导,令求导后的结果等于0,求出θ

    例:设总体X有以下分布律**(下表中的 -1 改为 0)**
    这里写图片描述
    其实θ为未知参数,从中取样本(X1,X2,X3,X4),样本值为(0,1,0,2),求θ的最大似然估计值

    解题过程:
    这里写图片描述


    连续型:
    1)、L(θ)=f(x1,θ)f(x2,θ)…f(xn,θ)
    2)、lnL(θ) = …
    3)、对lnL(θ)求导,令求导后的结果等于0,求出θ
    例:

    解题过程:
    这里写图片描述
    注意:估计量的话X必须是大写的,估计值的话x必须是小写。需要熟练掌握对数的运算


    关于概率论我推荐汤家风老师的视频,在B站可以搜到的~~


    因为我在上传的时候改了部分题干,这篇文章有些许错误,等我考完试再修改,请大家谅解

    展开全文
  • 矩估计法

    万次阅读 多人点赞 2017-05-21 11:24:00
    矩估计法

    本文摘自《概率论与数理统计》 陈希孺著 中国科学技术大学出版社
    相关链接
    参数的点估计问题
    极大似然估计

    前言

    矩估计法是点估计方法的一种,点估计法还有极大似然估计法和贝叶斯估计法。详情请参考上面的链接。

    矩估计法

    矩估计法是皮尔逊在19世纪末到20世纪初的一系列文章中引进的。这个方法的思想很简单:设总体分布为 f(x;θ1,,θk) ,则它的矩(原点矩和中心矩都可以,此处以原点矩为例)
    连续型:


    αm=xmf(x;θ1,,θk)dx

    离散型:


    αm=i=1nxif(xi;θ1,,θk)

    依赖于 θ1,,θk 。另一方面,至少在样本 n 较大时,αm又应接近于样本原点矩 am 。于是


    αm=αm(θ1,,θk)am=i=1nXmin

    m=1,,k ,并将上面的近似式改成等式,就得到一个方程组:


    αm(θ1,,θk)=am,(m=1,,k)

    解此方程组,得其根 θi^=θi^(X1,,Xn) (i=1,,k) ,就以 θi^ 作为 θi 的估计 (i=1,,k) 。如果要估计的是 θ1,,θk 的某个函数 g(θ1,,θk) ,则用 ĝ (X1,,Xn)=g(θ1^,,θk^) 去估计它。这样定出的估计量就叫矩估计。

    矩估计在各种分布中的应用

    正态分布

    X1,,Xn 是从正态总体 N(μ,σ2) 中抽出的样本,要估计 μ σ2 μ 是总体的一阶原点矩,按矩估计,用样本的一阶原点矩即样本的均值 X 去估计。 σ2 是总体方差,即总体的二阶中心距,可用样本的二阶的二阶中心矩 m2 去估计。一般地,在估计方差时候常用样本方差 S2 而不用 m2 ,即对矩估计做了一定的修正。
    如果要估计的是标准差 σ2 ,则由 σ=σ2 ,按矩估计法,它可以用 m2 去估计,一般用 S2=S 去估计,或者还做点修正。又当 μ0 时,(特别在 μ>0 时,在有些问题中, μ 虽然未知,但事先可知道 μ>0 。比如某个班级的平均成绩,它必然会大于0,因为没有人会考负分,全班也不太可能考0分), σ/μ 称为总体的变异系数,变异系数是以均值为单位去衡量总体的标准差。在有些问题中,反映变异程度的标准差意义如何,要看总体均值 μ 而定。比如一大群人收入的标准差为50元,若其平均工资只有70元,则这个变异系数可算很大了;但若平均工资为850元,则这个变异程度就不算大了。所以,变异系数 σ/μ 不过是一定意义上的“相对误差”,按矩估计法,为估计 σ/μ 可用 m2/X ,一般用 S/X

    指数分布

    X1,,Xn 是从指数分布总体中抽出的样本,要估计参数 λ 的倒数 1λ 。根据指数分布的特点,我们知道 1λ 就是总体分布的均值,故按矩估计法,就用 X 去估计。如要估计的是参数 λ 本身,就用 1X 去估计。
    另一方面,指数分布的方差为 1λ2 ,即 1λ= 。按矩估计法, 1λ 也可以用 m2 (或 S )去估计。

    均匀分布

    X1,,Xn是从区间 [θ1,θ2] 上均匀分布的总体中抽出的样本,要估计 θ1,θ2
    我们知道,均匀分布的均值、方差分别是 (θ1+θ2)2 (θ2θ1)212 。因此,按矩估计法,建立方程


    X=(θ1+θ2)2,m2=(θ2θ1)22

    得出 θ1,θ2 的解分别为


    θ̂ =X̂ 3m2,θ2^=X+3m2 公式(1)

    也可以用 S 代替m2

    二项分布

    设总体有二项分布 B(N,p) X1,,Xn 为从该总体中抽出的样本,要估计 p ,矩估计为X/N
    我们知道,


    X=Np,m2=Np(1p)

    根据上面的式子,我们可以得到 p=X/N ,当然也可用 m2 来求。

    泊松分布

    设总体有泊松分布 P(λ),X1,,Xn 为从该总体中抽出的样本,要估计 λ
    由于 λ 是总体分布的均值,按矩估计法,可用样本均值 X 去估计;另一方面, λ 也是总体分布的方差,故按矩估计法,也可以用 m2 S2 去估计。在这里,用均值 X 为优。在一般的情况下,能用低阶矩处理的就不用高阶矩。

    展开全文
  • 参数的点估计问题与矩估计法

    千次阅读 2018-03-27 15:13:06
    机器学习的许多公式推导都涉及了数理统计的内容,特别是参数估计对理解机器学习很重要。这里三篇文章就对三种参数估计方法进行简单介绍。 对一些数理统计的基本概念的介绍,可参考之前的文章“数理统计学的基本概念...

    机器学习的许多公式推导都涉及了数理统计的内容,特别是参数估计对理解机器学习很重要。这里三篇文章就对三种参数估计方法进行简单介绍。

    对一些数理统计的基本概念的介绍,可参考之前的文章“数理统计学的基本概念”。

    参数的点估计问题

    设有一个统计总体,以 f(x;θ1,,θk) f ( x ; θ 1 , ⋯ , θ k ) 记其概率密度函数(若总体分布为连续型的)或其概率函数(若其总体分布为离散型的)。避免重复交代这两种情况,我们约定称 f(x;θ1,,θk) f ( x ; θ 1 , ⋯ , θ k ) 为“总体分布”,其具体含义视其为连续型或离散型而定。这个分布包含k个位置参数 θ1,,θk θ 1 , ⋯ , θ k 。例如,对正态总体分布 N(μ,δ2) N ( μ , δ 2 ) ,有 θ1=μ θ 1 = μ θ2=δ2 θ 2 = δ 2 ,而

    f(x;θ1,θ2)=(2πθ2)1exp(12θ2(xθ1)2)(<x<) f ( x ; θ 1 , θ 2 ) = ( 2 π θ 2 ) − 1 exp ⁡ ( − 1 2 θ 2 ( x − θ 1 ) 2 ) ( − ∞ < x < ∞ )

    若总体有二项分布 B(n,p) B ( n , p ) ,则 θ1=p θ 1 = p ,而
    f(x;θ1)=(nx)θx1(1θ1)nk(x=0,1,,n) f ( x ; θ 1 ) = ( n x ) θ 1 x ( 1 − θ 1 ) n − k ( x = 0 , 1 , ⋯ , n )

    当k=1,即只有一个参数时,就用 θ θ 代替 θ1 θ 1

    参数估计问题的一般提法是:设有了从总体中抽出样本 X1,,Xn X 1 , ⋯ , X n (独立同分布),要依据这些样本去对参数 θ1,,θk θ 1 , ⋯ , θ k 的未知值做出估计。当然我们也可以只要求估计 θ1,,θk θ 1 , ⋯ , θ k 中的一部分,或估计他们的某个已知函数 g(θ1,,θk) g ( θ 1 , ⋯ , θ k ) 。例如,为要估计 θ1 θ 1 ,我们需要构造出适当的统计量 θ1^=θ1^(X1,,Xn) θ 1 ^ = θ 1 ^ ( X 1 , ⋯ , X n ) 。每当有了样本 X1,,Xn X 1 , ⋯ , X n ,就代入函数 θ1^(X1,,Xn) θ 1 ^ ( X 1 , ⋯ , X n ) 中计算出一个值,用来作为 θ1 θ 1 的估计值。为着这样的特定目的而构造的统计量 θ1^ θ 1 ^ 叫做 θ1 θ 1 的估计量。由于未知参数 θ1 θ 1 是数轴上的一个点,用 θ1^ θ 1 ^ 去估计 θ1 θ 1 ,等于用一个点估计另一个点,所以这样的估计叫做点估计,以别与区间估计。

    矩估计法

    矩估计法的思想比较简单:设总体分布为 f(x;θ1,,θk) f ( x ; θ 1 , ⋯ , θ k ) ,则它的矩(原点矩和中心矩都可以,此处以原点矩为例)

    αm=xmf(x;θ1,,θk)dx(ixmi)f(x;θ1,,θk) α m = ∫ − ∞ ∞ x m f ( x ; θ 1 , ⋯ , θ k ) d x ( 或 ∑ i x i m ) f ( x ; θ 1 , ⋯ , θ k ) )

    依赖于 θ1,,θk θ 1 , ⋯ , θ k 。另一方面,至少在样本大小n较大时,样本原点矩 am a m 应该接近于 αm α m 。于是
    αm=αm(θ1,,θk)am=i=1nXmi/n α m = α m ( θ 1 , ⋯ , θ k ) ≈ a m = ∑ i = 1 n X i m / n

    m=1,,k m = 1 , ⋯ , k ,并将上面的近似式改成等式,就得到一个方程组:
    αm(θ1,,θk)=am(m=1,,k) α m ( θ 1 , ⋯ , θ k ) = a m ( m = 1 , ⋯ , k )

    解此方程组,得起根 θ1^(X1,,Xn)(i=1,,k) θ 1 ^ ( X 1 , ⋯ , X n ) ( i = 1 , ⋯ , k ) ,就以 θ̂ i θ ^ i 作为 θi θ i 的估计 (i=1,,k) ( i = 1 , ⋯ , k ) 。如果要估计的是 θ1,,θk θ 1 , ⋯ , θ k 的某函数 g(θ1,,θk) g ( θ 1 , ⋯ , θ k ) ,则用 ĝ (X1,,Xn)=g(θ̂ 1,,θ̂ k) g ^ ( X 1 , ⋯ , X n ) = g ( θ ^ 1 , ⋯ , θ ^ k ) 去估计它。这样定出的估计量就叫做矩估计。

    例子

    X1,,Xn X 1 , ⋯ , X n 是从正态总体 N(μ,δ2) N ( μ , δ 2 ) 中抽取的样本,要估计 μ μ δ2 δ 2 μ μ 是总体的一阶原点矩,按矩估计,用样本的一阶原点矩,即样本均值 X X ¯ 去估计。 δ2 δ 2 是总体方差,即总体的二阶中心矩,可用样本的二阶中心矩 m2 m 2 去估计。一般地,在估计方差时,常用样本方差 S2 S 2 而不用 m2 m 2 ,即对矩估计做了一定的修正。

    参考书目
    《概率论与数理统计》——陈希孺

    展开全文
  • 参数估计之矩估计

    2021-01-15 09:12:07
    介绍参数估计中点估计的常用方法:矩估计法。并通过例题加深理解
  • [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-GvcLzAsA-1638069541762)(1 参数估计.assets/image-20211128100940580.png)] 1.2 对数运算法则 log⁡a(MN)=log⁡aM+log⁡aNlog⁡a(M/N)=log...
  • 3.1 参数估计:矩估计方法

    千次阅读 2020-07-12 14:36:34
    3.1 矩估计方法 假设我们知道某个随机变量满足高斯分布,但不知道高斯分布的两个参数 μ,σ2\mu,\sigma^2μ,σ2 ,怎么估计这些参数呢,这就是参数估计要解决的问题。实践中经常遇到这种问题。显然我们必须从这个...
  • 018 参数估计之点估计法:矩估计法、最大似然估计
  • 参数估计 参数估计:是根据从总体中抽取的样本估计总体分布中包含的未知参数的方法。它是统计推断的一种基本形式,是数理统计学的一个重要分支,分为点估计和区间估计两部分。 点估计:依据样本估计总体分布中所含...
  • 我们比较了动态离散选择模型的最大似然 (ML) 和模拟 (SMM) 估计的性能。 我们构建并估计了一个简化的动态教育结构模型,该模型捕捉了 1980 年代和 1990 年代初期美国教育选择的一些基本特征。 我们使用来自...
  • 参数估计-矩估计和极大似然估计概述

    万次阅读 多人点赞 2016-09-10 22:38:42
    参数估计 参数估计:是根据从总体中抽取的样本估计总体分布中包含的未知参数的方法。它是统计推断的一种基本形式,是数理统计学的一个重要分支,分为点估计和区间估计两部分。 点估计:依据样本估计总体分布中所...
  • 一阶矩+二阶矩估计求解一个参数

    万次阅读 2016-11-18 09:29:29
    所以在矩估计法中,用一阶矩就可以求解一元。但是有些情况下,只写一阶矩,原理上是可以求得解的,但是,初等代数中很难剥离出来,可以考虑再求一次二阶矩,即,再利用样本提供一组值,二者相互作用,可以求解出p....
  • 来源:首席数据科学家今天分享一下关于参数估计的基本概念。尤其是极大似然估计,有着重要的应用。01—参数估计的定义首先,什么是参数估计呢?之前我们其实已经了解到很多种分布类型了,比如正态分布...
  • 统计学:矩估计法

    千次阅读 2016-02-16 10:39:17
    矩估计法 百度百科:... 所谓矩估计法,就是利用样本矩来估计总体中相应的参数.最简单的矩估计法是用一阶样本原点矩来估计总体的期望而用二阶样本中心矩来估计总体
  • 参数估计之点估计(矩估计,最大似然估计) 详解含推导 1.何为点估计 在了解点估计之前,我们先介绍一下估计量与估计值的概念 1.1估计量与估计值 参数估计 就是用样本统计量去估计总体的参数,如用样本均值 x⃗\vec xx ...
  • 1. Gamma 分布的特点是两个参数:Shape 和 scale。... 在这段代码中,我们使用估计这些参数。 4. 如果 plotit == 1,该函数将绘制数据的直方图和拟合。 5. 使用 matlab 内置的 trapz 命令对分布进行归一化。
  • 文章目录原点,中心峰度偏度切比雪夫不等式 原点,中心 峰度 偏度 切比雪夫不等式
  • 韦伯分布(Weibull)参数矩估计MATLAB实现 二参数韦伯分布概率密度函数 f(x)=βη(xη)β−1e−(xη)β,β>0,η>0,x≥γ≥0 f(x)=\frac{\beta}{\eta}\left(\frac{x}{\eta}\right)^{\beta-1} e^{-\left(\frac{x}{...
  • 谢邀!这个问题不难很基础。我用R语言从下面几个方面来回答这个问题:一、two step GMM, ...五、Monte Carlo 模拟研究一、三种算法众所周知GMM的条件是 ,其中 ,我们的目的就是估计出 。Hansen(1982)提出一种...
  • 参数估计,是已知(默认、...一般使用(多阶)原点,即统计量来列方程组,解出相应参数值。 所以,选定的统计量组不同,解出的参数值不同?【待思考】 3.区间估计 找到参数的分布?然后划定一个范围。 作者:weixin_
  • 矩估计

    千次阅读 2018-11-23 16:45:42
    矩估计基于辛钦大数定律:当样本的容量趋于无穷时,样本r阶矩依概率收敛于相应的总体r阶矩。因此,当总体矩   存在时,只要样本的容量足够大,样本矩  ...
  • 概率笔记10——矩估计和最大似然

    千次阅读 2019-07-01 17:41:44
    估计  生活中我们经常估计一些数值,比如从家到学校要走... 矩估计,即矩估计法,也称“矩法估计”,是利用已有样本估计期望值的一种方法。  某个问题的数学期望客观存在的数学特征,是一个具体的数值,只是...
  • 点估计及矩估计的一些理解

    万次阅读 多人点赞 2018-08-13 20:49:53
    估计指的是用样本统计量来估计总体参数,因为样本统计量为数轴上某一点值,估计的结果也以一个点的数值表示,所以称为点估计。在这个定义中,总体参数也即是总体分布的参数,一般我们在讨论总体分布的时候,只有在...
  • 理解略肤浅,所以该博文更适合像我一样的初学者,所以大牛勿喷!当然哪里有不合适的地方,欢迎指正,万分感谢!! 1、什么是估计 通过样本去估计总体 2、参数估计 ...我理解就是估计参数,可以是总体期望,...矩估计...
  • 第一段代码验证X1,⋅⋅⋅,Xn{X1,···,Xn}X1,⋅⋅⋅,Xn是总体中值参数θ=µ+φ−1(0.5)θθ =µ+ φ^{-1}(0.5)\thetaθ=µ+φ−1(0.5)θ的一致估计量. 2. 第二段代码均匀分布的最大统计量假设总体X服从均匀...
  • θk\theta_1, ..., \theta_kθ1​,...,θk​的估计量,这种求估计量的方法称为矩估计法 这种估计量称为矩估计量,矩估计量的观察值称为矩估计值 矩法原理 由辛钦大数定律知, Al=1n∑i=1nXil→Pμl,l=1,2,...,k.A_l =...
  • GGD形状参数的估计通常采用极大似然法和矩估计法。用极大似然法估计形状参数计算复杂、计算量大。用矩估计法的一阶和二阶绝对矩估计可减轻计算的复杂性,但反函数的解析形式很难得到,需要迭代计算,计算效率很低。文中...

空空如也

空空如也

1 2 3 4 5 ... 20
收藏数 4,507
精华内容 1,802
关键字:

参数的矩估计法