精华内容
下载资源
问答
  • 条件期望

    千次阅读 2018-10-06 16:38:03
    张真人第二节课讲Rao-Blackwell 不等式,顺便科普了一下条件期望。 自己下来看笔记时发现条件期望是一个很有意思的概念,找了一个比较全面的课间分享给用到或者对条件期望感兴趣的同学。 课间第一部分引入条件期望...

    张真人第二节课讲Rao-Blackwell 不等式,顺便科普了一下条件期望。

    自己下来看笔记时发现条件期望是一个很有意思的概念,找了一个比较全面的课间分享给用到或者对条件期望感兴趣的同学。

    课间第一部分引入条件期望,第二部分通过例子强调了条件期望是一个变量,第三部分证明了条件期望的一些性质,第四部分笔者现在还看不懂。

     

     

    展开全文
  • 复习一下条件期望

    千次阅读 2018-07-19 16:55:53
    最近旁听一个金融分析的课程,遇到了 CVAR,是一个条件期望。发现条件期望基本忘记了,于是复习一下。 两个随机变量 XXX 与 YYY, 1. 若 XXX 与 YYY 都是离散变量 XXX 在 Y=yY=yY=y 时期望为: E(X∣Y=y)=∑x...

    最近旁听一个金融分析的课程,遇到了 CVAR,是一个条件期望。发现条件期望基本忘记了,于是复习一下。

    两个随机变量 XXYY

    1. 若 XXYY 都是离散变量

    XXY=yY=y 时期望为:
    E(XY=y)=xχxP(XY=y)=xχxP(X=x,Y=y)P(Y=y)E(X\mid Y=y)=\sum_{x\in\chi}xP(X\mid Y=y)=\sum_{x\in\chi}\frac{xP(X=x, Y=y)}{P(Y=y)}

    其中 , χ\chiXX 的定义域。

    2. 若 XX 是连续变量, YY 是离散变量

    E(XY=y)=xχxfX(xY=y)=xχxfX,Y(x,y)P(Y=y)E(X\mid Y=y)=\int_{x\in\chi}xf_X(x\mid Y=y)=\int_{x\in\chi}\frac{xf_{X,Y}(x, y)}{P(Y=y)}

    3. 若 XXYY 都是连续变量

    E(XY=y)=xχxf(x,y)f(y)E(X\mid Y=y)=\int_{x\in\chi}\frac{xf(x, y)}{f(y)}

    其中,f(xy)=xf(x,y)f(y)f(x|y)=\frac{xf(x, y)}{f(y)} 为条件概率。

    因此在计算 CVAR 时,根据定义:最差情况下(概率小于 pp) 时的平均损失

    CVAR=P(Xx<Zp)=Zpxf(x)dxpCVAR=P(X\mid x<Z_p)=\frac{\int^{Z_p}xf(x)dx}{p}

    4. 关于条件期望的另外一个重要性质

    E(XY)=E(XE(YX)) E(XY)=E(XE(Y|X))

    这个性质由期望迭代法则推出来,因为:
    E(XY)=E(E(XYX))=E(XE(YX)) E(XY)=E(E(XY|X))=E(XE(Y|X))

    其中,第一个等式的含义是:在 X 给定条件下 XY 乘积的期望,就相当于 X 乘以 E(Y|X),因为此时 X 是常数(这个是字面理解,更严格的证明需要用到测度论, X 对 X 当然是可测的)

    展开全文
  • 条件期望和条件方差

    千次阅读 2020-12-25 14:45:29
    1. 条件期望 1.1 定义 设XXX和YYY是离散随机变量,则XXX在给定事件Y=y{\displaystyle Y=y}Y=y条件时的条件期望是xxx的在YYY的值域的函数E⁡(X∣Y=y)=∑x∈Xx P⁡(X=x∣Y=y)=∑x∈Xx P⁡(X=x,Y=y)P⁡(Y=y)\...

    1. 条件期望

    1.1 定义
    XXYY是离散随机变量,则XX在给定事件Y=y{\displaystyle Y=y}条件时的条件期望是xx的在YY的值域的函数E(XY=y)=xXx P(X=xY=y)=xXx P(X=x,Y=y)P(Y=y)\operatorname {E}(X|Y=y)=\sum _{{x\in {\mathcal {X}}}}x\ \operatorname {P}(X=x|Y=y)=\sum _{{x\in {\mathcal {X}}}}x\ {\frac {\operatorname {P}(X=x,Y=y)}{\operatorname {P}(Y=y)}}其中,X{\mathcal {X}}是处于XX的值域。

    如果现在XX是一个连续随机变量,而YY仍然是一个离散变量,条件期望是E(XY=y)=XxfX(xY=y)dx{E}(X|Y=y)=\int _{{{\mathcal {X}}}}xf_{X}(x|Y=y)dx其中,fX(Y=y)f_{X}(\,\cdot \,|Y=y)是在给定Y=yY=yXX的条件概率密度函数。

    1.2 概念对比

    • E(X)E(X)是一个数值
    • E(XY)E(X|Y)是一个关于YY的函数,是一个随机变量
    • E(XY=y)E(X|Y=y)是一个定值

    1.3 条件期望的性质

    • 迭代期望定律:E(E(XY))=E(X)E(E(X|Y))=E(X)
    • 对于任意函数gg,有E[g(Y)Y]=g(Y)E[g(Y)|Y]=g(Y)
    • XXYY相互独立,则E(XY)=E(X)E(X|Y)=E(X)
    • E(XY)=E(X)E(X|Y)=E(X),则Cov(X,Y)=0\operatorname{Cov}(X,Y)=0
    • XXF\mathcal{F}可测,则E(XF)=XE(X|\mathcal{F})=X

    2. 条件方差

    2.1 定义

    • 方差:Var(X)=E[(Xμ)2]=E(X2)[E(X)]2\operatorname{Var}(X)=E[(X-\mu)^2]=E(X^2)-[E(X)]^2
    • 条件方差:Var(XY)=E[(XE(XY))2Y]=E(X2Y)[E(XY)]2\operatorname{Var}(X|Y)=E[(X-E(X|Y))^2|Y]=E(X^2|Y)-[E(X|Y)]^2

    2.2 方差分解Var(X)=Var[E(XY)]+E[Var(XY)]\operatorname{Var}(X)=\operatorname{Var}[E(X|Y)]+E[\operatorname{Var}(X|Y)]

    证明:对于一个随机变量XX,定义:g(Y)=E(XY)ϵ=Xg(Y)g(Y)=E(X|Y),\epsilon=X-g(Y)可知:E(ϵ)=E(X)E[E(XY)]=0E(\epsilon)=E(X)-E[E(X|Y)]=0此时,XX的方差Var(X)=Var[g(Y)+ϵ]=Var[g(Y)]+Var(ϵ)+2Cov[g(Y),ϵ]\operatorname{Var}(X)=\operatorname{Var}[g(Y)+\epsilon]=\operatorname{Var}[g(Y)]+\operatorname{Var}(\epsilon)+2\operatorname{Cov}[g(Y),\epsilon]根据协方差的定义,有Cov[g(Y),ϵ]=E[[g(Y)E(g(Y))][ϵE(ϵ)]]=0\operatorname{Cov}[g(Y),\epsilon]=E\Bigl[[g(Y)-E(g(Y))][\epsilon-E(\epsilon)]\Bigr]=0Var(ϵ)=E[Xg(Y)]2=E[X2+g(Y)22Xg(Y)]=E[E[X2Y]g(Y2)]=E[Var(XY)]\operatorname{Var}(\epsilon)=E[X-g(Y)]^2=E[X^2+g(Y)^2-2Xg(Y)]=E[E[X^2|Y]-g(Y^2)]=E[\operatorname{Var}(X|Y)]得证

    展开全文
  • 条件期望,重期望,相关知识点

    千次阅读 2020-01-17 10:53:09
    条件期望与重期望 条件期望的定义: E(x∣y)=∫−∞∞xf(x∣y)dxE(x|y)=\int_{-\infty}^{\infty}xf(x|y)dxE(x∣y)=∫−∞∞​xf(x∣y)dx(连续) E(x∣y)=∑ixiρ(X=xi∣Y=yi)E(x|y)=\sum\limits_ix_i\rho(X=x_i|Y=y...

    条件期望与重期望

    条件期望的定义:

    E(xy)=xf(xy)dxE(x|y)=\int_{-\infty}^{\infty}xf(x|y)dx(连续)

    E(xy)=ixiρ(X=xiY=yi)E(x|y)=\sum\limits_ix_i\rho(X=x_i|Y=y_i)(离散)

    重期望的性质

    1.E(E(g(x)Y))=E(g(x)Y)fY(y)dy1.E(E(g(x)|Y))=\int_{-\infty}^{\infty}E(g(x)|Y)f_{Y}(y)dy(注意积分,因为里面已经积分了dxdx,外面是dydy)

    =[g(x)f(xy)dx]fY(y)dy\int_{-\infty}^{\infty}[\int_{-\infty}^{\infty}g(x)f(x|y)dx]f_{Y}(y)dy

    =g(x)f(xy)fY(y)dxdy\int_{-\infty}^{\infty}\int_{-\infty}^{\infty}g(x)f(x|y)f_{Y}(y)dxdy

    =g(x)f(xy)dxdy\int_{-\infty}^{\infty}\int_{-\infty}^{\infty}g(x)f(x|y)dxdy

    =E(g(x))E(g(x))

    2.E(h(y)g(x)Y)=h(y)g(x)f(xy)dx2.E(h(y)g(x)|Y)=\int_{-\infty}^{\infty}h(y)g(x)f(x|y)dx
    =h(y)g(x)f(xy)dx=h(y)\int_{-\infty}^{\infty}g(x)f(x|y)dx
    =h(y)E(g(x)Y)h(y)E(g(x) | Y)


    期望在数理统计的相关知识点

    均方误差:

    MSE(θ^)=E(θ^θ)2=E[(θ^Eθ^)+(Eθ^θ)]2=E(θ^Eθ^)2+E(Eθ^θ)2+2E[(θ^Eθ^)(Eθ^θ)]=Var(θ^)+(Eθ^θ)2\begin{array}{l} \operatorname{MSE}(\hat{\theta})=E(\hat{\theta}-\theta)^{2} \\ =E[(\hat{\theta}-E \hat{\theta})+(E \hat{\theta}-\theta)]^{2} \\ =E(\hat{\theta}-E \hat{\theta})^{2}+E(E \hat{\theta}-\theta)^{2}+2 E[(\hat{\theta}-E \hat{\theta})(E \hat{\theta}-\theta)] \\ =\operatorname{Var}(\hat{\theta})+(E \hat{\theta}-\theta)^{2} \end{array}

    如果对任意一个满足E(φ(X))=0E(\varphi(X))=0Var(θ^)<.\operatorname{Var}(\hat{\theta})<\infty .φ(X),\varphi(X), 都有
    Covθ(θ^,φ)=0,θΘ \operatorname{Cov}_{\theta}(\hat{\theta}, \varphi)=0, \quad \forall \theta \in \Theta
    θ^\hat{\theta}θ\theta 的UMVUE。
    Covθ(θ^,φ)=0,θΘ=E(θ^φ)Eθ^Eφ(Eφ=0)=E(θ^φ) \operatorname{Cov}_{\theta}(\hat{\theta}, \varphi)=0, \quad \forall \theta \in \Theta \\=E(\hat{\theta}\varphi)-E\hat{\theta}E\varphi(E\varphi=0) \\=E(\hat{\theta}\varphi)
    x1x2,,xnx_{1} x_{2}, \ldots, x_{n} 是来自指数分布ExpExp(1/ θ)\left.\theta\right) 的样本,则 T=T= x1++Xnx_{1}+\ldots+X_{n}θ\theta 的充分统计量, Xˉ=T/n\bar{X}=T / n \quadθ\theta 的无偏估计

    Eφ=00φ(x1,,xn)1θne(xi++xn)/θdx1dxn=000φ(x1,,xn)e(xi++xn)/θdx1dxn=0\begin{aligned} E \varphi=& \int_{0}^{\infty} \cdots \int_{0}^{\infty} \varphi\left(x_{1}, \cdots, x_{n}\right) \cdot \frac{1}{\theta^{n}} e^{-\left(x_{i}+\cdots+x_{n}\right) / \theta} \mathrm{d} x_{1} \cdots \mathrm{d} x_{n}=0 \\ & \int_{0}^{\infty} \cdots \int_{0}^{\infty} \varphi\left(x_{1}, \cdots, x_{n}\right) \cdot e^{-\left(x_{i}+\cdots+x_{n}\right) / \theta} \mathrm{d} x_{1} \cdots \mathrm{d} x_{n}=0 \end{aligned}

    两端对 θ\theta 求导得
    00nxˉθ2φ(x1,,xn)e(xi++xn)/θdx1dxn=0 \int_{0}^{\infty} \cdots \int_{0}^{\infty} \frac{n \bar{x}}{\theta^{2}} \varphi\left(x_{1}, \cdots, x_{n}\right) \cdot e^{-\left(x_{i}+\cdots+x_{n}\right) / \theta} \mathrm{d} x_{1} \cdots d x_{n}=0

    00xˉφ(x1,,xn)e(xi++xn)/θdx1dxn=0 \int_{0}^{\infty} \cdots \int_{0}^{\infty} \bar{x} \varphi\left(x_{1}, \cdots, x_{n}\right) \cdot e^{-\left(x_{i}+\cdots+x_{n}\right) / \theta} \mathrm{d} x_{1} \cdots \mathrm{d} x_{n}=0
    这说明 E(xˉφ)=0,E(\bar{x} \cdot \varphi)=0, \quad 从而 Cov(xˉ,φ)=E(xˉφ)E(xˉ)E(φ)=0\operatorname{Cov}(\bar{x}, \varphi)=E(\bar{x} \cdot \varphi)-E(\bar{x}) \cdot E(\varphi)=0

    展开全文
  • 概率论与统计:条件期望与最小二乘法

    千次阅读 多人点赞 2018-08-19 14:25:41
    条件期望 最小二乘法 探索平方误差的期望值内涵 一、条件期望  条件期望在概率论与统计中也被称为条件数学期望,它的用途主要是用于实际的预测性问题。如对于两个互有影响的随机变量,如果我们知道其中一个...
  • 高等概率论之条件期望

    千次阅读 2019-12-13 09:52:00
    浅谈条件期望Mather King数学 话题的优秀回答者已关注yx3x、黑猫Q形态、Tingzhou Yu 等 283 人赞同了该文章学习高等概率论的时候,会遇到条件期望这一概念,而且这一概念出现在鞅的定义之中,自然非常重要。...
  • 条件概率与条件期望

    千次阅读 2018-10-15 20:30:37
    一道条件概率题: A coin, having probability **p** of landing heads, is continually flipped until at least one head and one tail have been flipped. (a) Find the expected number of flips needed. (b) Find...
  • 数学基础-条件期望

    千次阅读 2017-02-07 11:39:30
    最近在上一门stochastic calculus的课程,其中第一次碰到了概率空间上条件期望[conditional expectation, wikipedia]的概念,刚开始觉得有些难以理解和接受,仔细想了想有了一些心得体会,在这里分享一下。...
  • 条件期望,鞅和马可夫过程

    千次阅读 2019-02-07 11:51:10
    条件期望 (conditional expectation) 是理解衍生品定价的第一个难关。本文将帮助读者建立对条件期望的直观理解。本文中的定义和定理来自于Steven E Shreve 的 Stochastic calculus for finance II: Continuous-time ...
  • 文章目录数字特征离散/连续均值离散/连续方差随机向量,协方差,相关系数(线性关系)矩 偏度 峰度多维均值 多维协方差 运算性质 条件数学期望随机个 随机向量的和 正态中的条件期望是线性函数 数字特征 离散/连续...
  • 琴生Jensen不等式,条件期望

    万次阅读 2017-12-20 21:39:08
    1. Jensen 不等式Jensen 不等式的意义是:函数的期望大于等于期望的函数,即 E(f(x))≥f(E(x))E(f(x))\geq f(E(x))或者写成凸函数条件表达式的形式,在这个表达式式中,tt 相当于 x1x_1 的概率, (1−t)(1-t) 相当...
  • title: 【概率论】4-7:条件期望(Conditional Expectation) categories: - Mathematic - Probability keywords: - Expectation - Prediction - Law of total Probability toc: true date: 2018-03-27 10:53:...
  • 3.3条件期望

    2020-06-01 11:08:29
    条件期望法 set.seed(1) n (n) theta.ce (1 - pnorm((1 - Y) / 2)) / n sigma2.ce (((1 - pnorm((1 - Y) / 2)) - theta.ce) ^ 2) / (n * (n - 1)) theta.ce sigma2.ce (sigma2.e - sigma2.ce) / sigma2.e # > theta....
  • 参考资料:方差缩减技术-条件期望法 目录 1. 分层抽样法 2. 条件期望法 1. 分层抽样法 题目1:如何通过分层抽样法得到的一个模拟估计量? 算法: ① 将抽样区间划分为 [0,0.5] 和 [0.5,1],以0.5的概率从[0,...
  •  琴生(Jensen)不等式(也称为詹森不等式):(注意前提、等号成立条件)  设f(x)为凸函数,则f[(x1+x2+……+xn)/n]≤[f(x1)+f(x2)+……+f(xn)]/n(下凸);设f(x)为凹函数,f[(x1+x2+……+xn)/n]≥f(x1)+f...
  • 条件数学期望

    千次阅读 2014-10-11 00:26:20
    主要说一下条件数学期望(Conditional Expectation)吧。以前本科的时候学过这玩意儿,但是当时理解太肤浅。今天看了一遍别的书,颇有心得。理科生讲究定义明确,概念清晰,下面就从定义开始。 Definition: ...
  • 目录 一、条件数学期望 1. 随机变量的条件数学期望 (1)离散型 (2)连续型 2. 随机变量的函数的条件数学期望 (1)离散型 (2)连续性 3. 性质 二、条件方差 1. 定义 2. 性质 条件密度函数: 条件分布函数: 一、...
  • 【Derivation】 条件数学期望公式

    万次阅读 2017-03-07 21:03:02
    【1】全期望数学公式在基础概率论中是一块非常重要的内容。 研究生阶段此段内容涉及科目有《随机过程分析-随机变量的数字特征》/《数字通信-通信系统衰落信道性能分析》 由于信道噪声通常使用某些随机变量,所以在...
  • 迭代期望定律

    万次阅读 2018-11-22 10:57:38
    1.条件期望 1.1期望 离散随机变量期望 连续随机变量期望 对比平均值和期望 平时常见的多是平均数的概念,平均数和期望两者既有联系也有区别,也容易弄混。 平均数是统计学概念,主体是特征样本。 期望是...
  • 条件概率的链式法则协方差和相关性是有联系的,但实际上是不同的概念。它们是有联系的,因为两个变量如果相互独立那么它们的协方差为零,如果两个变量的协方差不为零那么它们一定是相关的。然而,独立性又是和协方差完全...
  • 主要说一下条件数学期望(Conditional Expectation)吧。以前本科的时候学过这玩意儿,但是当时理解太肤浅。今天看了一遍别的书,颇有心得。理科生讲究定义明确,概念清晰,下面就从定义开始。 Definition: ...
  • 期望、方差与协方差矩阵

    千次阅读 2020-09-07 10:11:13
    期望、方差与协方差矩阵期望期望的性质条件期望方差方差的性质方差体现的向量性质协方差 期望 期望的性质 条件期望 方差 一个随机变量的方差描述的是它的离散程度,也就是该变量离其期望值的距离。 方差的性质...
  • 期望&方差和贝叶斯概率

    千次阅读 2018-01-17 23:16:15
    期望(expectation)就是平均权重,用E(f)表示,连续型的期望如下:给出有限的 N 个...条件期望(conditional expectation)关于条件概率分布方差(variance):方差记录了关于均值的变化程度,可以变化如下:协方差(c
  • 条件均值与全期望公式】   假定两个连续的随机变量X,YX,YX,Y,它们的联合概率密度为 pX,Y(x,y)=pX(x)pY∣X(y∣x)=pY(y)pX∣Y(x∣y)p_{\rm X,Y}(x,y)=p_{\rm X}(x)p_{\rm Y|X}(y|x)=p_{\rm Y}(y)p_{\rm X|Y}(x|y)...
  • 假定某个人说德语,那么他是德国人的条件概率是非常高的,但是如果随机选择的一个人会说德语,他的国籍不会因此而改变。 条件概率的链式法则: 任何多维随机变量的联合概率分布,都可以分解成只有一个变量的...

空空如也

空空如也

1 2 3 4 5 ... 20
收藏数 208,157
精华内容 83,262
关键字:

条件期望