精华内容
下载资源
问答
  • 条件分布

    2019-10-07 01:55:01
    给定另一随机变量Y的随机变量X的条件分布是当观察到Y取某一值时X的分布。 虽然涉及精确的数学定义,但对于离散和连续变量,它等于将X和Y的联合PDF或PMF除以Y的PDF或PMF。 预备/后继知识 学习条件分布需要掌握以下...

    (学习本部分内容大约需要1.4小时)

    摘要

    给定另一随机变量Y的随机变量X的条件分布是当观察到Y取某一值时X的分布。 虽然涉及精确的数学定义,但对于离散和连续变量,它等于将X和Y的联合PDF或PMF除以Y的PDF或PMF。

    预备/后继知识

    学习条件分布需要掌握以下概念

    这个概念的后继知识有:

    学习目标

    • 知道离散和连续情况的条件分布定义
    • 对于连续随机变量, 为什么对零概率事件进行条件化在数学上是不严格的?
    • 知道联合分布如何分解成一组条件分布的乘积

    核心资源

    (阅读/观看其中一个)

    付费

    • A First Course in Probability
      简介: 概率论导论教科书
      位置:

      • Section 6.4, "Conditional distributions: discrete case," pages 288-291
      • Section 6.5, "Conditional distributions: continuous case," pages 291-296

      [网站]

      作者: Sheldon Ross

    • Mathematical Statistics and Data Analysis
      简介: 本科统计教科书
      位置: Section 3.5, "Conditional distributions," pages 87-95
      [网站]
      作者: John A. Rice

    • Probability and Statistics
      简介: 概率论和统计导论性质的书籍
      位置: Section 3.6, "Conditional distributions," pages 136-145
      [网站]
      Authors: Morris H. DeGroot,Mark J. Schervish

    其他相关知识

    我们可能还会想知道: 两个随机变量是否条件独立? 如果给定Z时, X和Y的条件分布是独立的, 则称两个随机变量X和Y在已知Z时是条件独立的.


    返回贝叶斯参数估计

    转载于:https://www.cnblogs.com/bayesianML/p/6385195.html

    展开全文
  • MCMC算法--Gibbs采样2:多元高斯分布的边际分布与条件分布
  • 具有连续t收敛的连续底层算子的单数的分布和条件分布
  • 文章目录第三章 多维随机变量及其分布 3.3 条件分布离散型随机变量的条件分布连续型随机变量的条件分布 离散型随机变量的条件分布 例: 求: 离散型的直接套条件概率的公式就行了。 连续型随机变量的条件分布 ...

    第三章 多维随机变量及其分布 3.3 条件分布

    离散型随机变量的条件分布

    在这里插入图片描述
    例:
    在这里插入图片描述
    求:
    在这里插入图片描述离散型的直接套条件概率的公式就行了。

    在这里插入图片描述
    在这里插入图片描述

    连续型随机变量的条件分布

    在这里插入图片描述
    在这里插入图片描述
    简单来说就是:
    在这里插入图片描述
    例:
    在这里插入图片描述
    在这里插入图片描述

    展开全文
  • 关于多元正态分布的条件分布的证明
                   

    之前在机器学习 cs229学习笔记3 (EM alogrithm,Mixture of Gaussians revisited & Factor analysis )中直接给出了多元正态分布的条件概率

    正好今天上课讲了多元正态分布的内容,但没有涉及条件概率,所以下来baidu了一下,找到一个不错的ppt

    (ps:其实试着自己搞了一下。。。。没搞出来,所以说数学功底弱啊。。。。)

    下面是ppt的内容:(有可能涉及到之前的一些性质,如果需要请下载点击打开链接

    ======================================================================================








               
    展开全文
  • 条件分布分析多元随机变量的函数,陈必红,,分析多元随机变量的函数的老方法,是利用随机变量的分布函数。本文提出了一种新的分析方法,可以不用分布函数,而是采取条件分布
  • 即,如何证明多元高斯的条件分布和边际分布也是高斯,并给出其形式。 首先,我们知道,一个均值为μ\muμ、协方差矩阵为Σ\SigmaΣ的多元正态分布的概率密度函数可以表示为 1(2π)k/2∣Σ∣1/2exp(−12(x−μ)TΣ−...

    在阅读高斯过程(GPs)时,我认为能够证明有关多元高斯分布的一些基本事实将是有用的,这些高斯分布是GP的基础。 即,如何证明多元高斯的条件分布和边际分布也是高斯,并给出其形式。

    首先,我们知道,一个均值为μ\mu、协方差矩阵为Σ\Sigma的多元正态分布的概率密度函数可以表示为
    1(2π)k/2Σ1/2exp(12(xμ)TΣ1(xμ)) \frac{1}{(2\pi)^{k/2}{|\Sigma|}^{1/2}} exp(- \frac{1}{2} (x - \mu)^T \Sigma^{-1} (x-\mu))
    为了简化表示,我现在假设分布的均值为零,但是所有内容都应以一种直接的方式延续到更一般的情况下。

    进一步地,在这里我们将xx拆分成两部分[ab]\begin{bmatrix} a \\ b \end{bmatrix},因此我们接下来将研究两个新的分布:条件分布p(ab)p(a|b)和边缘分布p(b)p(b)。首先,我们将原有的协方差矩阵Σ\Sigma变形为一个分块矩阵的形式[ACTCB]\begin{bmatrix} A & C^T \\ C & B \end{bmatrix},其中AA表示变量aa的协方差矩阵,BB表示变量bb的协方差矩阵,CC表示交叉项(cross-terms)。

    现在,我们希望能够写出逆协方差矩阵[ACTCB]1\left[ \begin{array}{cc} A & C^T \\ C & B \end{array}\right]^{-1}。 我们可以利用 Schur complement方法并将其写为:
    [ACTCB]1=[I0B1CI][(ACTB1C)100B1][ICTB10I] \left[\begin{array}{cc} A & C^T \\ C & B \end{array}\right]^{-1} = \left[ \begin{array}{cc} I & 0 \\ -B^{-1}C & I \end{array}\right] \left[ \begin{array}{cc} (A-C^T B^{-1} C)^{-1} & 0 \\ 0 & B^{-1} \end{array}\right] \left[ \begin{array}{cc} I & -C^T B^{-1} \\ 0 & I \end{array}\right]

    我将在下面解释如何得出这一点。现在,我们知道联合分布可以写成
    p(a,b)exp(12[ab]T[ACTCB]1[ab]) p(a,b) \propto \exp \left(-\frac{1}{2} \left[ \begin{array}{c} a\\ b \end{array} \right]^T \left[ \begin{array}{cc} A & C^T \\ C & B \end{array}\right]^{-1} \left[ \begin{array}{c} a\\ b \end{array} \right] \right)

    我们可以用块协方差矩阵的逆的上述表达式代替,如果我们通过乘以外部矩阵来简化,则可以得到
    p(a,b)exp(12[aCTB1bb]T[(ACTB1C)100B1][aCTB1bb]) p(a,b) \propto \exp \left(-\frac{1}{2} \left[ \begin{array}{c} a - C^T B^{-1} b \\ b \end{array} \right]^T \left[ \begin{array}{cc} (A-C^T B^{-1} C)^{-1} & 0 \\ 0 & B^{-1} \end{array}\right] \left[ \begin{array}{c} a - C^T B^{-1} b \\ b \end{array} \right] \right)
    利用中心矩阵是块对角线的事实,我们有

    p(a,b)exp(12(aCTB1b)T(ACTB1C)1(aCTB1b))exp(12bTB1b) p(a,b) \propto \exp \left(-\frac{1}{2} (a - C^T B^{-1} b)^T (A-C^T B^{-1} C)^{-1} (a - C^T B^{-1} b)\right) \exp \left( -\frac{1}{2} b^T B^{-1} b\right)

    至此,我们已经完成许多工作。 如果我们以b为条件,则第二个指数项作为常数消失,我们有
    p(ab)N(CTB1b,(ACTB1C)) p(a|b) \sim \mathcal{N}\left(C^T B^{-1} b, (A-C^T B^{-1} C)\right)

    请注意,如果aabb不相关,则C=0C = 0,我们只得到aa的边际分布。如果我们对aa进行边际化,则可以将第二个指数项拉到积分之外,并且第一个项只是高斯分布的密度,因此它积分为1,我们发现
    p(b)=ap(a,b)N(0,B) p(b) = \int_a p(a,b) \sim \mathcal{N}(0,B)

    上面,我写道,您可以使用Schur complement获得协方差逆矩阵的块矩阵形式。 实际将如何得出呢? 如Wikipedia页面中所述,可以使用Gaussian elimination方法来推导逆表达式。

    延伸阅读

    阅读有关高斯过程的维基百科页面后,我便开始了这一思路。作为快速入门,页面上对GP的简要介绍的外部链接有所帮助。 MacKayRasmussen的视频讲座既不错,又有助于加深对GP的了解。

    MacKay还对Humble Gaussian distribution发表了一篇不错的短文,它提供了有关高斯分布的协方差和逆协方差矩阵的更多信息。特别地,逆协方差矩阵告诉您两个变量之间的关系,并以所有其他变量为条件,因此如果您将某些变量边缘化,则它们会发生变化。逆协方差矩阵中偏离对角线元素的符号与两个变量之间相关性的符号相反,该条件以所有其他变量为条件。

    要深入研究高斯过程,可以阅读Rasmussen和Williams所著的《高斯机器学习过程的高斯》一书,该书可在线获得。附录包含有关高斯恒等式和矩阵恒等式的有用事实和参考,例如矩阵求逆引理,高斯消除的另一种应用是确定逆,在这种情况下为矩阵求和的逆。


    参考文献

    1.关于在CSDN中如何插入数学公式的使用参考大全

    2.[CSDN_Markdown] 使用LaTeX写矩阵

    3.CSDN Markdown 公式大全

    4.在CSDN-Markdown中书写多行大括号公式

    5.Conditional and marginal distributions of a multivariate Gaussian

    展开全文
  • 文章目录二元随机变量分布函数、边际分布函数及条件分布函数联合分布函数分布函数 F(x,y)F(x, y)F(x,y) 的性质边际分布函数条件分布函数 二元随机变量分布函数、边际分布函数及条件分布函数 联合分布函数 定义: ...
  • 一、离散、连续随机向量的条件分布1.1 Def 离散联合概率质量函数、条件概率质量函数、边缘概率质量函数设 上离散随机向量 . (既为可数集):(1) 服从的概率质量函数为 ,称为离散随机向量 的联合概率质量函数(joint)....
  • 关于零范数在单项范数上的条件分布
  • 资源受限情况下基于经验条件分布的语音转换
  • 这一节我们讲条件分布与条件期望。同之前的文章一样,先给出理论,后给出习题和解答。所谓条件分布就是对于二维随机变量 ,在给定其中一个变量的情况下,另一个随机变量的分布,它的定义由条件概率给出。同样地,...
  • 条件分布问题引入条件分布律(离散)例1条件分布函数条件概率密度定义例2 问题引入 条件分布律(离散) 例1 条件分布函数 条件概率密度定义 例2
  • 《概率论》条件分布 一、离散型随机向量的条件分布 1.1、定义 1.2、性质 二、连续型随机向量的条件分布 2.1、定义 2.2、性质
  • 摘要:本文主要介绍二维随机变量的联合分布律、边缘分布律和条件分布律之间的关系,并以矿山事故为例,强化对三者关系的认识。
  • 吴恩达的《机器学习(CS229)》Lecture note 9(Part X Factor analysis)中提及了多元高斯分布的边缘分布和条件分布,指出这两者本身亦是高斯分布,但没有给出详细的证明。我自己尝试着推导,但不得要领,直到上网...
  • 008 二维随机变量分布、条件分布及独立性困难产生于克服困难的努力中。——斯迈尔斯 困难是一个严厉的导师。——贝克最困难之时,就是离成功不远之日。——拿破仑
  • 条件分布函数(离散-条件分布律)

    千次阅读 2019-09-21 07:45:50
    一、分布函数定义 二、二元随机变量的分布函数 2.1、联合分布函数
  • 文章目录二元离散型随机变量边际分布律与条件分布律边际分布条件分布 二元离散型随机变量边际分布律与条件分布律 边际分布 对于离散型随机变量 (X,Y)(X,Y)(X,Y),分布律为 P(X=xi,Y=yj)=pij,i,j=1,2,⋯P(X=x_i,Y=...
  • 在证明高斯-马尔科夫随机过程的性质的过程中,遇到了多元正态分布的条件分布的证明,百度发现条件分布的很多证明方法写的极其麻烦,所以自己写了一个。 实际上多元随机变量的公式证明一般用矩阵的方法处理,这里...
  • 文章目录随机向量定义、联合分布函数、边缘分布、统计特征的分布函数的差分独立性、离散型条件分布列连续型分布函数与密度函数随机向量的函数分布 随机向量定义、联合分布函数、边缘分布、统计特征的分布函数的差分 ...
  • 条件分布对齐:不光要feature相似,还得是同类别的feature map相似,比如分类标签为1的源数据的feature map和分类标签为1的目标数据的feature map相似,而不是和分类标签为2或其他的目标数据的feature map相似。...
  • 因为在下篇博客中会介绍Gibbs采样,代码示例用到的是多元高斯分布,所以对条件分布,边际分布公式必须写出来,所以博主整理了下。 参考文献为:...
  • 1. 联合分布函数 2. 联合分布函数示例 3. 二元离散型随机变量概率分布图 4.二元离散型随机变量分布函数的性质 5. 边际分布函数 6. 边际分布函数求解示例 ...7. 条件分布函数 ...
  • 在证明高斯-马尔科夫随机过程的性质的过程中,遇到了多元正态分布的条件分布的证明,百度发现条件分布的很多证明方法写的极其麻烦,所以自己写了一个。 实际上多元随机变量的公式证明一般用矩阵的方法处理,这里...
  • x=[x1x2]x = \left [ \begin{matrix}x_1 \\ x_2\end{matrix} \right ]x=[x1​x2​​] 服从正态分布N(x,μ,Σ)N(x,\mu,\Sigma)N(x,μ,Σ),其中 μ=[μ1μ2]\mu = \left [ \begin{matrix}\mu_1 \\ \mu_2\end{...
  • 1. 边际分布 2. 边际分布示例1 3.边际分布示例2 4. 条件分布 5. 条件分布示例1 6. 条件分布示例2 、 ...
  • 论文研究-住房特征对房价条件分布的影响: 分位回归估计.pdf, 传统的Hedonic住房价格模型采用OLS估计, 该方法仅能解释住房特征对住房价格条件均值的影响, 因而存在一定的...

空空如也

空空如也

1 2 3 4 5 ... 20
收藏数 11,408
精华内容 4,563
关键字:

条件分布