精华内容
下载资源
问答
  • 条件概率/全概率/贝叶斯公式

    万次阅读 多人点赞 2018-07-17 11:39:05
    1、条件概率公式 设A,B是两个事件,且P(B)>0,则在事件B发生的条件下,事件A发生的条件概率(conditional probability)为: P(A|B)=P(AB)/P(B) ...分析:一般说到条件概率概念的时候,事...

    参考:https://www.cnblogs.com/ohshit/p/5629581.html

    1、条件概率公式

            设A,B是两个事件,且P(B)>0,则在事件B发生的条件下,事件A发生的条件概率(conditional probability)为:

                         P(A|B)=P(AB)/P(B)

    分析:一般说到条件概率这一概念的时候,事件A和事件B都是同一实验下的不同的结果集合,事件A和事件B一般是有交集的,若没有交集(互斥),则条件概率为0,例如:

    ① 扔骰子,扔出的点数介于[1,3]称为事件A,扔出的点数介于[2,5]称为事件B,问:B已经发生的条件下,A发生的概率是多少?

    也即,做一次实验时,即有可能仅发生A,也有可能仅发生B,也有可能AB同时发生,

    ② 同时扔3个骰子,“三个数都不一样”称为事件A,“其中有一个点数为1”称为事件B。这一题目中,AB也是有交集的。

    用图更能容易的说明上述问题,我们进行某一实验,某一实验所有的可能的样本的结合为Ω(也即穷举实验的所有样本),圆圈A代表事件A所能囊括的所有样本,圆圈B代表事件B所能囊括的所有样本。

    由图再来理解一下这个问题:“B已经发生的条件下,A发生的概率”,这句话中,“B已经发生”就相当于已经把样本的可选范围限制在了圆圈B中,其实就等价于这句话:“在圆圈B中,A发生的概率”,显然P(A|B)就等于AB交集中样本的数目/B的样本数目。为什么这里用的是样本的数目相除,而上面的公式却是用的概率相除,原因很简单,用样本数目相除时,把分子分母同除以总样本数,这就变成了概率相除。

    2、乘法公式

             1.由条件概率公式得:

                           P(AB)=P(A|B)P(B)=P(B|A)P(A)    

                 上式即为乘法公式;

             2.乘法公式的推广:对于任何正整数n≥2,当P(A1A2...An-1) > 0 时,有:

                     P(A1A2...An-1An)=P(A1)P(A2|A1)P(A3|A1A2)...P(An|A1A2...An-1)

    3、全概率公式

            1. 如果事件组B1,B2,.... 满足

                   1.B1,B2....两两互斥,即 Bi ∩ Bj = ∅ ,i≠j , i,j=1,2,....,且P(Bi)>0,i=1,2,....;

                   2.B1∪B2∪....=Ω ,则称事件组 B1,B2,...是样本空间Ω的一个划分

              设 B1,B2,...是样本空间Ω的一个划分,A为任一事件,则:

    题1:

    已知:各个A∩Bi的样本数、Bi的样本数,
    求A的样本数 / 总样本数Ω?

    题2:

    已知:各个A∩Bi的概率、Bi的概率,
    求A的概率?

     

    上图中,某一实验所有的可能的样本的集合为Ω,圆圈A代表事件A所能囊括的所有样本,把总集合Ω分为n个小集合,依次为B1、B2···Bn,这些小集合两两互斥,那么显然,A的样本数目可以通过与Bi的交集来获得,也即=(A∩B1的样本数)+(A∩B2的样本数)+····+(A∩Bn的样本数)。前文已经说过,样本数公式和概率公式,本质上是一样的东西, 题1与题2的是完全相同的题目。

    4、贝叶斯公式

          1.与全概率公式解决的问题相反,贝叶斯公式是建立在条件概率的基础上寻找事件发生的原因(即大事件A已经发生的条件下,分割中的小事件Bi的概率),设B1,B2,...是样本空间Ω的一个划分,则对任一事件A(P(A)>0),有

    上式即为贝叶斯公式(Bayes formula),Bi 常被视为导致试验结果A发生的”原因“,P(Bi)(i=1,2,...)表示各种原因发生的可能性大小,故称先验概率;P(Bi|A)(i=1,2...)则反映当试验产生了结果A之后,再对各种原因概率的新认识,故称后验概率。

    已知:各个A∩Bi的样本数、Bi的样本数,
    求A∩B3的样本数 / A的样本数?

    例子:发报台分别以概率0.6和0.4发出信号“∪”和“—”。由于通信系统受到干扰,当发出信号“∪”时,收报台分别以概率0.8和0.2受到信号“∪”和“—”;又当发出信号“—”时,收报台分别以概率0.9和0.1收到信号“—”和“∪”。求当收报台收到信号“∪”时,发报台确系发出“∪”的概率。

    解析:贝叶斯这一概念,所探讨的问题,也是事件A和事件B都是某一实验的不同的结果集合,然后把事件B这个结果集合分为n小份,每一小份也是结果集合,只不过这些小集合一定位于B集合内部,每一小份结果集合称为Bi(i∈[1,n]),Bi之间两两互斥,所有Bi并起来就是B。
    本例中,实验为“发一次报,收一次报,然后记录发、收的字符”,事件A为“收到了U”,事件B为"发出了信号",事件B1为“发出了U”,事件B2为“发出了—”,显然这里B1∪B2=B,B1∩B2=∅。要想求P(B1 | A),根据条件概率公式,P(B1 | A)=P(B1 A)/P(A),只要分别计算出分子分母就行了,显然分子可以用上面的乘法公式来求,分母为已知(若分母未知,就得用全概率公式来求)。

    贝叶斯公式,根本不用记忆,其实就是条件概率、乘法公式、全概率公式的组合。

     

    总结:(1)以上四个公式的研究对象,都是“同一实验下的不同的结果集合”

    (2)为了容易理解这四个概率公式,可以把用“样本数目公式”来代替“概率公式”,来求概率。

     

    展开全文
  • 、例子 这个例子是从网上看到的,感觉非常典型。可以用它来理解条件概率、先后验概率、全概率公式和贝叶斯公式,非常划算。 大概是个这样的问题:有个信号的发射端和接收端。发射端只发射A、B两种信号,其中...

    一、例子

    这个例子是从网上看到的,感觉非常典型。可以用它来理解条件概率、先后验概率、全概率公式和贝叶斯公式,非常划算。

    大概是一个这样的问题:有一个信号的发射端和接收端。发射端只发射A、B两种信号,其中发射信号A的概率为0.6,发射信号B的概率为0.4。当发射信号A时,接收端接收到信号A的概率是0.9,接收到信号B的概率是0.1。当发射信号B时,接收端接收到信号B的概率为0.8,接收到信号A的概率为0.2。求当接收到信号A时,发射信号为A的概率。

    这是一道非常简单的题目,当你看完问题后,你可能已经知道要如何计算,但是本文的重点不是在解这道题目,而是介绍这些概念。

    二、数学符号表示

    发射信号为A的概率:P\left ( send A \right )=0.6

    发射信号为B的概率:P\left ( send B \right )=0.4

    发射信号A时,接收到信号A的概率:P\left ( receiveA|sendA \right )=0.9

    发射信号A时,接收到信号B的概率:P\left ( receiveB|sendA \right )=0.1

    发射信号B时,接收到信号B的概率:P\left ( receiveB|sendB \right )=0.8

    发射信号B时,接收到信号A的概率:P\left ( receiveA|sendB \right )=0.2

    接收到信号A时,发射信号为A的概率:P\left ( sendA|receiveA \right )=?

    三、条件概率

    P\left ( A|B \right )=\frac{P\left ( AB \right )}{P\left ( B \right )}=\frac{P\left ( A\bigcap B \right )}{P\left ( B \right )}                                                                                                                      (1)

    含义:当条件B成立时,事件A发生的概率。等于事件AB同时发生的概率除以事件B发生的概率。

    第二节

     

     

     

    中的数学符号除了前两个,其余都是条件概率

    四、先验概率

    这里的发射信号A的概率P\left ( send A \right )和发射信号B的概率P\left ( send B \right ),虽然没详细叙述怎么得到的,但是可以猜测出这是根据一些先前的观测或者经验得到的。这种概率在这里被称为先验概率。

    五、后验概率

    后验概率是指在得到一些观测信息后,某事件发生的概率。

    这个例子,接收到信号A时,发射信号为A的概率:P\left ( sendA|receiveA \right )就是个后验概率。就是当已知发射的结果“接收到信号”后,发射信号A的概率。这已与不知道接收到什么信号时发射信号A的概率不同了,当不知道接收到什么信号时,发射A的概率就是先验概率P\left ( send A \right )

    下面我们可以开始对这个问题进行推导了:由于后验概率通常是个条件概率,因此根据式(1)调用两次得

    P\left ( sendA|receiveA \right )=\frac{P\left ( receiveA\bigcap sendA \right )}{P\left ( receiveA \right )}=\frac{P\left ( sendA \right )P\left ( receiveA|sendA \right )}{P\left ( receiveA \right )}                  (2)

     

    现在分子P\left ( receiveA|sendA \right )=0.9是发射信号A时接收到信号A的概率;P\left ( send A \right )=0.6是发射A的概率,这两个已知。若想求分母就要用到全概率公式了。

    六、全概率公式

    全概率公式为:

    P\left ( B \right )=\sum_{i}^{n}P\left ( A_i \right )P\left ( B|A_i \right )                                                                                                                       (3)

    ,其中P\left ( A_1\bigcap A_2\bigcap ...\bigcap A_n \right )=0P\left ( A_1\bigcup A_2\bigcup ...\bigcup A_n \right )=1。可以认为事件A_i\left ( i=1,2,...,n \right )为对全概率“1”的一个划分。这也是全概率公式名称的由来。条件概率可以将一个概率转化为在一个已知的全概率划分下的条件概率P\left ( B|A_i \right )与这个全概率划分P\left ( A_i \right )内积(内积含义同向量内积,不懂的话百度吧)。

    发射信号A的概率P\left ( send A \right )和发射信号B的概率P\left ( send B \right )是全概率“1”的一个划分,因为只可能发射这两种信号。我们用全概率公式(3),对(2)式的分母进行分解,得到

    P\left ( receiveA \right )=P\left ( sendA \right )P\left ( receiveA|sendA \right )+P\left ( sendB \right )P\left ( receiveA|sendB \right )                   (4)

    可以理解为,接收到一个信号为A的概率=发射信号A且发射信号A时接收到信号A+发射信号B且发射信号B时接收到信号A。

    现在分母的各项也是已知的了,将(4)带入(2)中就可以求解这个后验概率:

    P\left ( sendA|receiveA \right )=\frac{P\left ( sendA \right )P\left ( receiveA|sendA \right )}{P\left ( sendA \right )P\left ( reseiveA|sendA \right )+P\left ( sendB \right )P\left ( receiveA|sendB \right )}=\frac{0.6\times 0.9}{0.6\times 0.9+0.4\times 0.2}=0.87      (5)

    其实这个问题就算出来了,但同时这也引出了本文的最后一个问题:贝叶斯公式

    七、贝叶斯公式

    贝叶斯公式表示为:

    P\left ( A_i|B \right )=\frac{P\left ( A_i \right )P\left ( B|A_i \right )}{\sum_{k}^{n}P\left ( A_k \right )P\left ( B|A_k \right )}                                                                                                                      (6)

    与全概率公式一样,A_i\left ( i=1,2,...,n \right )为对全概率“1”的一个划分贝叶斯公式常用于求解后验概率

    这与(5)式有着相同的形式。其实我们本题推导的思路就是贝叶斯公式推导的思路。我们可以把(5)式后验概率的求解理解成:接收到信号A时可能是发射信号A且接收到信号A,或者发射了信号B且接收到信号A,而其中只有前者符合所求概率的条件。因此接收到一个信号A时发射的信号也是A的概率=发射了一个信号A的概率\times发射信号A时接收到信号A的概率\div(发射了一个信号A的概率\times发射信号A时接收到信号A的概率+发射一个信号B的概率\times发射信号B时接收到信号)

    与(5)式类似。贝叶斯公式的理解为:B发生时,可能全概率的划分A1、A2、...、An都会发生。当B发生时Ai发生的概率=Ai发生的概率\timesAi发生时B发生的概率\div求和k(Ak发生的概率\timesAk发生时B发生的概率)。

    贝叶斯公式的特点就是能够通过先验概率条件概率后验概率,在许多场合都会用到。不过贝叶斯公式其实刚开始总是不太好理解,需要借助前面通过条件概率全概率公式的推导来理解。这种例子碰到得多了应该能更加熟练。

    展开全文
  • 比如50个人抽样,第轮每个概率1/50,第二轮抽时每个没在第轮被抽到的概率是49/50,然后还有现在被抽到的概率1/49,两个相乘=1/50.因为你并不知道第轮哪个被抽到,算第二轮是还要考虑第轮,第三轮(同理) 都是...

    比如50个人抽样,第一轮每个概率1/50,第二轮抽时每个没在第一轮被抽到的概率是49/50,然后还有现在被抽到的概率1/49,两个相乘=1/50.因为你并不知道第一轮哪个被抽到,算第二轮是还要考虑第一轮,第三轮(同理)

    在这里插入图片描述

    都是十分之一,有放回和无放回,如果不考虑具体内容,也就是没有任何前提的话,每一个用户被抽中的概率是相等的。

    展开全文
  • 根木棍折断成3段构成个三角形的概率 1)先看看两个例子  a)用单位正方形分析两个小于1的随机正数之和的概率如图  b)|x-y|≤z 的概率,等于阴影部分的面积,如图 2)回到题 i) 设木棍长为1个单位=1...


            一根木棍折断成3段构成一个三角形的概率
    1)先看看两个例子
        a)用单位正方形分析两个小于1的随机正数之和的概率如图




        b)|x-y|≤z 的概率,等于阴影部分的面积,如图


    2)回到本题
    i) 设木棍长为1个单位=1,所有可能折断后的3截尺寸只有两个未知数x与y,因第     三个就是1-(x+y), 
        所有可能的结果:
        x>0, y>0, 1-(x+y)>0即x+y<1.
       用单位正方形方法分析,可知其总面积为下图中的大红三角形之面积=1/2

    ii)构成三角形的条件:任两边之和大于第三边:
        x+y>1-(x+Y) 即 x+y > 1/2
        1-(x+y)+x>y 即 y < 1/2
       1-(x+y)+y>x   即 x < 1/2
       满足这3个条件的就是图中有阴影线的小三角形:
       其面积=(1/2)×(1/2)×(1/2)= 1/8
       


      
    iii)构成三角形的概率,等于影线小三角形的面积 / 所有可能的结果面积:
            则有概率
          P=(1/8)/(1/2)= 1/4 
        故答案是:1/4 = 0.25 
           
         注:连续型随机变量的概率计算一般都是按照面积比来确定的。




      依次考虑下面三个问题。

        1. 一根单位长的木棒。随机在中间选取一点,把这根木棒折断。那么,短的那一截木棒平均有多长?

        2. 一根单位长的木棒。随机在中间选取一点,把这根木棒折断。那么,长的那一截木棒平均有多长?

        3. 一根单位长的木棒。随机在中间选取一点,把这根木棒折断。那么,短的那一截与长的那一截的长度之比平均是多少?

        没错,由于折断点均匀分布在这根木棒上,因此短的那一段木棒的长度也均匀地分布在 0 到 0.5 之间,它的平均长度是 0.25 ;类似地,长的那一段木棒,其长度也均匀分布在 0.5 到 1 之间,平均长度为 0.75 。不过,有趣的是,两段木棒长度的平均比值却并不是 1:3 。计算机模拟告诉我们,短木棒与长木棒的长度之比的期望值大约为 0.3863 ,要比 1:3 大一点点。平均的长度之比不等于平均长度之比,这似乎有悖于人们的直觉。

        计算出准确的长度之比期望值可以作为又一个有趣的微积分练习题。对这个比值积分后容易得出答案:

          

        也就是说,两段木棒的长度之比平均为 2·ln2 - 1 。令人称奇的是,神秘的常数 e 又一次出现在了本与它毫无关系的问题中!


    展开全文
  • 概率、先验概率、后验概率

    千次阅读 2015-01-28 14:17:41
    今天看了 Larry Wasserman写的 All of Statistics中的第章,第章主要讲概率,其中最主要的就是贝叶斯公式。要了解贝叶斯公式,就得知道全概率公式: 通俗的讲,先验概率就是事情尚未发生前,我们对该事...
  • 概率编程实战

    千次阅读 2018-11-06 11:54:50
    概率编程充分结合了概率推理模型和现代计算机编程语言,使这方法的实施更加简便,现已在许多领域(包括炙手可热的机器学习)中崭露头角,各种概率编程系统也如雨后春笋般出现。 本书的作者 Avi Pfeffer 正是主流...
  • 概率计算

    千次阅读 2018-10-21 18:12:31
    概率的加法法则 条件概率 乘法公式 全概率公式 P(A)=A所含样本点数/总体所含样本点数。实用中经常采用“排列组合”的方法计算· 条件概率:当P(A)&gt;0,P(B|A)=P(AB)/P(A) 加法法则:P(A∪B)=P(A)+P(B)-...
  • 如何简单理解概率分布函数和概率密度函数?

    万次阅读 多人点赞 2018-09-11 16:56:19
    篇文章是在《应该如何理解概率分布函数和概率密度函数?》的基础上整理来的。非常感谢原作者。 目录 1先从离散型随机变量和连续性随机变量说起 2离散型随机变量的概率函数,概率分布和分布函数 2.1概率函数和...
  • 条件概率

    千次阅读 2019-09-05 18:42:30
    条件概率 1.1定义:在事件A发生的条件下,求事件B发生的概率,这就是条件概率,记为P(B|A) P(B|A)是在事件A发生的条件下,事件B的条件概率 ...通过维恩图我们可以知道,条件概率本质上是种缩减样本空间...
  • 很多初学概率论的同学一定会被这几个概念迷惑,概率函数、分布函数、密度函数,下面就要我们用五分钟的时间来搞定他们! 概率函数:用函数的形式来表达概率 Pi=P(X=ai)(i=1,2,3...n)P_i=P\left(X=a_i\right) \qquad ...
  • 概率分布

    千次阅读 2016-06-14 19:41:56
    它由个连续参数∈[0,1]控制,这个参数表示x = 1的概率。 伯努利分布式二项分布对于单一观测的特殊情况。它对于的共轭先验是Beta分布。 2.Beta分布 连续变量∈[0,1]的分布,经常用于表示某些二元事件的概率。...
  • 概率,先验概率,后验概率

    千次阅读 2016-02-08 19:29:47
    通俗的讲,先验概率就是事情尚未发生前,我们对该事发生概率的估计,例如全概率公式中P(B)就是先验概率,求解方法有很多种,全概率公式是种,也可以根据经验等,例如抛枚硬币头向上的概率为0.5。 后验概率则是...
  • 概率空间

    千次阅读 2019-10-27 20:03:47
    我们首先看一下概率空间的标准定义: ...直到看到位美国友人对概率空间的解释,我才恍然大悟。作者用三句话分别解释了概率空间三元素: Omega in our Probability Space represents all possibilities you can i...
  • 概率图模型是概率论和图论的结合,...我们不妨试试轻轻松松的来说概率图模型 请尊重原创,转载请注明来源网站www.shareditor.com以及原始链接地址首先我们说说什么是图论能点进这篇文章说明你一定是有一定数学...
  • 先验概率、后验概率以及共轭先验

    万次阅读 多人点赞 2016-05-11 22:24:35
    在贝叶斯学派的观点中,先验概率、后验概率以及共轭先验的概念非常重要。而在机器学习中,我们阅读很多资料时也要频繁地跟他们打交道。所以理清这些概念很有必要。本文将通过几个例子详细解释关于先验概率、后验概率...
  • 条件概率与全概率公式

    千次阅读 2019-03-21 15:29:42
    条件概率公式 设A,B是两个事件,且P(B...分析:一般说到条件概率概念的时候,事件A和事件B都是同一实验下的不同的结果集合,事件A和事件B一般是有交集的,若没有交集(互斥),则条件概率为0. 全概...
  • 看了几篇论文,感觉还是有很多关于状态估计的问题不是很清楚,然后在知乎看到了关于slam推荐书籍,有一本状态估计和概率机器人,但是状态估计目前只有英文版,发现概率机器人有中文版,所以就买了一本概率机器人。...
  • 求任意组数据的概率密度函数

    千次阅读 2020-05-08 00:37:50
    我们在统计数据处理时,经常计算个样本的概率密度估计,也就是说给出组统计数据,要求你绘制出它的概率分布曲线,matlab的统计工具箱中有直接的函数就是:Ksdensity核心平滑密度估计 [f,xi] = ksdensity(x) ...
  • 面试概率题目

    千次阅读 多人点赞 2019-08-12 08:59:39
    题目: 给你根铅笔,将铅笔折两次,组成三角形的概率是多大. 解析: 设: 铅笔长度是1, 折两次之后,得到三条边,对应的长度分别是x,y,1-x-y. 1. 得到条件: 0 < x < 1 0 < y < 1 0 < 1-x-y < 1 计算...
  • 概率理论和概率密度

    千次阅读 2018-01-17 22:27:15
    由于自己基础比较差,整理了两部分的内容,部分为部分整理的基础知识点内容,归属为“PRML基础”,另部分为“PRML学习”,希望有兴趣的读者共同交流进步。.概率理论 概率理论提供了个量化与处理不确定性的...
  • 当然,作为一本入门书籍,本书将停留在入门阶段。对于受过数学训练的人来说,本书产生的疑问可通过其他偏重数学分析的书来解答。对于缺少数学背景的爱好者,或是仅对贝叶斯方法的实践而非数学理论感兴趣的读者来说,...
  • 中奖概率算法

    千次阅读 2018-01-23 17:33:37
    在此分享个高效、好用、易懂的中奖概率的算法。算法源代码出自网络,不过我加之修改,为我所用啦!哈哈哈...嗝~ 前阶段出于工作需要,写了个发红包的微擎模块,根据公司的运营人员的要求: 1.红包取自红包池...
  • 先验概率、后验概率、条件概率

    万次阅读 2014-11-24 21:00:10
    通俗的讲,先验概率就是事情尚未发生前,我们对该事发生概率的估计,例如全概率公式中P(B)就是先验概率,求解方法有很多种,全概率公式是种,也可以根据经验等,例如抛枚硬币头向上的概率为0.5。 后验概率
  • 概率图模型是机器学习的个分支,它研究如何使用概率分布来描述世界,并对其进行有用的预测。 了解概率模型有多个理由。 首先,它是个迷人的科学领域,有着美丽的理论,以惊人的方式将两种截然不同的数学分支...
  • java随机数。带概率版本。

    千次阅读 2019-03-22 14:56:24
    举个生活中很常见的例子吧,抽奖大家都应该抽过吧,一般奖池里面很很多奖品,每种奖品都可能被人抽中但是抽中没用的东西的概率就特别高。 因此我们举个简单的例子:抽中1元的概率是50%。抽中2元的概率是30%。抽...
  • 联合概率分布

    万次阅读 2018-08-29 11:14:31
    1.什么是联合概率分布?  联合概率分布简称联合分布,是两个及以上随机变量组成的随机向量的概率分布。根据随机变量的不同,联合概率分布的表示形式也不同。...对于连续型随机变量,联合概率分布通过非负函数...
  • 贝叶斯公式由条件概率推出,我们假设要做个分类任务,给出数据A求它的标签B,这就是公式左边。直接求解比较困难,所以贝叶斯公式可以把它转化成P(A|B),即在标签B条件下是数据A的概率。 ...

空空如也

空空如也

1 2 3 4 5 ... 20
收藏数 339,133
精华内容 135,653
关键字:

一本概率