精华内容
下载资源
问答
  • 先验概率和后验概率

    千次阅读 2018-04-10 11:58:23
    先验概率和后验概率先验概率和后验概率的定义如何获取先验概率和后验概率(计算)参考资料1. 初步定义 先验概率:根据以往经验分析得到的概率。先验概率分为客观先验概率(利用过去的历史资料计算得到的先验概率...

    先验概率和后验概率

    • 先验概率和后验概率的定义
    • 如何获取先验概率和后验概率(计算)
    • 参考资料

      1. 初步定义

            先验概率:根据以往经验和分析得到的概率。先验概率分为客观先验概率(利用过去的历史资料计算得到的先验概率)和主观先验概率(当历史资料无从获取或资料不完全时,凭人们的主观经验来判断而得到的先验概率)。

            后验概率:在得到结果的信息后重新修正的概率。是指基于新的信息,修正原来的先验概率后所获得的更接近实际情况的概率估计。

            举例:

            假设桌子上有一块肉和一瓶醋,你如果吃了一块肉,然后你觉得是酸的,那你觉得肉里加了醋的概率有多大?你说:80%的可能性加了醋。那么,你已经进行了一次后验概率的猜测。

           

            形式化:

            设:P(A)=加了醋, P(B)=吃了之后是酸的, P(C)=肉变质,则可将上述公式转化为如下形式:

           

            其中,P(A)为先验概率,P(A|B)为后验概率。

         2. 计算

            先验概率是在缺乏某个事实的情况下描述一个变量,通常是经验丰富的专家的纯主观估计。(例如,经验丰富的老人根据自己的经验,估计当地下雨的概率。或者某人根据当地若干年的气候规律,获取该地下雨的概率。)先验概率的计算通常比较简单,不需要使用贝叶斯公式。

            后验概率考虑了一个事实之后的条件概率。通常是通过贝叶斯公式,用先验概率和似然函数计算出来。

            一句话总结:先验概率P,乘以似然函数L,正比于后验概率。


            我们来看看贝叶斯公式:

           

            其中,P(A)为先验概率,P(B|A)为似然函数,P(B)是一个归一化项。整个公式就是表达了“后验概率正比于先验概率乘以似然函数”。


        3. 参考文献

              [1] https://blog.csdn.net/sjyttkl/article/details/51879859

              [2] https://www.cnblogs.com/yemanxiaozu/p/7680761.html

              [3] https://blog.csdn.net/jasonwayne/article/details/51824832

     


           

    展开全文
  • 五分钟了解先验概率和后验概率 本文摘自我的公众号【车子的心智探索】 欢迎关注我! 不理解先验概率和后验概率?莫慌,本文可以帮你。 从面积的角度看概率 在说正题之前,咱们从面积的角度认识一下概率。 拿掷骰子...

    五分钟了解先验概率和后验概率

    本文摘自我的公众号【车子的心智探索】
    欢迎关注我!

    在这里插入图片描述

    不理解先验概率和后验概率?莫慌,本文可以帮你。

    从面积的角度看概率

    在说正题之前,咱们从面积的角度认识一下概率。

    拿掷骰子来说,每个点的概率是相等的,因为总概率是 1,所以每个点数的概率是 1/6。我们用格子的大小来表示概率,那么掷骰子的概率图是这样的:

    在这里插入图片描述

    如果把掷出的点数小于等于 4 记作事件 F,问你 P(F) 等于多少,你会说等于 4/6 = 2/3.

    如果用面积图来算呢?把对应点数的面积加起来就可以。

    四个方块的面积之和 = 1/6 * 4 = 2/3

    在这里插入图片描述

    某种可能性消失

    我洗好了 52 张扑克牌摆在你面前,扑克牌背面朝上。如果我问你,最上面这张是黑桃的概率是多少?你肯定会说四分之一。因为扑克牌共有四种花色,每一种花色的可能性都是相等的。

    但是,我趁你不注意的时候偷看了一眼最上面的牌,然后告诉你这张牌是黑色的。这时候我再问你,最上面这张是黑桃的概率是多少?

    因为已经确定花色是黑色,所以红桃或方块的可能性不存在了,只有可能是黑桃或梅花,所以,你推测这张牌是黑桃的概率为二分之一。

    画图解释就是:

    在这里插入图片描述

    从面积角度看,整个过程是这样的:

    在这里插入图片描述

    当得知花色是黑色的时候,表示红桃和方块的两个方形不见了,只剩下黑桃和梅花,因为概率之和总是 1,所以把它们各自的面积向上伸展,直到总和为 1。注意,在伸展的同时要保持黑桃和梅花的面积比例不变,于是结果就是各占 1/2。

    当然,也可以更简单,既然要保持黑桃和梅花的面积比例不变,不妨假设都伸展 k 倍。

    黑 桃 的 面 积 总 面 积 = 1 4 k 1 4 k + 1 4 k = 1 4 1 4 + 1 4 = 1 2 \frac{黑桃的面积}{总面积}=\frac{\frac{1}{4}k}{\frac{1}{4}k+\frac{1}{4}k}=\frac{\frac{1}{4}}{\frac{1}{4}+\frac{1}{4}}=\frac{1}{2} =41k+41k41k=41+4141=21

    又因为总面积为 1,所以黑桃的面积是 1/2.

    好了,进入正题。

    先验概率与后验概率

    看这样一个问题:

    假设某种癌症的患病率为0.1%(0.001)。有一个简易的方法能够检查出是否患病,但是不能百分之百检查出——患上这种癌症的人中有 95%(0.95)的概率被诊断为阳性;另一方面,健康人群也有 2%(0.02)的可能性被误诊为阳性。如果你的检查结果是阳性,请问你实际患上这种癌症的概率为多少?

    这里的患病率就是先验概率。

    如果要在检查前推测自己是否罹患这种癌症,概率图如下。左侧条形的面积是 0.001,右侧矩形的面积是 0.999,分别表示得癌症的概率和健康的概率。

    在这里插入图片描述

    通过流行病学数据可知,这种癌症的罹患率为 0.001。也就是说,1000 人中有 1 人罹患这种癌症。在没有任何个人信息的情况下,你属于图中左侧世界的概率是 0.001,属于右侧世界的概率是 0.999。

    按照题目信息,可以制作一个表格。

    在这里插入图片描述

    先看癌症患者这行,在患癌症的情况下,检查结果呈阳性的概率为 0.95。也就是说,如果你真得了癌症,能检查出来的概率为 95%。还有 5% 的概率查不出来。

    再看健康者这行,如果你是健康人,那么误诊为阳性的概率为 2%,准确诊断为阴性的概率是 98%。

    所以,检查存在着误诊的风险。所谓的风险包含以下两种情况:

    1. 身患癌症,却诊断没有患病
    2. 健康,却误诊为患病

    在前面那张图的基础上,我们可以根据阳性率和阴性率继续分割。

    左侧是患癌症这一类别,把这个条形按照面积之比 0.95:0.05 来分割 ,那么患癌呈阳性的概率是 0.001*0.95;同理,可以算出其他三部分的概率(面积)。

    在这里插入图片描述

    当你做完检查,肯定属于以下四种可能性中的一种:

    1. 患癌并呈现阳性(左上区域)
    2. 患癌并呈现阴性(左下区域)
    3. 健康并呈现阳性(右上区域)
    4. 健康并呈现阴性(右下区域)

    再回到原题,你的检查结果呈阳性,于是之前的 4 种情况就变成 2 种了。

    在这里插入图片描述

    同前面扑克牌问题的计算方法类似,你患癌症的概率是 0.095% ÷ (0.095% + 1.998%)= 0.045(保留三位小数)。

    从这个结果可知,在得知阳性这一检查结果的情况下,你罹患这种癌症的概率约为 4.5% ,这便是后验概率。

    频率树的方法

    还有一种方法值得介绍,就是频率树。假设总人口是 10 万人,根据各种情况,最后可以生成一棵树。

    在这里插入图片描述
    是不是这种方法更直观呢?

    -----【End】-----

    参考资料
    小岛宽之.(2018).统计学关我什么事:生活中的极简统计学.北京时代华文书局.

    展开全文
  • 如何理解先验概率和后验概率前言先验概率的分类先验概率后验概率的区别理解 前言 近代西方传统中,认为先验指无需经验或先于经验获得的知识,它通常与后验知识相比较,后验意思是指“在经验之后,需要经验”。这一...

    前言

    近代西方传统中,认为先验指无需经验或先于经验获得的知识,它通常与后验知识相比较,后验意思是指“在经验之后,需要经验”。这一区分来自于中世纪逻辑所区分的两种论证,从原因到结果的论证称为“先验的”,而从结果到原因的论证称为“后验的”。
    先验概率是指根据以往经验和分析得到的概率,如全概率公式,它往往作为“由因求果”问题中的“因”出现。
    后验概率是指在得到“结果”的信息后重新修正的概率,是“执果寻因”问题中的“因”。
    后验概率是基于新的信息,修正原来的先验概率后所获得的更接近实际情况的概率估计。
    先验概率和后验概率是相对的。如果以后还有新的信息引入,更新了现在所谓的后验概率,得到了新的概率值,那么这个新的概率值被称为后验概率。

    先验概率的分类

    利用过去历史资料计算得到的先验概率,称为客观先验概率
    当历史资料无从取得或资料不完全时,凭人们的主观经验来判断而得到的先验概率,称为主观先验概率
    后验概率是指通过调查或其他方式获取新的附加信息,利用贝叶斯公式对先验概率进行修正,而后得到的概率。

    先验概率与后验概率的区别

    先验概率不是根据有关自然状态的全部资料测定的,而只是利用现有的材料(主要是历史资料)计算的;后验概率使用了有关自然状态更加全面的资料,既有先验概率资料,也有补充资料。
    先验概率的计算比较简单,没有使用贝叶斯公式;而后验概率的计算,要使用贝叶斯公式,而且在利用样本资料计算逻辑概率时,还要使用理论概率分布,需要更多的数理统计知识。

    理解

    先验概率是以全事件为背景下,A事件发生的概率,P(A|Ω)
    后验概率是以新事件B为背景下,A事件发生的概率,P(A|B)

    全事件一般是统计获得的,所以称为先验概率,没有实验前的概率。
    新事件一般是实验,如试验B,此时的事件背景从全事件变成了B,该事件B可能对A的概率有影响,那么需要对A现在的概率进行一个修正,从P(A|Ω)变成P(A|B)。
    所以称P(A|B)为后验概率,也就是试验(事件B发生)后的概率。

    展开全文
  • 先验概率后验概率的理解与讨论
    先验(A priori;又译:先天)在拉丁文中指“来自先前的东西”,或稍稍引申指“在经验之前”。近代西方传统中,认为先验指无需经验或先于经验获得的知识。它通常与后验知识相比较,后验意指“在经验之后”,需要经验。这一区分来自于中世纪逻辑所区分的两种论证,从原因到结果的论证称为“先验的”,而从结果到原因的论证称为“后验的”。 
    

    先验概率是指根据以往经验和分析得到的概率,如全概率公式 中的,它往往作为“由因求果”问题中的“因”出现。后验概率是指在得到“结果”的信息后重新修正的概率,是“执果寻因”问题中的“因” 。

    后验概率是基于新的信息,修正原来的先验概率后所获得的更接近实际情况的概率估计。

    先验概率和后验概率是相对的。如果以后还有新的信息引入,更新了现在所谓的后验概率,得到了新的概率值,那么这个新的概率值被称为后验概率。先验概率的分类:利用过去历史资料计算得到的先验概率,称为客观先验概率; 当历史资料无从取得或资料不完全时,凭人们的主观经验来判断而得到的先验概率,称为主观先验概率。

    后验概率是指通过调查或其它方式获取新的附加信息,利用贝叶斯公式对先验概率进行修正,而后得到的概率。先验概率和后验概率的区别:先验概率不是根据有关自然状态的全部资料测定的,而只是利用现有的材料(主要是历史资料)计算的;后验概率使用了有关自然状态更加全面的资料,既有先验概率资料,也有补充资料;  

    先验概率的计算比较简单,没有使用贝叶斯公式;

    而后验概率的计算,要使用贝叶斯公式,而且在利用样本资料计算逻辑概率时,还要使用理论概率分布,需要更多的数理统计知识。

    下面转自其他博客先验概率与后验概率"概率就是无知, 而不是事务本身是随机的". 事情有N种发生的可能,我们不能控制结果的发生,或者影响结果的机理是我们不知道或是太复杂超过我们的运算能力. 新发一个物种, 到底是猫,还是小老虎呢(朱道元的经典例子)? 是由于我们的无知才不能确定判断.

    先验概率 ( Prior probability)先验概率是在缺乏某个事实的情况下描述一个变量; 而后验概率是在考虑了一个事实之后的条件概率. 先验概率通常是经验丰富的专家的纯主观的估计. 比如在法国大选中女候选罗雅尔的支持率 p, 在进行民意调查之前, 可以先验概率来表达这个不确定性. 后验概率 ( posterior probability) Def: Probability of outcomes of an experiment after it has been performed and a certain event has occured. 后验概率可以根据通过Bayes定理, 用先验概率和似然函数计算出来.

    下面的公式就是用先验概率密度乘上似然函数,接着进行归一化, 得到不定量X在Y=y的条件下的密度,即后验概率密度: 其中fX(x) 为X的先验密度,LX | Y = y(x) = fY | X = x(y) 为似然函数..

    看了很多张五常的文章以后,思考一些经济学或者统计学的问题,都试着从最简单处入手。

    一次,在听一位英国帝国理工大学的教授来我们学校讲学,讲的主要是经济计量学的建模,以及一些具体应用实例,没想到听报告过程中,一直在思考一道最简单的概率问题。关于“抛硬币”试验的概率问题。

    问题是这样的:1、多次抛硬币首先是一个贝努利试验,独立同分布的

    2、每次抛硬币出现正、反面的概率都是1/2

    3、当然硬币是均匀同分布的,而且每次试验都是公正的

    4、在上述假设下,假如我连续抛了很多次,例如100次,出现的都是正面,当然,稍懂概率的人都知道,这是一个小概率事件,但是小概率事件是可能发生的。我要问你,下次也就是我抛第101次,出现正、反的概率是不是相等。我认为是不相等的,出现反面的概率要大于正面。我的理由是,诸如“抛硬币”等独立同分布试验都有无数人试验过,而且次数足够多时,正、反面出现的概率应该是逼近1/2的。也就是说,这个过程,即使是独立同分布的试验它也是有概率的。

    5、提出这个问题之后,我请教了很多同学和老师,大部分同学一开始都是乍一听这个问题,马上对我的观点提出批判,给我列条件概率的公式,举出种种理由,不过都被我推翻了很巧的是,没几天,我在图书馆过期期刊阅览室找到一篇关于独立同分布的newman定理推广到markov链过程的文章,见97年《应用统计研究》,我看不大懂,复印了下来,去请教我们系数理统计方面比较权威的老师,他的答复我基本满意。他将数理统计可以分为两大类:频率统计学派和贝叶斯统计学派。

    目前,国内的数理统计主要是频率统计。又给我分析了什么是先验概率,先验概率和条件概率有什么区别,他认为:在“抛硬币”试验当中,硬币的均匀分布和抛的公正是先验条件或先验概率,但是抛100次正面却是条件概率,接着他又解释了概率的记忆功能,他讲当贝努利试验次数不够大的时候,它不具有记忆功能,次数足够大的时候,也就是服从二项分布时,具有记忆功能。这时,连续抛很多次正面就可以算作是先验概率。但这样,我又不懂了。我认为,即使只刚抛过1次,如果考虑这个过程的话,对第二次的结果也应该是有影响的,你们认为呢?这个问题,这位老师也没能解释好。

    研究这个问题的启示或者意义:

    1、推翻了一些东西,可能很大,也可能是我牛角尖钻的太深了

    2、一个试验,我在一间屋子里做“抛硬币”的试验,我“一不小心”连续抛出了100次正面,这里请你不要怀疑硬币质地的均匀和我抛法的不公正,这时,你推门进了实验室,我和你打赌,下次抛硬币会出现反面,给你很高的赌注。因为我知道我已经抛了100次正面,在这个过程中正反面出现的概率是要往1:1均衡的。但是我不会告诉你,我已经连续抛了100次正面。你当然认为正反面出现的概率是1:1,而且你的理论依据也是正确的。但是,你的正确的理论可能会使你输钱的。

    3、研究这个问题,我是想提出两个问题:其一,正确的理论可能得不出正确的结果,其二,信息的不对称问题。 验前概率就是通常说的概率,验后概率是一种条件概率,但条件概率不一定是验后概率。贝叶斯公式是由验前概率求验后概率的公式。举一个简单的例子:一口袋里有3只红球、2只白球,采用不放回方式摸取,求:⑴ 第一次摸到红球(记作A)的概率;⑵ 第二次摸到红球(记作B)的概率;⑶ 已知第二次摸到了红球,求第一次摸到的是红球的概率。解:⑴ P(A)=3/5,这就是验前概率;⑵ P(B)=P(A)P(B|A)+P(A逆)P(B|A逆)=3/5⑶ P(A|B)=P(A)P(B|A)/P(B)=1/2,这就是验后概率

    文章转载出处链接: http://blog.csdn.net/ouyang_linux007/article/details/7566339
    展开全文
  • 先验概率和后验概率理解

    万次阅读 多人点赞 2018-11-02 19:50:19
    2)后验:当下由因及果的概率; 2、网上有个例子说的透彻: 1)先验——根据若干年的统计(经验)或者气候(常识),某地方下雨的概率; 2)似然——下雨(果)的时候有乌云(因/证据/观察的数据)的概率,...
  • 先验概率后验概率的定义 先验概率(prior probability)是指根据以往经验分析得到的概率,如全概率公式,它往往作为"由因求果"问题中的"因"出现的概率(由因到果) 后验概率是信息理论的基本概念之一。在一个...
  • 先验概率 先验概率是指根据以往经验分析得到的概率,如全概率公式 中的 ,它往往作为“由因求果”...先验概率和后验概率是相对的。如果以后还有新的信息引入,更新了现在所谓的后验概率,得到了新的概率值,那么...
  • 话不多说,我因为在学习朴素贝叶斯的时候有点分不清楚先验概率后验概率,所以就网上找了一些资料,大家各有各的理解,但感觉还是不太能从定义上区分,所以就有了下面这张图: 图里面说的还是比较清晰的,大家有...
  • 1.贝叶斯法则 2.先验概率和后验概率 3.贝叶斯公式 4.极大后验假设 5.极大似然假设 6.举例

空空如也

空空如也

1 2 3 4 5 ... 20
收藏数 41,748
精华内容 16,699
关键字:

先验概率和后验概率