精华内容
下载资源
问答
  • 先验概率代码 python版遗传算法 更好阅读体验,请访问( ) 遗传算法(genetic algorithm, GA)是一种进化算法,其基本原理是仿效生物界中的“物竞天择,适者生存”的演化法则。遗传算法是把问题参数编码为染色体,再...
  • matlab 先验证代码计算神经科学教程 这是用于我的计算神经科学讲座的 git 教程。 神经代码的计算模型 了解信息如何编码和存储在神经回路中是脑科学的基本问题之一。 本课程将介绍一些基本的神经编码模型,首先关注...
  • 五分钟了解先验概率和后验概率 本文摘自我的公众号【车子的心智探索】 欢迎关注我! 不理解先验概率和后验概率?莫慌,本文可以帮你。 从面积的角度看概率 在说正题之前,咱们从面积的角度认识一下概率。 拿掷骰子...

    五分钟了解先验概率和后验概率

    本文摘自我的公众号【车子的心智探索】
    欢迎关注我!

    在这里插入图片描述

    不理解先验概率和后验概率?莫慌,本文可以帮你。

    从面积的角度看概率

    在说正题之前,咱们从面积的角度认识一下概率。

    拿掷骰子来说,每个点的概率是相等的,因为总概率是 1,所以每个点数的概率是 1/6。我们用格子的大小来表示概率,那么掷骰子的概率图是这样的:

    在这里插入图片描述

    如果把掷出的点数小于等于 4 记作事件 F,问你 P(F) 等于多少,你会说等于 4/6 = 2/3.

    如果用面积图来算呢?把对应点数的面积加起来就可以。

    四个方块的面积之和 = 1/6 * 4 = 2/3

    在这里插入图片描述

    某种可能性消失

    我洗好了 52 张扑克牌摆在你面前,扑克牌背面朝上。如果我问你,最上面这张是黑桃的概率是多少?你肯定会说四分之一。因为扑克牌共有四种花色,每一种花色的可能性都是相等的。

    但是,我趁你不注意的时候偷看了一眼最上面的牌,然后告诉你这张牌是黑色的。这时候我再问你,最上面这张是黑桃的概率是多少?

    因为已经确定花色是黑色,所以红桃或方块的可能性不存在了,只有可能是黑桃或梅花,所以,你推测这张牌是黑桃的概率为二分之一。

    画图解释就是:

    在这里插入图片描述

    从面积角度看,整个过程是这样的:

    在这里插入图片描述

    当得知花色是黑色的时候,表示红桃和方块的两个方形不见了,只剩下黑桃和梅花,因为概率之和总是 1,所以把它们各自的面积向上伸展,直到总和为 1。注意,在伸展的同时要保持黑桃和梅花的面积比例不变,于是结果就是各占 1/2。

    当然,也可以更简单,既然要保持黑桃和梅花的面积比例不变,不妨假设都伸展 k 倍。

    黑 桃 的 面 积 总 面 积 = 1 4 k 1 4 k + 1 4 k = 1 4 1 4 + 1 4 = 1 2 \frac{黑桃的面积}{总面积}=\frac{\frac{1}{4}k}{\frac{1}{4}k+\frac{1}{4}k}=\frac{\frac{1}{4}}{\frac{1}{4}+\frac{1}{4}}=\frac{1}{2} =41k+41k41k=41+4141=21

    又因为总面积为 1,所以黑桃的面积是 1/2.

    好了,进入正题。

    先验概率与后验概率

    看这样一个问题:

    假设某种癌症的患病率为0.1%(0.001)。有一个简易的方法能够检查出是否患病,但是不能百分之百检查出——患上这种癌症的人中有 95%(0.95)的概率被诊断为阳性;另一方面,健康人群也有 2%(0.02)的可能性被误诊为阳性。如果你的检查结果是阳性,请问你实际患上这种癌症的概率为多少?

    这里的患病率就是先验概率。

    如果要在检查前推测自己是否罹患这种癌症,概率图如下。左侧条形的面积是 0.001,右侧矩形的面积是 0.999,分别表示得癌症的概率和健康的概率。

    在这里插入图片描述

    通过流行病学数据可知,这种癌症的罹患率为 0.001。也就是说,1000 人中有 1 人罹患这种癌症。在没有任何个人信息的情况下,你属于图中左侧世界的概率是 0.001,属于右侧世界的概率是 0.999。

    按照题目信息,可以制作一个表格。

    在这里插入图片描述

    先看癌症患者这行,在患癌症的情况下,检查结果呈阳性的概率为 0.95。也就是说,如果你真得了癌症,能检查出来的概率为 95%。还有 5% 的概率查不出来。

    再看健康者这行,如果你是健康人,那么误诊为阳性的概率为 2%,准确诊断为阴性的概率是 98%。

    所以,检查存在着误诊的风险。所谓的风险包含以下两种情况:

    1. 身患癌症,却诊断没有患病
    2. 健康,却误诊为患病

    在前面那张图的基础上,我们可以根据阳性率和阴性率继续分割。

    左侧是患癌症这一类别,把这个条形按照面积之比 0.95:0.05 来分割 ,那么患癌呈阳性的概率是 0.001*0.95;同理,可以算出其他三部分的概率(面积)。

    在这里插入图片描述

    当你做完检查,肯定属于以下四种可能性中的一种:

    1. 患癌并呈现阳性(左上区域)
    2. 患癌并呈现阴性(左下区域)
    3. 健康并呈现阳性(右上区域)
    4. 健康并呈现阴性(右下区域)

    再回到原题,你的检查结果呈阳性,于是之前的 4 种情况就变成 2 种了。

    在这里插入图片描述

    同前面扑克牌问题的计算方法类似,你患癌症的概率是 0.095% ÷ (0.095% + 1.998%)= 0.045(保留三位小数)。

    从这个结果可知,在得知阳性这一检查结果的情况下,你罹患这种癌症的概率约为 4.5% ,这便是后验概率。

    频率树的方法

    还有一种方法值得介绍,就是频率树。假设总人口是 10 万人,根据各种情况,最后可以生成一棵树。

    在这里插入图片描述
    是不是这种方法更直观呢?

    -----【End】-----

    参考资料
    小岛宽之.(2018).统计学关我什么事:生活中的极简统计学.北京时代华文书局.

    展开全文
  • 例子: 开车的时候,如果前面的挡风玻璃坏了,那我们怎么判断什么...新的信息出现了,此时如果右转,错误的概率就比之前小很多。这就是贝叶斯定理所阐述的思考方法。 数学描述 本质理解 贝叶斯与人脑机制类似 ...

    贝叶斯定理

    https://www.matongxue.com/madocs/301/

    例子:
    开车的时候,如果前面的挡风玻璃坏了,那我们怎么判断什么时候右转,
    已知这条道路
    在这里插入图片描述
    在这里插入图片描述
    所我们可以通过后视镜观察后面车的动向居然是否右转
    新的信息出现了,此时如果右转,错误的概率就比之前小很多。这就是贝叶斯定理所阐述的思考方法。

    数学描述
    在这里插入图片描述在这里插入图片描述

    本质理解
    在这里插入图片描述
    贝叶斯与人脑机制类似

    先验概率 、后验概率

    • 先验概率是 以全事件为背景下,A事件发生的概率,P(A|Ω)
      全事件一般是统计获得的,所以称为先验概率,没有实验前的概率

    • 后验概率是 以新事件B为背景下,A事件发生的概率, P(A|B)
      新事件一般是实验,如试验B,此时的事件背景从全事件变成了B,该事件B可能对A的概率有影响,那么需要对A现在的概率进行一个修正,从P(A|Ω)变成 P(A|B),所以称 P(A|B)为后验概率,也就是试验(事件B发生)后的概率

    在这里插入图片描述

    在这里插入图片描述

    朴素贝叶斯分类算法

    传送门

    • 贝叶斯分类是一类分类算法的总称,这类算法均以贝叶斯定理为基础,故统称为贝叶斯分类。而朴素朴素贝叶斯分类是贝叶斯分类中最简单,也是常见的一种分类方法

    核心算法:
    在这里插入图片描述
    例子分析
    给定数据
    在这里插入图片描述问题

    • 现在给我们的问题是,如果一对男女朋友,男生想女生求婚,男生的四个特点分别是不帅,性格不好,身高矮,不上进,请你判断一下女生是嫁还是不嫁?

    转化为数学公式
    在这里插入图片描述成立条件

    • 这个等式成立的条件需要特征之间相互独立。这也就是为什么朴素贝叶斯分类有朴素一词的来源,朴素贝叶斯算法是假设各个特征之间相互独立,那么这个等式就成立了!

    为什么需要假设特征之间相互独立?

    • 如果特征不独立,我们这个例子有4个特征,其中帅包括{帅,不帅},性格包括{不好,好,爆好},身高包括{高,矮,中},上进包括{不上进,上进},那么四个特征的联合概率分布总共是4维空间,总个数为233*2=36个。现实情况往往更复杂,这样我们无法通过样例来统计出概率
    • 而独立的条件下,上述公式就可以拆成分开连乘形式
      在这里插入图片描述这样子就可以根据上面的表格求出各个条件概率代入计算

    朴素贝叶斯分类的优缺点

    • 优点:

      • 算法逻辑简单,易于实现
      • 分类过程中时空开销小
    • 缺点:

      • 理论上,朴素贝叶斯模型与其他分类方法相比具有最小的误差率。但是实际上并非总是如此,这是因为朴素贝叶斯模型假设属性之间相互独立,这个假设在实际应用中往往是不成立的,在属性个数比较多或者属性之间相关性较大时,分类效果不好
    • 而在属性相关性较小时,朴素贝叶斯性能最为良好。对于这一点,有半朴素贝叶斯之类的算法通过考虑部分关联性适度改进。

    展开全文
  • 贝叶斯公式的理解(先验概率/后验概率)

    万次阅读 多人点赞 2019-06-22 22:00:35
    原文:贝叶斯公式的直观理解(先验概率/后验概率) 前言  以前在许学习贝叶斯方法的时候一直不得要领,什么先验概率,什么后验概率,完全是跟想象脱节的东西,今天在听喜马拉雅的音频的时候突然领悟到,贝叶斯老人家当时...

    原文:贝叶斯公式的直观理解(先验概率/后验概率)

    前言

      以前在许学习贝叶斯方法的时候一直不得要领,什么先验概率,什么后验概率,完全是跟想象脱节的东西,今天在听喜马拉雅的音频的时候突然领悟到,贝叶斯老人家当时想到这么一种理论前提可能也是基于一种人的直觉.

    下面的定义摘自百度百科:

    先验概率是指根据以往经验和分析得到的概率,如全概率公式,它往往作为"由因求果"问题中的"因"出现.

    后验概率是指依据得到"结果"信息所计算出的最有可能是那种事件发生,如贝叶斯公式中的,是"执果寻因"问题中的"因".

     

    举个栗子

      首先我想问一个问题,桌子上如果有一块肉喝一瓶醋,你如果吃了一块肉,然后你觉得是酸的,那你觉得肉里加了醋的概率有多大?你说:80%可能性加了醋.OK,你已经进行了一次后验概率的猜测.没错,就这么简单.

     

    形式化:

      我们设A为加了醋的概率,B为吃了之后是酸的概率.C为肉变质的概率

    思考思考再思考

      那么先验概率在这个公式中有没有出现呢?有,P(A)就是一种先验概率.

      那么什么是P(B|A)呢? 类条件概率.

      那么P(B|A)为什么叫类条件概率呢?马上解释.

      在写这个随笔之时,我脑子中又有一种构想,所谓的后验概率,是一种果因概率,即在一个结果已经发生的条件下,可能是其中某一个原因造成的概率有多大.这里引用一段"概率论与数理统计"[2]中关于贝叶斯公式的解释:

    那么这个P(原因1导致结果)和P(结果|原因1)之间到底有什么联系呢?让我们举一个图像识别的例子

    再举个栗子

      假如给你一些图片,这些图片中有的图上有动物的角,这些图片占了1/10(即先验概率),且已知在有角的条件下是犀牛的概率是0.8(类条件概率1,注意这个概率互补的概率是有角条件下不是犀牛的概率),已知在无角条件下是犀牛概率的是0.05(类条件概率2),现在拿起一张图,发现是一张犀牛的图,那么这张图上带角的概率有多大(求后验概率)

     

    由图中公式可知P(图片上由动物的角|是犀牛) = 0.8*0.1/(0.8*0.1+0.05*0.9)=0.64

      可以看到P(图片上由动物的角且是犀牛)=0.08与P(是犀牛|图片上由动物的角)=0.8之间差别非常大.

      再通过比较可以发现,分母中的类条件概率实际上把一个完整的问题集合S通过特征进行了划分,划分成S1/S2/S3...,拿我刚刚提出的所谓果因概率来讨论,类条件概率中的类指的是把造成结果的所有原因一(yi) 一(yi)进行列举,分别讨论.

    总结:

    我想之所以贝叶斯方法在机器学习中如此重要,就是因为人们希望机器人能像人那样思考,而很多问题是需要计算机在已知条件下做出最佳决策的决策,而贝叶斯公式就是对人脑在已知条件下做出直觉判断的一种数学表示.

    参考:

    数学之美---先验概率与后验概率、贝叶斯区别与联系

    先验概率,后验概率

     

     

    展开全文
  • 贝叶斯公式的直观理解(先验概率/后验概率) </div> 前言  以前在许学习贝叶斯方法的时候一直不得要领,什么先验概率,什么后验概率,完全是跟想象脱节的东西,今天在听喜马拉雅的音频的时候突然领悟到,贝叶斯...

    https://www.cnblogs.com/Arborday/p/10801675.html

    贝叶斯公式的直观理解(先验概率/后验概率)

    </div>
    

    前言

      以前在许学习贝叶斯方法的时候一直不得要领,什么先验概率,什么后验概率,完全是跟想象脱节的东西,今天在听喜马拉雅的音频的时候突然领悟到,贝叶斯老人家当时想到这么一种理论前提可能也是基于一种人的直觉.

    先验概率:是指根据以往经验和分析得到的概率.[1]

      意思是说我们人有一个常识,比如骰子,我们都知道概率是1/6,而且无数次重复实验也表明是这个数,这是一种我们人的常识,也是我们在不知道任何情况下必然会说出的一个值.而所谓的先验概率是我们人在未知条件下对事件发生可能性猜测的数学表示!*

    后验概率:事情已经发生,要求这件事情发生的原因是由某个因素引起的可能性的大小[1]

    举个栗子

      首先我想问一个问题,桌子上如果有一块肉喝一瓶醋,你如果吃了一块肉,然后你觉得是酸的,那你觉得肉里加了醋的概率有多大?你说:80%可能性加了醋.OK,你已经进行了一次后验概率的猜测.没错,就这么简单.

    形式化:

      我们设A为加了醋的概率,B为吃了之后是酸的概率.C为肉变质的概率

    思考思考再思考

      那么先验概率在这个公式中有没有出现呢?有,P(A)就是一种先验概率.

      那么什么是P(B|A)呢? 类条件概率.

      那么P(B|A)为什么叫类条件概率呢?马上解释.

      在写这个随笔之时,我脑子中又有一种构想,所谓的后验概率,是一种果因概率,即在一个结果已经发生的条件下,可能是其中某一个原因造成的概率有多大.这里引用一段"概率论与数理统计"[2]中关于贝叶斯公式的解释:

    "如果我们把事件A看做'结果',把诸事件B1,B2...看做导致这个结果的可能的'原因',则可以形象地把全概率公式看做成为'由原因推结果';而贝叶斯公式则恰好相反,其作用于'由结果推原因':现在有一个'结果'A以发生,在众多可能的'原因'中,到底是哪一个导致了这结果"

    ,这也佐证了我构想的正确性

        那么这个P(原因1导致结果)和P(结果|原因1)之间到底有什么联系呢?让我们举一个图像识别的例子

    再举个栗子

      假如给你一些图片,这些图片中有的图上有动物的角,这些图片占了1/10(即先验概率),且已知在有角的条件下是犀牛的概率是0.8(类条件概率1,注意这个概率互补的概率是有角条件下不是犀牛的概率),已知在无角条件下是犀牛概率的是0.05(类条件概率2),现在拿起一张图,发现是一张犀牛的图,那么这张图上带角的概率有多大(求后验概率)

      由图中公式可知P(图片上由动物的角|是犀牛) = 0.8*0.1/(0.8*0.1+0.05*0.9)=0.64

      可以看到P(图片上由动物的角且是犀牛)=0.08与P(是犀牛|图片上由动物的角)=0.8之间差别非常大.

      再通过比较可以发现,分母中的类条件概率实际上把一个完整的问题集合S通过特征进行了划分,划分成S1/S2/S3...,拿我刚刚提出的所谓果因概率来讨论,类条件概率中的类指的是把造成结果的所有原因一(yi) 一(yi)进行列举,分别讨论.

    总结:

    "概率论只不过是把常识用数学公式表达了出来"---拉普拉斯

      我想之所以贝叶斯方法在机器学习中如此重要,就是因为人们希望机器人能像人那样思考,而很多问题是需要计算机在已知条件下做出最佳决策的决策,而贝叶斯公式就是对人脑在已知条件下做出直觉判断的一种数学表示.

    参考文献:

    [1].百度百科-先验概率

    [2].概率论与数理统计 --陈希孺

     

     

     

    展开全文
  • 1、先验概率 即在事情发生之前事情发生的概率。是根据以往经验和分析得到的概率。 比如抛硬币,我们都认为正面朝上的概率是0.5,这就是一种先验概率。 2、后验概率 事情已经发生了,事情发生可能有很多原因,...
  • 先验概率:事件发生前的预判概率。可以是基于历史数据的统计,可以由背景常识得出,也可以是人的主观观点给出。一般都是单独事件概率,如P(x),P(y)。 后验概率:事件发生后求的反向条件概率;或者说,基于先验概率...
  • 先验概率和后验概率理解

    万次阅读 多人点赞 2018-11-02 19:50:19
    1)先验:统计历史上的经验而知当下发生的概率; 2)后验:当下由因及果的概率; 2、网上有个例子说的透彻: 1)先验——根据若干年的统计(经验)或者气候(常识),某地方下雨的概率; 2)似然——下雨(果)...
  • 先验概率与后验概率浅析

    千次阅读 2018-07-23 10:33:23
    先验概率和后验概率 先验(Apriori;又译:先天)在拉丁文中指“来自先前的东西”,或稍稍引申指“在经验之前”。近代西方传统中,认为先验指无需经验或先于经验获得的知识。它通常与后验知识相比较,后验意指“在...
  • 先验概率、后验概率以及共轭先验

    万次阅读 多人点赞 2016-05-11 22:24:35
    在贝叶斯学派的观点中,先验概率、后验概率以及共轭先验的概念非常重要。而在机器学习中,我们阅读很多资料时也要频繁地跟他们打交道。所以理清这些概念很有必要。本文将通过几个例子详细解释关于先验概率、后验概率...
  • 在学习统计学的时候,在概率估计的部分,经常会遇到最大似然估计,最大后验估计等名词,这些似然和后验,都跟贝叶斯准则中的一些名词定义有关。这里参考书籍《Think Bayes》这部书,来记录这些名词。 1. 由糖果例子...
  • 如何理解先验概率和后验概率前言先验概率的分类先验概率与后验概率的区别理解 前言 近代西方传统中,认为先验指无需经验或先于经验获得的知识,它通常与后验知识相比较,后验意思是指“在经验之后,需要经验”。这一...
  • 先验概率与后验概率

    千次阅读 2018-04-15 15:01:04
    先验(A priori;又译:先天)在拉丁文中指“来自先前的东西”,或稍稍引申指“在经验之前”。近代西方传统中,认为先验指无需...先验概率是指根据以往经验和分析得到的概率,如全概率公式 中的,它往往作为“由因...
  • 先验概率和后验概率

    千次阅读 2018-04-10 11:58:23
    先验概率和后验概率先验概率和后验概率的定义如何获取先验概率和后验概率(计算)参考资料1. 初步定义 先验概率:根据以往经验和分析得到的概率。先验概率分为客观先验概率(利用过去的历史资料计算得到的先验概率...
  • 可以用它来理解条件概率、先后验概率、全概率公式和贝叶斯公式,非常划算。 大概是一个这样的问题:有一个信号的发射端和接收端。发射端只发射A、B两种信号,其中发射信号A的概率为0.6,发射信号B的概率为0.4。当...
  • 本文假设大家都知道什么叫条件概率了(P(A|B)表示在B事件发生的情况下,A事件发生的概率)。...先验概率和后验概率 教科书上的解释总是太绕了。其实举个例子大家就明白这两个东西了。 假设我们出门...
  • 机器学习34:贝叶斯先验概率: 理解贝叶斯先验概率是为了更好的理解正则化的概念。 (1)贝叶斯先验概率和贝叶斯后验概率: 1.先验概率是指根据以往经验和分析得到的概率,即在事情发生之前事情发生的概率。它...
  • 先验概率VS后验概率

    2018-12-12 09:53:26
    先验概率P(A) 先验概率,在贝叶斯统计推断中,是一个事件在收集新数据之前的概率。在进行实验之前,这是基于现有知识对结果概率进行的最佳合理评估。 随着新数据或信息的出现,事件发生的先验概率将被修正,以产生...
  • 注:A表示事情的结果,B={B1,B2…}表示事情发生的原因 条件概率 在原因B发生的条件下,结果A发生的概率: ...比如,一次抛硬币实验,我们认为正面朝上的概率是0.5,这就是一种先验概率,在抛硬币前,我们只有常识。...
  • 贝叶斯公式-先验概率/后验概率 欢迎使用Markdown编辑器 你好! 这是你第一次使用 Markdown编辑器 所展示的欢迎页。如果你想学习如何使用Markdown编辑器, 可以仔细阅读这篇文章,了解一下Markdown的基本语法知识。 新...
  • 先验概率跟后验概率(通俗易懂)

    千次阅读 2019-04-09 15:21:52
    先验概率和后验概率教科书上的解释总是太绕了。其实举个例子大家就明白这两个东西了。假设我们出门堵车的可能因素有两个(就是假设而已,别当真):车辆太多和交通事故。堵车的概率就是先验概率 。那么如果我们...
  • 话不多说,我因为在学习朴素贝叶斯的时候有点分不清楚先验概率、后验概率,所以就网上找了一些资料,大家各有各的理解,但感觉还是不太能从定义上区分,所以就有了下面这张图: 图里面说的还是比较清晰的,大家有...
  •   条件概率,全概率,先验概率,后验概率这么多的定义,以前是几乎遇见一次都要百度一次,一看就会,然而没有做好总结下一次还是会忘掉,好记性终究敌不过烂笔头,这次做个总结,一劳永逸,个人愚见,请大家...
  • 先验概率与后验概率的定义 先验概率(prior probability)是指根据以往经验和分析得到的概率,如全概率公式,它往往作为"由因求果"问题中的"因"出现的概率(由因到果) 后验概率是信息理论的基本概念之一。在一个...
  • 已知先验分布概率和条件概率,使用贝叶斯公式,求后验分布的概率
  • 先验概率、后验概率、似然函数

    万次阅读 2016-10-06 19:11:38
    直接看我这篇文章更清楚   搬运了网页各处的解释,有点意思 一、先验概率 先验概率(prior probability)是指根据以往经验和分析...客观先验概率,主观先验概率 释 义 根据以往经验和分析得到的概率 又 ...
  • 简单例子解释先验概率,后验概率,似然估计 简单例子解释先验概率,后验概率,似然估计 后验概率 先验概率 似然估计 1. 2. 3. 总结 简单例子解释先验概率,后验概率,似然估计 参考 ...
  • 前言 以前在许学习贝叶斯方法的时候,一直不得要领,什么先验概率,什么后验概率,完全是跟想象脱节的东西,没法在脑海中构建它们,今天在听喜马拉雅的音频的时候突然感悟到,贝叶斯老人家当时想到这么一种理论的前提...

空空如也

空空如也

1 2 3 4 5 ... 20
收藏数 42,544
精华内容 17,017
关键字:

先验概率