精华内容
下载资源
问答
  • 2022-05-08 12:36:17

    先验概率(prior probability):

    先验概率是指根据以往经验和分析得到的概率,如全概率公式,它往往作为"由因求果"问题中的"因"出现的概率。

    在贝叶斯统计推断中,不确定数量的先验概率分布是在考虑一些因素之前表达对这一数量的置信程度的概率分布。

    例如,先验概率分布可能代表在将来的选举中投票给特定政治家的选民相对比例的概率分布。

    未知的数量可以是模型的参数或者是潜在变量。

    后验概率(posterior probability):

    事情还没有发生,要求这件事情发生的可能性的大小,是先验概率。事情已经发生,要求这件事情发生的原因是由某个因素引起的可能性的大小,是后验概率。

    后验概率是指在得到“结果”的信息后重新修正的概率,是“执果寻因”问题中的"果"先验概率与后验概率有不可分割的联系,后验概率的计算要以先验概率为基础 。

    后验概率是信息理论的基本概念之一。在一个通信系统中,在收到某个消息之后,接收端所了解到的该消息发送的概率称为后验概率。

    先验概率不是根据有关自然状态的全部资料测定的,而只是利用现有的材料(主要是历史资料)计算的;后验概率使用了有关自然状态更加全面的资料,既有先验概率资料,也有补充资料;

    先验概率的计算比较简单,没有使用贝叶斯公式;而后验概率的计算,要使用先验概率、贝叶斯公式,而且在利用样本资料计算逻辑概率时,还要使用理论概率分布,需要更多的数理统计知识。

    贝叶斯公式(Bayes theorem/rule):

     

     这就是大名鼎鼎的贝叶斯公式。

    千万不要觉得它平淡无奇,只是数学公式的推导和罗列。实际上,这个公式里包含了全概率公式、条件概率、贝叶斯准则。我们来挖掘一下里面所蕴藏的重要内涵。

    贝叶斯公式将条件概率P(A|B)和条件概率P(B|A)紧密地联系起来,其最根本的数学基础就是P(A|B)P(B)=P(B|A)P(A),它们都等于P(AB)。

    那这里面具体的深刻内涵是什么呢?我们接着往下看。

    本质内涵:由因到果,由果推因

    在现实中,我们可以把事件A看作结果,把事件B1,B2,...,Bn看作导致这个结果的各种原因。那么,我们所介绍的全概率公式

    P(A)=P(B1)P(A|B1)+P(B2)P(A|B2)+...+P(Bn)P(A|Bn)

    就是由各种原因推理出结果事件发生的概率,是由因到果。

    但是,实际上还存在着一类重要的应用场景:我们在日常生活中常常是观察到某种现象,然后去反推造成这种现象的各种原因的概率。简单来说,就是由果推因。

    由贝叶斯公式最终求得的条件概率P(Bi|A),就是在观察到结果事件A已经发生的情况下,推断结果事件A是由原因Bi造成的概率的大小,以支撑我们后续的判断。

    概率P(Bi)被称为先验概率,指的是在没有别的前提信息情况下的概率值,这个值一般需要借助我们的经验去估计。而条件概率P(Bi|A)被称作后验概率,它代表了在获得“结果事件A发生”这个信息之后原因Bi出现的概率,可以说后验概率是先验概率在获取了新信息之后的一种修正。
     

    本学习笔记中,贝叶斯公式讲解链接:

    https://blog.csdn.net/zw0Pi8G5C1x/article/details/113009664

    更多相关内容
  • 3、先验概率 4、后验概率 5、贝叶斯(bayes)公式 介绍这些概念之前,首先需要了解条件概率及全概率公式。 1、条件概率 在事件 B 发生的条件下事件 A 发生的概率。 P(AB) 为 A、B 同时发生的概率,在独立同...

    目录

    1、条件概率

    2、全概率公式

    3、先验概率

    4、后验概率

    5、贝叶斯(bayes)公式


    介绍这些概念之前,首先需要了解 条件概率 及 全概率公式 

    1、条件概率

    在事件 B 发生的条件下事件 A 发生的概率。

    P(AB) 为 A、B 同时发生的概率,在独立同分布的情况下 P(AB)=P(A)P(B)。

    2、全概率公式

    假如事情 A 的发生可能有 B1、B2… 多种原因导致,则

     为试验 E 样本空间的一个划分,A 为试验 E 的事件。

    3、先验概率

    根据以往经验或数据分析得到的已知(原因、类别、途径等的)概率。

    4、后验概率

    若先验概率为 P(A) ,则称 P(A|b) 为后验概率,即得到 b 的信息之后计算得出的概率,判断结果(b)的发生是由哪个原因(A)引起的概率。后验概率有点事后诸葛亮的意思,就是事情发生后我再去找导致这个事件的原因。

    5、贝叶斯(bayes)公式

    贝叶斯公式就是用来计算后验概率的一种方式,公式如下

    贝叶斯公式主要用于当观察到一个事件(b)已经发生时,去求导致该事件发生的各种原因、情况、途径或事件的种类的可能性大小。公式中使用的 P(b|A) 称作类条件概率,即由原因得到某件事情可能发生的概率。

    例如,在机器学习领域中,若 b 是一张图片,把 b 作为网络的输入,则后验概率 P(A|b) 可以作为 b 属于类别 A 的概率。

    展开全文
  • 贝叶斯公式的理解(先验概率/后验概率)

    万次阅读 多人点赞 2019-06-22 22:00:35
    原文:贝叶斯公式的直观理解(先验概率/后验概率) 前言  以前在许学习贝叶斯方法的时候一直不得要领,什么先验概率,什么后验概率,完全是跟想象脱节的东西,今天在听喜马拉雅的音频的时候突然领悟到,贝叶斯老人家当时...

    原文:贝叶斯公式的直观理解(先验概率/后验概率)

    前言

      以前在许学习贝叶斯方法的时候一直不得要领,什么先验概率,什么后验概率,完全是跟想象脱节的东西,今天在听喜马拉雅的音频的时候突然领悟到,贝叶斯老人家当时想到这么一种理论前提可能也是基于一种人的直觉.

    下面的定义摘自百度百科:

    先验概率是指根据以往经验和分析得到的概率,如全概率公式,它往往作为"由因求果"问题中的"因"出现.

    后验概率是指依据得到"结果"信息所计算出的最有可能是那种事件发生,如贝叶斯公式中的,是"执果寻因"问题中的"因".

     

    举个栗子

      首先我想问一个问题,桌子上如果有一块肉喝一瓶醋,你如果吃了一块肉,然后你觉得是酸的,那你觉得肉里加了醋的概率有多大?你说:80%可能性加了醋.OK,你已经进行了一次后验概率的猜测.没错,就这么简单.

     

    形式化:

      我们设A为加了醋的概率,B为吃了之后是酸的概率.C为肉变质的概率

    思考思考再思考

      那么先验概率在这个公式中有没有出现呢?有,P(A)就是一种先验概率.

      那么什么是P(B|A)呢? 类条件概率.

      那么P(B|A)为什么叫类条件概率呢?马上解释.

      在写这个随笔之时,我脑子中又有一种构想,所谓的后验概率,是一种果因概率,即在一个结果已经发生的条件下,可能是其中某一个原因造成的概率有多大.这里引用一段"概率论与数理统计"[2]中关于贝叶斯公式的解释:

    那么这个P(原因1导致结果)和P(结果|原因1)之间到底有什么联系呢?让我们举一个图像识别的例子

    再举个栗子

      假如给你一些图片,这些图片中有的图上有动物的角,这些图片占了1/10(即先验概率),且已知在有角的条件下是犀牛的概率是0.8(类条件概率1,注意这个概率互补的概率是有角条件下不是犀牛的概率),已知在无角条件下是犀牛概率的是0.05(类条件概率2),现在拿起一张图,发现是一张犀牛的图,那么这张图上带角的概率有多大(求后验概率)

     

    由图中公式可知P(图片上由动物的角|是犀牛) = 0.8*0.1/(0.8*0.1+0.05*0.9)=0.64

      可以看到P(图片上由动物的角且是犀牛)=0.08与P(是犀牛|图片上由动物的角)=0.8之间差别非常大.

      再通过比较可以发现,分母中的类条件概率实际上把一个完整的问题集合S通过特征进行了划分,划分成S1/S2/S3...,拿我刚刚提出的所谓果因概率来讨论,类条件概率中的类指的是把造成结果的所有原因一(yi) 一(yi)进行列举,分别讨论.

    总结:

    我想之所以贝叶斯方法在机器学习中如此重要,就是因为人们希望机器人能像人那样思考,而很多问题是需要计算机在已知条件下做出最佳决策的决策,而贝叶斯公式就是对人脑在已知条件下做出直觉判断的一种数学表示.

    参考:

    数学之美---先验概率与后验概率、贝叶斯区别与联系

    先验概率,后验概率

     

     

    展开全文
  • 贝叶斯公式-先验概率/后验概率

    千次阅读 2020-07-02 15:56:14
    贝叶斯公式-先验概率/后验概率 欢迎使用Markdown编辑器 你好! 这是你第一次使用 Markdown编辑器 所展示的欢迎页。如果你想学习如何使用Markdown编辑器, 可以仔细阅读这篇文章,了解一下Markdown的基本语法知识。 新...

    贝叶斯公式-先验概率/后验概率

    先验概率/后验概率的概念解释

    先验概率:事情还没有发生,根据以往的经验来判断事情发生的概率。比如掷塞子,比如投硬币,我们在事情发生之前就可以预测掷塞子是一点的概率是1/6,硬币正面的概率是1/2,这是根据人的常识或者实验数据判断的。
    后验概率:事情已经发生了,有多中原因,判断事情的发生是由哪一种原因引起的。
    这里举一个例子,Q市一共有两个学校,A和B,A学校有50名男生,50名女生;B学校有30名男生,70名女生。现在我们在Q市随机找一个学生,是男生的概率是40%,这是先验概率。我们在Q市发现一个男生,问这个男生是A学校学生的概率,这是后验概率。

    计算公式举例

    “概率论只不过是把常识用数学公式表达了出来”—拉普拉斯

    现在我们把之前举得例子用公式表示出来,更加方便于理解。
    先验概率:我们在Q市随机找一个学生,是男生的概率是40%。
    在这里插入图片描述
    后验概率:我们在Q市发现一个男学生,问这个男生是A学校学生的概率。在这里插入图片描述
    这里需要简单说明一下,在上面这个公式里面不仅仅包含了后验概率。P(男生),P(A校的)都是先验概率。P(男生|A校的)是类条件概率(就是已知一个条件下,结果发生的概率。类条件概率中的类指的是把造成结果的所有原因一 一进行列举,分别讨论)。

    进一步举例

    下面我们对上面的例子进一步细化,加深理解。

    Q市一共有两个学校,A和B,A学校有50名男生,50名女生;B学校有30名男生,70名女生。A校男生理短发的概率为90%,女生理短发的概率为30%;B校男生理短发的概率为100%,女生理短发的概率为20%。现在发现了一个学生理短发,请问他是B校女生的概率为多少。这又是一个后验概率的问题。

    在这里插入图片描述
    这里的P(短发)的展开是全概率公式,计算所有可能导致短发结果的概率。再用P(B校的,且是女生,且是短发)与之相比,得到结果。

    总结

    简单的讲了一下贝叶斯公式中的先验概率/后验概率,相当于一个事件的正推和反推,将人们在事物判断中的逻辑具体为严谨直观的公式。

    展开全文
  • 贝叶斯公式理解(先验概率/后验概率)

    万次阅读 多人点赞 2018-07-31 11:54:46
    转载自... (1)条件概率公式  设A,B是两个事件,且P(B)>0,则在事件B发生的条件下,事件A发生的条件概率(conditional probability)为:  P(A|B)=P(AB)/P(B)   (2)乘法公式  ...
  • 关于如何理解/ 记住贝叶斯公式里的先验、后验以及似然。有一个关于编译器的巧妙的例子: 假设今天Alice结束了漫长的期末复习周,准备打开电脑准备半个月前的代码工作,结果发现程序出现了重大错误,那么Alice遇到的...
  • 机器学习34:贝叶斯先验概率: 理解贝叶斯先验概率是为了更好的理解正则化的概念。 (1)贝叶斯先验概率贝叶斯后验概率: 1.先验概率是指根据以往经验和分析得到的概率,即在事情发生之前事情发生的概率。它...
  • 1.基础知识点 【1】条件概率公式 在b的条件下a发生的概率=a、b同时发生的概率/b发生的概率 理解:因为a、b同时发生的概率里已经包含了b发生的概率,所以要将b的概率除掉
  • 贝叶斯公式贝叶斯公式是机器学习中的基础公式,也是概率统计里的常用公式,贝叶斯公式常用于监督学习算法中的生成(式)模型(Generative Model),想要对机器学习算法建立体系化的知识结构,对生成模型的理解至关...
  • 先验概率(prior probability)是指根据以往经验和分析得到的概率,如全概率公式,它往往作为"由因求果"问题中的"因"出现的概率(由因到果) 后验概率是信息理论的基本概念之一。在一个通信系统中,在收到某个消息...
  • 贝叶斯先验概率和后验概率

    千次阅读 2020-03-01 19:08:54
    贝叶斯公式究竟是什么意思,在现实中的含义是什么,什么是先验概率,什么是后验概率? 问题: 如下图所示:在一个群体中,有20个人。感冒5人,流感6人,脑膜炎4人,脑瘫3人,正常2人。 以B为例,解释一下。B...
  • 通常称各“原因”的概率称为先验概率,“结果”B发生的条件下各“原因”的概率称为后验概率,前者往往...也就是说,贝叶斯公式就是利用先验概率去求后验概率。 ...
  • 概率公式 基本思想“先化整为零,再聚零为整” 例题1:人的性别由一对性染色体决定:男为XY,女为XX,每个人从父母处各得到一个性染色体,色盲基因由X染色体携带,且若男性的X染色体有此基因则男性患色盲,女性...
  • 已知先验分布概率和条件概率,使用贝叶斯公式,求后验分布的概率
  • 贝叶斯定理先验概率 贝叶斯定理 (Bayes Theorem) Bayes theorem, given by Reverend Thomas Bayes and thus named after him, is a method to find the probability of an event whose occurrence is dependent on ...
  • 我想之所以贝叶斯方法在机器学习中如此重要,就是因为人们希望机器人能像人那样思考,而很多问题是需要计算机在已知条件下,做出最佳决策的决策 而贝叶斯公式正是,对人脑在已知条件下做出直觉判断的一种数学表示
  • 1.朴素贝叶斯模型 ...2. 先验概率P(Y=Ck)公式推导 先贴上李航书上的公式: 其中:I 是指示函数,当 yi = ck 时,返回1,否则返回0。比如 有4个y值分别是 y1=1, y2=2,y3=1,y4=1, 则 现在开始我们的表演: 1) Y 表
  • 在训练之前的初始概率:P(w)后验概率:在有了样本数据以后,对变量进行概率的修正,得到的概率就是后验概率,,例如g是样本,则后验概率是:P(w | g)贝叶斯公式:从形式上讲,贝叶斯公式通过先验概率和似然函数求取...
  • 例子: 开车的时候,如果前面的挡风玻璃坏了,那我们怎么判断什么...新的信息出现了,此时如果右转,错误的概率就比之前小很多。这就是贝叶斯定理所阐述的思考方法。 数学描述 本质理解 贝叶斯与人脑机制类似 ...
  • 参考链接:https://www.cnblogs.com/yemanxiaozu/p/7680761.html
  • 通俗的讲,先验概率就是事情尚未发生前,我们对该事发生概率的估计,例如全概率公式中P(B)就是先验概率,求解方法有很多种,全概率公式是一种,也可以根据经验等,例如抛一枚硬币头向上的概率为0.5。 后验概率则是...
  • 朴素贝叶斯中的朴素是指时间之间相互独立 先说下mnist中的条件,有十个数字图片,1-9全部等分 如果模型的正确率是95%,错误率5% ...先验概率:在进行实验之前,就已经得到的概率,这里是 10%,因为数据是1...
  • 可得贝叶斯公式,也称贝叶斯定理、贝叶斯法则: P(A|B)=P(B|A)P(A)/P(B) 通常,事件A在事件B(发生)的条件下的概率,与事件B在事件A的条件下的概率是不一样的;然而,这两者是有确定的关系,贝叶斯法则就是这种关系的...
  • 本文为转载。 Original url: http://m.blog.csdn.net/article/details?id=49130173 Original url: ... 一、先验概率、后验概率、贝叶斯公式、似然函数 ...
  • 先验概率与后验概率及贝叶斯公式

    万次阅读 多人点赞 2010-09-02 21:26:00
    后验概率是指在得到“结果”的信息后重新修正的概率,如贝叶斯公式中的,是“执果寻因”问题中的“因”。先验概率与后验概率有不可分割的联系,后验概率的计算要以先验概率为基础。二、A prior probability is a ...
  • 可以用它来理解条件概率、先后验概率、全概率公式和贝叶斯公式,非常划算。 大概是一个这样的问题:有一个信号的发射端和接收端。发射端只发射A、B两种信号,其中发射信号A的概率为0.6,发射信号B的概率为0.4。当...
  • 先验概率:是指根据以往经验和分析得到的概率。如全概率公式,他往往作为“由因求果”问题中的“因”出现。 后验概率:是指得到“结果”的信息后重新修正的概率。 我的理解就是,先验的过程就相当于做实验,获取...

空空如也

空空如也

1 2 3 4 5 ... 20
收藏数 16,355
精华内容 6,542
关键字:

贝叶斯公式先验概率