精华内容
下载资源
问答
  • 不确定性推理
    千次阅读
    2021-12-06 14:39:17


    一、 概述

    人工智能经典三大基本技术为:知识表示、推理、搜索策略。推理是人类求解
    问题的主要思维方法。

    无论是人类智能还是人工智能,都离不开不确定性的处理。
    可以说,智能主要反映在求解不确定性问题的能力上。
    因此,不确定性推理模型是人工智能和专家系统的一个核心研究课题。

    为方便记忆和回顾,根据个人学习,总结人工智能基础知识和思维导图形成系列。

    二、 重点内容

    • 不确定性推理的概念及分类
    • 不确定性推理中的基本问题
    • 概率方法及贝叶斯公式
    • 可信度方法
    • 模糊推理

    三、 思维导图

    人工智能导论(4)——不确定性推理

    四、 重点知识笔记

    1. 不确定性推理概述

    1.1 概念

    不确定性推理是指从不确定性的初始证据出发,通过运用不确定性的知识
    推出具有一定程度的不确定性但却合理或近乎合理的结论的思维过程。

    不精确性是科学认识中的重要规律,也是进行机器智能推理的主要工具之一。

    1.2 分类

    不确定性推理方法主要分为控制方法和模型方法两类。

    • 模型方法
      • 数值模型方法
        • 基于概率
          • 概率方法(纯概率法应用受限)
          • 贝叶斯方法
          • 可信度方法
          • 证据理论
        • 基于模糊理论
          • 模糊方法
      • 非数值模型方法
        • 发生率计算方法
    • 控制方法
      • 尚没有统一模型。相关性指导、机缘控制、启发式搜索、随机过程控制等

    控制方法

    控制方法没有处理不确定性的统一模型,其效果极大地依赖于控制策略。

    不确定性推理的控制方法主要取决于控制策略,包括相关性指导、机缘控制、启发式
    搜索、随机过程控制等。

    模型方法

    模型方法具体可分为数值模型方法和非数值模型方法两类。按其依据的理论不同,
    数值模型方法主要有基于概率的方法和基于模糊理论的推理方法。

    纯概率方法虽然有严格的理论依据,但通常要求给出事件的先验概率和条件概率,
    而这些数据又不易获得,因此使其应用受到限制。在概率论的基础上提出了一些
    理论和方法,主要有可信度方法、证据理论、基于概率的贝叶斯推理方法等。

    目前,在人工智能中,处理不确定性问题的主要数学工具有概率论和模糊数学。

    目前常用的不确定性推理的数学方法主要有基于概率的似然推理(Plausible Reasoning)、基于模糊数学的模糊推理(FuzzyReasoning)、可信度方法,
    以及使用人工神经网络算法、遗传算法的计算推理等。

    1.3 基本问题

    所有的不确定性推理方法都必须解决3个问题:

    (1)表示问题

    表示问题指的是采用什么方法描述不确定性。

    在专家系统中,“知识不确定性”一般分为两类:一是规则的不确定性,二是证据的不确定性。

    • 一般用(E→H, f(H,E))来表示规则的不确定性,f(H,E)即相应规则的不确定性程度,称为规则强度。
    • 一般用(命题E, C(E))表示证据的不确定性,C(E)通常是一个数值,代表相应证据的不确定性程度,称为动态强度。

    规则和证据不确定性的程度常用可信度来表示。

    在专家系统MYCIN 中,可信度表示规则及证据的不确定性,取值范围为[−1, 1]

    • 当可信度取大于零时,其数值越大,表示相应的规则或证据越接近于“真”;
    • 当可信度小于零时,其数值越小,表示相应的规则或证据越接近于“假”。

    (2)语义问题

    语义问题指上述表示和计算的含义是什么,即对它们进行解释。即需要对规则和证据的
    不确定性给出度量。

    • 对于证据的不确定性度量C(E),需要定义在下述3种典型情况下的取值:
      • E为真,C(E)=?
      • E为假,C(E)=?
      • 对E一无所知,C(E)=?
    • 规则的不确定性度量f(H,E),需要定义在下述3种典型情况下的取值:
      • 若E为真,则H为真,这时f(H,E)=?
      • 若E为真,则H为假,这时f(H,E)=?
      • E对H没有影响,这时f(H,E)=?

    (3)计算问题

    计算问题主要指不确定性的传播和更新。即计算问题定义了一组函数,求解结论的
    不确定性度量。

    主要包括3方面:

    • 不确定性的传递算法
      • 已知前提E的不确定性C(E)和规则强度f(H,E)求结论H的不确定性
      • 即定义函数f1,使得C(H)=f1(C(E),f(H,E))
    • 结论不确定性合成
      • 由两个独立的证据E1和E2求得的假设H的不确定性C1(H)和C2(H),求证据E1和E2的组合导致的假设H的不确定性
      • 即定义函数C(H)=f2(C1(H),C2(H))
    • 组合证据的不确定性算法
      • 已知证据E1和E2的不确定性C1(E)和C2(E),求证据E1和E2的析取和合取的不确定性
      • 即定义函数C(E1∧E1)=f3(C(E1),C(E2));C(E1∨E2)=f4(C(E1),C(E2))

    组合证据的不确定性的计算已经提出了多种算法,用得最多的是如下3种:

    • 最大最小法
      • C(E1∧E2) = min{C(E1),C(E2)}
      • C(E1∨E2) = max{C(E1),C(E2)}
    • 概率方法
      • C(E1∧E2) = C(E1)×C(E2)
      • C(E1∨E2) = C(E1)+C(E2)−C(E1)×C(E2)
    • 有界方法
      • C(E1∧E2) = max{0, C(E1)+C(E2)−1}
      • C(E1∨E2) = min{1, C(E1)+C(E2)}

    2. 概率方法

    有完善的理论,被最早用于不确定性知识的表示和处理。但因条件概率不易给出、计算量
    大等原因,应用受了限制。

    2.1 基础知识

    (1)条件概率定义

    P(B|A)=P(AB)/P(A)称为事件A发生的条件下事件B的条件概率

    (2)全概率公式

    设事件A1,A2,…,An互不相容,其和为全集。则对于任何事件B:P(B)=Σ(P(Ai)×P(B|Ai))

    一般的,如果一个集合含有我们所研究问题中涉及的所有元素,那么就称这个集合为
    全集,通常记作U。

    (3) 贝叶斯公式

    设事件A1,A2,…,An互不相容,其和为全集。则对于任何事件B:
    P(Ai|B)=P(Ai)×P(B|Ai)/P(B)

    贝叶斯公式可以用条件概率公式证明:

    推导:
    P(Ai|B) = P(AiB)/P(B)         #条件概率公式
            = P(Ai)×P(B|Ai)/P(B)  #分子代入条件概率公式
    
    证明:
    P(Ai|B) = P(Ai)×P(B|Ai)/P(B)
            = P(AiB)/P(B)         #分子代入条件概率公式
            = P(Ai|B)             #条件概率公式
    

    用全概率公式代入贝叶斯公式,可以得到贝叶斯公式的另一种形式:

    P ( A i ∣ B ) = P ( A i )   P ( B ∣ A i ) Σ i [ P ( A i ) P ( B ∣ A i ) ] P(A_i|B)=\frac{P(A_i)\ P(B|A_i)}{\Sigma_i [P(A_i)P(B|A_i)]} P(AiB)=Σi[P(Ai)P(BAi)]P(Ai) P(BAi)

    其中:

    • P(Ai)是事件Ai的先验概率
    • P(B|Ai)是在事件Ai发生条件下事件B的条件概率
    • P(Ai|B)是在事件B发生条件下事件Ai的后验概率。
    • 先验概率是指根据以往经验和分析得到的概率。
    • 后验概率指某件事已经发生,计算这件事发生的原因是由某个因素引起的概率(根据结果求原因的概率)。

    2.2 经典概率方法

    (1)单条件

    • 设有产生式规则:IF E THEN Hi (其中,E为前提条件,Hi为结论)
    • 用条件概率:P(Hi|E) 表示证据E条件下,Hi成立的确定性程度

    (2)复合条件

    • 对于复合条件: E = E1 AND E2 AND … AND Em
    • 用条件概率:P(Hi|E1,E2,…,Em) 表示E1,E2,…,Em出现时,结论Hi的确定性程度

    2.3 逆概率方法

    在实际中,求条件E出现情况下结论Hi的条件概率P(Hi|E)非常困难。
    但是求逆概率P(E|Hi)要容易的多。

    比如:E 代表咳嗽,以Hi代表支气管炎

    • P(Hi|E),咳嗽的人中有多少是患支气管炎,统计工作量较大
    • P(E|Hi),患支气管炎的人有多少咳嗽,统计就容易多了

    如果前提条件E表示,用Hi表示结论,用贝叶斯公式就可得到:

    P ( H i ∣ E ) = P ( H i )   P ( E ∣ H i ) Σ i [ P ( H i ) P ( E ∣ H i ) ] P(H_i|E)=\frac{P(H_i)\ P(E|H_i)}{\Sigma_i [P(H_i)P(E|H_i)]} P(HiE)=Σi[P(Hi)P(EHi)]P(Hi) P(EHi)

    当已知Hi的先验概率,结论Hi成立时E的条件概率P(E|Hi)就可以求Hi的条件概率。

    多个证据E1,E2,…,Em和多个结论H1,H2,…,Hn,则可以进一步扩充为:

    P ( H i ∣ E 1 , E 2 , . . . , E m ) = P ( H i ) P ( E 1 ∣ H i ) P ( E 2 ∣ H i ) . . . P ( E m ∣ H i ) Σ [ P ( H i ) P ( E 1 ∣ H i ) P ( E 2 ∣ H i ) . . . P ( E m ∣ H i ) ] P(H_i|E_1,E_2,...,E_m) = \frac{P(H_i)P(E_1|H_i)P(E_2|H_i)...P(E_m|H_i)}{Σ[P(H_i)P(E_1|H_i)P(E_2|H_i)...P(E_m|H_i)]} P(HiE1,E2,...,Em)=Σ[P(Hi)P(E1Hi)P(E2Hi)...P(EmHi)]P(Hi)P(E1Hi)P(E2Hi)...P(EmHi)

    3. 可信度方法

    可信度是指人们根据以往的经验对某个事物或现象为真的程度的一个判断,或者说是人们对某个事物或现象为真的相信程度。

    3.1 可信度的基本概念

    3.1.1 可信度的定义

    可信度最初定义为信任与不信任的差。

    CF(H,E) = MB(H,E)-MD(H,E)

    CF(Certainty Factor,确定性因子)是由证据E得到假设H的可信度。

    MB(Measure Belief)称为信任增长度,表示E的出现使结论H为真的信任值增长程度。

    • MB(H,E) = 1 当P(H)=1时
    • MB(H,E) =(max(P(H|E),P(H)}-P(H))/(1-P(H)) 其他情况

    MD(Measure Disbelief)称为不信任增长度

    • MD(H,E)=1 当P(H)=0时
    • MD(H,E) =(min(P(H|E),P(H)}-P(H))/(-P(H)) 其他情况

    根据以上定义,可以得到:

    • CF(H,E)=MB(H,E)-0 当P(H|E)>P(H)时
    • CF(H,E)=0 P(H|E)=P(H)时
    • CF(H,E)=0-MD(H,E) 当P(H|E)<P(H)时

    ** 3.1.2 可信度的性质**

    (1)互斥性

    • 当MB(H,E)>0时, MD(H,E)=0
    • 当MD(H,E)>0时, MB(H,E)=0

    (2)值域

    • 0≤MB(H,E)≤1
    • 0≤MD(H,E)≤1
    • -1≤CF(H,E)≤1

    (3)典型值

    • CF(H,E)=1时,P(H|E)=1, MB(H,E)=1, MD(H,E)=0
    • CF(H,E)=-1时,P(H|E)=0, MB(H,E)=0, MD(H,E)=1
    • CF(H,E)=0时,P(H|E)=P(H),MB(H,E)=0, MD(H,E)=0,表示E对H无影响

    (4)H的信任增长度等于非H的不信任增长度

    • MB(H,E) = MD(¬H,E)
    • MD(H,E) = MB(¬H,E)

    (5)H的可信度对非H的可信度之和等于0

    • CF(H,E)+CF(¬H,E) = 0

    (6)可信度与概率的区别

    • 概率:P(H)+P(¬H)=1 且 0≤P(H),P(¬H)≤1
    • 可信度:-1≤CF(H,E)≤1

    **(7)对于同一前提E,若支持多个不同的结论Hi,则

    • ΣCF(Hi,E) ≤1

    实际应用中,P(H)和 P(H|E)的值很难获得,因此CF(H,E)的值由领域专家给出。

    3.2 可信度模型

    3.2.1 规则的不确定性的表示

    可信度(CF)模型中,规则用产生式规则表示:

    IF E THEN H (CF(H,E))
    

    3.2.2 证据的不确定性表示

    可信度(CF)模型中,证据E的不确定性也用可信度因子CF表示,取值范围为[-1,1],典型值为:

    • 证据E肯定为真: CF(E)=1
    • 证据E肯定为假: CF(E)=-1
    • 证据E一无所知: CF(E)=0

    3.2.3 组合证据的不确定性的计算

    • E=E1 AND E2 AND … AND En
      • CF(E) = min({CF(E1),CF(E2),…,CF(En)}’
    • E=E1 OR E2 OR … OR En
      • CF(E) = max({CF(E1),CF(E2),…,CF(En)}

    3.2.4 否定证据的不确定性计算

    • CF(¬E) = -CF(E)

    3.2.5 不确定性推理

    1. 证据肯定存在,即CF(E)=1时,则CF(H)=CF(H,E)
    2. CF(E)≠1时,则CF(H)=CF(H,E)×max{0,CF(E)}
      • CF(E)<0时,CF(H)=0
    3. 多条相互独立的规则分别推出相同结论,结论合成综合可信度算法
      • 分别对每个规则用第二步公式求出CF,即CF1(H),CF2(H)…
      • 对E1、E2求综合可信度
        • CF(H) = CF1(H)+CF2(H)-CF1(H)×CF2(H) 当CF1,CF2≥0时
        • CF(H) = CF1(H)+CF2(H)+CF1(H)×CF2(H) 当CF1,CF2<0时
        • CF(H) = CF1(H)+CF2(H) 当CF1,CF2异号时
      • 对于多条规则,依次合成,直到结束。

    可信度模型的特点:

    • 简洁、直观、容易理解
    • 可能和条件概率得出的值相反、计算的累积可能导致一个规则和多个规则计算结果不同、组合规则顺序不同可能结果不同

    4. 模糊推理

    4.1 模糊数学的基本知识

    4.1.1 模糊集合

    (1)定义

    集合元素对集合的隶属程度称为隶属度,用 µ 表示。

    • µ=1,表示元素属于集合
    • µ=0,表示元素不属于集合

    模糊集合用“隶属度/元素”的形式来记:
    A = µ 1 / x 1 + µ 2 / x 2 + . . . + µ n / x n = ∫ μ A ( x ) / x A = µ1/x1 + µ2/x2 + ... + µn/xn =\int μA(x)/x A=µ1/x1+µ2/x2+...+µn/xn=μA(x)/x

    (2)模糊集合相等

    A=B,当且仅当:∀x,μA(x)=μB(x)

    (3)模糊集合包含

    B包含A,当且仅当:∀x∈U,μA(x)≤μB(x)

    A,B均是论域U上的模糊集合,即A,B中的元素∈U,下同

    (4)模糊集合并、交、补

    • µ(A∪B)(x) = max(µA(x), µB(x)) ∀x∈U
      • 也记为:µA(x) ∨ μB(x) ∨表示取极大
    • µ(A∩B)(x) = min(µA(x), µB(x)) ∀x∈U
      • 也记为:µA(x) ∧ μB(x) ∧表示取极小
    • µ(¬A)(x) = 1-(µA(x) ∀x∈U

    (5)模糊集合的积

    A、B分别是论域U、V上的模糊集合。即A中的元素为x∈U,B中的元素为y∈V

    • A×B = ∫(μA(x) ∧ μA(y))/(x,y)

    相乘之后元素变为(x,y)值对

    4.1.2 模糊关系及运算

    (1)模糊关系定义

    论域U到V上的模糊关系R:指U×V上的一个模糊集合:

    • 集合元素为有序对<x,y>
    • 集合隶属函数为μR(x,y)

    模糊关系 R 通常用矩阵表示:

    以U=V={1,2,3}为例:

    x\y123
    100.10.6
    2000.1
    3000
    模糊关系矩阵
    R=[[0, 0.1, 0.6],
       [0,   0,  0.1],
       [0,   0,   0]]
    

    (2)模糊关系的合成

    • R 是 U×V 上的模糊关系
    • S 是 V×W 上的模糊关系
    • U×W(叉积)上的模糊关系T=R৹S

    模糊关系T的隶属函数为:

    T=∪(μR(x,y) ∧ μS(y,z))

    示例:

     R=[0.3, 0.7, 0.2]    #1x3
     S=[0.2,
        0.6,
        0.9]              #3x1
     
     T=(0.30.2)(0.70.6)(0.20.9) = 0.6 
    

    4.2 模糊假言推理

    4.2.1 模糊规则的表示

    模糊命题的一般形式:x is A 或者 x is A(CF)

    模糊规则产生式的一般形式: IF E THEN R(CF,λ)

    • E:用模糊命题表示的模糊条件
    • R:用模糊命题表示的模糊结论
    • CF:该产生式规则所表示的知识的可信度因子,由领域专家在给出规则时同时给出
    • λ:阈值,用于指出相应知识在什么情况下可被应用

    模糊规则示例:

    IF x is A THEN y is B(λ)
    IF x is A THEN y is B(CF, λ)
    IF x1 is A1 AND x2 is A2 THEN y is B(λ)
    IF x1 is A1 AND x2 is A2 AND x3 is A3 THEN y is B(CF, λ)
    

    4.2.2 证据的模糊匹配

    规则的前提条件中的 A 与证据中的 A′ 不一定完全相同,推理时需要先考虑他们的相似程度是否大于某个预先设定的阈值λ。

    贴近度是一种表示接近程度的计算方法。A,B的贴近度定义为:

    (A,B) = 0.5[ A·B + (1-A⊙B) ]
    其中:
    A·B = ∨( μA(xi) ∧ μA(xi))
    A⊙B = ∧( μA(xi) ∨ μA(xi))
    
    “∧”表示取极小,“∨”表示取极大
    

    4.2.3 简单模糊推理

    模型:

    • IF x is A THEN y is B(λ)
    • 证据:x is A’ 且(A,A’)≥λ
    • 结论:y is B’

    推理步骤:

    1. 构造A、B之间的模糊关系R
      • R的典型构造方法扎德法
    2. 合成R与前提,B’=A’৹R
    3. 得出结论

    个人总结,部分内容进行了简单的处理和归纳,如有谬误,希望大家指出,持续修订更新中。

    修订历史版本见:https://github.com/hustlei/AI_Learning_MindMap

    更多相关内容
  • 讲得很好,介绍很详细,共128页 1、概述 2、概率论基础 3、Bayes网络 4、主观Bayes方法 5、确定性方法 6、证据理论
  • Introduction of Artificial Intelligence 第4 章 不确定性推理方法 第4章 不确定性推理方法 现实世界中由于客观上存在的随机性模糊性反 映到知识以及由观察所得到的证据上来就分别形 成了不确定性的知识及不确定性...
  • 基于语言真值格蕴涵代数的分层语义不确定性推理,赖家俊,徐扬,介绍了基于语言真值格蕴涵代数的分层语义推理。阐述了用其结构性质如何实现(基于语言真值格蕴涵代数的)分层语义不确定性推理
  • 基于云模型的不确定性推理方法
  • 采用围岩分类专家系统中的不确定性推理处理方法,以工程地质学家谷德振提出的岩体结构划分标准为基础,对金川二矿区岩(矿)体用模糊数学中择近原则的方法进行模糊综合判别。对于专家评判中涉及到的诸多模糊性因素、不...
  • 利用证据理论中的基本概率分配函数、信任函数和似然函数来描述和处理知识的不...提出一个特殊的概率分配函数和新的组合规则,并以其为基础建立一个不确定性推理模型。实例证明该模型能有效地度量最终结论的不确定性。
  • Simon Parsons著《不确定性推理的定性方法》,MIT出版社。网上找了几天才搜集齐原文,并转为PDF格式,特分享给大家,希望能帮到后续需要的同学。
  • 参照课程第五部分讲授的贝叶斯网络完成,给定事件和事件之间的关系,并且给出每个事件的CPT图,根据贝叶斯公式根据上述条件求出目标概率,编写程序实现基于贝叶斯网络的推理。在这里用到的贝叶斯算法是建立在有向无...
  • 针对航空维修行业内不同角色企业故障诊断知识、系统、资源的分散、封闭、异构等原因导致的故障知识不易共享、重用...进一步编写相应的推理规则,设计基于本体的不确定性推理系统。以飞机发动机故障诊断为例进行了验证。
  • (人工智能)人工智能原理教案章不确定性推理方法证据理论.pdf
  • * 人工智能 丁世飞 * 第三步,求A的确定性 根据R3和R4,有: m3({a1},{a2})=(0.740.4,0.740.5)=(0.30,0.37) m4({a1},{a2})=(0.60.4,0.60.4)=(0.24,0.24) m3)=1-( m3({a1})+m3({a2}) =1-(0.30+0.37)=0.33 m4)=1-( m4({a1...
  • 提出基于Dempster-Shafer证据理论和区间确定因子的不确定性推理方法。进一步根据领域专家经验建立民航无线电干扰查处规则,以基于Dempster-Shafer证据理论和区间确定因子的不确定性推理方法为推理机,给出民航无线电...
  • 第二章 不确定性推理方法2.1 不确定性推理的基本概念2.1.1 不确定性推理中的基本问题2.1.2 概率方法2.2 可信度方法2.2.1 可信度概念2.2.2 C-F模型2.3 证据理论2.3.1 概率分配函数2.3.2 信任函数2.3.3 似然函数2.3.4 ...

    2.1 不确定性推理的基本概念

    推理:从已知事实(证据)出发,通过运用相关知识逐步推出结论或者证明某个假设成立或不成立的思维过程。
    不确定性推理:从不确定性的初始证据出发,通过运用不确定性的知识,最终推出具有一定程度的不确定性但却是合理或者近乎合理的结论的思维过程。

    2.1.1 不确定性推理中的基本问题

    在这里插入图片描述
    举例:

    知识不确定性:如果有现场指纹则可能犯罪事实;如果有威胁则可能犯罪事实。。。
    证据不确定性:现场指纹,威胁书信等的真实性。进而进行证据不确定性组合。
    结论:各项证据均产生嫌疑人是罪犯的结论,结论不确定性合成。得最终概率。

    2.1.2 概率方法

    1. 经典概率方法

    产生式规则:

    IF E THEN Hi ,i=1,2,...,n
    E:前提条件,Hi:结论 P(Hi|E):在证据E出现的条件下,结论Hi成立的确定性程度。

    复合条件:

    E=Ei AND E2 AND … AND Em

    P(Hi| E1,E2,…,Em):在证据E1,E2,…,Em出现时结论的确定程度。

    1. 逆概率方法
      逆概率方法的基本思想:

    ▪ Bayes定理:逆概率 P(E|Hi)–>原概率P(Hi|E)

    例如:
    E: 咳嗽,Hi:支气管炎,
    条件概率 :统计咳嗽的人中有多少是患支气管炎的。
    逆概率 :统计患支气管炎的人中有多少人是咳嗽的。

    单个证据的情况
    ▪ 产生式规则:IF E THEN Hi ,i=1,2,…,n
    Bayes公式: P ( H i ∣ E ) = P ( E ∣ H i ) P ( H i ) ∑ j = 1 n P ( E ∣ H j ) P ( H j )                          i = 1 , 2 , . . . , n P(H_i|E)=\frac{P(E|H_i)P(H_i)}{\sum_{j=1}^{n}{P(E|H_j)P(Hj)} }{\;\;\;\;\;\;\;\;\;\;\;\;i=1,2,...,n} P(HiE)=j=1nP(EHj)P(Hj)P(EHi)P(Hi)i=1,2,...,n

    例1 H1 , H2 , H3:结论,E:证据
    已知:P (H1 ) 0.3, P (H2 )= 0.4, P(H3 ) 0.5,
    P(E |H1) = 0.5, P(E |H2 ) = 0.3, P(E |H3 ) = 0.4,
    求:P(H1∣E), P(H2∣E), P(H3∣E)。
    在这里插入图片描述

    多个证据的情况
    在这里插入图片描述

    2.2 可信度方法

    2.2.1 可信度概念

    可信度:根据经验对一个事物或现象为真的相信程度。
    C-F模型:基于可信度表示的不确定性推理的基本方法。

    2.2.2 C-F模型

    主要包括以下内容:

    1. 知识不确定性的表示
    2. 证据不确定性的表示
    3. 组合证据不确定性的算法:多个证据的组合
    4. 不确定性的传递算法: 如何用证据的不确定性去更新结论的不确定性和 如何在推理中把证据的不确定性传递给最终结论
    5. 结论不确定性的合成:多个不同知识推出同一结论,且不确定性程度不同
    1. 知识不确定性的表示

    在这里插入图片描述
    在这里插入图片描述
    ▪ CF(H,E)的取值范围: [-1,1]。
    ▪ 若由于相应证据的出现增加结论 H 为真的可信度, 则CF(H,E)> 0,证据的出现越是支持 H 为真,就使CF(H,E) 的值越大。
    ▪ 反之,CF(H,E)< 0,证据的出现越是支持 H 为 假,CF(H,E)的值就越小。
    ▪ 若证据的出现与否与 H 无关,则 CF(H,E)= 0。

    1. 证据不确定性的表示

    CF(E)=0.6: E的可信度为0.6
    ▪ 证据E的可信度取值范围:[-1,1] 。
    ▪ 对于初始证据,若所有观察S能肯定它为真,则CF(E)= 1。
    ▪ 若肯定它为假,则 CF(E) = –1。
    ▪ 若以某种程度为真,则 0 < CF(E) < 1。
    ▪ 若以某种程度为假,则 -1 < CF(E) < 0 。
    ▪ 若未获得任何相关的观察,则 CF(E) = 0。

    静态强度CF(H,E):知识的强度,即当 E 所对应的证据为真时对 H 的影响程度。
    动态强度 CF(E):证据 E 当前的不确定性程度。

    1. 组合证据不确定性的算法

    在这里插入图片描述

    1. 不确定性的传递算法
      在这里插入图片描述
    2. 结论不确定性的合成算法
      在这里插入图片描述在这里插入图片描述
      书上例题:
      在这里插入图片描述
      在这里插入图片描述
      在这里插入图片描述
      在这里插入图片描述
      在这里插入图片描述

    2.3 证据理论

    用概率分配函数和信任函数度量不确定性,似然函数
    处理不知道引起的不确定性,用概率分配函数的正交
    和进行证据组合。

    2.3.1 概率分配函数

    设 D 是变量 x 所有可能取值的集合,且 D 中的元素是
    互斥的,在任一时刻 x 都取且只能取 D 中的某一个元素为值,则称 D 为 x 的样本空间。

    在证据理论中,D 的任何一个子集 A 都对应于一个关于
    x 的命题,称该命题为“ x 的值是在 A 中”。

    设 x :所看到的颜色,D={红,黄,蓝},
    则 A={红}:“ x 是红色”;
    A={红,蓝}:“x 或者是红色,或者是蓝色”。

    设D为样本空间,领域内的命题都用D的子集表示, 则 概 率 分 配 函 数 ( basic probability assignment
    function)课本上的定义如下:
    课本上的定义

    2.3.2 信任函数

    课本上的定义:
    课本上的定义
    在这里插入图片描述

    2.3.3 似然函数

    似然函数(plansibility function):不可驳斥函数或上限函数。

    课本上的定义:在这里插入图片描述
    在这里插入图片描述

    2.3.4 信任函数与似然函数的关系

    在这里插入图片描述

    2.3.5 概率分配函数的正交和

    书上的定义:
    在这里插入图片描述
    如果k≠0 ,则正交和 M也是一个概率分配函数;
    如果k=0 ,则不存在正交和 M,即没有可能存在概
    率函数,称 与 矛盾。

    在这里插入图片描述

    例题:
    在这里插入图片描述
    在这里插入图片描述

    练习

    1. 设有如下一组知识:
      r1:IF E1 THEN H (0.9)
      r2:IF E2 THEN H (0.6)
      r3:IF E3 THEN H (-0.5)
      r4:IF E4 AND ( E5 OR E6) THEN E1 (0.8)
      已 知 : CF(E2)=0.8 , CF(E3)=0.6 , CF(E4)=0.5 ,
      CF(E5)=0.6, CF(E6)=0.8 ,求:CF(H)=?

    解:由r4得到:CF(E1)=0.8×max{0, CF(E4 AND (E5 OR E6))} = 0.8×max{0,min{CF(E4), CF(E5 OR E6)}} =0.8×max{0,min{CF(E4),max{CF(E5),CF(E6)}}}=0.8×max{0,min{CF(E4),max{0.6,0.8}}} =0.8×max{0,min{0.5, 0.8}} =0.8×max{0, 0.5} = 0.4
    由r1得到CF1(H)=CF(H,E1)×max{0,CF(E1)}=0.9×max{0, 0.4} = 0.36
    由r2得到:CF2(H)=CF(H,E2)×max{0,CF(E2)} =0.6×max{0, 0.8} = 0.48
    由 r3 得 到 : CF3(H)=CF(H, E3)×max{0, CF(E3)} =- 0.5×max{0, 0.6} = -0.3
    根据结论不精确性合成算法,CF1(H)和CF2(H)同号,有:…
    CF12(H)和CF3(H)异号,有:…即综合可信度为CF(H)=0.53

    1. 设有规则:
      (1)如果 流鼻涕 则 感冒但非过敏性鼻炎(0.9)或 过敏性鼻炎但非感冒(0.1)。
      (2)如果 眼发炎 则 感冒但非过敏性鼻炎(0.8)或 过敏性鼻炎但非感冒(0.05)。
      有事实:(1)小王流鼻涕(0.9)。M1
      (2)小王发眼炎(0.4)。M2
      问:小王患的什么病?

    解:
    取样本空间:D = {h1 ,h2 ,h3}
    h1表示“感冒但非过敏性鼻炎”,
    h2表示“过敏性鼻炎但非感冒”,
    h3表示“同时得了两种病”。
    取下面的基本概率分配函数:
    M1({h1}) = 0.90.9 = 0.81
    M1({h2}) = 0.9
    0.1 = 0.09
    M1({h1 ,h2 ,h3}) = 1− M1({h1}) − M1({h2}) = 1− 0.81− 0.09 = 0.1
    M2({h1}) = 0.40.8 = 0.32
    M2({h2}) = 0.4
    0.05 = 0.02
    M2({h1 ,h2 ,h3}) = 1− M2({h1}) − M2({h2}) = 1− 0.32 − 0.02 = 0.66
    将两个概率分配函数组合:
    K = 1/{1−[M1({h1})M2({h2}) + M1({h2})M 2({h1})]}
    = 1/{1−[0.81* 0.02 + 0.0 9* 0.32]}
    = 1/{1− 0.045} = 1/ 0.955
    = 1.05
    M ({h1}) = K[M1({h1})M2({h1}) + M1({h1})M2({h1 ,h2 ,h3} + M1({h1 ,h2 ,h3})M2({h1})]
    = 1.0 5* 0.8258
    = 0.8 7
    M ({h2}) = K[M1({h2})M2({h2}) + M1({h2})M2({h1 ,h2 ,h3}+ M1({h1 ,h2 ,h3})M2({h2})]
    = 1.05* 0.0632
    = 0.066
    M({h1,h2 ,h3}) =1− M ({h1}) − M ({h2})
    =1− 0.87 − 0.066
    = 0.064
    信任函数:
    Bel({h1}) = M ({h1}) = 0.87
    Bel({h2}) = M ({h2}) = 0.066
    似然函数:
    Pl({h1}) =1− Bel(┐{h1}) =1− Bel({h2 ,h3})=1−[M ({h2}+ M ({h3}) =1−[0.066+ 0] = 0.934
    Pl({h2}) =1− Bel(┐{h2}) =1− Bel({h1,h3})=1−[M ({h1}+ M ({h3}) =1−[0.87+ 0] = 0.13
    结论:小王可能是感冒了。

    展开全文
  • 1 概率分配函数与类概率函数 定义设 D={s1,s2,sm} M 为定义在 2 D 上的概率分配函 数且满足 1 M({si}) 0 2 ? M({si}) 1 3 M(D)=1- ? M({si}) 4 对于任意 A ? D 当 |A|>1 或 |A|=0 时 M(A)=0 这是一个特殊的概率分配...
  • 下面首先讨论不确定性推理中的基本问题,然后着重介绍基于概率论的有关理论发展起来的不确定性推理方法,主要介绍可信度方法、证据理论,最后介绍目前在专家系统、信息处理、自动控制等领域广泛应用的依据模糊理论...

    现实世界中由于客观上存在的随机性、模糊性,反映到知识以及由观察所得到的证据上来,就分别形成了不确定性的知识及不确定性的证据。因而还必须对不确定性知识的表示及推理进行研究。这就是将要讨论的不确定性推理。
    下面首先讨论不确定性推理中的基本问题,然后着重介绍基于概率论的有关理论发展起来的不确定性推理方法,主要介绍可信度方法、证据理论,最后介绍目前在专家系统、信息处理、自动控制等领域广泛应用的依据模糊理论发展起来的模糊推理方法。

    不确定性推理中的基本问题

    推理:从已知事实(证据)出发,通过运用相关知识逐步推出结论或者证明某个假设成立或不成立的思维过程。
    不确定性推理:从不确定性的初始证据出发,通过运用不确定性的知识,最终推出具有一定程度的不确定性但却是合理或者近乎合理的结论的思维过程。
    不确定性的表示与量度
    不确定性匹配算法及阈值的选择
    组合证据不确定性的算法
    不确定性的传递算法
    结论不确定性的合成

    1. 不确定性的表示与量度

    (1)知识不确定性的表示
    (2)证据不确定性的表示——证据的动态强度
    (3)不确定性的量度
    知识不确定性:在专家系统中知识的不确定性一般是由领域专家给出的,通常是一个数值——知识的静态强度
    证据不确定性:用户在求解问题时提供的初始证据。在推理中用前面推出的结论作为当前推理的证据。
    ① 能充分表达相应知识及证据不确定性的程度。
    ② 度量范围的指定便于领域专家及用户对不确定性的估计。
    ③ 便于对不确定性的传递进行计算,而且对结论算出的不确定性量度不能超出量度规定的范围。
    ④ 度量的确定应当是直观的,同时应有相应的理论依据。

    2. 不确定性匹配算法及阈值的选择

    不确定性匹配算法:用来计算匹配双方相似程度的算法。
    阈值:用来指出相似的“限度”。

    3. 组合证据不确定性的算法:

    最大最小方法、Hamacher方法、概率方法、有界方法、Einstein方法等。

    4. 不确定性的传递算法

    (1)在每一步推理中,如何把证据及知识的不确定性传递给结论。
    (2)在多步推理中,如何把初始证据的不确定性传递给最终结论。

    5.结论不确定性的合成

    可信度方法

    1975年肖特里菲(E. H. Shortliffe)等人在确定性理论(theory of confirmation)的基础上,结合概率论等提出的一种不确定性推理方法。
    优点:直观、简单,且效果好。
    可信度:根据经验对一个事物或现象为真的相信程度。
    可信度带有较大的主观性和经验性,其准确性难以把握。
    C-F模型:基于可信度表示的不确定性推理的基本方法。

    1. 知识不确定性的表示

    在这里插入图片描述
    在这里插入图片描述
    CF(H,E)的取值范围: [-1,1]。
    若由于相应证据的出现增加结论 H 为真的可信度,则 CF(H,E)> 0,证据的出现越是支持 H 为真,就使CF(H,E) 的值越大。
    反之,CF(H,E)< 0,证据的出现越是支持 H 为假,CF(H,E)的值就越小。
    若证据的出现与否与 H 无关,则 CF(H,E)= 0。

    2. 证据不确定性的表示

    CF(E)=0.6: E的可信度为0.6
    证据E的可信度取值范围:[-1,1] 。
    对于初始证据,若所有观察S能肯定它为真,则CF(E)= 1。
    若肯定它为假,则 CF(E) = –1。
    若以某种程度为真,则 0 < CF(E) < 1。
    若以某种程度为假,则 -1 < CF(E) < 0 。
    若未获得任何相关的观察,则 CF(E) = 0。
    静态强度CF(H,E):知识的强度,即当 E 所对应的证据为真时对 H 的影响程度。
    动态强度 CF(E):证据 E 当前的不确定性程度。

    3. 组合证据不确定性的算法

    在这里插入图片描述

    4. 不确定性的传递算法

    C-F模型中的不确定性推理:从不确定的初始证据出发,通过运用相关的不确定性知识,最终推出结论并求出结论的可信度值。结论 H 的可信度由下式计算:
    在这里插入图片描述

    5. 结论不确定性的合成算法

    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述

    证据理论

    证据理论(theory of evidence):又称D-S理论,是德普斯特(A. P. Dempster)首先提出,沙佛(G. Shafer)进一步发展起来的一种处理不确定性的理论。
    1981年巴纳特(J. A. Barnett)把该理论引入专家系统中,同年卡威(J. Garvey)等人用它实现了不确定性推理。
    目前,在证据理论的基础上已经发展了多种不确定性推理模型。

    概率分配函数

    设 D 是变量 x 所有可能取值的集合,且 D 中的元素是互斥的,在任一时刻 x 都取且只能取 D 中的某一个元素为值,则称 D 为 x 的样本空间。
    在证据理论中,D 的任何一个子集 A 都对应于一个关于 x 的命题,称该命题为“ x 的值是在 A 中”。
    设 x :所看到的颜色,D={红,黄,蓝},
    则 A={红}:“ x 是红色”;
    A={红,蓝}:“x 或者是红色,或者是蓝色”。
    设D为样本空间,领域内的命题都用D的子集表示,则概率分配函数(basic probability assignment function)定义如下:
    在这里插入图片描述
    在这里插入图片描述
    设 D={红,黄,蓝}
    M({红})=0.3, M({黄})=0, M({蓝})=0.1,
    M({红,黄})=0.2,M({红,蓝})=0.2,
    M({黄,蓝})=0.1,M({红,黄,蓝})=0.1,M(Φ)=0
    但:M({红})+ M({黄})+ M({蓝})=0.4
    设 D={红,黄,蓝}
    则其子集个数 23=8,具体为:
    A={红}, A={黄}, A ={蓝}, A ={红,黄},
    A ={红,蓝}, A ={黄,蓝}, A ={红,黄,蓝}, A ={ }
    例如,设 A={红},
    M(A)=0.3:命题“x是红色”的信任度是0.3。

    信任函数

    在这里插入图片描述
    在这里插入图片描述
    设 D ={红,黄,蓝}
    M({红})=0.3, M({黄})=0,M({红,黄})=0.2,
    在这里插入图片描述

    似然函数

    似然函数(plansibility function):不可驳斥函数或上限函数。
    在这里插入图片描述

    概率分配函数的正交和(证据的组合)

    在这里插入图片描述
    在这里插入图片描述

    概率分配函数的正交和

    在这里插入图片描述
    在这里插入图片描述

    基于证据理论的不确定性推理

    基于证据理论的不确定性推理的步骤:
    (1)建立问题的样本空间D。
    (2)由经验给出,或者由随机性规则和事实的信度度量算基本概率分配函数。
    (3)计算所关心的子集的信任函数值、似然函数值。
    (4)由信任函数值、似然函数值得出结论。
    例4.3设有规则:
    (1)如果 流鼻涕 则 感冒但非过敏性鼻炎(0.9)或过敏性鼻炎但非感冒(0.1)。
    (2)如果 眼发炎 则 感冒但非过敏性鼻炎(0.8)或过敏性鼻炎但非感冒(0.05)。
    有事实:
    (1)小王流鼻涕(0.9)。
    (2)小王发眼炎(0.4)。
    问:小王患的什么病?
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述

    模糊推理方法

    模糊逻辑的提出与发展

    1965年,美国L. A. Zadeh发表了“fuzzy set”的论文,首先提出了模糊理论。
    在这里插入图片描述
    在这里插入图片描述
    2008年10月,Zadeh在北京现代智能国际会议上做报告。
    在这里插入图片描述

    从1965年到20世纪80年代,在美国、欧洲、中国和日本,只有少数科学家研究模糊理论。
    1974年,英国Mamdani首次将模糊理论应用于热电厂的蒸汽机控制。
    1976年,Mamdani又将模糊理论应用于水泥旋转炉的控制。
    1983年日本Fuji Electric公司实现了饮水处理装置的模糊控制。
    1987年日本Hitachi公司研制出地铁的模糊控制系统。
    1987年-1990年在日本申报的模糊产品专利就达319种。
    目前,各种模糊产品充满日本、西欧和美国市场,如模糊洗衣机、模糊吸尘器、模糊电冰箱和模糊摄像机等。

    模糊集合

    论域:所讨论的全体对象,用 U 等表示。
    元素:论域中的每个对象,常用a,b,c,x,y,z表示。
    集合:论域中具有某种相同属性的确定的、可以彼此区别的元素的全体,常用A,B等表示。
    元素a和集合A的关系:a属于A或a不属于A,即只有两个真值“真”和“假”。
    模糊逻辑给集合中每一个元素赋予一个介于0和1之间的实数,描述其属于一个集合的强度,该实数称为元素属于一个集合的隶属度。集合中所有元素的隶属度全体构成集合的隶属函数。

    1. 模糊集合的定义

    在这里插入图片描述

    2.模糊集合的表示方法

    在这里插入图片描述
    (1)Zadeh表示法
    在这里插入图片描述

    (2)序偶表示法
    在这里插入图片描述

    (3)向量表示法
    在这里插入图片描述

    3. 隶属函数

    常见的隶属函数有正态分布、三角分布、梯形分布等。
    隶属函数确定方法:
    (1)模糊统计法
    (2)专家经验法
    (3)二元对比排序法
    (4)基本概念扩充法
    在这里插入图片描述

    模糊集合的运算

    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述

    (4)模糊集合的代数运算

    在这里插入图片描述
    在这里插入图片描述

    模糊关系与模糊关系的合成

    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述

    模糊推理

    1. 模糊知识表示
    人类思维判断的基本形式:
    如果 (条件) → 则 (结论)
    例如:如果 压力较高且温度在慢慢上升 则 阀门略开
    模糊规则:从条件论域到结论论域的模糊关系矩阵 R。通过条件模糊向量与模糊关系 R 的合成进行模糊推理,得到结论的模糊向量,然后采用“清晰化”方法将模糊结论转换为精确量。
    2. 对 IF A THEN B 类型的模糊规则的推理
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述

    模糊决策

    “模糊决策”(“模糊判决”、“解模糊”或“清晰化”):由模糊推理得到的结论或者操作是一个模糊向量,转化为确定值的过程。
    1. 最大隶属度法
    在这里插入图片描述

    2. 加权平均判决法
    在这里插入图片描述
    3. 中位数法
    在这里插入图片描述
    在这里插入图片描述

    模糊推理的应用

    例4.10 设有模糊控制规则:
    “如果温度低,则将风门开大”。设温度和风门开度的论域为{1,2,3,4,5}。
    “温度低”和“风门大”的模糊量:
    “温度低”=1/1+0.6/2+0.3/3+0.0/4+0/5
    “风门大” =0/1+0.0/2+0.3/3+0.6/4+1/5
    已知事实“温度较低”,可以表示为
    “温度较低”=0.8/1+1/2+0.6/3+0.3/4+0/5
    试用模糊推理确定风门开度。
    在这里插入图片描述
    在这里插入图片描述
    欢迎大家加我微信交流讨论(请备注csdn上添加)
    在这里插入图片描述

    展开全文
  • 关于不确定性推理应用场合的调查报告,在朴素贝叶斯算法与文本检测分类的应用 、理在证据推理与系统决策的应用 、在电气设备抗震性能的应用
  • 云计算-基于发生率计算的不确定性推理理论研究.pdf
  • 人工智能第5章不确定性推理
  • 人工智能 4.不确定性推理方法

    万次阅读 多人点赞 2018-12-20 19:57:11
    不确定性推理的含义 基本问题 不确定性推理的类型 可信度推理模型 知识不确定性的表示: 可信度的定义: 可信度的性质 证据不确定性的表示 不确定性的更新 结论不确定性的合成 主观Bayes方法的概率论基础 ...

    目录

     

    概述

    不确定性推理的含义

    基本问题

    不确定性推理的类型

    可信度推理模型

    知识不确定性的表示:

    可信度的定义:

    可信度的性质

    证据不确定性的表示

    不确定性的更新

    结论不确定性的合成

    主观Bayes方法的概率论基础

    全概率公式

    Bayes公式

    推导

    知识不确定性的表示

    证据不确定性的表示

    不确定性的更新


    概述

    不确定性推理的含义

    泛指除精确推理以外的其它各种推理问题。包括不完备、不精确知识的推理,模糊知识的推理,非单调性推理等。

    采用不确定性推理因:

        所需知识不完备、不精确

        所需知识描述模糊

        多种原因导致同一结论

    解题方案不唯一

    基本问题

    不确定性的表示:

    (1) 知识的不确定性的表示

        含义:知识的确定性程度,或动态强度

        表示:用概率,在[0,1]区间取值,越接近于0越假,越接近于1越真

              用可信度,在[-1,1]区间取值,大于0接近于真,小于0接近于假

              用隶属度,在[0,1]区间取值,越接近于0隶属度越低,反之越高

    (2) 证据不确定性的表示

        证据的类型:按组织:基本证据,组合证据

                    按来源:初始证据,中间结论

        表示方法:概率,可信度,隶属度等

        基本证据:常与知识表示方法一致,如概率,可信度,隶属度等

        组合证据:组合方式:析取的关系,合取的关系。

                  计算方法:基于基本证据,最大最小方法,概率方法,有界方法 等。

    不确定性的匹配:

    含义

        不确定的前提条件与不确定的事实匹配

    问题

        前提是不确定的,事实也是不确定的

    方法

        设计一个计算相似程度的算法,给出相似的限度

    标志

    相似度落在规定限度内为匹配,否则为不匹配

    不确定性的更新,不确定性结论的合成:

    4. 不确定性的更新

        主要问题

        ① 如何用证据的不确定性去更新结论的不确定性

        ② 如何在推理中把初始证据的不确定性传递给最终结论

        解决方法

        对①,不同推理方法的解决方法不同

        对②,不同推理方法的解决方法基本相同,即把当前结论及其不确定性作为新的结论放入综合数据库,依次传递,直到得出最终结论

    5. 不确定性结论的合成

        含义:多个不同知识推出同一结论,且不确定性程度不同

    方法:视不同推理方法而定

    不确定性推理的类型

     

    可信度推理模型

    知识不确定性的表示:

    表示形式:

        在C-F模型中,知识是用产生式规则表示的,其一般形式为:

                IF   E   THEN   H  (CF(H, E)) 

    其中,E是知识的前提条件;H是知识的结论;CF(H, E)是知识的可信度。

        说明:

         ①  E可以是单一条件,也可以是复合条件。

         ②  H可以是单一结论,也可以是多个结论

         ③  CF是知识的静态强度,CF(H, E)的取值为[-1, 1],表示当E为真时,证据对H的支持程度,其值越大,支持程度越大。

         例子:

               IF   发烧    AND  流鼻涕   THEN   感冒   (0.8)

    表示当某人确实有“发烧”及“流鼻涕”症状时,则有80%的把握是患了感冒。

    可信度的定义:

    在CF模型中,把CF(H, E)定义为

               CF(H, E)=MB(H, E)-MD(H, E)

    式中MB称为信任增长度,MB(H, E)的定义为

    MD称为不信任增长度,MD(H, E)的定义为

        MB和MD的关系

        当MB(H, E)>0时,有P(H|E)>P(H),即E的出现增加了H的概率

        当MD(H, E)>0时,有P(H|E)<P(H) ,即E的出现降低了H的概率

        根据前面对CF(H, E)可信度 、MB(H, E)信任增长度、MD(H, E)不信增长度的定义,可得到CF(H, E)的计算公式:

    分别解释CF(H,E)>0,CF(H,E)=0,CF(H,E)<0

    可信度的性质

        (1)  互斥性

     对同一证据,它不可能既增加对H的信任程度,又同时增加对H的不信任程度,这说明MB与MD是互斥的。即:

             当MB(H, E)>0时,MD(H, E)=0

             当MD(H, E)>0时,MB(H, E)=0

    (2) 值域

        (3) 典型值

     当CF(H,E)=1时,有P(H/E)=1,它说明由于E所对应证据的出现使H为真。此时,MB(H, E)=1,MD(H, E)=0。

        当CF(H,E)= -1时,有P(H/E)=0,说明由于E所对应证据的出现使H为假。此时,MB(H, E)=0,MD(H,E)=1。

        当CF(H,E)= 0时,有MB(H, E)=0、MD(H, E)=0。E所对应证据的出现不证实、不否认H;

    4.

            (1)对H的信任增长度等于对非H的不信任增长度

            (2)对H的可信度与非H的可信度之和等于0

            (3)可信度不是概率,不满足

                  P(H)+P(﹁H)=1 和 0≤P(H),P(﹁H)≤ 1

     

     (5)对同一前提E,若支持若干个不同的结论Hi(i=1,2,…,n),则

    因此,如果发现专家给出的知识有如下情况

            CF(H1, E)=0.7,  CF(H2, E)=0.4

    则因0.7+0.4=1.1>1为非法,应进行调整或规范化。

    证据不确定性的表示

    基本证据

     表示方法,用可信度,其取值范围也为[-1,1]。例如,CF(E) ,其含义:

        CF(E)= 1,证据E肯定它为真

        CF(E)= 0,对证据E一无所知

        0<CF(E)<1,证据E以CF(E)程度为真

    否定证据

              CF(¬E)= - CF(E)

    组合证据

        合取:E=E1 AND E2 AND … En时,若已知CF(E1),CF(E2),…,则

               CF(E)=min{CF(E1), CF(E2), … ,CF(En)}

        析取:E=E1 OR  E2  OR … En时,若已知CF(E1),CF(E2),…,则

              CF(E)=max{CF(E1), CF(E2), … ,CF(En)}

    不确定性的更新

        CF模型中的不确定性推理实际上是从不确定的初始证据出发,不断运用相关的不确性知识,逐步推出最终结论和该结论可信度的过程。而每一次运用不确定性知识,都需要由证据的不确定性和知识的不确定性去计算结论的不确定性

        不确定性的更新公式

               CF(H)=CF(H, E)×max{0, CF(E)}

        若CF(E)<0,则

               CF(H)=0

    即该模型没考虑E为假对H的影响。(只考虑为真条件的影响)

        若CF(E)=1,则

               CF(H)=CF(H,E)

    规则强度CF(H,E)实际上是在E为真时,H的可信度

    结论不确定性的合成

        当有多条知识支持同一个结论,且这些知识的前提相互独立,结论的可信度又不相同时,可利用不确定性的合成算法求出结论的综合可信度。

        设有知识:IF  E1   THEN   H  (CF(H, E1))

             IF  E2   THEN   H  (CF(H, E2))

    则结论H 的综合可信度可分以下两步计算:

        (1) 分别对每条知识求出其CF(H)。即

             CF1(H)=CF(H, E1) ×max{0, CF(E1)}

             CF2(H)=CF(H, E2) ×max{0, CF(E2)}

    (2) 用如下公式求E1与E2对H的综合可信度

    例题P20

    主观Bayes方法的概率论基础

    全概率公式

    定理3.1 设事件A1,A2,…,An满足:

        (1)任意两个事件都互不相容,即当i≠j时,有Ai∩Aj=Φ  (i=1,2,…,n;j=1,2,…,n);

        (2) P(Ai)>0 (i=1, 2, … ,n);

        (3) D=


    则对任何事件B由下式成立:

       该公式称为全概率公式,它提供了一种计算P(B)的方法。

    Bayes公式

    https://blog.csdn.net/jiangjiang_jian/article/details/81346797

      定理3.2 设事件A1,A2,…,An满足定理3.1规定的条件,则对任何事件B有下式成立:

    该定理称为Bayes定理,上式称为Bayes公式。

        其中,P(Ai)是事件Ai的先验概率,P(B|Ai)是在事件Ai发生条件下事件B的条件概率;P(Ai|B)是在事件B发生条件下事件Ai的条件概率。

        如果把全概率公式代入Bayes公式,则有:

    这是Bayes公式的另一种形式。

        Bayes定理给处了用逆概率P(B|Ai)求原概率P(Ai|B)的方法。

    贝叶斯公式

    在贝叶斯写这篇文章之前,人们已经能够计算“正向概率”,如“假设袋子里面有 N 个白球,M 个黑球,你伸手进去摸一把,摸出黑球的概率是多大”。而一个自然而然的问题是反过来:“如果我们事先并不知道袋子里面黑白球的比例,而是闭着眼睛摸出一个(或好几个)球,观察这些取出来的球的颜色之后,那么我们可以就此对袋子里面的黑白球的比例作出什么样的推测”。这个问题,就是所谓的逆向概率问题。

    P(A) A 的先验概率,之所以称为“先验”是因为它不考虑任何 B 方面的因素

    P(A|B)是已知 B 发生后 A 的条件概率,也由于得自 B 的取值而被称作 A 的后验概率。

    P(B|A)是已知 A 发生后 B 的条件概率,也由于得自 A 的取值而被称作 B 的后验概率。

    P(B) B 的先验概率,也作标淮化常量(normalizing constant)。

    贝叶斯定理可表述为:

    后验概率 = (相似度 * 先验概率)/标淮化常量

    也就是说,后验概率与先验概率和相似度的乘积成正比。

    另外,比例P(B|A)/P(B)也有时被称作标淮相似度(standardised likelihood),Bayes定理可表述为:

    后验概率 = 标淮相似度 * 先验概率

    联合概率表示两个事件共同发生(数学概念上的交集)的概率。A B 的联合概率表示为

    推导

    我们可以从条件概率的定义推导出贝叶斯定理。

    根据条件概率的定义,在事件 B 发生的条件下事件 A 发生的概率为:

    同样地,在事件 A 发生的条件下事件 B 发生的概率为:

    结合这两个方程式,我们可以得到:

    这个引理有时称作概率乘法规则。上式两边同除以 P(A),若P(A)是非零的,我们可以得到贝叶斯定理:

    根据新情况更新先验概率-修正概率

    知识不确定性的表示

    表示形式:在主观Bayes方法中,知识是用产生式表示的,其形式为:

               IF  E  THEN  (LS, LN)   H

    其中,(LS, LN)用来表示该知识的知识强度,LS(充分性度量)和LN(必要性度量)的表示形式分别为:

    LS充分性:结论成立/不成立时 条件为真概率

    LN必要性:结论成立/不成立时 条件为假概率

    根据贝叶斯:

    两式相除得(几率函数):

    为讨论方便,下面引入几率函数

    可见,X的几率等于X出现的概率与X不出现的概率之比,P(X)与O(X)的变化一致,且有:

               P(X)=0  时有  O(X)=0

               P(X)=1  时有  O(X)=+∞

    即把取值为[0,1]的P(X)放大为取值为[0,+∞]的O(X)

    以上两式联立

    再把LS代入此式,可得:

    同理可得到关于LN的公式:

    以上两式就是修改的Bayes公式

    LS的性质:

        当LS>1时,O(H|E)>O(H),说明E支持H,LS越大,E对H的支持越充分。当LS→∝时,O(H|E)→∝,即P(H/E)→1,表示由于E的存在将导致H为真。

        当LS=1时,O(H|E)=O(H),说明E对H没有影响。

     当LS<1时,O(H|E)<O(H),说明E不支持H。

     当LS=0时,O(H|E)=0,说明E的存在使H为假。

    LN的性质:

     当LN>1时,O(H|﹁E)>O(H),说明E支持H,即由于E的不出现,增大了H为真的概率。并且,LN得越大,﹁E对H为真的支持就越强。当LN→∝时,O(H|﹁E)→∝,即P(H|﹁E)→1,表示由于﹁E的存在将导致H为真。

        当LN=1时,O(H|﹁E)=O(H),说明﹁E对H没有影响。

        当LN<1时,O(H|﹁E)<O(H),说明﹁E不支持H,即由于﹁E的存在,使H为真的可能性下降,或者说由于E不存在,将反对H为真。当LN→0时O(H|﹁E) →0,即LN越小,E的不出现就越反对H为真,这说明H越需要E的出现。

        当LN=0时,O(H|﹁E)=0,说明﹁E的存在(即E不存在)将导致H为假。

     

    LS与LN的关系

     由于E和﹁E不会同时支持或同时排斥H,因此只有下述三种情况存在:

        ① LS>1且LN<1                       

        ② LS<1且LN>1                      

        ③ LS=LN=1

    证据不确定性的表示

    基本证据的表示:

       在主观Bayes方法中,基本证据E的不精确性是用其概率或几率来表示的。

    概率与几率之间的关系为:

    以概率情况为例,对初始证据E,用户可以根据当前观察S将其先验概率P(E)更改为后验概率P(E|S),即相当于给出证据E的动态强度

    组合证据不确定性的计算:

       证据的基本组合方式只有合取和析取两种。(合取min,析取max)

     当组合证据是多个单一证据的合取时,例

              E=E1  AND   E2  AND  …  AND  En

     如果已知在当前观察S下,每个单一证据Ei有概率P(E1|S), P(E2|S), … ,P(En|S),则

          P(E|S)=min{ P(E1|S), P(E2|S), … ,P(En|S)}

     当组合证据是多个单一证据的析取时,例

                 E=E1  OR   E2  OR  …  OR  En

        如果已知在当前观察S下,每个单一证据Ei有概率P(E1|S), P(E2|S), … ,P(En|S),则

      P(E|S)=max{ P(E1|S), P(E2|S), … ,P(En|S)}

    不确定性的更新

    根据E的概率P(E)及LS和LN的值,把H的先验概率P(H)或先验几率O(H)更新为后验概率或后验几率。

        分以下3种情况讨论:

        1. 证据肯定为真

        2. 证据肯定为假

    3. 证据既非为真有非为假

    证据肯定为真时

     当证据E肯定为真时,P(E)=P(E|S)=1。将H的先验几率更新为后验几率的公式:

              O(H|E)=LS×O(H)

     把H的先验概率P(H)更新为后验概率P(H|E)的公式

     

    证据既非真假:需要使用杜达等人给出的公式:

    P(H|S)=P(H|E)×P(E|S)+P(H|﹁E)×P(﹁E|S)                              (3.7)

     

     

        下面分四种情况讨论:

        (1)P(E|S)=1

        当P(E|S)=1时,P(﹁E|S)=0。

    这实际是证据肯定存在的情况

        (2)P(E|S)=0

        当P(E|S)=0时,P(﹁E|S)=1。

        (3)P(E|S)=P(E)

        当P(E|S)=P(E)时,表示E与S无关。由(3.7)式和全概率公式可得

        (4) P(E/S)为其它值

    上面已经得到了P(E|S)的3个特殊值:0,P(E),1;它们分别对应的3个值为P(H|﹁E),P(H),P(H|E)。由此构造的分段线性插值函数为:

     

    展开全文
  • 不确定性推理

    2011-12-15 10:56:11
    本章介绍了人工智能中不确定性推理,介绍其方法
  • 第 3 章 不确定性推理概述可信度推理2.1 知识不确定性的表2.2 证据不确定性的表2.3 组合证据的不确定性2.4 不确定性的更新2.5 不确定性结论的合成
  • 提出了基于可信度因子和可信度区间的不确定性推理模型,并用改进的BP神经网络实现其推理过程,最后利用MATLAB神经网络工具箱给出仿真示例。改进的BP神经网络在实现不确定性推理方面有效避免了沿用传统方法所带来的...
  • 人工智能--不确定性推理概述

    万次阅读 2019-06-07 16:32:10
    文章目录不确定性推理的含义什么是不确定性推理为什么采用不确定性推理不确定性推理的基本问题不确定性的表示知识不确定性的表示证据的不确定性表示不确定性的匹配组合证据不确定性的计算不确定性的更新不确定性结论...
  • 人工智能第5章 不确定性推理; 第四章 不确定性推理;概述;不确定性推理;不确定性的表示 I;不确定性的表示 II;不确定性的表示 III;要解决的问题;不确定性推理法的类型I ;不确定性推理法的类型II ;概述; 第四章 不确定...
  • 然后建立了基于本体和贝叶斯网络的融合推理模型,利用本体推理完成对故障诊断本体知识的语法检查、语义一致性的验证以及本体的解析,采用基于启发式搜索树的贝叶斯网络进行不确定性推理,并在贝叶斯网络可视化推理平台...
  • 第四章 不确定性推理; 第四章 不确定性推理;概述;不确定性推理;不确定性的表示 I;不确定性的表示 II;不确定性的表示 III;要解决的问题;不确定性推理法的类型I ;不确定性推理法的类型II ;概述; 第四章 不确定性推理; ...
  • 利用概念格来实现不确定性推理的过程中,给出了一个具体的语言真值格蕴涵代数的完备结构;作为概念格的扩充理论,提出了用于处理不确定性信息的语言真值概念格,并基于语言真值概念格给出了内逼近不确定性推理规则和...

空空如也

空空如也

1 2 3 4 5 ... 20
收藏数 54,297
精华内容 21,718
关键字:

不确定性推理

友情链接: LS_ARX.zip