人工智能第五章不确定推理

《人工智能第五章不确定推理》由会员分享，可在线阅读，更多相关《人工智能第五章不确定推理（188页珍藏版）》请在装配图网上搜索。

1、单击此处编辑母版标题样式,,单击此处编辑母版文本样式,,第二级,,第三级,,第四级,,第五级,,,Computer Science & Technology,*,*,单击此处编辑母版标题样式,,单击此处编辑母版文本样式,,第二级,,第三级,,第四级,,第五级,,*,*,,Computer Science & Technology,单击此处编辑母版标题样式,,单击此处编辑母版文本样式,,第二级,,第三级,,第四级,,第五级,,,,*,2024/12/10,1,第五章,不确定推理,2024/12/10,2,前言,【,传统逻辑的系统,】,,“,硬”计算,,要求使用,确定的,和,精确的,数据及知识；,

2、,【,解决实际问题,】,,人的认识常常是,不确定的,或,不精确的,；,,模糊性；,,近似性；,,不能以简单的真假逻辑加以表示；,2024/12/10,3,前言,不确定推理,,模仿人作近似而非严格推理的,“软”计算技术,；,,不确定推理,在,确定性推理,方法的基础上发展起来,,使用,不确定的,和,不精确的,数据及知识,；,,把指示,确定性程度,的数据附加到,数据及知识,；,,3,种,不确定推理方法（不同的确定性程度定义）,：,,5.3,主观,Bayes,方法,,5.4,可信度方法,,5.5,证据理论,2024/12/10,4,常识,(common sense),具有不确定性。,,一个常识可能有众

3、多的例外，一个常识可能是一种尚无理论依据或者缺乏充分验证的经验。,,常识往往对环境有极强的依存性。,,“,鸟是会飞的,”,，,“,常在河边走，哪能不湿鞋,”,。,2024/12/10,5,5.1,概述,知识的不确定性,,智能主要反映在求解不确定性问题的能力上。,,推理是人类的思维过程，它是从已知事实出发，通过运用相关的知识逐步推出某个结论的过程。,,其中,已知事实,和,知识,是构成推理的两个基本要素。,,已知事实,（证据），用以指出推理的出发点及推理时应使用的知识；,,知识,是推理得以向前推进，并逐步达到最终目标的依据。,,2024/12/10,6,在客观世界中，由于事物发展的,随机性和复杂性

4、,，人类认识的,不完全、不可靠、不精确和不一致性,，自然语言中存在的,模糊性和歧义性,，使得现实世界中的,事物以及事物之间的关系极其复杂，带来了大量的不确定性,。,,大多数要求智能行为的任务都具有某种程度的不确定。,,不确定性可以理解为在,缺少足够信息的情况下做出判断,。,2024/12/10,7,确定性推理是建立在经典逻辑基础上的,,经典逻辑的基础之一就是集合论,,这在很多实际情况中是很难做到的，如高、矮、胖、瘦就很难精确地分开。,,经典逻辑不适合用来处理不确定性。,2024/12/10,8,不确定推理,是建立在非经典逻辑基础上的一种推理，它是对不确定性知识的运用与处理。,,不确定性推理,就

5、是从不确定性初始证据出发，通过运用不确定性的知识，最终推出具有一定程度的不确定性但却是合理或者近乎合理的结论的思维过程。,,2024/12/10,9,5.1.2,不确定推理要解决的基本问题,由于证据和规则的不确定性，导致了所产生的结论的不确定性。,,不确定性推理反映了知识不确定性的,动态积累,和,传播过程,，推理的每一步都需要,综合证据和规则的不确定因素,，通过某种,不确定性测度,，寻找,尽可能符合客观实际的计算模式,，通过,不确定测度的传递计算,，最终得到,结果的不确定测度,。,2024/12/10,10,在专家系统中，不确定性表现在,证据,、,规则,和,推理,三个方面，需要对专家系统中的事

6、实与规则给出不确定性描述，并在此基础上建立不确定性的传递计算方法。,,要实现对不确定性知识的处理，要解决,,不确定知识的表示问题,,不确定信息的计算问题,,不确定性表示,,计算的语义解释问题,2024/12/10,11,1.,表示问题,,表示问题指的是采用什么方法描述不确定性。通常有数值表示和非数值的语义表示方法。数值表示便于计算、比较；非数值表示，是一种定性的描述。,,在专家系统中的,“,不确定性,”,分为：,,规则的不确定性,,事实的不确定性,2024/12/10,12,(1),规则不确定性,,(E→H,，,f(H,，,E)),，,,(2),证据不确定性,,(E,，,C(E)),，,,证据

7、不确定性的表示方法应与知识不确定性的表示方法保持一致，证据的不确定性通常也是一个数值表示，它代表相应证据的不确定性程度，称之为,动态强度,。,它表示相应知识的不确定性程度，称为知识或规则强度。,它表示证据,E,为真的程度。它有两种来源：初始证据,(,由用户给出,),；前面推出的结论作为当前证据,(,通过计算得到,),。,2024/12/10,13,2.,计算问题,计算问题主要指不确定性的,传播与更新,，即,获得新信息的过程,。,,它是在领域专家给出的,规则强度,和用户给出的,原始证据的不确定性,的基础上，定义一组函数，求出结论的不确定性度量。,,它主要包括如下三个方面：,2024/12/10,

8、14,(1),不确定性的传递算法,,已知规则的前提,E,的不确定性,C(E),和规则强度,f,（,H,，,E),，求假设,H,的不确定性,C(H),，,,即定义函数,f1,，使得：,,,C(H)=f1(C(E),f(H,，,E)),2024/12/10,15,,(2),结论不确定性合成,,即已知由两个,独立的证据,E1,和,E2,,,求得的假设,H,的不确定性度量,C1(H),和,C2(H),，求证据,E1,和,E2,的组合导致的假设,H,的不确定性,C(H),，即定义函数,f2,，使得：,,,C(H)=f2(C1(H),C2(H)),2024/12/10,16,(3),组合证据的不确定性算法

9、,,已知证据,E1,和,E2,的不确定性度量,C(E1),和,C(E2),，求证据,E1,和,E2,的析取和合取的不确定性，即定义函数,f3,和,f4,使得：,,,C(E1∧E2)=f3(C(E1),C(E2)),,C(E1∨E2)=f4(C(E1),C(E2)),,2024/12/10,17,常用组合证据的不确定性的计算方法有,3,种。,,(a),最大最小法,,,C(E1∧E2)=min(C(E1),C(E2)),,C(E1∨E2)=max(C(E1),C(E2)),,(b),概率方法,,,C(E1∧E2)=C(E1)×C(E2),,C(E1∨E2)= C(E1)+C(E2)-C(E1)×C

10、(E2),,(c),有界方法,,,C(E1∧E2)=max{0,C(E1)+C(E2)-1},,C(E1∨E2)=min{1,C(E1)+C(E2)},2024/12/10,18,3.,语义问题,语义问题指上述表示和计算的含义是什么。如,C(H,E),可理解为当前提,E,为真时，对结论,H,为真的一种影响程度，,C(E),可理解为,E,为真的程度。,,处理不确定性问题的主要数学工具,:,,概率论,,模糊数学,,概率论与模糊数学所研究和处理的是两种不同的不确定性。,2024/12/10,19,概率论研究和处理,随机现象,，事件本身,有明确的含义,，只是由于条件不充分，使得,在条件和事件之间不能出

11、现决定性的因果关系,(,随机性,),。,,模糊数学研究和处理,模糊现象,，概念本身就,没有明确的外延,，一个对象是否符合这个概念,是难以确定的,(,属于模糊的,),。,,无论采用什么数学工具和模型，都需要对规则和证据的不确定性给出度量。,2024/12/10,20,规则的不确定性度量,f(H,，,E),，需要定义在下述,3,个典型情况下的取值：,,若,E,为真，则,H,为真，这时,f(H,，,E)=?,,,若,E,为真，则,H,为假，这时,f(H,，,E)=?,,E,对,H,没有影响，这时,f(H,，,E)=?,,对于证据的不确定性度量,C(E),，需要定义在下述,3,个典型情况下的取值：,,

12、,E,为真，,C(E)=?,,E,为假，,C(E)=?,,,对,E,一无所知，,C(E)=?,,2024/12/10,21,对于一个专家系统，一旦给定了上述不确定性的表示、计算及其相关的解释，就可以从最初的观察证据出发，得出相应结论的不确定性程度。,,专家系统的不确定性推理模型指的就是,证据和规则的不确定性的测度方法,以及,不确定性的组合计算模式,。,2024/12/10,22,5.1.3,不确定性推理方法分类,两种不确定性推理：,,在推理一级上扩展不确定性推理的方法,（,模型方法）,,,在控制策略级处理不确定性的方法（,,控制方法,）,把不确定证据和不确定的知识分别与某种量度标准对应起来，并

13、且给出更新结论不确定性算法，从而建立不确定性推理模式。,通过识别领域中引起不确定性的某些特征及相应的控制策略来限制或减少不确定性对系统产生的影响，这类方法没有处理不确定性的统一模型，其效果极大地依赖于控制策略。,2024/12/10,23,模型方法分为：,,数值方法,,非数值方法,,,数值方法，对不确定性的一种定量表示和处理方法。如概率方法,(,本章内容,),,如古典逻辑方法和非单调推理方法等,2024/12/10,24,纯概率方法虽然有严格的理论依据，但通常要求给出事件的,先验概率,和,条件概率,，而这些数据又不易获得，因此使其应用受到限制。,,为了解决这个问题，人们在概率论的基础上发展起来

14、了一些新的方法和理论，主要有,,可信度方法、,,证据理论、,,主观概率论,(,又称主观,Bayes,方法,),等。,2024/12/10,25,(1),主观,Bayes,方法,,,(2),可信度方法,,,(3),证据理论,PROSPECTOR,专家系统中使用的不确定推理模型，是对,Bayes,公式修正后形成的一种不确定推理方法，为概率论在不确定推理中的应用提供了一条途径。,它是,MYCIN,专家系统中使用的不确定推理模型，它以确定性理论为基础，方法简单、易用。,,它通过定义信任函数、似然函数，把知道和不知道区别开来。这些函数满足比概率函数的公理要弱的公理，因此，概率函数是信任函数的一个子集。,

15、,2024/12/10,26,,基于概率的方法没有把事物自身所具有的模糊性反映出来。,,Zadeh,提出模糊集理论。,,概率论,处理的是由随机性引起的不确定性，,可能性理论,处理的是由模糊性引起的不确定性。,2024/12/10,27,5.3,主观,Bayes,方法,处理不确定性的,主要理论基础,：,,传统概率论中的,Bayes,理论,；,,2024/12/10,28,5.3,主观,Bayes,方法,1,、应用,Bayes,理论,于不确定推理,,先验概率,,表示为,p(,事件,),；,,在,没有知识,支持它的,出现,或,不出现,的情况下赋给这个,事件,的概率；,,即，,先于证据的概率,；,,后

16、验概率,,表示为,p(,事件,/,证据,),,；,,给定一些,证据,的条件下这个,事件,发生的概率；,推理规则,P,Q,的不确定性表示为后验概率,p(Q/P),2024/12/10,29,5.3,主观,Bayes,方法,1,、应用,Bayes,理论,于不确定推理,,⑴后验概率,,Bayes,理论有以下,条件概率公式,★,：,,,其中：,,p,(,P,)——,前提,P,的,先验概率,；,,p,(,Q,)——,结论,Q,的,先验概率,；,,p,(,P,/,Q,)——,后验概率,,结论,Q,成立时,前提,P,成立的概率；,,后验概率,p,(,P,/,Q,),比,后验概率,p,(,Q,/,P,),更

17、容易获取,,由等式①获得,后验概率,p,(,Q,/,P,),,；,1,,,P,Q,2024/12/10,30,5.3,主观,Bayes,方法,1,、应用,Bayes,理论,于不确定推理,,⑴后验概率,,P,——,症状,，如，患有头疼的人；,,Q,——,疾病,，如，脑膜炎病人；,,p(,Q,/,P,)——,带有,症状,P,的人患,疾病,Q,的后验概率；,,p(,P,/,Q,)——,患,疾病,Q,的人带有,症状,P,的后验概率；,症状,P,疾病,Q,先验概率,p(,P,),先验概率,p(,Q,),病状,疾病,,p(,P,),=,0.001,p(,Q,)=0.0001,p(,P,/,Q,)=0.9,

18、=0.09,2024/12/10,31,5.3,主观,Bayes,方法,1,、应用,Bayes,理论,于不确定推理,,⑴后验概率,,P,——,征兆（病症）,，汽车轮子发出刺耳的噪声；,,Q,——,原因（疾病）,，汽车刹车失调；,,后验概率,p(,Q,/,P,),；,征兆,P,原因,Q,先验概率,p(,P,),先验概率,p(,Q,),征兆,原因,,p(,P,),=,0.04,p(,Q,)=0.05,p(,P,/,Q,)=0.7,=0.88,2024/12/10,32,5.3,主观,Bayes,方法,处理不确定性的,主要理论基础,：,,传统概率论中的,Bayes,理论,；,,应用,Bayes,理论

19、,获得,确定性程度,p,(Q|P),,：,,收集,大量的样品事件,来统计,p,(P),p,(Q),p,(P|Q),,；,,【,问题,——,同类事件出现的频率不高,】,：,,无法作客观概率统计，获取其,客观概率,；,,如，“,某地发生地震”,的概率；,2024/12/10,33,5.3,主观,Bayes,方法,1,、应用,Bayes,理论于不确定推理,,⑵主观,Bayes,方法,,,,,先验概率,p,(P),比,先验概率,p,(Q),更难获得；,,对,Bayes,理论进行改进，消去,先验概率,p,(P),；,,2024/12/10,34,5.3,主观,Bayes,方法,1,、应用,Bayes,理

20、论于不确定推理,,⑵主观,Bayes,方法,,对,Bayes,理论进行改进，消去,先验概率,p,(P),；,,2,1,2024/12/10,35,5.3,主观,Bayes,方法,1,、应用,Bayes,理论于不确定推理,,⑵主观,Bayes,方法,,对,Bayes,理论进行改进，消去,先验概率,p,(P),；,2,1,,,,2024/12/10,36,5.3,主观,Bayes,方法,1,、应用,Bayes,理论于不确定推理,,⑵主观,Bayes,方法,,对,Bayes,理论进行改进，消去,先验概率,p,(P),；,,命题,Q,的,先验几率,O(Q),,Q,成立,的先验概率,p,(Q),,和,,

21、Q,不成立,的先验概率,p,(﹁Q),,之比,O(Q),随,p,(Q),增大而增大,,①,p,(Q)=0,O(Q)=0;,,②,p,(Q)=1,O(Q)=,∞,;,,,2024/12/10,37,5.3,主观,Bayes,方法,1,、应用,Bayes,理论于不确定推理,,⑵主观,Bayes,方法,,对,Bayes,理论进行改进，消去,先验概率,p,(P),；,,,命题,Q,的,后验几率,O(Q/P),,前提,P,成立,情况下,,,,Q,成立,的后验概率,p,(Q/P),,和,,Q,不成立,的后验概率,p,(﹁Q/P),,之比,,,2024/12/10,38,5.3,主观,Bayes,方法,1,

22、、应用,Bayes,理论于不确定推理,,⑵主观,Bayes,方法,,对,Bayes,理论进行改进，消去,先验概率,p,(P),；,,命题,Q,的,后验几率,O(Q/P),,前提,P,成立,情况下,,,,Q,成立,的后验概率,p,(Q/P),,和,,Q,不成立,的后验概率,p,(﹁Q/P),,之比,,,,3,2024/12/10,39,5.3,主观,Bayes,方法,1,、应用,Bayes,理论于不确定推理,,⑵主观,Bayes,方法,,对,Bayes,理论进行改进，消去,先验概率,p,(P),；,,,,,命题,Q,的,先验几率,O(Q),；,,命题,Q,的,后验几率,O(Q/P),；,,LS,

23、——,推理规则,PQ,成立的,充分性因子,；,,表示,P,成立对,Q,成立的影响力,；,,公式,③,称为,,Bayes,公式的几率似然形式,3,,,,2024/12/10,40,5.3,主观,Bayes,方法,1,、应用,Bayes,理论于不确定推理,,⑵主观,Bayes,方法,,命题,Q,的,后验几率,O(Q/,﹁,P),,前提,P,不成立,情况下,,,,Q,成立,的后验概率,p,(Q/,﹁,P),,和,,Q,不成立,的后验概率,p,(﹁Q/,﹁,P),,之比,,,,4,2024/12/10,41,5.3,主观,Bayes,方法,1,、应用,Bayes,理论于不确定推理,,⑵主观,Baye

24、s,方法,,对,Bayes,理论进行改进，消去,先验概率,p,(P),；,,,,,,,LS,——,推理规则,PQ,成立的,充分性因子,；,★,,,LN,——,推理规则,PQ,成立的,必要性因子,；,★,,3,4,,2024/12/10,42,5.3,主观,Bayes,方法,,,,LS,——,充分性因子,,=,1:O(Q/P),=,O(Q),，,P,对,Q,无影响,；,,>,1:O(Q/P),>,O(Q),，,P,支持,Q,；,,<,1:O(Q/P),<,O(Q),，,P,不支持,Q,；,,LN,——,必要性因子,,=,1:O(Q/,﹁,P),=,O(Q),，,﹁,P,对,Q,无影响,；,,

25、>,1:O(Q/,﹁,P),>,O(Q),，,﹁,P,支持,Q,；,,<,1:O(Q/,﹁,P),<,O(Q),，,﹁,P,不支持,Q,；,,3,4,2024/12/10,43,5.3,主观,Bayes,方法,1,、应用,Bayes,理论于不确定推理,,⑵主观,Bayes,方法,,对,Bayes,理论进行改进，消去,先验概率,p,(P),；,,,,,,,LS,——,推理规则,PQ,成立的,充分性因子,；,,表示,P,成立,对,Q,成立的影响力；,,LN,——,推理规则,PQ,成立的,必要性因子,；,,表示,P,不成立,对,Q,成立的影响力；,3,4,,2024/12/10,44,5.3,主

26、观,Bayes,方法,1,、应用,Bayes,理论于不确定推理,,⑵主观,Bayes,方法,,,,,,,LS,和,LN,促进了,Bayes,理论,不确定推理中的应用；,,LS,（和,LN,）表示了,前提,P,对,结论,Q,的影响程度：,,专家可以在,缺乏大量统计数据,的情况下，做出,近似的估计,；,,在,不需要精确计算的应用,中，,近似估计,十分有用；,,3,4,2024/12/10,45,5.3,主观,Bayes,方法,1,、应用,Bayes,理论于不确定推理,,⑵主观,Bayes,方法,,,,,基于专家主观估计的,LS,（和,LN,）而演算出来的,后验概率,p,(Q/P),称为,主观概率,

27、；,,,,,,,上述推算,主观概率,的方法称为,主观,Bayes,方法,；,,,,,,,,3,4,2024/12/10,46,5.3,主观,Bayes,方法,1,、应用,Bayes,理论于不确定推理,,⑵主观,Bayes,方法,,P,——,征兆,，汽车轮子发出刺耳的噪声；,,Q,——,原因,，汽车刹车失调；,征兆,P,原因,Q,先验概率,p(,Q,),p(,Q,)=0.05,先验几率,,O(Q)=P(Q)/P(,﹁,Q)=0.053,,LS,=120,LN,=0.3,,O(Q/P),=6.4,,O(Q/,﹁,P),=0.016,2024/12/10,47,5.3,主观,Bayes,方法,1,、

28、应用,Bayes,理论于不确定推理,,⑵主观,Bayes,方法,,P,——,征兆,，汽车轮子发出刺耳的噪声；,,Q,——,原因,，汽车刹车失调；,征兆,P,原因,Q,O(Q/P),=6.4,O(Q/,﹁,P),=0.016,p(Q/P),=0.87,,p(Q/,﹁,P),=0.016,,2024/12/10,48,5.3,主观,Bayes,方法,1,、应用,Bayes,理论于不确定推理,,⑵主观,Bayes,方法,,P,——,征兆,，汽车轮子发出刺耳的噪声；,,Q,——,原因,，汽车刹车失调；,征兆,P,原因,Q,p(Q/P),=0.87,p(,Q,)=0.05,LS,=120,p(,P,),

29、=,0.04,p(,Q,)=0.05,p(,P,/,Q,)=0.7,p(Q/P),=0.88,,,主观,Bayes,方法,Bayes,公式,2024/12/10,49,5.3,主观,Bayes,方法,例,,对于规则,P,Q,，,,已知,p,(Q)=0.04,，,LS=100,，,LN=0.4,，,,请应用,主观,Bayes,方法,求出,p,(Q/P),和,p(Q/P),5.3 主观Bayes方法,,例,,对于规则,P,Q,，,,已知,p,(Q)=0.04,，,LS=100,，,LN=0.4,，,,请应用,主观,Bayes,方法,求出,p,(Q/P),和,p(Q/P),2024/12/1

30、0,51,5.3,主观,Bayes,方法,1,、应用,Bayes,理论于不确定推理,,概率公式：,,加法原理,：事件,A,和事件,B,不相容,,,,,A,B,2024/12/10,52,B,5.3,主观,Bayes,方法,1,、应用,Bayes,理论于不确定推理,,,乘法原理,：,A,扩展形式,B,C,A,2024/12/10,53,5.3,主观,Bayes,方法,1,、应用,Bayes,理论于不确定推理,,⑶不确定性的推理,（,P’,,P,,Q,）,,前提（即导致结论的证据）的不确定性可以设想为与另一事件,P',有关,：,,给出,后验概率,p(P/,P‘,),；,,推算出,证据,P‘,相

31、对于,结论,Q,的,后验概率,p(Q/,P‘,),；,,,,加法定理,,（事件不相容）,,乘法定理的扩展,,,,2024/12/10,54,5.3,主观,Bayes,方法,1,、应用,Bayes,理论于不确定推理,,⑶不确定性的推理,（,P’,,P,,Q,）,,前提（即导致结论的证据）的不确定性可以设想为与另一事件,P',有关,：,,给出,后验概率,p(P/,P‘,),；,,推算出相对于结论,Q,的,后验概率,p(Q/,P‘,),；,,,,P‘,是通过,P,去影响,Q,，且,P,已是成立或不成立,,忽略,P‘,,；,,,5,,,6,3,4,2024/12/10,55,5.3,主观,Baye

32、s,方法,1,、应用,Bayes,理论于不确定推理,,⑶不确定性的推理,（,P’,,P,,Q,）,,前提（即导致结论的证据）的不确定性可以设想为与另一事件,P',有关,：,,给出,后验概率,p(P/,P‘,),；,,推算出相对于结论,Q,的,后验概率,p(Q/,P‘,),；,,,6,,,,,,,3,4,2024/12/10,56,5.3,主观,Bayes,方法,1,、应用,Bayes,理论于不确定推理,,⑶不确定性的推理,（,P’,,P,,Q,）,,例,2,、汽车刹车失调问题,,P,——,征兆,，汽车轮子发出刺耳的噪声；,,Q,——,原因,，汽车刹车失调；,,征兆,P,原因,Q,p(Q

33、/P),=0.87,p(,Q,)=0.05,LS,=120,,主观,Bayes,方法,LN,=0.3,p(Q/,﹁,P),=0.016,,3,4,2024/12/10,57,5.3,主观,Bayes,方法,1,、应用,Bayes,理论于不确定推理,,⑶不确定性的推理,（,P’,,P,,Q,）,,例,2,、汽车刹车失调问题,,P,——,征兆,，汽车轮子发出刺耳的噪声；,,Q,——,原因,，汽车刹车失调；,,征兆,P,原因,Q,p(Q/P),=0.87,p(Q/,﹁,P),=0.016,p(P/P’),=0.8,6,p(,﹁,P/P’),=0.2,,,,,2024/12/10,58,5.3,主

34、观,Bayes,方法,1,、应用,Bayes,理论于不确定推理,,⑶不确定性的推理,（,P’,,P,,Q,）,,前提（即导致结论的证据）的不确定性可以设想为与另一事件,P',有关,：,,给出,后验概率,p(P/,P‘,),；,,推算出相对于结论,Q,的,后验概率,p(Q/,P‘,),；,,,,传递可以有更长的路径,,如，,P,‘,,,P,,Q,,W,6,,,2024/12/10,59,5.3,主观,Bayes,方法,1,、应用,Bayes,理论于不确定推理,,⑶不确定性的推理,（,P’,,P,,Q,）,,前提（即导致结论的证据）的不确定性可以设想为与另一事件,P',有关,：,,给

35、出,后验概率,p(P/,P‘,),；,,推算出相对于结论,Q,的,后验概率,p(Q/,P‘,),；,6,,,,,,,,2024/12/10,60,5.3,主观,Bayes,方法,1,、应用,Bayes,理论于不确定推理,,⑶不确定性的推理,（,P’,,P,,Q,）,,前提（即导致结论的证据）的不确定性可以设想为与另一事件,P',有关,：,,给出,后验概率,p(P/,P‘,),；,,推算出相对于结论,Q,的,后验概率,p(Q/,P‘,),；,6,,2024/12/10,61,5.3,主观,Bayes,方法,1,、应用,Bayes,理论于不确定推理,,⑶不确定性的推理,（,P’,,P,,Q

36、,）,,前提（即导致结论的证据）的不确定性可以设想为与另一事件,P',有关,：,,给出,后验概率,p(P/,P‘,),；,,推算出相对于结论,Q,的,后验概率,p(Q/,P‘,),；,,,6,p(Q/P),p(,Q,),LS,,主观,Bayes,方法,LN,p(Q/,﹁,P),,,2024/12/10,62,5.3,主观,Bayes,方法,1,、应用,Bayes,理论于不确定推理,,⑶不确定性的推理,,前提（即导致结论的证据）的不确定性可以设想为与另一事件,P',有关,：,,给出,后验概率,p(P/,P‘,),；,,推算出相对于结论,Q,的,后验概率,p(Q/,P‘,),；,6,,主观,Bay

37、es,方法,2024/12/10,63,5.3,主观,Bayes,方法,1,、应用,Bayes,理论于不确定推理,,⑶不确定性的推理,,为了,避免这种不一致性,，,主观,Bayes,方法,采用,分段线性插值,的手段：,,,,2024/12/10,64,5.3,主观,Bayes,方法,,,,,,,,,2024/12/10,65,5.3,主观,Bayes,方法,1,、应用,Bayes,理论于不确定推理,,⑶不确定性的推理,,为了,避免这种不一致性,，,主观,Bayes,方法,采用,分段线性插值,的手段：,★,,,2024/12/10,66,5.3,主观,Bayes,方法,1,、应用,Bayes,理

38、论于不确定推理,,⑶不确定性的推理,,已知,：,R1:IF E1 THEN (65,0.01) H,,其中，,P(E1|S1)=0.5,，,P(H)=0.01,，,P(E1)=0.1,,求,：,P(H|S1),,因为，,P(E1|S1)=0.5 > P(E1)=0.1,则,,2024/12/10,67,5.3,主观,Bayes,方法,已知,：,R1:IF E1 THEN (65,0.01) H,,其中，,P(E1|S1)=0.5,，,P(H)=0.01,，,P(E1)=0.1,,求,：,P(H|S1),2024/12/10,68,5.3,主观,Bayes,方法,1,、应用,Bayes,理论于不

39、确定推理,,⑶不确定性的推理,,已知,：,R1:IF E1 THEN (65,0.01) H,,其中，,P(E1|S1)=0.5,，,P(H)=0.01,，,P(E1)=0.1,,求,：,P(H|S1),,因为，,P(E1|S1)=0.5 > P(E1)=0.1,则,,2024/12/10,69,5.3,主观,Bayes,方法,1,、应用,Bayes,理论于不确定推理,,⑷不确定性的组合,,常常会出现,多个相互独立的前提,P,i,支持,同一结论,Q,的情况，表示为：,,,,2024/12/10,70,5.3,主观,Bayes,方法,⑷,不确定性的组合,★,多个相互独立的前提,Pi,2024/1

40、2/10,71,5.3,主观,Bayes,方法,1,、应用,Bayes,理论于不确定推理,,⑶不确定性的推理,,例,,已知,：,,R1:IF E1 THEN (65,0.01) H,,R2:IF E2 THEN (300,0.0001) H,,其中，,,P(H)=0.01,,P(E1|S1)=0.5,，,P(E2|S2)=0.02,，,,P(E1)=0.1,，,P(E2)=0.03,,求,：,P(H|S1S2),2024/12/10,72,5.3,主观,Bayes,方法,已知,：,,R1:IF E1 THEN (65,0.01) H,,R2:IF E2 THEN (300,0.0001) H,

41、,其中，,,P(H)=0.01,,P(E1|S1)=0.5,，,P(E2|S2)=0.02,，,,P(E1)=0.1,，,P(E2)=0.03,,求,：,P(H|S1S2),,,,2024/12/10,73,5.3,主观,Bayes,方法,已知,：,,R1:IF E1 THEN (65,0.01) H,,R2:IF E2 THEN (300,0.0001) H,,其中，,,P(H)=0.01,,P(E1|S1)=0.5,，,P(E2|S2)=0.02,，,,P(E1)=0.1,，,P(E2)=0.03,,求,：,P(H|S1S2),,因为，,P(E1|S1)=0.5 > P(E1)=0.1,则

42、,2024/12/10,74,5.3,主观,Bayes,方法,已知,：,,R1:IF E1 THEN (65,0.01) H,,R2:IF E2 THEN (300,0.0001) H,,其中，,,P(H)=0.01,,P(E1|S1)=0.5,，,P(E2|S2)=0.02,，,,P(E1)=0.1,，,P(E2)=0.03,,求,：,P(H|S1S2),,,2024/12/10,75,5.3,主观,Bayes,方法,已知,：,,R1:IF E1 THEN (65,0.01) H,,R2:IF E2 THEN (300,0.0001) H,,其中，,,P(H)=0.01,,P(E1|S1)=

43、0.5,，,P(E2|S2)=0.02,，,,P(E1)=0.1,，,P(E2)=0.03,,求,：,P(H|S1S2),,因为，,P(E1|S1)=0.5 > P(E1)=0.1,则,,2024/12/10,76,5.3,主观,Bayes,方法,已知,：,,R1:IF E1 THEN (65,0.01) H,,R2:IF E2 THEN (300,0.0001) H,,其中，,,P(H)=0.01,,P(E1|S1)=0.5,，,P(E2|S2)=0.02,，,,P(E1)=0.1,，,P(E2)=0.03,,求,：,P(H|S1S2),,,2024/12/10,77,5.3,主观,Baye

44、s,方法,已知,：,,R1:IF E1 THEN (65,0.01) H,,R2:IF E2 THEN (300,0.0001) H,,其中，,,P(H)=0.01,,P(E1|S1)=0.5,，,P(E2|S2)=0.02,，,,P(E1)=0.1,，,P(E2)=0.03,,求,：,P(H|S1S2),,,,,,2024/12/10,78,5.3,主观,Bayes,方法,已知,：,,R1:IF E1 THEN (65,0.01) H,,R2:IF E2 THEN (300,0.0001) H,,其中，,,P(H)=0.01,,P(E1|S1)=0.5,，,P(E2|S2)=0.02,，,,

45、P(E1)=0.1,，,P(E2)=0.03,,求,：,P(H|S1S2),,因为，,P(E2|S2)=0.02 < P(E2)=0.03,则,,2024/12/10,79,5.3,主观,Bayes,方法,已知,：,,R1:IF E1 THEN (65,0.01) H,,R2:IF E2 THEN (300,0.0001) H,,其中，,,P(H)=0.01,,P(E1|S1)=0.5,，,P(E2|S2)=0.02,，,,P(E1)=0.1,，,P(E2)=0.03,,求,：,P(H|S1S2),,,2024/12/10,80,5.3,主观,Bayes,方法,已知,：,,R1:IF E1 T

46、HEN (65,0.01) H,,R2:IF E2 THEN (300,0.0001) H,,其中，,,P(H)=0.01,,P(E1|S1)=0.5,，,P(E2|S2)=0.02,，,,P(E1)=0.1,，,P(E2)=0.03,,求,：,P(H|S1S2),,因为，,P(E2|S2)=0.02 < P(E2)=0.03,则,,,,2024/12/10,81,5.3,主观,Bayes,方法,已知,：,,R1:IF E1 THEN (65,0.01) H,,R2:IF E2 THEN (300,0.0001) H,,其中，,,P(H)=0.01,,P(E1|S1)=0.5,，,P(E2|S

47、2)=0.02,，,,P(E1)=0.1,，,P(E2)=0.03,,求,：,P(H|S1S2),,,,2024/12/10,82,5.3,主观,Bayes,方法,已知,：,,R1:IF E1 THEN (65,0.01) H,,R2:IF E2 THEN (300,0.0001) H,,其中，,,P(H)=0.01,,P(E1|S1)=0.5,，,P(E2|S2)=0.02,，,,P(E1)=0.1,，,P(E2)=0.03,,求,：,P(H|S1S2),,,,,传递,+,组合,2024/12/10,83,5.3,主观,Bayes,方法,2,、在推理网络中传递不确定性,,许多实际问题中规则都

48、具有不确定性,；,,不确定推理,在,基于规则的专家系统,中具有重要地位,,规则构成一个推理网络,,中间结果,：,,规则的,结论,；,,其他规则的,前提,；,给出相应于各规则的,LS,i,和,LN,i,p(A),，,p(B),和,p(Q,f,),Q,f,为真的后验概率,,P(Q,f,|P,1,P,2,P,3,P,4,),2024/12/10,人工智能 丁世飞,84,练习,设有规则,,R1: If E1 Then (20,l) H,,R2: If E2 Then (300,l) H,,已知证据,E1,和,E2,必然发生，并且,P(H)=0.03,

49、，求,H,的后验概率 。,,解,:,因为,P(H)=0.03,，则,,,O(H)=0.03/(1-0.03)=0.030927,,根据,R1,有,:,,O(H|E1)=LS1×O(H)=20×0.030927=0.6185,,根据,R2,有：,,O(H|E2)=LS2×O(H)=300×0.030927=9.2781,P(H,｜,E1E2),2024/12/10,人工智能 丁世飞,85,那么,,,,,,=0.6185×9.2781/0.030927=185.55,,所以,H,的后验概率为,P(H,｜,E1E2),=185.55/(1,＋,185.55)=0.99464,

50、2024/12/10,人工智能 丁世飞,86,主观,Bayes,方法不足：,,1,）要求有大量的概率数据来构造知识库，并且难于对这些数据进行解释；,,2,）在原始证据具有相互独立性，并能提供精确且一致的主观概率数据的情况下，该方法可以令人满意地处理不确定推理。但在实际当中，这些概率值很难保证一致性。,主观,Bayes,方法有优点：,,1,）该方法基于概率理论，具有坚实的理论基础，是目前不确定推理中最成熟的方法之一；,,2,）计算量适中。,2024/12/10,人工智能 丁世飞,87,5.4,可信度方法,可信度方法是由美国斯坦福大学,肖特利夫,(,),等人在考察了非概率的和非形式化的推理过程

51、后于己于1975年提出的一种不确定性推理模型，并于,1976,年首次在,血液病诊断专家系统,MYCIN,中得到了成功应用。,,它是不确定性推理中非常简单且又十分有效的一种推理方法。,,目前，有许多成功的专家系统都是基于这一方法建立起来的。,2024/12/10,人工智能 丁世飞,88,建造医学专家系统时的问题,1.Bayes,方法的问题,,医疗诊断问题和地质问题一样都具有不确定性，主要的不同是由于自然界中总共才有,92,种天然元素，所以关于矿物的地质假设数目就是有限的。但是由于微生物的数量巨大，因此可能的疾病假设也更多。,,虽然,Bayes,定理在医学上很有用，但是它的准确性和事先知道有多少

52、种可能性有关。,5.4,可信度方法,2024/12/10,人工智能 丁世飞,89,如给定一些症状，使用,Bayes,定理来确定某种疾病的概率,:,,,,,其中,,Ｄ,i,是第,i,种疾病；,,E,是证据；,,P(,Ｄ,i),是在已知任何证据之前病人得这种病的先验概率；,,P(E,｜Ｄ,i),是在已知患有Ｄ,i,疾病的情况下，病人出现症状,E,的条件概率；,j,是对所有疾病求和。,,Bayes,方法的问题,5.4,可信度方法,2024/12/10,人工智能 丁世飞,90,要给出所有这些概率,一致的、完整的,值往往是不可能的。,,实际上这些概率或统计是在数据或信息不断积累的基础上得到，并且随着

53、证据一点一点的积累，又会增加新的概率需要计算或统计，以确定证据积累时病人患某种疾病的可能性。,,Bayes,方法的问题,5.4,可信度方法,2024/12/10,人工智能 丁世飞,91,信任与不信任问题是设计医学诊断专家系统时所面临的又一个问题。,可信度,是对信任的一种度量，是指人们根据以往经验对某个事物或现象为真的程度的一个判断，或者说是人们对某个事物或现象为真的相信程度。根据概率论，我们知道,:,,P(H)+P(┐H)=1,,于是有,P(H)=l-P(┐H),,,对于基于证据,E,的后验假设有,,,P(H,｜,E)=l-P(┐H,｜,E),,把上式用于医学专家系统中，,如: 对于,MYC

54、IN,中的规则:,2.,可信与不信任问题,5.4,可信度方法,2024/12/10,人工智能 丁世飞,92,规则,:,,,If①,生物体的染色呈革兰氏阳性，并且,,②生物体的形态为球形，并且,,③生物体生长构造是链状,,,Then,有证据表明,(0.7),这种生物是链球菌。,,即是说如果,3,个前提条件都满足的话，有,70%,的可能确定它是一种链球菌,:,,,P(H,｜,E1E2E3),＝,0.7,,医学专家认为上式是可以接受的，但是医生认为下式是不正确的,:,,,P(┐H,｜,E1E2E3)=1-0.7=0.3,,这说明,0.7,和,0.3,反映的不是信任的概率，而只是一种,似然性,。这就

55、是说信任和不信任是不一致的。,MYCIN,中的规则,5.4,可信度方法,2024/12/10,人工智能 丁世飞,93,尽管,P(H,｜,E),表明,E,和,H,存在一种因果关系，但┐,H,和,E,之间可能没有因果关系。,,但是,P(H,｜,E),＝１,-P(┐H,｜,E),却暗示如果,E,和,H,之间有因果关系，则,E,和┐,H,之间也有因果关系。,,正是由于概率论上的这些问题使得,MYCIN,专家系统的开发者需要建立新的模型来处理不确定性问题。,,这种模型和基于重复事件出现频率有关的普通概率不同，它基于利用某些证据去证实假设的方法，称为,基于认知概率或确认度的确定性理论,。,原因分析：,5

56、.4,可信度方法,2024/12/10,人工智能 丁世飞,94,可信度模型,可信度,模型是,Shortliffe,等人在开发细菌感染疾病诊断专家系统,MYCIN,中提出的一种不确定性推理模型，它是基于确定性理论，结合概率论和模糊集合论等方法提出的一种推理方法。,,该方法采用可信度,CF(Certainty Factor),作为不确定性的测度，通过对,CF(H,E),的计算，探讨证据,E,对假设,H,的定量支持程度，因此，该方法也称为,C-F,模型,。,,先讨论在,C-F,模型中，关于,信任与不信任,的处理方法。,,5.4,可信度方法,2024/12/10,95,5.4,可信度方法,1,、方法

57、的定义,,⑴规则的不确定性,,MYCIN,提出的,可信度方法,中，推理规则表示为：,,IF,E,,,THEN,,H,，,CF(H,E),，其中：,,证据,E,——,命题的合取,∧,和析取,∨,组合；,,结论,H,——,单一命题；,,CF(H,E),——,确定性因子,，简称为,可信度,，证据,E,为真的情况下，结论,F,为真的可能程度；,,CF(H,E),=,MB(H,E),-,MD(H,E),,⑴,MB(H,E)=a,——,信任度量,,证据,E,成立,使结论,H,的可信度,增加了数量,a,；,,⑵,MD(H,E)=b,——,不信任度量,,证据,E,成立,使结论,H,的不可信度,增加了数量,b,

58、；,MB(H,E),和,MD(H,E),不能同时大于,0,,同一,证据,E,，不能,,既增加,结论,H,的,可信度,，,,又增加,结论,H,的,不可信度,。,2024/12/10,人工智能 丁世飞,96,在,C-F,模型中，可信度最初定义为信任与不信任的差，即,CF(H,E),定义为：,★,,,CF(H,E)=MB(H,E)-MD(H,E),,MB(Measure Belief,MB),称为信任增长度，它表示因为与前提条件,E,匹配的证据的出现，使结论,H,为真的信任的增长程度。,由证据,E,得到假设,H,的可信度（也称为确定性因子）,,MD(Measure Disbelief,MD),称为

59、不信任增长度，它表示因为与前提条件,E,匹配的证据的出现，对结论,H,的不信任的增长程度。,总结：可信度的定义,5.4,可信度方法,2024/12/10,97,5.4,可信度方法,⑴,p(H/E),>,p(H),：证据,E,支持,结论,H,，,MB,>,0,，,MD,=,0,；,,⑵,p(H/E),<,p(H),：证据,E,不支持,结论,H,，,MB,=,0,，,MD,>,0,；,,⑶,p(H/E),=,p(H),：证据,E,对结论,H,无影响,，,MB,=,MD,=,0,；,2024/12/10,98,5.4,可信度方法,⑴CF(H,E),=1,：,,,P(H|E)=1,,MB=1,，,MD

60、=0,，,E,确定性导致,H,为,真,；,,⑵,CF(H,E),=-1,：,,,P(H|E)=0,,MB=0,，,MD=1,，,E,确定性导致,H,为,假,；,,⑶,CF(H,E),=0,：,,,P(H|E)=,,P(H),,MB,=,MD,=,0,，,E,对,H,无影响,；,[-1,1],IF,,E,,THEN,,H,2024/12/10,人工智能 丁世飞,99,若,CF(H,E)>0,，,P(H|E)>P(H),。说明由于前提条件,E,所对应证据的出现增加了,H,为真的概率，即增加了,H,的可信度，,CF(H,，,E),的值越大，增加,H,为真的可信度就越大。,5.4,可信度方法,若,C

61、F(H,E)<0,，则,P(H|E)0,时，,MD(H,E)=0,,,当,MD(H,E)>0,时，,MB(H,E)=0,,（,2,）值域,,,0≤MB(H,E)≤1,,0≤MD(H,E)≤1,,-1≤CF(

62、H,E)≤1,根据,CF,、,MB,、,MD,的定义，可得性质：,★,5.4,可信度方法,2024/12/10,人工智能 丁世飞,101,①,当,CF(H,E)=1,时，有,P(H|E)=1,，它说明由于,E,所对应证据的出现使,H,为真。此时,,MB(H,E)=l,，,MD(H,E)=0,,②,当,CF(H,E)=-1,时，有,P(H|E)=0,，说明由于,E,所对应证据的出现使,H,为假。此时,,MB(H,E)=0,，,MD(H,E)=1,,③,当,CF(H,E)=0,时，则,P(H|E)=P(H),，表示,H,与,E,独立即,E,所对应的证据的出现对,H,没有影响。,（,3,）典型值,

63、根据,CF,、,MB,、,MD,的定义，可得性质：,5.4,可信度方法,2024/12/10,人工智能 丁世飞,102,根据,MB,、,MD,的定义及概率的性质,,（,4,）对,H,的信任增长度等于对非,H,的不信任增长度,根据,CF,、,MB,、,MD,的定义，可得性质：,5.4,可信度方法,2024/12/10,人工智能 丁世飞,103,再根据,CF,的定义及,MB,、,MD,的互斥性有,,,CF(H,E)+CF(┐H,E),,=(MB(H,E)-MD(H,E))+(MB(┐H,E)-MD(┐H,E)),,=(MB(H,E)-0)+(0-MD(┐H,E)),,=MB(H,E)-MD(┐

64、H,E)=0,（,4,）对,H,的信任增长度等于对非,H,的信任增长度,根据,CF,、,MB,、,MD,的定义，可得性质：,5.4,可信度方法,2024/12/10,人工智能 丁世飞,104,① 对,H,的信任增长度等于对非,H,的不信任增长度。,,② 对,H,的可信度与对非,H,的可信度之和等于,0,。,,③ 可信度不是概率。,对概率有,,,P(H),＋,P(┐H),＝,l,且,,O≤P(H),，,P(┐H)≤1,,而可信度不满足此条件。,为此得到以下,3,个结论：,根据,CF,、,MB,、,MD,的定义，可得性质：,★,5.4,可信度方法,2024/12/10,人工智能 丁世飞,105

65、,（,5,）,对同一前提,E,，,若支持若干个不同的结论,H,i,(i=1,，,2,，,…,，,n),，则,,,,,因此，如果发现专家给出的知识有如下情况,:,,CF(H,1,,E)=0.7, CF(H,2,,E)=0.4,,则因,0.7+0.4=1.1,＞,1,为非法，应进行调整或规范化。,根据,CF,、,MB,、,MD,的定义，可得性质：,5.4,可信度方法,2024/12/10,人工智能 丁世飞,106,,实际应用中,P(H),和,P(H|E),的值是很难获得的，因此,CF(H,，,E),的值应由领域专家给出,。,,原则：若相应证据的出现会增加,H,为真的可信度，则,CF(H,，,

66、E)>0,，证据的出现对,H,为真的支持程度越高，则,CF(H,，,E),的值越大；,,反之，证据的出现减少,H,为真的可信度，则,CF(H,，,E)<0,，证据的出现对,H,为假的支持程度越高，就使,CF(H,，,E),的值越小；若相应证据的出现与,H,无关，则使,CF(H,，,E)=0,。,注意事项,5.4,可信度方法,2024/12/10,人工智能 丁世飞,107,2.,可信度的计算,(1),规则不确定性的表示,,,在,C-F,模型中，规则用产生式规则表示,:,,If E Then H (CF(H,，,E)),,E,是规则的前提条件；,,H,是规则的结论；,,注意：,,CF(H,，,E),是,规则的可信度,，也称为,规则强度,或,知识强度,，它描述的是知识的,静态强度,。这里前提和结论都可以是由复合命题组成。,5.4,可信度方法,2024/12/10,人工智能 丁世飞,108,在,CF,模型中，证据,E,的不确定性也是用可信度因子,CF(E),来表示的，,其取值范围同样是,[-1,，,1],，其典型值为,:,,,当证据,E,肯定为真时：,CF(E)=1,