不確定性推理課件_第1頁
不確定性推理課件_第2頁
不確定性推理課件_第3頁
不確定性推理課件_第4頁
不確定性推理課件_第5頁
已閱讀5頁,還剩105頁未讀 繼續免費閱讀

下載本文檔

版權說明:本文檔由用戶提供并上傳,收益歸屬內容提供方,若內容存在侵權,請進行舉報或認領

文檔簡介

本章內容1.不確定性推理概論

不確定性及其類型

不確定性推理概念2.不確定性推理中的基本問題

表示問題

計算問題3.不確定性推理方法分類4.經典的不確定性推理模型

可信度方法

主觀貝葉斯方法2022/12/291本章內容1.不確定性推理概論2022/12/271不確定性概述不確定性:由于客觀世界的復雜、多變性和人類自身認識的局限、主觀性,致使我們所獲得、所處理的信息和知識中,往往含有不肯定、不準確、不完全甚至不一致的成分。事實上,不確定性大量存在于我們所處的信息環境中,例如人的日常語言中就幾乎處處含有不確定性(瞧!這句話本身就含有不確定性:什么叫“幾乎”?)。不確定性也大量存在于我們的知識特別是經驗性知識之中。2022/12/292不確定性概述不確定性:由于客觀世界的復雜、多變性和人類自身認不確定性分類(廣義)1、(狹義)不確定性:一個命題的真實性不能完全肯定,而只能對其為真的可能性給出某種估計。2、不確切性(模糊性):一個命題中所出現的某些言詞其含意不夠確切,從概念角度講,也就是其代表的概念的內涵沒有硬性的標準或條件。3、不完全性:對某些事物,關于它的信息或知識還不全面、不完整、不充分。4、不一致性:在推理過程中發生了前后不相容的結論,或者隨著時間的推移或者范圍的擴帶,原來的一些成立的命題就變得不合適、不成立了。2022/12/293不確定性分類(廣義)1、(狹義)不確定性:一個命題的真實性不不確定性推理概念不確定性推理泛指除精確推理以外的其它各種推理問題。包括不完備、不精確知識的推理,模糊知識的推理,非單調性推理等。不確定性推理過程實際上是一種從不確定的初始證據出發,通過運用不確定性知識,最終推出具有一定不確定性但卻又是合理或基本合理的結論的思維過程。2022/12/294不確定性推理概念不確定性推理泛指除精確推理以外的不確定性推理中的基本問題

要實現對不確定性知識的處理,必須要解決不確定知識的表示問題,不確定信息的計算問題,以及不確定性表示和計算的語義解釋問題。1.表示問題表達要清楚。表示方法規則不僅僅是數,還要有語義描述。2.計算問題不確定性的傳播和更新。也是獲取新信息的過程。3.語義問題將各個公式解釋清楚。2022/12/295不確定性推理中的基本問題

要實現對不確定性知識的處理,必須不確定性推理的表示問題一、知識的不確定性表示知識不確定性的表示方式是與不確定性推理方法密切相關的一個問題。在選擇知識的不確定性表示時,通常需要考慮以下兩個方面的因素:要能夠比較準確地描述問題本身的不確定性便于推理過程中不確定性的計算2022/12/296不確定性推理的表示問題一、知識的不確定性表示2022/12知識的不確定性表示(1)狹義不確定性知識的表示我們只討論隨機性產生式規則的表示。對于狹義不確定性,一般采用信度(或稱可信度)來刻劃。一個命題的信度是指該命題為真的可信程度。例如,(這場球賽甲隊取勝,0.9)

這里的0.9就是命題“這場球賽甲隊取勝”的可信度。它表示“這場球賽甲隊取勝”這個命題為真(即這個事件發生)的可能性程度是0.9。在實際應用中,知識的不確定性是由領域專家給出的。2022/12/297知識的不確定性表示(1)狹義不確定性知識的表示20知識的不確定性表示(2)不確切性知識的表示對于不確切性,一般采用程度或集合來刻劃。所謂程度就是一個命題中所描述的事物的屬性、狀態和關系等的強度。例如,我們用三元組(張三,體型,(胖,0.9))表示命題“張三比較胖”,其中的0.9就代替“比較”而刻劃了張三“胖”的程度。這種程度表示法,一般是一種針對對象的表示法。其一般形式為(<對象>,<屬性>,(<屬性值>,<程度>))2022/12/298知識的不確定性表示(2)不確切性知識的表示2022/12/證據的不確定性的表示二、證據的不確定性的表示推理中的證據有兩種來源:一種是用戶在求解問題時所提供的初始證據,如病人的癥狀、檢查結果等;另一種是在推理中得出的中間結果,即把當前推理中所得到的中間結論放入綜合數據庫,并作為以后推理的證據來使用。一般來說,證據的不確定性表示應該與知識的不確定性表示保持一致,以便推理過程能對不確定性進行統一處理。證據的不確定性可以用概率來表示,也可以用可信度等來表示,其意義與知識的不確定性類似。2022/12/299證據的不確定性的表示二、證據的不確定性的表示2022/12/不確定性推理的計算問題(1)組合證據的不確定性如何由兩個證據A1和A2的可信度度量P(A1)、P(A2)計算“與”、“或”邏輯計算結果的可信度度量:P(A1∧A2)=f(P(A1),P(A2))、P(A1∨A2)=f(P(A1),P(A2))最大最小法:P(A1∧A2)=min(P(A1),P(A2)

P(A1∨A2)=max(P(A1),P(A2))概率方法:P(A1∧A2)=P(A1)×P(A2) P(A1∨A2)=P(A1)+P(A2)-P(A1)×P(A2)有界方法:P(A1∧A2)=max(0,P(A1)+P(A2)-1)

P(A1∨A2)=min(1,P(A1)+P(A2))2022/12/2910不確定性推理的計算問題(1)組合證據的不確定性2022/12不確定性的計算(2)結論不確定性的合成用多個不同知識推理得到了相同的結論,但不確定性程度不同。系統需要將相同結論的多個不確定性進行綜合,即對不確定性進行合成。結論不確定合成的方法也很多,一般視不同推理方法而定2022/12/2911不確定性的計算(2)結論不確定性的合成2022/12/271不確定性推理方法分類關于不確定性推理的類型由多種不同的分類方法,如果按照是否采用數值來描述非精確性,可將其分為數值方法和非數值方法兩大類型。非數值方法是指出數值方法外的其他各種處理不確定性的方法,它采用集合來描述和處理不確定性,而且滿足概率推理的性質。非數值方法數值方法是對不確定性的一種定量表示和處理方法。數值方法2022/12/2912不確定性推理方法分類關于不確定性推理的類型由多種不同的分類方不確定性推理方法分類

對于數值方法,按其依據的理論不同又可分為以下兩類:1、基于概率的方法:是基于概率論的有關理論發展起來的方法,如可信度方法、主觀Bayes方法、證據理論等;2、模糊推理:是基于模糊邏輯理論發展起來的可能性理論方法2022/12/2913不確定性推理方法分類對于數值方法,按其依據的理論不同又可分不確定性推理方法分類模糊推理基于概率的方法主觀Bayes方法可信度方法證據理論數值方法非數值方法不確定性推理框架推理

語義網絡推理

常識推理…2022/12/2914不確定性推理方法分類模糊推理基于概率的方法主觀Bayes方法不確定性推理模型基本結構規則的一般表示形式:

IFETHENH,CF(H,E)

其中:E表示規則的前提條件,即證據

H表示規則的結論部分,即假設

CF(H,E)表示規則的精確程度或可信度。任何一個不確定性推理模型必須解決三個問題:前提(證據,事實)的不確定性描述規則(知識)的不確定性描述不確定性的更新算法2022/12/2915不確定性推理模型基本結構規則的一般表示形式:2022/12/不確定性推理模型基本結構證據的不確定性CF(E),表示證據E為真的程度。需定義其在三種典型情況下的取值:

E為真

E為假對E一無所知(該情況下的取值稱為證據的單位元e(E))規則的不確定性CF(H,E),表示規則的強度。需定義其在三種典型情況下的取值:若E為真,則H為真若E為假,則H為假

E對H沒有影響(該情況下的取值稱為規則的單位元e(H,E))2022/12/2916不確定性推理模型基本結構證據的不確定性CF(E)可信度方法E.Short和B.Buchanan在MYCIN系統研制過程中產生了可信度方法,第一個采用了不確定推理邏輯,在70年代很有名。2022/12/2917可信度方法E.Short和B.Buchanan在MYCI可信度概念所謂可信度就是在實際生活中根據自己的經驗對某一事物或現象進行觀察,判斷相信其為真得程度。例如,張三昨天沒有上課,他的理由是肚子疼,就此理由而言,聽話的人可能完全相信,也可能完全不相信,也可能在某種程度上相信,這與張三平時的表現和人們對他的話相信程度有關。這里的相信程度就是我們說的可信度。可信度也稱為確定性因子。2022/12/2918可信度概念所謂可信度就是在實際生活中根據自己的經驗對某一事物可信度

顯然,可信度具有較大的主觀性和經驗性,其準確性是難以把握的。但是,對于某一具體領域而言,由于該領域的專家具有豐富的專業知識和實踐經驗,要給出該領域知識的可信度還是完全有可能的。另外,人工智能所面臨的問題,通常都較難用精確的數學模型進行描述,而且先驗概率及條件概率的確定也比較困難,因此用可信度來表示知識及證據的不確定性仍然不失為一種可行的方法。2022/12/2919可信度顯然,可信度具有較大的主觀性和經驗性,其準確性是難以可信度方法---CF模型CF模型是基于可信度表示的不確定性推理的基本方法,其它可信度方法都是在此基礎上發展起來

其一般形式為:IFETHENH,CF(H,E)CF(H,E)是該條知識的可信度,稱為可信度因子或規則強度.它指出當前提條件E為真時,它對結論H為真的支持程度,CF(H,E)的值越大,就越支持結論H為真。證據的不確定性也是用可信度因子表示。證據E的可信度表示為CF(E).2022/12/2920可信度方法---CF模型CF模型是基于可信度表示的不確定性可信度方法---CF模型-1≤CF(H,E)≤1CF(B,A)的特殊值:CF(B,A)=1,前提真,結論必真CF(B,A)=-1,前提真,結論必假CF(B,A)=0,前提真假與結論無關實際應用中CF(B,A)的值由專家確定,并不是由P(B|A),P(B)計算得到的。2022/12/2921可信度方法---CF模型-1≤CF(H,E)≤1

規則

E→H,可信度表示為CF(H,E)。

2022/12/2922當P(H|E)>P(H)當P(H|E)=P(H)當P(H|E)<P(H)2022/12/2722當P(H|E)>P(H)當P(H|E可信度方法---CF模型CF是由稱為信任增長度MB和不信任增長度MD相減而來的。即

CF(H,E)=MB(H,E)-MD(H,E)2022/12/2923

當P(H)=1否則

當P(H)=0否則可信度方法---CF模型CF是由稱為信任增長度MB和不信任增可信度方法---CF模型當MB(H,E)>0,表示由于證據E的出現增加了對H的信任程度。當MD(H,E)>0,表示由于證據E的出現增加了對H的不信任程度。由于對同一個證據E,它不可能既增加對H的信任程度又增加對H的不信任程度,因此,MB(H,E)與MD(H,E)是互斥的,即當MB(H,E)>0時,MD(H,E)=0;當MD(H,E)>0時,MB(H,E)=0。2022/12/2924可信度方法---CF模型當MB(H,E)>0,表示由于證據E可信度方法---CF模型的計算

前提證據事實總CF值計算

CF(E1∧E2∧…∧En)=min{CF(E1),CF(E2),CF(En)}CF(E1∨E2∨…∨En)=max{CF(E1),CF(E2),…,CF(En)}其中E1,E2,…,En是與規則前提各條件匹配的事實。推理結論CF值計算CF(H)=CF(H,E)·max{0,CF(E)}其中E是與規則前提對應的各事實,CF(H,E)是規則中結論的可信度,即規則強度。2022/12/2925可信度方法---CF模型的計算前提證據事實總CF值計算2可信度方法---CF模型重復結論的CF值計算若同一結論H分別被不同的多條規則推出,但可信度不同,則可用合成算法求出綜合可信度。多條知識的綜合可通過兩兩的合成實現。當兩條規則推出同一結論H時,CF(H)的計算:

CF(H)1+CF(H)2-CF(H)1·CF(H)2,

當CF(H)1≥0,且CF(H)2≥0CF(H)=CF(H)1+CF(H)2+CF(H)1·CF(H)2,

當CF(H)1<0,且CF(H)2<0CF(H)1+CF(H)2

否則2022/12/2926可信度方法---CF模型重復結論的CF值計算2022/12/可信度方法舉例(一)已知R:IF(E1orE2)andE3THENH

(0.8),CF(E1)=0.4、CF(E2)=0.6、CF(E3)=0.7,求CF(H)。解:設E=(E1orE2)andE3

CF(E1orE2)=max(CF(E1),CF2(E2))=0.6CF(E)=min(CF(E1orE2),CF(E3))=0.6CF(H)=CF(E)·CF(H,E)=0.6×0.8=0.48前提證據事實總CF值計算推理結論CF值計算2022/12/2927可信度方法舉例(一)已知R:IF(E1orE2)an可信度方法舉例(二)R1:IFE1THENH

CF(H,E1)=(0.8)R2:IFE2THENH

CF(H,E2)=(0.7)CF(E1)=0.4、CF(E2)=0.6解:

CF1(H)=CF(E1)·CF(H,E1)=0.4×0.8=0.32CF2(H)=CF(E2)·CF(H,E2)=0.6×0.7=0.42CF(H)=0.32+0.42-0.32×0.42=0.6重復結論的CF值計算推理結論CF值計算2022/12/2928可信度方法舉例(二)R1:IFE1THENH

主觀貝葉斯方法是R.O.Duda等人于1976年提出的一種不確定性推理模型,并成功地應用于地質勘探專家系統PROSPECTOR。主觀貝葉斯方法是以概率統計理論為基礎,將貝葉斯(Bayesian)公式與專家及用戶的主觀經驗相結合而建立的一種不確定性推理模型。

1.不確定性度量主觀貝葉斯方法的不確定性度量為概率P(x),另外還有三個輔助度量:LS,LN和O(x),分別稱充分似然性因子、必要似然性因子和幾率函數。主觀貝葉斯方法2022/12/2929

在PROSPECTOR中,規則一般表示為

ifE

then(LS,LN)H(P(H))或者圖示為

其中,E為前提(稱為證據);H為結論(稱為假設);P(H)為H為真的先驗概率;LS,LN分別為充分似然性因子和必要似然性因子,其定義為(8-8)2022/12/2930在PROSPECTOR中,規則一般表示為ifE(8-9)前者刻畫E為真時對H的影響程度,后者刻畫E為假時對H的影響程度。另外,幾率函數O(x)的定義為(8-10)它反映了一個命題為真的概率(或假設的似然性(likelihood))與其否定命題為真的概率之比,其取值范圍為[0,+∞]。

2022/12/2931(8-9)前者刻畫E為真時對H的影響程度,后者刻畫E為假時

下面我們介紹LS,LN的來歷并討論其取值范圍和意義。由概率論中的貝葉斯公式

兩式相除得

2022/12/2932下面我們介紹LS,LN的來歷并討論其取值范圍和意義。由即

亦即

O(H|E)=O(H)LS

從而

由此式不難看出:

LS>1當且僅當O(H|E)>O(H),說明E以某種程度支持H;LS<1當且僅當O(H|E)<O(H),說明E以某種程度不支持H;

LS=1當且僅當O(H|E)=O(H),說明E對H無影響。

2022/12/2933即亦即O(H|E)=O(H)LS從而由此式不難看出將上面貝葉斯公式中E的換為E,用類似的過程即可得到

O(H|

E)=O(H)

·LN

進而有

由此式不難看出:

LN>1當且僅當O(H|E)>O(H),說明E以某種程度支持H;

LN<1當且僅當O(H|E)<O(H),說明E以某種程度不支持H;

LN=1當且僅當O(H|E)=O(H),說明E對H無影響。

2022/12/2934將上面貝葉斯公式中E的換為E,用類似的過程即可得到因為一個證據E及其否定E不可能同時既支持又反對一個假設H,因此任一條規則E→H的LS、LN只能是下列情況中的一種:①LS>1,且LN<1;②LS<1,且LN>1;

LS=LN=1。

2022/12/2935因為一個證據E及其否定E不可能同時既支持又反對一個需說明的是,在概率論中,一個事件的概率是在統計數據的基礎上計算出來的,這通常需要大量的統計工作。為了避免大量的統計工作,在主觀貝葉斯方法中,一個命題的概率可由領域專家根據經驗直接給出,這種概率稱為主觀概率。推理網絡中每個陳述H的先驗概率P(H)都是由專家直接給出的主觀概率。同時,推理網絡中每條規則的LS、LN也需由專家指定。例如PROSPECTOR中有規則2022/12/2936需說明的是,在概率論中,一個事件的概率是在統計數據的基說明專家認為:當CVR為真時,它支持FLE為真;但當CVR為假時,FLE的成立與否與CVR無關。而按理論限制應有LS=800>1時,LN<1。這種主觀概率與理論值不一致的情況稱為主觀概率不一致。當出現這種情況時,并不是要求專家修改他提供的LS、LN使之與理論模型一致(這樣做通常比較困難),而是使似然推理模型符合專家的意愿。2022/12/2937說明專家認為:當CVR為真時,它支持FLE為真;但當CVR為2.推理中后驗概率的計算推理中后驗概率的計算有以下幾個公式:(8-11)這是當證據E肯定存在即為真時,求假設H的后驗概率的計算公式。其中的LS和P(H)由專家主觀給出。

(8-12)這是當證據E肯定不存在即為假時,求假設H的后驗概率的計算公式。其中的LN和P(H)由專家主觀給出。

2022/12/29382.推理中后驗概率的計算(8-11)這是當證據E肯定存3.不確定性的傳遞計算(一)主觀Bayes方法推理的任務就是根據證據E的概率P(E)及LS、LN,把H的先驗概率P(H)或先驗幾率O(H)更新為后驗概率或后驗幾率。(1)證據肯定存在的情況:O(H/E)=LS×O(H)(2)證據肯定不存在的情況:O(H/E)=LN×O(H)(3)證據既非為真又非為假的情況:需要使用杜達等人給出的公式:P(H/S)=P(H/E)×P(E/S)+P(H/E)×P(E/S)下面分三種情況討論:2022/12/29393.不確定性的傳遞計算(一)2022/12/27393.不確定性的傳遞計算(二)(1)P(E/S)=1時,P(E/S)=0,因此有:

P(H/S)=P(H/E)這時就是證據肯定存在的情況(2)P(E/S)=0時,P(E/S)=1,因此有:P(H/S)=P(H/E)這時就是證據肯定不存在的情況(3)P(E/S)=P(E)時,因此有:

P(H/S)=P(H)這時S與E無關P(E/S)=其他值時,根據前面幾個值插值得到:2022/12/29403.不確定性的傳遞計算(二)2022/12/27403.不確定性的傳遞計算(三)P(E/S)=其他值時,根據前面幾個值插值得到:該插值公式稱為EH公式。P(H/E)P(H)P(E)P(E/S)01P(H/E)P(H/S)如果不確定性是用可信度C(E/S)給出,即可得到P(H/S),這種公式稱為CP公式2022/12/29413.不確定性的傳遞計算(三)P(E/S)=其他值時,根

3.多證據的總概率合成對于多條件前提的規則,應用公式(8-11)、(8-12)、(8-13)求結論的后驗概率時,先要計算與其前提中對應證據事實的總概率。假設已知P(E1|S),P(E2|S),…,P(En|S),并且諸Ei是相互獨立的,則由概率的加法公式和乘法公式應有:2022/12/29423.多證據的總概率合成2022/12/2742但一條規則的前提中各條件Ei之間通常不滿足獨立要求,因此用這兩個公式計算出的后驗概率往往偏高或偏低。所以,主觀貝葉斯方法中采用了如下公式:

P(E1∨E2∨…∨En|S)=P(Ei|S)

P(E1∧E2∧…∧En|S)=P(Ei|S)(8-14)(8-15)另外,根據全概率公式有

P(E|S)=1-P(E|S)(8-16)這樣,通過公式(8-14)、(8-15)、(8-16),就可以計算由∧、、

∨任意連接起來的組合證據的后驗概率。

2022/12/2943但一條規則的前提中各條件Ei之間通常不滿足獨立要求,因此用這4.相同結論的后驗概率合成設推理網絡中有多條以H為結論的規則:如果有證據E1,E2,…,En相互獨立,它們的觀察依次為S1,S2,…,Sn,則這種情況下H的后驗概率可視為在E1,E2,…,En的綜合作用下的后驗概率。2022/12/29444.相同結論的后驗概率合成如果有證據E1,E2,…,En其求法是先用式(8-11)、(8-12)、(8-13)式分別求出在單個證據Ei的作用下H的后驗概率P(H|Si)(1≤i≤n),再利用公式(8-10)把概率P(H)和P(H|Si)轉換為幾率O(H)和O(H|Si),或者直接運用公式O(H|E)=O(H)LS

O(H|E)=O(H)LN(8-17)(8-18)得到幾率O(H|Si);然后用下面的公式

(8-19)2022/12/2945其求法是先用式(8-11)、(8-12)、(8-13)式分別來計算H的綜合后驗幾率O(H|S1∧S2∧…∧Sn);最后再用公式。

(8-20)將O(H|S1∧S2∧…∧Sn)轉換為后驗概率P(H|S1∧S2∧…∧Sn)。

2022/12/2946來計算H的綜合后驗幾率O(H|S1∧S2∧…∧Sn);最后再

5.

推理舉例例8.7

設有規則ifE1then(100,0.01)H1(P(H1)=0.6),并已知證據E1肯定存在,求H1的后驗概率P(H1|E1)。解

由于證據E1肯定存在,因此可用公式(4)計算P(H1|E1)。于是有

2022/12/29475.推理舉例2022/12/2747例8.8

設有規則ifE1then(100,0.01)H1(P(H1)=0.6),并已知證據E1肯定不存在,求H1的后驗概率P(H1|﹃E1)。解

由于證據E1肯定不存在,因此可用公式(5)計算P(H1|E1)。于是有

2022/12/2948例8.8設有規則ifE1then(100,0.0

例3設有規則ifE1then(100,0.01)H1(P(H1)=0.6),并已知證據E1不確定,但P(E1|S1)=0.7,S1為影響E1的觀察或條件,而E1的先驗概率P(E1)=0.5,求H1的后驗概率P(H1|E1)。解由于證據E1不確定,因此要用插值公式(6)計算P(H1|E1)。又由于P(E1|S1)=0.7>P(E1)=0.5所以應采用公式

2022/12/2949例3設有規則ifE1then(100,0.即

其中P(H1

)、P(E1)已知,還需要計算E1肯定存在的情況下的P(H1|E1),我們直接采用前面例1的結果,于是有

2022/12/2950即其中P(H1)、P(E1)已知,還需要計算E1肯定存在例8.10設有規則

R1:ifE1then(200,0.02)H

R2:ifE2then(300,1)H

已知證據E1和E2必然發生,并且P(H)=0.04,求H的后驗概率P(H|E1

E2)。

由P(H)=0.04,有

O(H)=0.04/(1-0.04)=0.04由R1有

O(H|E1)=LS1O(H)=200*0.04=82022/12/2951例8.10設有規則R1:ifE1then由R2有

O(H|E2)=LS2O(H)=300*0.04=12于是

從而

2022/12/2952由R2有O(H|E2)=LS2O(H)=300*0.04=2022/12/2953謝謝!2022/12/2753謝謝!謝謝你的閱讀知識就是財富豐富你的人生謝謝你的閱讀知識就是財富不確定性推理課件本章內容1.不確定性推理概論

不確定性及其類型

不確定性推理概念2.不確定性推理中的基本問題

表示問題

計算問題3.不確定性推理方法分類4.經典的不確定性推理模型

可信度方法

主觀貝葉斯方法2022/12/2956本章內容1.不確定性推理概論2022/12/271不確定性概述不確定性:由于客觀世界的復雜、多變性和人類自身認識的局限、主觀性,致使我們所獲得、所處理的信息和知識中,往往含有不肯定、不準確、不完全甚至不一致的成分。事實上,不確定性大量存在于我們所處的信息環境中,例如人的日常語言中就幾乎處處含有不確定性(瞧!這句話本身就含有不確定性:什么叫“幾乎”?)。不確定性也大量存在于我們的知識特別是經驗性知識之中。2022/12/2957不確定性概述不確定性:由于客觀世界的復雜、多變性和人類自身認不確定性分類(廣義)1、(狹義)不確定性:一個命題的真實性不能完全肯定,而只能對其為真的可能性給出某種估計。2、不確切性(模糊性):一個命題中所出現的某些言詞其含意不夠確切,從概念角度講,也就是其代表的概念的內涵沒有硬性的標準或條件。3、不完全性:對某些事物,關于它的信息或知識還不全面、不完整、不充分。4、不一致性:在推理過程中發生了前后不相容的結論,或者隨著時間的推移或者范圍的擴帶,原來的一些成立的命題就變得不合適、不成立了。2022/12/2958不確定性分類(廣義)1、(狹義)不確定性:一個命題的真實性不不確定性推理概念不確定性推理泛指除精確推理以外的其它各種推理問題。包括不完備、不精確知識的推理,模糊知識的推理,非單調性推理等。不確定性推理過程實際上是一種從不確定的初始證據出發,通過運用不確定性知識,最終推出具有一定不確定性但卻又是合理或基本合理的結論的思維過程。2022/12/2959不確定性推理概念不確定性推理泛指除精確推理以外的不確定性推理中的基本問題

要實現對不確定性知識的處理,必須要解決不確定知識的表示問題,不確定信息的計算問題,以及不確定性表示和計算的語義解釋問題。1.表示問題表達要清楚。表示方法規則不僅僅是數,還要有語義描述。2.計算問題不確定性的傳播和更新。也是獲取新信息的過程。3.語義問題將各個公式解釋清楚。2022/12/2960不確定性推理中的基本問題

要實現對不確定性知識的處理,必須不確定性推理的表示問題一、知識的不確定性表示知識不確定性的表示方式是與不確定性推理方法密切相關的一個問題。在選擇知識的不確定性表示時,通常需要考慮以下兩個方面的因素:要能夠比較準確地描述問題本身的不確定性便于推理過程中不確定性的計算2022/12/2961不確定性推理的表示問題一、知識的不確定性表示2022/12知識的不確定性表示(1)狹義不確定性知識的表示我們只討論隨機性產生式規則的表示。對于狹義不確定性,一般采用信度(或稱可信度)來刻劃。一個命題的信度是指該命題為真的可信程度。例如,(這場球賽甲隊取勝,0.9)

這里的0.9就是命題“這場球賽甲隊取勝”的可信度。它表示“這場球賽甲隊取勝”這個命題為真(即這個事件發生)的可能性程度是0.9。在實際應用中,知識的不確定性是由領域專家給出的。2022/12/2962知識的不確定性表示(1)狹義不確定性知識的表示20知識的不確定性表示(2)不確切性知識的表示對于不確切性,一般采用程度或集合來刻劃。所謂程度就是一個命題中所描述的事物的屬性、狀態和關系等的強度。例如,我們用三元組(張三,體型,(胖,0.9))表示命題“張三比較胖”,其中的0.9就代替“比較”而刻劃了張三“胖”的程度。這種程度表示法,一般是一種針對對象的表示法。其一般形式為(<對象>,<屬性>,(<屬性值>,<程度>))2022/12/2963知識的不確定性表示(2)不確切性知識的表示2022/12/證據的不確定性的表示二、證據的不確定性的表示推理中的證據有兩種來源:一種是用戶在求解問題時所提供的初始證據,如病人的癥狀、檢查結果等;另一種是在推理中得出的中間結果,即把當前推理中所得到的中間結論放入綜合數據庫,并作為以后推理的證據來使用。一般來說,證據的不確定性表示應該與知識的不確定性表示保持一致,以便推理過程能對不確定性進行統一處理。證據的不確定性可以用概率來表示,也可以用可信度等來表示,其意義與知識的不確定性類似。2022/12/2964證據的不確定性的表示二、證據的不確定性的表示2022/12/不確定性推理的計算問題(1)組合證據的不確定性如何由兩個證據A1和A2的可信度度量P(A1)、P(A2)計算“與”、“或”邏輯計算結果的可信度度量:P(A1∧A2)=f(P(A1),P(A2))、P(A1∨A2)=f(P(A1),P(A2))最大最小法:P(A1∧A2)=min(P(A1),P(A2)

P(A1∨A2)=max(P(A1),P(A2))概率方法:P(A1∧A2)=P(A1)×P(A2) P(A1∨A2)=P(A1)+P(A2)-P(A1)×P(A2)有界方法:P(A1∧A2)=max(0,P(A1)+P(A2)-1)

P(A1∨A2)=min(1,P(A1)+P(A2))2022/12/2965不確定性推理的計算問題(1)組合證據的不確定性2022/12不確定性的計算(2)結論不確定性的合成用多個不同知識推理得到了相同的結論,但不確定性程度不同。系統需要將相同結論的多個不確定性進行綜合,即對不確定性進行合成。結論不確定合成的方法也很多,一般視不同推理方法而定2022/12/2966不確定性的計算(2)結論不確定性的合成2022/12/271不確定性推理方法分類關于不確定性推理的類型由多種不同的分類方法,如果按照是否采用數值來描述非精確性,可將其分為數值方法和非數值方法兩大類型。非數值方法是指出數值方法外的其他各種處理不確定性的方法,它采用集合來描述和處理不確定性,而且滿足概率推理的性質。非數值方法數值方法是對不確定性的一種定量表示和處理方法。數值方法2022/12/2967不確定性推理方法分類關于不確定性推理的類型由多種不同的分類方不確定性推理方法分類

對于數值方法,按其依據的理論不同又可分為以下兩類:1、基于概率的方法:是基于概率論的有關理論發展起來的方法,如可信度方法、主觀Bayes方法、證據理論等;2、模糊推理:是基于模糊邏輯理論發展起來的可能性理論方法2022/12/2968不確定性推理方法分類對于數值方法,按其依據的理論不同又可分不確定性推理方法分類模糊推理基于概率的方法主觀Bayes方法可信度方法證據理論數值方法非數值方法不確定性推理框架推理

語義網絡推理

常識推理…2022/12/2969不確定性推理方法分類模糊推理基于概率的方法主觀Bayes方法不確定性推理模型基本結構規則的一般表示形式:

IFETHENH,CF(H,E)

其中:E表示規則的前提條件,即證據

H表示規則的結論部分,即假設

CF(H,E)表示規則的精確程度或可信度。任何一個不確定性推理模型必須解決三個問題:前提(證據,事實)的不確定性描述規則(知識)的不確定性描述不確定性的更新算法2022/12/2970不確定性推理模型基本結構規則的一般表示形式:2022/12/不確定性推理模型基本結構證據的不確定性CF(E),表示證據E為真的程度。需定義其在三種典型情況下的取值:

E為真

E為假對E一無所知(該情況下的取值稱為證據的單位元e(E))規則的不確定性CF(H,E),表示規則的強度。需定義其在三種典型情況下的取值:若E為真,則H為真若E為假,則H為假

E對H沒有影響(該情況下的取值稱為規則的單位元e(H,E))2022/12/2971不確定性推理模型基本結構證據的不確定性CF(E)可信度方法E.Short和B.Buchanan在MYCIN系統研制過程中產生了可信度方法,第一個采用了不確定推理邏輯,在70年代很有名。2022/12/2972可信度方法E.Short和B.Buchanan在MYCI可信度概念所謂可信度就是在實際生活中根據自己的經驗對某一事物或現象進行觀察,判斷相信其為真得程度。例如,張三昨天沒有上課,他的理由是肚子疼,就此理由而言,聽話的人可能完全相信,也可能完全不相信,也可能在某種程度上相信,這與張三平時的表現和人們對他的話相信程度有關。這里的相信程度就是我們說的可信度。可信度也稱為確定性因子。2022/12/2973可信度概念所謂可信度就是在實際生活中根據自己的經驗對某一事物可信度

顯然,可信度具有較大的主觀性和經驗性,其準確性是難以把握的。但是,對于某一具體領域而言,由于該領域的專家具有豐富的專業知識和實踐經驗,要給出該領域知識的可信度還是完全有可能的。另外,人工智能所面臨的問題,通常都較難用精確的數學模型進行描述,而且先驗概率及條件概率的確定也比較困難,因此用可信度來表示知識及證據的不確定性仍然不失為一種可行的方法。2022/12/2974可信度顯然,可信度具有較大的主觀性和經驗性,其準確性是難以可信度方法---CF模型CF模型是基于可信度表示的不確定性推理的基本方法,其它可信度方法都是在此基礎上發展起來

其一般形式為:IFETHENH,CF(H,E)CF(H,E)是該條知識的可信度,稱為可信度因子或規則強度.它指出當前提條件E為真時,它對結論H為真的支持程度,CF(H,E)的值越大,就越支持結論H為真。證據的不確定性也是用可信度因子表示。證據E的可信度表示為CF(E).2022/12/2975可信度方法---CF模型CF模型是基于可信度表示的不確定性可信度方法---CF模型-1≤CF(H,E)≤1CF(B,A)的特殊值:CF(B,A)=1,前提真,結論必真CF(B,A)=-1,前提真,結論必假CF(B,A)=0,前提真假與結論無關實際應用中CF(B,A)的值由專家確定,并不是由P(B|A),P(B)計算得到的。2022/12/2976可信度方法---CF模型-1≤CF(H,E)≤1

規則

E→H,可信度表示為CF(H,E)。

2022/12/2977當P(H|E)>P(H)當P(H|E)=P(H)當P(H|E)<P(H)2022/12/2722當P(H|E)>P(H)當P(H|E可信度方法---CF模型CF是由稱為信任增長度MB和不信任增長度MD相減而來的。即

CF(H,E)=MB(H,E)-MD(H,E)2022/12/2978

當P(H)=1否則

當P(H)=0否則可信度方法---CF模型CF是由稱為信任增長度MB和不信任增可信度方法---CF模型當MB(H,E)>0,表示由于證據E的出現增加了對H的信任程度。當MD(H,E)>0,表示由于證據E的出現增加了對H的不信任程度。由于對同一個證據E,它不可能既增加對H的信任程度又增加對H的不信任程度,因此,MB(H,E)與MD(H,E)是互斥的,即當MB(H,E)>0時,MD(H,E)=0;當MD(H,E)>0時,MB(H,E)=0。2022/12/2979可信度方法---CF模型當MB(H,E)>0,表示由于證據E可信度方法---CF模型的計算

前提證據事實總CF值計算

CF(E1∧E2∧…∧En)=min{CF(E1),CF(E2),CF(En)}CF(E1∨E2∨…∨En)=max{CF(E1),CF(E2),…,CF(En)}其中E1,E2,…,En是與規則前提各條件匹配的事實。推理結論CF值計算CF(H)=CF(H,E)·max{0,CF(E)}其中E是與規則前提對應的各事實,CF(H,E)是規則中結論的可信度,即規則強度。2022/12/2980可信度方法---CF模型的計算前提證據事實總CF值計算2可信度方法---CF模型重復結論的CF值計算若同一結論H分別被不同的多條規則推出,但可信度不同,則可用合成算法求出綜合可信度。多條知識的綜合可通過兩兩的合成實現。當兩條規則推出同一結論H時,CF(H)的計算:

CF(H)1+CF(H)2-CF(H)1·CF(H)2,

當CF(H)1≥0,且CF(H)2≥0CF(H)=CF(H)1+CF(H)2+CF(H)1·CF(H)2,

當CF(H)1<0,且CF(H)2<0CF(H)1+CF(H)2

否則2022/12/2981可信度方法---CF模型重復結論的CF值計算2022/12/可信度方法舉例(一)已知R:IF(E1orE2)andE3THENH

(0.8),CF(E1)=0.4、CF(E2)=0.6、CF(E3)=0.7,求CF(H)。解:設E=(E1orE2)andE3

CF(E1orE2)=max(CF(E1),CF2(E2))=0.6CF(E)=min(CF(E1orE2),CF(E3))=0.6CF(H)=CF(E)·CF(H,E)=0.6×0.8=0.48前提證據事實總CF值計算推理結論CF值計算2022/12/2982可信度方法舉例(一)已知R:IF(E1orE2)an可信度方法舉例(二)R1:IFE1THENH

CF(H,E1)=(0.8)R2:IFE2THENH

CF(H,E2)=(0.7)CF(E1)=0.4、CF(E2)=0.6解:

CF1(H)=CF(E1)·CF(H,E1)=0.4×0.8=0.32CF2(H)=CF(E2)·CF(H,E2)=0.6×0.7=0.42CF(H)=0.32+0.42-0.32×0.42=0.6重復結論的CF值計算推理結論CF值計算2022/12/2983可信度方法舉例(二)R1:IFE1THENH

主觀貝葉斯方法是R.O.Duda等人于1976年提出的一種不確定性推理模型,并成功地應用于地質勘探專家系統PROSPECTOR。主觀貝葉斯方法是以概率統計理論為基礎,將貝葉斯(Bayesian)公式與專家及用戶的主觀經驗相結合而建立的一種不確定性推理模型。

1.不確定性度量主觀貝葉斯方法的不確定性度量為概率P(x),另外還有三個輔助度量:LS,LN和O(x),分別稱充分似然性因子、必要似然性因子和幾率函數。主觀貝葉斯方法2022/12/2984

在PROSPECTOR中,規則一般表示為

ifE

then(LS,LN)H(P(H))或者圖示為

其中,E為前提(稱為證據);H為結論(稱為假設);P(H)為H為真的先驗概率;LS,LN分別為充分似然性因子和必要似然性因子,其定義為(8-8)2022/12/2985在PROSPECTOR中,規則一般表示為ifE(8-9)前者刻畫E為真時對H的影響程度,后者刻畫E為假時對H的影響程度。另外,幾率函數O(x)的定義為(8-10)它反映了一個命題為真的概率(或假設的似然性(likelihood))與其否定命題為真的概率之比,其取值范圍為[0,+∞]。

2022/12/2986(8-9)前者刻畫E為真時對H的影響程度,后者刻畫E為假時

下面我們介紹LS,LN的來歷并討論其取值范圍和意義。由概率論中的貝葉斯公式

兩式相除得

2022/12/2987下面我們介紹LS,LN的來歷并討論其取值范圍和意義。由即

亦即

O(H|E)=O(H)LS

從而

由此式不難看出:

LS>1當且僅當O(H|E)>O(H),說明E以某種程度支持H;LS<1當且僅當O(H|E)<O(H),說明E以某種程度不支持H;

LS=1當且僅當O(H|E)=O(H),說明E對H無影響。

2022/12/2988即亦即O(H|E)=O(H)LS從而由此式不難看出將上面貝葉斯公式中E的換為E,用類似的過程即可得到

O(H|

E)=O(H)

·LN

進而有

由此式不難看出:

LN>1當且僅當O(H|E)>O(H),說明E以某種程度支持H;

LN<1當且僅當O(H|E)<O(H),說明E以某種程度不支持H;

LN=1當且僅當O(H|E)=O(H),說明E對H無影響。

2022/12/2989將上面貝葉斯公式中E的換為E,用類似的過程即可得到因為一個證據E及其否定E不可能同時既支持又反對一個假設H,因此任一條規則E→H的LS、LN只能是下列情況中的一種:①LS>1,且LN<1;②LS<1,且LN>1;

LS=LN=1。

2022/12/2990因為一個證據E及其否定E不可能同時既支持又反對一個需說明的是,在概率論中,一個事件的概率是在統計數據的基礎上計算出來的,這通常需要大量的統計工作。為了避免大量的統計工作,在主觀貝葉斯方法中,一個命題的概率可由領域專家根據經驗直接給出,這種概率稱為主觀概率。推理網絡中每個陳述H的先驗概率P(H)都是由專家直接給出的主觀概率。同時,推理網絡中每條規則的LS、LN也需由專家指定。例如PROSPECTOR中有規則2022/12/2991需說明的是,在概率論中,一個事件的概率是在統計數據的基說明專家認為:當CVR為真時,它支持FLE為真;但當CVR為假時,FLE的成立與否與CVR無關。而按理論限制應有LS=800>1時,LN<1。這種主觀概率與理論值不一致的情況稱為主觀概率不一致。當出現這種情況時,并不是要求專家修改他提供的LS、LN使之與理論模型一致(這樣做通常比較困難),而是使似然推理模型符合專家的意愿。2022/12/2992說明專家認為:當CVR為真時,它支持FLE為真;但當CVR為2.推理中后驗概率的計算推理中后驗概率的計算有以下幾個公式:(8-11)這是當證據E肯定存在即為真時,求假設H的后驗概率的計算公式。其中的LS和P(H)由專家主觀給出。

(8-12)這是當證據E肯定不存在即為假時,求假設H的后驗概率的計算公式。其中的LN和P(H)由專家主觀給出。

2022/12/29932.推理中后驗概率的計算(8-11)這是當證據E肯定存3.不確定性的傳遞計算(一)主觀Bayes方法推理的任務就是根據證據E的概率P(E)及LS、LN,把H的先驗概率P(H)或先驗幾率O(H)更新為后驗概率或后驗幾率。(1)證據肯定存在的情況:O(H/E)=LS×O(H)(2)證據肯定不存在的情況:O(H/E)=LN×O(H)(3)證據既非為真又非為假的情況:需要使用杜達等人給出的公式:P(H/S)=P(H/E)×P(E/S)+P(H/E)×P(E/S)下面分三種情況討論:2022/12/29943.不確定性的傳遞計算(一)2022/12/27393.不確定性的傳遞計算(二)(1)P(E/S)=1時,P(E/S)=0,因此有:

P(H/S)=P(H/E)這時就是證據肯定存在的情況(2)P(E/S)=0時,P(E/S)=1,因此有:P(H/S)=P(H/E)這時就是證據肯定不存在的情況(3)P(E/S)=P(E)時,因此有:

P(H/S)=P(H)這時S與E無關P(E/S)=其他值時,根據前面幾個值插值得到:2022/12/29953.不確定性的傳遞計算(二)2022/12/27403.不確定性的傳遞計算(三)P(E/S)=其他值時,根據前面幾個值插值得到:該插值公式稱為EH公式。P(H/E)P(H)P(E)P(E/S)01P(H/E)P(H/S)如果不確定性是用可信度C(E/S)給出,即可得到P(H/S),這種公式稱為CP公式2022/12/29963.不確定性的傳遞計算(三)P(E/S)=其他值時,根

3.多證據的總概率合成對于多條件前提的規則,應用公式(8-11)、(8-12)、(8-13)求結論的后驗概率時,先要計算與其前提中對應證據事實的總概率。假設已知P(E1|S),P(E2|S),…,P(En

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯系上傳者。文件的所有權益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網頁內容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
  • 4. 未經權益所有人同意不得將文件中的內容挪作商業或盈利用途。
  • 5. 人人文庫網僅提供信息存儲空間,僅對用戶上傳內容的表現方式做保護處理,對用戶上傳分享的文檔內容本身不做任何修改或編輯,并不能對任何下載內容負責。
  • 6. 下載文件中如有侵權或不適當內容,請與我們聯系,我們立即糾正。
  • 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論