什麼是貝葉斯規則?貝葉斯推理的規則是什麼

2021-04-20 18:34:59 字數 3033 閱讀 1129

1樓:丷

貝葉斯定理是概bai率論中的一個基du本定理,廣泛應用在很zhi多領域。

貝葉斯定dao理用於投資專決策分析是屬在已知相關專案b的資料,而缺乏論證專案a的直接資料時,通過對b專案的有關狀態及發生概率分析推導a專案的狀態及發生概率。如果我們用數學語言描繪,即當已知事件bi的概率p(bi)和事件bi已發生條件下事件a的概率p(a│bi),則可運用貝葉斯定理計算出在事件a發生條件下事件bi的概率p(bi│a)。按貝葉斯定理進行投資決策的基本步驟是:

1 列出在已知專案b條件下專案a的發生概率,即將p(a│b)轉換為 p(b│a);

2 繪製樹型圖;

3 求各狀態結點的期望收益值,並將結果填入樹型圖;

4 根據對樹型圖的分析,進行投資專案決策;

2樓:向前向右

貝葉斯理論假設:如果事件的結果不確定,那麼量化它的唯一方法就是事件的發生概率。如果過去試驗中事件的出現率已知,那麼根據數學方法可以計算出未來試驗中事件出現的概率。

貝葉斯準則怎麼解釋?

3樓:匿名使用者

貝葉斯判決準則

bayes decision rule

作者 :趙履駿

【本書體例】 【大 中 小】

貝葉斯判決

回準答則又稱貝葉斯判決規則,它是理論上的最佳準則。因為它是一種可使全部判決的平均風險為最小的準則。

設有m個可能發生的訊息的先驗概率已知,且為p(hi)(j=0,1,…,m-1),若實際存在的訊息是j,但被判定為i,定義其判別代價(損失)為lii,假定lij(i=0,1,…,m-1;j=0,1,…,m-1)已經確定。貝葉斯準則是對於任何一組觀測資料,選擇假設hj,其產生的平均風險最小。據平均風險之定義,有

式(1)中,p(hi|hj)表示為hj為真時,選擇hi的概率。

選擇使平均風險為極小的假設,與選擇使條件風險為極小的假設是等效的。條件風險的定義為

式(2)即給定一組測量數r,判決假設hj為真時的風險性。p(hi|r)稱為後驗概率,即給定r,hi為真的概率。

4樓:康康侃球

貝葉斯決策理論是主觀貝葉斯派歸納理論的重要組成部分。

貝葉斯決策就是在不完全情報下,對部分未知的狀態用主觀概率估計,然後用貝葉斯公式對發生概率進行修正,最後再利用期望值和修正概率做出最優決策。

貝葉斯決策理論方法是統計模型決策中的一個基本方法,其基本思想是:

★已知類條件概率密度參數列達式和先驗概率

★利用貝葉斯公式轉換成後驗概率

★根據後驗概率大小進行決策分類

編輯本段貝葉斯公式

設d1,d2,……,dn為樣本空間s的一個劃分,如果以p(di)表示事件di發生的概率,且p(di)>0(i=1,2,…,n)。對於任一事件x,p(x)>0,如圖

編輯本段貝葉斯決策理論分析

(1)如果我們已知被分類類別概率分佈的形式和已經標記類別的訓練樣本集合,那我們就需要從訓練樣本集合中來估計概率分佈的引數。在現實世界中有時會出現這種情況。(如已知為正態分佈了,根據標記好類別的樣本來估計引數,常見的是極大似然率和貝葉斯引數估計方法)

(2)如果我們不知道任何有關被分類類別概率分佈的知識,已知已經標記類別的訓練樣本集合和判別式函式的形式,那我們就需要從訓練樣本集合中來估計判別式函式的引數。在現實世界中有時會出現這種情況。(如已知判別式函式為線性或二次的,那麼就要根據訓練樣本來估計判別式的引數,常見的是線性判別式和神經網路)

(3)如果我們既不知道任何有關被分類類別概率分佈的知識,也不知道判別式函式的形式,只有已經標記類別的訓練樣本集合。那我們就需要從訓練樣本集合中來估計概率分佈函式的引數。在現實世界中經常出現這種情況。

(如首先要估計是什麼分佈,再估計引數。常見的是非引數估計)

(4)只有沒有標記類別的訓練樣本集合。這是經常發生的情形。我們需要對訓練樣本集合進行聚類,從而估計它們概率分佈的引數。(這是無監督的學習)

(5)如果我們已知被分類類別的概率分佈,那麼,我們不需要訓練樣本集合,利用貝葉斯決策理論就可以設計最優分類器。但是,在現實世界中從沒有出現過這種情況。這裡是貝葉斯決策理論常用的地方。

問題:假設我們將根據特徵向量x 提供的證據來分類某個物體,那麼我們進行分類的標準是什麼?decide wj, if(p(wj|x)>p(wi|x))(i不等於j)應用貝葉斯後可以得到p(x|wj)p(wj)>p(x|wi)p(wi)即或然率p(x|wj)/p(x|wi)>p(wi)/p(wj),決策規則就是似然率測試規則。

結論:對於任何給定問題,可以通過似然率測試決策規則得到最小的錯誤概率。這個錯誤概率稱為貝葉斯錯誤率,且是所有分類器中可以得到的最好結果。最小化錯誤概率的決策規則就是最大化後驗概率判據。

編輯本段貝葉斯決策判據

貝葉斯決策理論方法是統計模式識別中的一個基本方法。貝葉斯決策判據既考慮了各類參考總體出現的概率大小,又考慮了因誤判造成的損失大小,判別能力強。貝葉斯方法更適用於下列場合:

(1) 樣本(子樣)的數量(容量)不充分大,因而大子樣統計理論不適宜的場合。

(2) 試驗具有繼承性,反映在統計學上就是要具有在試驗之前已有先驗資訊的場合。用這種方法進行分類時要求兩點:

第一,要決策分類的參考總體的類別數是一定的。例如兩類參考總體(正常狀態dl和異常狀態d2),或l類參考總體d1,d2,…,dl(如良好、滿意、可以、不滿意、不允許、……)。

第二,各類參考總體的概率分佈是已知的,即每一類參考總體出現的先驗概率p(di)以及各類概率密度函式p(x/di)是已知的。顯然,0≤p(di)≤1,(i=l,2,…,l),∑p(di)=1。

對於兩類故障診斷問題,就相當於在識別前已知正常狀態d1的概率戶(d1)和異常狀態0:的概率p(d2),它們是由先驗知識確定的狀態先驗概率。如果不做進一步的仔細觀測,僅依靠先驗概率去作決策,那麼就應給出下列的決策規則:

若p(d1)>p(d2),則做出狀態屬於d1類的決策;反之,則做出狀態屬於d2類的決策。例如,某裝置在365天中,有故障是少見的,無故障是經常的,有故障的概率遠小於無故障的概率。因此,若無特b,j明顯的異常狀況,就應判斷為無故障。

顯然,這樣做對某一實際的待檢狀態根本達不到診斷的目的,這是由於只利用先驗概率提供的分類資訊太少了。為此,我們還要對系統狀態進行狀態檢測,分析所觀測到的資訊。

貝葉斯公式運算,為什麼貝葉斯計算出來的概率相加不等於

貝葉斯公式運算是在給定訓練資料d時,確定假設空間h中的最佳假設。最佳假設 一種方法是把它定義為在給定資料d以及h中不同假設的先驗概率的有關知識下的最可能假設。貝葉斯理論提供了一種計算假設概率的方法,基於假設的先驗概率 給定假設下觀察到不同資料的概率以及觀察到的資料本身。1.貝葉斯法則機器學習的任務 ...

《概率論基礎》全概率公式 貝葉斯公式

1 全概率公式 首先建立一個完備事件組的思想,其實就是已知第一階段求第二階段,比如第一階段分a bc三種,然後a bc中均有d發生的概率,求d的概率 p d p a p d a p b p d b p c p d c 2 貝葉斯公式,也叫逆概公式,在全概率公式理解的基礎上,其實就是已知第二階段反推第...

貝葉斯網路的優缺點是什麼?怎麼克服它的缺點

在日常生活中,人們往往進行常識推理,而這種推理通常是不準確的。例如,你看見一個頭發潮溼的人走進來,你可能會認為外面下雨了,那你也許錯了 如果你在公園裡看到一男一女帶著一個小孩,你可能會認為他們是一家人,你可能也犯了錯誤。在工程中,我們也同樣需要進行科學合理的推理。但是,工程實際中的問題一般都比較複雜...