基本介紹
- 中文名：貝葉斯決策理論
- 外文名：Bayesian decision theory
- 別稱：暫無
- 提出者：主觀貝葉斯派
- 套用學科：數學，統計學，模式識別
- 適用領域範圍：統計，機率
基本思想,公式,理論分析,決策判據,
基本思想
貝葉斯決策理論方法是統計模型決策中的一個基本方法，其基本思想是：
★根據後驗機率大小進行決策分類
公式
設D1，D2，……，Dn為樣本空間S的一個劃分，如果以P(Di)表示事件Di發生的機率，且P(Di)>0(i=1，2，…，n)。對於任一事件x，P(x)>0，如圖
理論分析
（1）如果，我們已知，被分類類別機率分布的形式和已經標記類別的訓練樣本集合，那我們，就需要從訓練樣本集合中，來估計機率分布的參數。在現實世界中，有時會出現這種情況。（如，已知為常態分配了，根據標記好類別的樣本來估計參數，常見的是極大似然率和貝葉斯參數估計方法）
（2）如果，我們不知道，任何有關被分類類別機率分布的知識，已知，已經標記類別的訓練樣本集合和判別式函式的形式，那我們，就需要從訓練樣本集合中，來估計判別式函式的參數。在現實世界中，有時會出現這種情況。（如，已知判別式函式為線性或二次的，那么，就要根據訓練樣本來估計判別式的參數，常見的是線性判別式和神經網路）
（3）如果，我們既不知道，任何有關被分類類別機率分布的知識，也不知道，判別式函式的形式，只有已經標記類別的訓練樣本集合。那我們，就需要從訓練樣本集合中，來估計機率分布函式的參數。在現實世界中，經常出現這種情況。（如，首先要估計是什麼分布，再估計參數。常見的是非參數估計）
（4）只有沒有標記類別的訓練樣本集合。這是經常發生的情形。我們需要對訓練樣本集合進行聚類，從而，估計它們機率分布的參數。（這是無監督的學習）
（5）如果，我們已知被分類類別的機率分布，那么，我們不需要訓練樣本集合，利用貝葉斯決策理論就可以設計最優分類器。但是，在現實世界中，從沒有出現過這種情況。這裡是貝葉斯決策理論常用的地方。
問題：
假設我們將根據特徵矢量x 提供的證據來分類某個物體，那么我們進行分類的標準是什麼？decide wj， if（p(wj|x)>p(wi|x)）(i不等於j)套用貝葉斯展開後可以得到p(x|wj)p(wj)>p(x|wi)p(wi)即或然率p(x|wj)/p(x|wi)>p(wi)/p(wj)，決策規則就是似然率測試規則。
結論：
決策判據
(1) 樣本(子樣)的數量(容量)不充分大，因而大子樣統計理論不適宜的場合。
(2) 試驗具有繼承性，反映在統計學上，就是要具有在試驗之前，已有先驗信息的場合。用這種方法進行分類時要求兩點：
第一，要決策分類的參考總體的類別數是一定的。例如兩類參考總體(正常狀態Dl和異常狀態D2)，或L類參考總體D1，D2，…，DL(如良好、滿意、可以、不滿意、不允許、……)。
對於兩類故障診斷問題，就相當於在識別前已知正常狀態D1的機率P(D1)和異常狀態D2的機率P(D2)，它們是由先驗知識確定的狀態先驗機率。
如果不做進一步的仔細觀測，僅依靠先驗機率去作決策，那么就應給出下列的決策規則：若P(D1)>P(D2)，則做出狀態屬於D1類的決策；反之，則做出狀態屬於D2類的決策。
例如，某設備在365天中，有故障是少見的，無故障是經常的，有故障的機率遠小於無故障的機率。因此，若無特別明顯的異常狀況，就應判斷為無故障。
