兩種貝葉斯模型原理
作者:由 bayesLr 發表于 曲藝時間:2017-07-20
1.貝葉斯理論
a.頻率派
事情發生的頻率或機率是一定的,可能算不出來,但是確定是一個值。然而樣本空間是不確定的,因此只需要關注樣本分佈即可。
b.貝葉斯派
引數是隨機的,而樣本確實是固定的,因此重點需要關注引數估計。
c.如果估計引數?
需要先知道引數的無條件分佈,也就是說有樣本之前,引數是什麼樣的。
即:
先驗分佈(θ) + 樣本x => 後驗分佈π(θ|x)
d.貝葉斯公式(條件機率)
#FormatImgID_1##FormatImgID_2#
在事件B發生之前,我們對事件A發生的機率有一定的認知,即先驗機率P(A);
在事件B發生之後,我們對事件A機率進行修正,在事件B下A發生的機率,即後驗機率P(A|B)。
2.貝葉斯決策理論(Bayesian Decision Theory,BDT)
1.基於最小錯誤率的Bayes決策
a.條件錯誤率P(e|x)
b.每個決策的錯誤率
c.整個過程最小決策的錯誤率,需要正確分配的機率max
d.利用Bayes公式
2.基於最小風險的Bayes決策
使用在決策錯誤的容忍度低的情況(如醫療誤診)
考慮各種錯誤造成損失不同時的一種最優決策,就是所謂的最小風險貝葉斯決策。設對於實際狀態為
的向量
採取決策
所帶來的損失為【決策表】
a.利用貝葉斯公式計算後驗機率
b.利用決策表,計算條件風險
c.決策:選擇風險最小的決策