贝叶斯准则怎么解释?

来源:百度知道 编辑:UC知道 时间:2024/06/05 16:40:15

贝叶斯判决准则
Bayes decision rule
作者 :赵履骏
【本书体例】 【大 中 小】
贝叶斯判决准则又称贝叶斯判决规则,它是理论上的最佳准则。因为它是一种可使全部判决的平均风险为最小的准则。

设有M个可能发生的消息的先验概率已知,且为P(Hi)(j=0,1,…,M-1),若实际存在的消息是j,但被判定为i,定义其判别代价(损失)为Lii,假定Lij(i=0,1,…,M-1;j=0,1,…,M-1)已经确定。贝叶斯准则是对于任何一组观测数据,选择假设Hj,其产生的平均风险最小。据平均风险之定义,有

式(1)中,P(Hi|Hj)表示为Hj为真时,选择Hi的概率。

选择使平均风险为极小的假设,与选择使条件风险为极小的假设是等效的。条件风险的定义为

式(2)即给定一组测量数r,判决假设Hj为真时的风险性。P(Hi|r)称为后验概率,即给定r,Hi为真的概率。

贝叶斯决策理论概述
贝叶斯决策理论是主观贝叶斯派归纳理论的重要组成部分。
贝叶斯决策就是在不完全情报下,对部分未知的状态用主观概率估计,然后用贝叶斯公式对发生概率进行修正,最后再利用期望值和修正概率做出最优决策。
贝叶斯决策理论方法是统计模型决策中的一个基本方法,其基本思想是:
★已知类条件概率密度参数表达式和先验概率
★利用贝叶斯公式转换成后验概率
★根据后验概率大小进行决策分类
编辑本段贝叶斯公式
设D1,D2,……,Dn为样本空间S的一个划分,如果以P(Di)表示事件Di发生的概率,且P(Di)>0(i=1,2,…,n)。对于任一事件x,P(x)>0,如图
编辑本段贝叶斯决策理论分析
(1)如果我们已知被分类类别概率分布的形式和已经标记类别的训练样本集合,那我们就需要从训练样本集合中来估计概率分布的参数。在现实世界中有时会出现这种情况。(如已知为正态分布了,根据标记好类别的样本来估计参数,常见的是极大似然率和贝叶斯参数估计方法)
(2)如果我们不知道任何有关被分