第四章贝叶斯分析BayeseanAnalysis§4.0引言一、决策问题的表格表示——损失矩阵对无观察(No-data)问题a=δ可用表格(损失矩阵)替代决策树来描述决策问题的后果(损失):……π()…π()…π()或π()…π()…π()……损失矩阵直观、运算方便二、决策原则通常,要根据某种原则来选择决策规则δ,使结果最优(或满意),这种原则就叫决策原则,贝叶斯分析的决策原则是使期望效用极大。本章在介绍贝叶斯分析以前先介绍芙他决策原则。三、决策问题的分类:1.不确定型(非确定型)自然状态不确定,且各种状态的概率无法估计.2.风险型自然状态不确定,但各种状态的概率可以估计.四、按状态优于:≤I,且至少对某个i严格不等式成立,则称行动按状态优于§4.1不确定型决策问题一、极小化极大(wald)原则(法则、准则)l(,)或例:1087941921316121469810各行动最大损失:13161214其中损失最小的损失对应于行动.采用该原则者极端保守,是悲观主义者,认为老天总跟自己作对.二、极小化极小l(,)或例:1087941921316121469810各行动最小损失:4172其中损失最小的是行动.采用该原则者极端冒险,是乐观主义者,认为总能撞大运。三、Hurwitz准则上两法的折衷,取乐观系数入[λl(,)+(1-λ〕l(,)]例如λ=0.5时λ:20.53.51(1-λ〕:6.5867两者之和:8.58.59.58其中损失最小的是:行动四、等概率准则(Laplace)用来评价行动的优劣选上例::33343635其中行动的损失最小五、后梅值极小化极大准则(svage-Niehans)定义后梅值=-其中为自然状态为时采取不同行动时的最小损失.构成后梅值(机会成本)矩阵S={},使后梅值极小化极大,即:例:损失矩阵同上,后梅值矩阵为:3102308114020324各种行动的最大后梅值为:3484其中行动a1的最大后梅值最小,所以按后梅值极小化极大准则应采取行动1.六、Krelle准则:使损失是效用的负数(后果的效用化),再用等概率(Laplace)准则.七、莫尔诺(Molnor)对理想决策准则的要求(1954)1.能把方案或行动排居完全序;2.优劣次序与行动及状态的编号无关;3.若行动按状态优于,则应有优于;4.无关方案独立性:已经考虑过的若干行动的优劣不因增加新的行动而改变;5.在损失矩阵的任一行中各元素加同一常数时,各行动间的优劣次序不变;6.在损失矩阵中添加一行,这一行与原矩阵中的某行相同,则各行动的优劣次序不变。§4.2风险型决策问题的决策原则一、最大可能值准则令π()=maxπ()选使l(,)=l(,)例:π()0.276.560.53450.3410π()概率最大,各行动损失为345∴应选行动二、贝叶斯原则使期望损失极小:{l(,)π()}上例中,各行动的期望损失分别为4.13.63.7,对应于的期望损失3.6最小∴应选.三、贝努利原则损失函数取后果效用的负值,再用Bayes原则求最优行动.四、E—V(均值—方差)准则若≤且则优于通常不存在这样的上例中:E4.13.63.7V()2.293.795.967不存在符合E—V准则的行动,这时可采用f(μ,σ)的值来判断(μ为效益型后果的期望)μ-ασf(μ,σ)=μ-ασμ-α(μ+σ)f越大越优.五、不完全信息情况下的决策原则(Hodges-Lehmann原则)状态概率分布不可靠时,可采用:φ()=λ+i=1,2,…,mj=1,2,…,nφ越大越优.§4.3贝叶斯定理一、条件概率1.A、B为随机试验E中的两个事件P(A|B)=P(AB)/P(B)由全概率公式:j=1,2,…,n是样本空间的一个划分,P(B)=P(B|)P()得Bayes公式P(|B)=P(B|)·P()/P(B)=P(B|)·P()/P(B|)P()2.对Θ,Χ两个随机变量·条件概率密度f(θ|x)=f(x|θ)f(θ)/f(x)·在主观概率论中π(θ|x)=f(x|θ)π(θ)/m(x)其中:π(θ)是θ的先验概率密度函数f(x|θ)是θ出现时,x的条件概率密度,又称似然函数.m(x)是x的边缘密度,或称预测密度.m(x)=f(x|θ)π(θ)dθ或p(x|)π()π(θ|x)是观察值为x的后验概率密度。例:A坛中白球30%黑球70%B坛中白球70%黑球30%两坛外形相同,从中任取一坛,作放回摸球12次,其中白球4次,黑球8次,求所取为A坛的概率.解:设观察值4白8黑事件为x,记取A坛为,取B坛为在未作观察时,先验概率p()=p()=0.5则在作观察后,后验概率P(|x)=p(x|)p()p(x|)p()+p(x|)p()=××0.5(××0.5+××0.5)=(×)=0.24010.2482=0.967显然,通过试验、观察、可修正先验分布.§4.4贝叶斯分析的正规型与扩展型一...