浅谈贝叶斯方法

浅谈贝叶斯方法随着 MCMC（马尔可夫链蒙特卡尔理论 Markov chain Monte Carlo）的深化讨论，贝叶斯（T.Bayes(17021761））统计已成为当今国际统计科学讨论的热点 . 翻 阅 近 几 年 国 内 外 统 计 学 方 面 的 杂 志 ， 特 别 是 美 国 统 计 学 会 的JASA（Journal of the American Statistical Association) 、英国皇家学会的统计杂志 JRSS(Journal of the Royal Statistical Society）等，几乎每期都有“贝叶斯统计”的论文。贝叶斯统计的应用范围很广，如计算机科学中的“统计模式识别”、勘探专家所采纳的概率推理、计量经济中的贝叶斯推断经济理论中的贝叶斯模型等。托马斯·贝叶斯在 18 世纪上半叶群雄争霸的欧洲学术界可谓是个重要人物，他首先将归纳推理法应用于概率论，并创立了贝叶斯统计理论，对于统计决策函数、统计推理、统计估算等作出了贡献。贝叶斯所采纳的许多概率术语被沿用至今。他的两篇遗作于逝世前 4 个月,寄给好友普莱斯(R.Price，17231791）分别于 1764 年、1765 年刊于英国皇家学会的《哲学学报》。正是在第一篇题为“机会学说中的一个问题的解”（ An essay towards solving a problem in the doctrine of chance）的论文中，贝叶斯创立了逆概率思想.统计学家巴纳德赞誉其为“科学史上最著名的论文之一". 一、第一部分中给出了 7 个定义。定义 1 给定事件组，若其中一个事件发生，而其他事件不发生，则称这些事件互不相容。定义 2 若两个事件不能同时发生，且每次试验必有一个发生,则称这些事件相互对立。定义 3 若某事件未发生，而其对立事件发生，则称该事件失败.定义 4 若某事件发生或失败，则称该事件确定。定义 5 任何事件的概率等于其发生的期望价值与其发生所得到的价值之比 。定义 6 机会与概率是同义词.定义 7 给定事件组,若当其中任何一个事件发生时,其余事件的概率不变，则称该事件组互相独立。贝叶斯所给出的互不相容、相互独立、对立事件的定义与现在的定义差别无几，他首次明确了机会与概率的等价性。同时贝叶斯也给出了一系列命题。二、贝叶斯统计的基本思想1。 三种信息拉普拉斯(Laplace，Pierre—Simon(1749～1827)）发现了贝叶斯统计的核心—-贝叶斯公式（又称为逆概公式），进行了更清楚的阐述,并用它来解决天体力学、医学统计以及法学问题。在介绍贝叶斯公式前,先简单介绍一下三种信息：总体信息、样本信息和...