贝叶斯推断及其互联网应用 阮一峰 日期: 2025 年 8 月 25 日 一年前的那个时候,我正在翻译 Paul Graham 的《黑客与画家》。那本书大部分谈的是技术哲学,然而第八章却写了一个专门具体的技术问题----如何使用贝叶斯推断过滤垃圾邮件(英文版)?说实话,我没完全看明白那一章。那时,交稿截止日期差不多过了,没时刻留给我去啃概率论教科书了。我只好硬着头皮,根据字面意思把它译了出来。尽管交稿了,译文质量也还能够,然而内心专门不舒适,下决心一定要搞明白它。一年过去了,我读了一些概率论文献,逐步发觉贝叶斯推断并没有想象的那么难。相反的,它的原理部分实际上专门容易明白得,甚至不需要用到高等数学。下面确实是我的学习笔记。需要声明的是,我并不是这方面的专家,数学事实上是我的弱项。因此,欢迎大伙儿提出宝贵意见,让我们共同学习和提高。=====================================贝叶斯推断及其互联网应用 阮一峰一、什么是贝叶斯推断贝叶斯推断(Bayesian inference)是一种统计学方法,用来估量统计量的某种性质。它是贝叶斯定理(Bayes' theorem)的应用。英国数学家托马斯·贝叶斯(Thomas Bayes)在 1763 年发表的一篇论文中,第一提出了那个定理。贝叶斯推断与其他统计学推断方法截然不同。它建立在主观判定的基础上,也确实是说,你能够不需要客观证据,先估量一个值,然后依照推断结果不断修正。正是因为它的主观性太强,曾经遭到许多统计学家的诟病。贝叶斯推断需要大量的运算,因此历史上专门长一段时刻,无法得到广泛应用。只有等到运算机产生以后,它才获得真正的重视。人们发觉,许多统计量是无法事先进行客观判定的,而互联网时代显现的大型数据集,再加上高速运算能力,为验证这些统计量提供了方便,也为应用贝叶斯推断制造了条件,它的威力正在日益显现。二、贝叶斯定理要明白得贝叶斯推断,就必须先明白得贝叶斯定理。后者实际上确实是运算"条件概率"的公式。所谓"条件概率"(Conditional probability),确实是指在事件 B 发生的情形下,事件 A发生的概率,用 P(A|B)来表示。依照文氏图,能够专门清楚地看到在事件 B 发生的情形下,事件 A 发生的概率确实是P(A∩B)除以 P(B)。因此,同理可得,因此,即这确实是条件概率的运算公式。三、全概率公式由于后面要用到,因此除了条件概率以外,那个地点还要推导全概率公式。假定样本空间 S,是两个事件 A 与 A'的和。上图中,红...