贝叶斯推断及其互联网应用

贝叶斯推断及其互联网应用 阮一峰 日期： 2025 年 8 月 25 日 一年前的那个时候，我正在翻译 Paul Graham 的《黑客与画家》。那本书大部分谈的是技术哲学，然而第八章却写了一个专门具体的技术问题----如何使用贝叶斯推断过滤垃圾邮件（英文版）？说实话，我没完全看明白那一章。那时，交稿截止日期差不多过了，没时刻留给我去啃概率论教科书了。我只好硬着头皮，根据字面意思把它译了出来。尽管交稿了，译文质量也还能够，然而内心专门不舒适，下决心一定要搞明白它。一年过去了，我读了一些概率论文献，逐步发觉贝叶斯推断并没有想象的那么难。相反的，它的原理部分实际上专门容易明白得，甚至不需要用到高等数学。下面确实是我的学习笔记。需要声明的是，我并不是这方面的专家，数学事实上是我的弱项。因此，欢迎大伙儿提出宝贵意见，让我们共同学习和提高。=====================================贝叶斯推断及其互联网应用 阮一峰一、什么是贝叶斯推断贝叶斯推断（Bayesian inference）是一种统计学方法，用来估量统计量的某种性质。它是贝叶斯定理（Bayes' theorem）的应用。英国数学家托马斯·贝叶斯（Thomas Bayes）在 1763 年发表的一篇论文中，第一提出了那个定理。贝叶斯推断与其他统计学推断方法截然不同。它建立在主观判定的基础上，也确实是说，你能够不需要客观证据，先估量一个值，然后依照推断结果不断修正。正是因为它的主观性太强，曾经遭到许多统计学家的诟病。贝叶斯推断需要大量的运算，因此历史上专门长一段时刻，无法得到广泛应用。只有等到运算机产生以后，它才获得真正的重视。人们发觉，许多统计量是无法事先进行客观判定的，而互联网时代显现的大型数据集，再加上高速运算能力，为验证这些统计量提供了方便，也为应用贝叶斯推断制造了条件，它的威力正在日益显现。二、贝叶斯定理要明白得贝叶斯推断，就必须先明白得贝叶斯定理。后者实际上确实是运算"条件概率"的公式。所谓"条件概率"（Conditional probability），确实是指在事件 B 发生的情形下，事件 A发生的概率，用 P(A|B)来表示。依照文氏图，能够专门清楚地看到在事件 B 发生的情形下，事件 A 发生的概率确实是P(A∩B)除以 P(B)。因此，同理可得，因此，即这确实是条件概率的运算公式。三、全概率公式由于后面要用到，因此除了条件概率以外，那个地点还要推导全概率公式。假定样本空间 S，是两个事件 A 与 A'的和。上图中，红...