第 IV 部分 · 不确定知识与推理
第 12 章 量化不确定性
Chapter 12 · Quantifying Uncertainty
本章导读
概率论作为「信念的演算」：从公理到贝叶斯法则，再用独立性与条件独立把指数级联合分布压缩到可计算的规模。
学习要点
- 不确定性的来源与概率的两种解释：频率派与贝叶斯派（信念度）。
- 概率公理、联合分布与全概率公式；条件概率的乘法规则。
- 贝叶斯法则与诊断推理：先验、似然、后验三者之间的关系与常见谬误（基础比率忽视）。
- 独立性与条件独立性：把 O(2ⁿ) 的联合分布分解成小因子的关键钥匙。
- 期望与方差；用「概率 + 效用」替代纯逻辑推断的动机（衔接第 16 章）。
核心概念
| 术语 | English | 一句话解释 |
|---|---|---|
| 联合概率分布 | Joint Distribution | 所有随机变量取值组合的概率表 |
| 条件概率 | Conditional Probability | P(A|B) = P(A∩B) / P(B) |
| 贝叶斯法则 | Bayes' Rule | 由先验与似然计算后验的桥梁公式 |
| 先验 / 后验 | Prior / Posterior | 观测证据前后信念分布的变化 |
| 全概率公式 | Law of Total Probability | 按互斥情形分解求边缘概率 |
| 归一化 | Normalization | 按证据比例缩放使概率和为 1 |
| 独立性 | Independence | P(A|B) = P(A)，可分解联合分布 |
| 条件独立 | Conditional Independence | 给定 C 时 A 与 B 相互独立，记 A ⊥ B | C |
| 期望 | Expectation | 随机变量按概率加权的平均值 |
| 基础比率谬误 | Base Rate Fallacy | 忽视先验概率导致的后验误判 |
配套代码（aima-python）
aima-python 是官方维护的开源算法库（MIT 协议），建议每学完一章就跑一遍对应模块的示例。