第39课 — 离散概率基础

公理与公式

样本空间

$\Omega$：实验所有可能结果的集合。事件：$\Omega$ 的子集。

柯尔莫哥洛夫公理（1933）

1. 对每个事件 $A$，$P(A) \geq 0$。
2. $P(\Omega) = 1$。
3. $\sigma$-可加性：$A_1, A_2, \ldots$ 不相交时：$P(\bigcup A_i) = \sum P(A_i)$。

古典概率（等概空间）

$P(A) = \frac{|A|}{|\Omega|}$

直接性质

• $P(\emptyset) = 0$。
• $P(A^c) = 1 - P(A)$。
• $P(A \cup B) = P(A) + P(B) - P(A \cap B)$（容斥）。
• $A \subseteq B \Rightarrow P(A) \leq P(B)$。
• $P(A) \in [0, 1]$。

条件概率

$P(A | B) = \frac{P(A \cap B)}{P(B)}, \quad P(B) > 0$

独立性

$A$ 与 $B$ 独立若 $P(A \cap B) = P(A) P(B)$（等价：$P(A|B) = P(A)$）。

贝叶斯定理

$P(A | B) = \frac{P(B | A) P(A)}{P(B)}$

全概率

若 $\{A_i\}$ 为 $\Omega$ 的划分： $P(B) = \sum_i P(B | A_i) P(A_i)$

离散随机变量

$X: \Omega \to \mathbb R$。分布：$P(X = x_i) = p_i$，$\sum p_i = 1$。

期望与方差

• $E[X] = \sum x_i p_i$
• $\text{Var}(X) = E[(X - E[X])^2] = E[X^2] - E[X]^2$