概率论与数理统计

Chapter-1 概率论的基本概念

必然事件与不可能事件

必然事件 $S$ 发生的概率为 $100\%$ ，发生概率为 $100\%$ 的不一定为必然事件
不可能事件 $\emptyset$ 发生的概率为 $0\%$ ，噶生概率为 $0\%$ 的不一定为不可能事件

在 $[0,1]$ 中随机取数，取到 $(0,1)$ 的概率为 $100\%$ 但不是必然事件
在 $[0,1]$ 中随机取数，取到 $0.5$ 的概率为 $0\%$ 但不是不可能事件

容斥原理

$$\begin{align} P(\bigcup_{j=1}^nA_j)=&\sum_{j=1}^nP(A_j)-\sum_{i<j}P(A_iA_j) +\sum_{i<j<k}P(A_iA_jA_k)-\cdots+\\ &(-1)^{n-1}P(A_1A_2\cdots A_n),n\geq1. \end{align}$$

古典概型

对于某一个随机试验，如果满足以下两个条件：
（1）样本空间中样本点数有限（有限性）
（2）出现每一个样本点的概率相等（等可能性）
则称这个试验为等可能概型，又称古典概型

在等可能概型中，任一事件 $A$ 的概率为 $\begin{align}P(A)=\frac{A所包含的样本点数}{S中样本点总数}\end{align}$

条件概率

如果 $P(B)>0$ ，那么在 $B$ 发生的条件下 $B$ 发生的条件概率为

$$P(A|B)=\frac{P(AB)}{P(B)}$$

当 $P(C)\neq 0$ 时，条件概率满足性质：

$$P(A\cup B|C)=P(A|C)+P(B|C)-P(AB|C)$$

乘法公式

由条件概率的定义可知 $P(A)\neq 0,P(B)\neq 0$ 时，有乘法公式：

$$P(AB)=P(A)\cdot P(B|A)=P(B)\cdot P(A|B)$$

一般地，当 $P(A_1A_2\cdots A_{n-1})\neq 0(n\geq 3)$ 时，有

$$P(A_1A_2\cdots A_n)=P(A_1)P(A_2|A_1)P(A_3|A_1A_2)\cdots P(A_n|A_1A_2\cdots A_{n-1})$$

全概率公式

设 $S$ 为某一随机试验的样本空间， $B_1,B_2,\cdots,B_n$ 为该试验的一组事件，且满足

$$\begin{align} &(1) B_iB_j=\emptyset,i,j=1,2,\cdots,n,i\neq j\\ &(2) B_1\cup B_2\cup\cdots\cup B_n=S \end{align}$$

则称 $B_1,B_2,\cdots,B_n$ 为 $S$ 的一个划分，或称为 $S$ 的一个完备事件组

设 $S$ 为某样本空间，若 $B_1,B_2,\cdots,B_n$ 是 $S$ 的一个划分，且 $P(B_j)>0,j=1,2,\cdots,n$ ，则对任一事件 $A$ ，有全概率公式

$$P(A)=\sum_{j=1}^nP(B_j)P(A|B_j)$$

注：划分的条件可以弱化为 $P(B_1\cup B_2\cup\dots\cup B_n)=1$

贝叶斯公式

设 $S$ 为某样本空间，若 $B_1,B_2,\cdots,B_n$ 是 $S$ 的一个划分，且 $P(B_j)>0,j=1,2,\cdots,n$ ，则对任一事件 $A$ ，$P(A)\neq 0$ ，有概率的贝叶斯公式或逆概公式

$$P(B_k|A)=\frac{P(B_kA)}{P(A)} =\frac{P(B_k)P(A|B_k)}{\sum_{j=1}^nP(B_j)P(A|B_j)}$$

$P(B_j)$ 的概率往往是已知假设或累积经验等，常称 $P(B_j)$ 为先验概率，$A$ 发生后 $B_j$ 发生的概率进行修正，常称 $P(B_j|A)$ 为后验概率

事件的独立性

设 $A,B$ 为两随机事件，当 $P(AB)=P(A)\cdot P(B)$ 时，称 $A,B$ 相互独立
等价于条件概率等于无条件概率，即 $P(B|A)=P(B)$

当事件 $A$ 与 $B$ 相互独立时，$A$ 与 $\overline{B}$ ，$\overline{A}$ 与 $B$ ，$\overline{A}$ 与 $\overline{B}$ 均相互独立

设 $A,B,C$ 为三个随机事件，称 $A,B,C$ 两两独立，当且仅当满足

$$\begin{cases} P(AB)=P(A)P(B),\\ P(AC)=P(A)P(C),\\ P(BC)=P(B)P(C) \end{cases}$$

若同时还满足 $P(ABC)=P(A)P(B)P(C)$ 则称 $A,B,C$ 相互独立

一般地，若 $n$ 个事件 $A_1,A_2,\cdots,A_n(n\geq 2)$ 相互独立，则对于任意 $k$ 个事件，满足

$$P(A_{i_1}A_{i_2}\cdots A_{i_k})=\prod_{j=1}^k P(A_{i_j})$$

试验的结果互不影响的一系列试验称为独立试验，若各个子试验条件相同，则称为重复试验