高等概率论第一讲

记录本校的高等概率论课程笔记，参考教材《测度与概率》。

本讲内容为概率空间的基本定义。

Chapter 1 概率空间

1.集类与事件域

1.几种常见的集类

半（集）代数

定义：若子集类$\mathscr S$满足：

$$\begin{aligned} &(1)\Omega \in \mathscr S ,\varnothing \in \mathscr S \\ &(2) A,B \in \mathscr S \Rightarrow AB\in \mathscr S \\ &(3) A, A_1 \in \mathscr S且A_1 \subset A \Rightarrow \exists A_2,...,A_n \in \mathscr S 两两不交使得 A- A_1= \bigcup_{i=2}^n A_i \end{aligned}$$

则称$\mathscr S$为（集）代数。

（集）代数

定义：若子集类$\mathscr A$满足：

$$\begin{aligned} &(1)\Omega \in \mathscr A \\ &(2) A \in \mathscr A \Rightarrow A^C\in \mathscr A \\ &(3) A, B \in \mathscr A\Rightarrow AB \in \mathscr A \end{aligned}$$

则称$\mathscr A$（集）代数。

$\sigma$代数

定义：若子集类$\mathscr F$满足：

$$\begin{aligned} &(1)\Omega \in \mathscr F \\ &(2) A \in \mathscr F\Rightarrow A^C\in \mathscr F \\ &(3) A_n \in \mathscr F,n\ge1\Rightarrow \bigcup_{n=1}^{\infty} A_n \in \mathscr F \end{aligned}$$

则称$\mathscr F$为一$\sigma-$代数（或$\sigma-$域）。

命题1

设$\mathcal C$是任意子集类，则存在唯一的一个$\sigma$代数（$\sigma(\mathcal C)$），它是包含$\mathcal C$的最小$\sigma-$代数，称$\sigma (\mathcal C)$是$\mathcal C$生成的$\sigma$代数（$\mathcal C$为生成元）

证明：

$$\sigma(\mathcal C) = {\bigcap} _{\mathcal F'为\sigma代数且\mathcal C \subset \mathcal F'}\mathcal F'$$

注意满足条件的$\sigma$代数是存在的，因为$\mathcal C \subset 2^{\Omega}$

$\lambda$系与$\pi$系

(1)定义：若子集类$\Pi$满足：

$$A,B\in \pi \Rightarrow AB \in \Pi$$

则称子集类$\Pi$为$\pi$系。

(2)定义：若子集类$\Lambda$满足

$$\begin{aligned} &(2.1)\Omega \in \mathscr \Lambda \\ &(2.2) A,B \in \Lambda,A\subset B\Rightarrow B- A \in \Lambda \\ &(2.3) A_n \in \Lambda ,n\ge1且A_n \uparrow\Rightarrow \bigcup_{n=1}^{\infty} A_n \in \Lambda \end{aligned}$$

则称子集类$\Lambda$为$\lambda$系。

单调类

定义：若子集类$\mathscr M$满足：

$$\begin{aligned} &(1)对不降集列的并封闭：即A_n\in \mathscr M且A_n \uparrow, n\in \mathbb N, 则有\bigcup_{n=1}^{\infty}A_n\in \mathscr M \\ &(2) 对不升集列的交封闭：即A_n\in \mathscr M且A_n \downarrow ,n\in \mathbb N, 则有\bigcap_{n=1}^{\infty}A_n\in \mathscr M \end{aligned}$$

则称子集类$\mathscr M$为单调类。

关于$\lambda $系与$\pi$系有如下重要定理。

2.单调类定理

定理1.1.1 $\lambda -\pi$系方法

$$\Lambda是\lambda系，\Pi是\pi系，若\Pi \subset \Lambda，那么\sigma(\Pi)\subset \Lambda$$

证明：用$\lambda(\Pi)$表示包含$\Pi$的最小$\lambda$系，则只需证$\lambda(\Pi)= \sigma(\Pi)$即可。

因为$\sigma$代数一定是$\lambda$系，因此显然有$\lambda(\Pi) \subset \sigma(\Pi)$，所以只需证$\sigma(\Pi)\subset\lambda(\Pi) $，从而只需证$\lambda(\Pi)$为$\sigma$代数，又因为$\lambda(\Pi)$为$\lambda $系，所以只要证明$\lambda(\Pi)$关于可列并封闭即可。取$A_n \in \lambda(\Pi)$，那么

$$\bigcup_{n=1}^{\infty} A_n =\bigcup_{n=1}^{\infty}(\bigcup_{i=1}^{n} A_i) =\bigcup_{n=1}^{\infty} B_n$$

注意到$B_n \uparrow$，由$\lambda $系的性质3可知，我们只要说明$B_n \in \lambda(\Pi)$即可，从而只要证$\lambda(\Pi)$对有限并封闭。又注意到$\lambda $系包含全集且关于补封闭，所以我们只要证$\lambda(\Pi)$对有限交封闭，即证

$$A,B\in \lambda(\Pi) \Rightarrow AB \in \lambda(\Pi)$$

下面分几种情形讨论。

如果$A,B \in \Pi$，由于$\Pi$为$\pi$系，那么$AB \in \Pi \subset \lambda(\Pi)$，结论成立。

如果$A\in \Pi,B \in \lambda(\Pi)$，定义

$$\Pi_{A} =\{ B\in \lambda(\Pi)|AB \in \lambda (\Pi)\}$$

下证$\lambda(\Pi) = \Pi_{A}$，注意到$\Pi_{A}\subset \lambda(\Pi) $，所以只要证明$\lambda(\Pi)\subset \Pi_{A}$即可。因为$\Pi\subset \Pi_{A}$，所以只要说明$ \Pi_{A}$为$\lambda$系即可，下面逐条验证。

(1)$\Omega \in \Pi_A$

因为$A\Omega=A \in \Pi_A$，所以$\Omega \in \Pi_A$

(2)$B_1,B_2 \subset \Pi_A,B,B_1\subset B_2\Rightarrow B_2- B_1 \in \Pi_A$

要证明$B_2- B_1 \in \Pi_A$，只要证明$A(B_2- B_1)\in \lambda (\Pi)$。因为

$$A(B_2- B_1)= AB_2 -AB_1$$

由定义可知$AB_2 ,AB_1\in \lambda(\Pi)$且$AB_1\subset AB_2$，所以由$\lambda$系的定义可知$AB_2 -AB_1 \in \lambda(\Pi)$，从而$B_2- B_1\in \lambda (\Pi)$

(3)$B_n \in \Pi_A ,n\ge1且B_n \uparrow\Rightarrow \bigcup_{n=1}^{\infty} B_n \in \Pi_A$

根据定义验证即可，先证明$ \bigcup_{n=1}^{\infty} B_n \in \lambda(\Pi)$：

• 因为$B_n \in \Pi_A \subset \lambda(\Pi),B_n \uparrow$，所以$ \bigcup_{n=1}^{\infty} B_n \in \lambda(\Pi)$

再证明$ A\bigcap(\bigcup_{n=1}^{\infty} B_n) \in \lambda(\Pi)$：

• 因为$A\bigcap(\bigcup_{n=1}^{\infty} B_n) =\bigcup_{n=1}^{\infty}(A\bigcap B_n)$，然后注意到$A\bigcap B_n \in \Pi_A \subset \lambda(\Pi)$且$A\bigcap B_n \uparrow$，所以$A\bigcap(\bigcup_{n=1}^{\infty} B_n) \in \lambda(\Pi)$

结合上述3点可得$\Pi_A$为$\lambda$系。因为$\Pi \subset \Pi_A$，$\lambda(\Pi)$为包含$\Pi $的最小$\lambda$系，所以$\lambda(\Pi)\subset \Pi_A$，结合$\Pi_A\subset \lambda(\Pi)$可得$\Pi_A= \lambda(\Pi)$

如果$A\in \lambda(\Pi),B \in \lambda(\Pi)$，定义

$$\Pi_{B} =\{ A\in \lambda(\Pi)|AB \in \lambda (\Pi)\}$$

注意由第二种情形可知$\Pi\subset \Pi_{B}$，所以同第二种情形的证明可得$\Pi_{B} =\lambda(\Pi)$

综上可得结论

$$A,B\in \lambda(\Pi) \Rightarrow AB \in \lambda(\Pi)$$

成立。

定理1.1.2 单调类定理

$$\mathscr M为单调类，\mathscr A为代数，若\mathscr A\subset \mathscr M，则\sigma(\mathscr A)\subset \mathscr M$$

证明见习题。

习题

习题1

$\mathscr M$为单调类，$\mathscr A$为代数，若$\mathscr A\subset \mathscr M$，则$\sigma(\mathscr A)\subset \mathscr M$

证明：定义$M(\mathscr A) = \bigcap_{M’包含\mathscr A且M’为单调类}M’$，则$M(\mathscr A)$为包含$\mathscr A$的最小单调类。由于$2^{\Omega}$显然为单调类且$\mathscr A \subset 2^{\Omega}$，所以满足条件$M’$存在，定义合理。

由定义可知$\mathscr M$为包含$\mathscr A$的单调类，所以$M(\mathscr A) \subset \mathscr M$，如果能推出$M(\mathscr A) = \sigma(\mathscr A)$，则结论成立。因为$\sigma$代数显然为单调类，所以$M(\mathscr A) \subset \sigma(\mathscr A)$，从而只要验证$\sigma(\mathscr A)\subset M(\mathscr A) $，若能证明$M(\mathscr A)$为$\sigma$代数，则结论成立，下面将证明这点。

(1)$\Omega \in M(\mathscr A)$

由$ \mathscr A$为代数可知$\Omega \in \mathscr A \subset M(\mathscr A)$

(2)$A \in M(\mathscr A) \Rightarrow A^C\in M(\mathscr A)$

为了证明$M(\mathscr A)$关于补运算封闭，构造如下集合：

$$\forall A\in M(\mathscr A), S_A =\{B: B\in M(\mathscr A),A-B \in M(\mathscr A),B-A \in M(\mathscr A) \}$$

下证$S_A = M(\mathscr A)$，类似$\lambda -\pi$系方法，分以下三步证明：

1.$S_A$为单调类

2.$\forall A\in \mathscr A,S_A = M(\mathscr A)$

3.$\forall A\in M(\mathscr A),S_A = M(\mathscr A)$

1.$\forall B_n\in S_A , B_n \uparrow $，那么$B_n \in M(\mathscr A),A-B_n \in M(\mathscr A), B_n - A \in M(\mathscr A)$，由$B_n \uparrow$可知$A-B_n \downarrow$且

$B_n -A \uparrow$

由$A-B_n \downarrow$且$A-B_n \in M(\mathscr A)$可得

$$\bigcap_{n=1}^{\infty} (A-B_n)= A- \bigcup_{n=1}^{\infty} B_n \in M(\mathscr A)$$

由$B_n -A \uparrow$且$B_n - A \in M(\mathscr A)$可得

$$\bigcup_{n=1}^{\infty} (B_n-A)= \bigcup_{n=1}^{\infty} B_n -A \in M(\mathscr A)$$

因为$M(\mathscr A)$为单调类，$B_n \uparrow $，所以$\bigcup_{n=1}^{\infty} B_n \in M(\mathscr A)$。结合上述三点可得

$$\bigcup_{n=1}^{\infty} B_n \in S_A$$

这说明$S_A$对不降序列集的并封闭。

$\forall B_n\in S_A , B_n \downarrow $，那么$B_n \in M(\mathscr A),A-B_n \in M(\mathscr A), B_n - A \in M(\mathscr A)$，由$B_n \downarrow$可知$A-B_n \uparrow$且

$B_n -A \downarrow$

由$A-B_n \uparrow $且$A-B_n \in M(\mathscr A)$可得

$$\bigcup_{n=1}^{\infty} (A-B_n)= A- \bigcap_{n=1}^{\infty} B_n \in M(\mathscr A)$$

由$B_n -A \downarrow $且$B_n - A \in M(\mathscr A)$可得

$$\bigcap_{n=1}^{\infty} (B_n-A)= \bigcap_{n=1}^{\infty} B_n -A \in M(\mathscr A)$$

因为$M(\mathscr A)$为单调类，$B_n \downarrow$，所以$\bigcap_{n=1}^{\infty} B_n \in M(\mathscr A)$。结合上述三点可得

$$\bigcap_{n=1}^{\infty} B_n \in S_A$$

这说明$S_A$对不升序列集列的交封闭。从而$S_A$为单调类。

2.$A\in \mathscr A$

由定义显然有$S_A\subset M(\mathscr A)$，所以只要证明$M(\mathscr A)\subset S_A$即可。注意由$\mathscr A$为代数可得$\mathscr A \subset S_A$，又因为$S_A$为单调类，所以$S_A$为包含$\mathscr A$的单调类，而$M(\mathscr A)$为包含$\mathscr A$的最小单调类，从而$M(\mathscr A)\subset S_A$。

3.$ A\in M(\mathscr A)$

由定义显然有$S_A\subset M(\mathscr A)$，所以只要证明$M(\mathscr A)\subset S_A$即可。$\forall B \in \mathscr A$，由2可知，$A \in S_B$，所以

$$B-A \in M(\mathscr A),A-B \in M(\mathscr A)$$

因为$B \in \mathscr A \subset M(\mathscr A)$，所以$B \in S_A$（由定义），由$B$的任意性可知$\mathscr A\subset S_A$。又因为$S_A$为单调类，所以$S_A$为包含$\mathscr A$的单调类，而$M(\mathscr A)$为包含$\mathscr A$的最小单调类，从而$M(\mathscr A)\subset S_A$。

综上，$M(\mathscr A)$对差运算封闭。

(3)$ \forall A_n \in M(\mathscr A)，\bigcup_{n=1}^{\infty} A_n \in M(\mathscr A)$

由(1)(2)可知$ M(\mathscr A)$关于补运算封闭，所以$\forall A,B \in M(\mathscr A)$

$$B^C \in M(\mathscr A), AB = A \bigcap (B^C) ^C = A - B^C \in M(\mathscr A)$$

从而$M(\mathscr A)$为代数。

现在取$B_n = \bigcup_{i=1}^n A_i​$，注意代数关于有限交和补运算封闭且包含全集，从而也关于有限并运算封闭，所以

$B_n \in M(\mathscr A)$。因为$B_n \uparrow$，所以由单调类的定义可知

$$\bigcup_{n=1}^{\infty}A_n = \bigcup_{n=1}^{\infty}B_n \in M(\mathscr A)$$

参考资料：https://www.lizhechen.com/2017/09/21/单调类定理/