高等概率论第八讲

记录本校的高等概率论课程笔记，参考教材《测度与概率》。

本讲介绍了符号测度，Lebesgue分解与条件期望的定义。

Chapter 5条件期望

1.符号测度及其分布

考虑如下问题，假设存在随机变量$X$，满足$(\Omega,\mathcal F,\mathbb P)\overset{X}\to (\mathbb R,\mathcal B)$，如果$\mathbb E[X]$存在，那么

$$\nu(A) = \int_A x d\mathbb P = \mathbb E[X1_A] = \int_A x^+ d\mathbb P -\int_A x^- d\mathbb P$$

存在。从这个例子中引出符号测度的定义。

符号测度的定义

$$设(E,\Sigma)是一可测空间，\mu是定义在\Sigma上的函数，满足\\ \begin{aligned} &(1) \mu(\varnothing)= 0\\ &(2) A_n \in \Sigma,互不相交\Rightarrow \mu(\bigcup_{n=1}^{\infty}A_n) =\sum_{n=1}^{\infty} \mu(A_n)\\ \end{aligned}\\ 则称\mu是\Sigma上的符号测度 \\$$

注：$\mu$最多只能取$\pm \infty$之一
这是因为

$$若\mu(A)=-\infty，则\mu(E)=\mu(A)+ \mu(A^C)= -\infty \\ 若\mu(B)=+\infty，则\mu(E)=\mu(B)+ \mu(B^C)= +\infty$$

从而产生了矛盾。

关于符号测度有如下定理：

定理5.1.1

$$若\mu是\Sigma上的符号测度，则存在N,P\in \Sigma，满足\\ \begin{aligned} &(1) NP=\varnothing ,N\bigcup P =E\\ &(2)\mu(P)= \sup_{A\in \Sigma} \mu(A)\ge 0,\mu(N)=\inf_{A\in \Sigma} \mu(A)\le 0 \end{aligned}$$

这个定理的证明从略，可以参考教材。

定理5.1.2(Hahn分解)

$$若\mu是\Sigma上符号测度，则存在N,P满足\\ NP=\varnothing ,N\bigcup P =E \\ 且\forall A\in \Sigma ，\\ \mu(P\bigcap A)=\sup_{B\subset \Sigma} \mu(B\bigcap A) \ge 0\\ \mu(N\bigcap A)=\inf_{B\subset \Sigma} \mu(B\bigcap A) \le 0\\ 于是定义\\ \mu^+(A) =\mu(P\bigcap A)\\ \mu^-(A) =-\mu(N\bigcap A)\\ |\mu|(A) =\mu^+(A)+\mu^-(A)\\ 则\mu^+,\mu^-,|\mu|都是\Sigma上的测度且\mu=\mu^+- \mu^-$$

证明：取$N,P$为定理5.1.1中的$N,P$，先证明

$$\mu(P\bigcap A)=\sup_{B\subset \Sigma} \mu(B\bigcap A)$$

利用反证法，若存在$B$，使得

$$\mu(P\bigcap A) < \mu(B\bigcap A)$$

那么

$$\begin{aligned} \mu(P) &= \mu(P\bigcap A) +\mu(P\bigcap A^C) \\ & <\mu(B\bigcap A) +\mu(P\bigcap A^C) \\ &= \mu((B\bigcap A)\bigcup (P\bigcap A^C)) \end{aligned}$$

这就与$\mu(P)$最大矛盾，从而$\mu(P\bigcap A)=\sup_{B\subset \Sigma} \mu(B\bigcap A)$成立。进一步，证明

$$\mu(N\bigcap A)=\inf_{B\subset \Sigma} \mu(B\bigcap A)$$

利用之前证明的结论即可，$\forall B\in \Sigma$

$$\mu(N\bigcap A) =\mu(A)- \mu(P\bigcap A) \le \mu(A)- \mu(B^C \bigcap A) =\mu(B\bigcap A)$$

从而结论成立。$\mu^+,\mu^-,|\mu|$都是$\Sigma$上的测度利用定义验证即可，$\mu=\mu^+- \mu^-$利用如下事实即可

$$\mu(A) =\mu(P\bigcap A) + \mu(N\bigcap A) = \mu^+(A) -\mu^- (A)$$

2.Lebesgue分解

$\mu$-连续以及$\mu$-奇异的定义

$$设(E,\Sigma)是一可测空间，\mu是定义在\Sigma上的函数，\\ \Sigma上符号测度\varphi是\mu-连续，若\mu(A)=0 \Rightarrow \varphi(A) = 0\\ \Sigma上符号测度\varphi是\mu-奇异，若存在N\in \Sigma，使得 \mu(N)= 0 \Rightarrow \forall A\in \Sigma,\varphi(A\bigcap N^C) =0 \\ 这两种情形分别记为\varphi \ll \mu，\varphi \perp \mu$$

这两个定义是为了介绍如下定理：

定理5.2.1

$$设\mu是\sigma有限测度，\varphi是符号测度，则\varphi可以唯一的表示为\\ \varphi = \varphi_C+ \varphi_S\\ \varphi_C, \varphi_S为\Sigma上符号测度且存在(E,\Sigma)可测函数f，使得\\ \varphi_C =\int_A fd\mu ,(\varphi_c \ll \mu)\\ 且\varphi_S \perp \mu$$

$\sigma$有限的含义是可以把全空间分解为很多小块，每一块都有限。该定理的含义是可以把$\sigma$有限测度分解为$\mu$连续以及$\mu$奇异部分。

定理5.2.2

$$若\varphi是\sigma上符号测度且\varphi \ll \mu，则\varphi可表示为\\ \varphi(A)=\int_A fd\mu \\ 称f为\varphi关于\mu的\text{R-N}导数，记为\frac{d\varphi}{d\mu}$$

根据上述定理，如下等式成立

$$\varphi(A)= \int_A \frac{d\varphi}{d\mu} d\mu \\ \int g d\varphi = \int g\frac{d\varphi}{d\mu} d\mu$$

定理5.2.3(分布函数的Lebesgue分解)

$$设F是\mathbb R上概率分布函数，则F可以唯一的分解为：\\ F=\lambda_1 F_c +\lambda_2 F_d + \lambda_3 F_{s,c}\\ 其中F_c是连续型概率分布函数，即存在\mathbb R上可测函数p，使得\\ F_c(x)=\int_{-\infty}^x p(y)dy \\ F_d是\mathbb R上离散型概率分布函数，即存在\{x_k\}和非负数列\{p_k\}，使得\\ \sum_{k=1}^{\infty} p_k =1,F_d(x) =\sum_{x_k \le x} p_k \\ F_{s,c}是连续分布函数，它关于\text{Lebesgue}测度的导数几乎处处为0,而又不是非零常数 \\ \lambda_i\ge 0,\sum_{i=1}^3 \lambda_i=1$$

证明：注意到$F_c$的导数为$F$的导数，定义

$$\hat F_c(x) = \int_{-\infty}^x F'(y) dy$$

为定义$F_d$，设$\{x_n\}$是$F$的全体间断点（注意$F$为单调函数，单调函数的间断点可列），定义

$$p_k = \mathbb P(x = x_k)= F(x_k) -F(x_k^-)$$

再定义

$$\hat F_d(x) = \sum_{i: x_i \le x} p_i \\ \hat F_{s,c}(x) \triangleq F(x) - \hat F_c(x) -\hat F_d(x)$$

那么

$$\begin{aligned} &(1)\hat F_{s,c}(x) \ge 0 \\ &(2)\hat F_{s,c}非降\\ &(3) \hat F'_{s,c}(x) = 0 (a.e)\\ &(4)\hat F_{s,c}(x)连续 \end{aligned}$$

(1)

$$\begin{aligned} \hat F_{s,c}(x) &= F(x) - \int_{-\infty}^x F'(y) dy-\hat F_d(x)\\ &= F(x)- \int_{-\infty}^x (F'(y)-\hat F'_d(y)) dy -\hat F_d(x)\\ &= F(x)-\hat F_d(x)- \int_{-\infty}^x (F'(y)-\hat F'_d(y)) dy \end{aligned}$$

由实分析的结论

$$F\uparrow,G(x)\triangleq \int_{-\infty}^x F'(y) dy \\ 则G(b)- G(a)\le F(b)- F(a) \\ 令a\to -\infty可得\\ G(b) \le F(b)$$

因此

$$\hat F_{s,c}(x) \ge 0$$

(2)设$x_1 < x_2$，那么

$$\begin{aligned} \hat F_{s,c}(x_2) -\hat F_{s,c}(x_1) &=F(x_2)-\hat F_d(x_2)- \int_{-\infty}^{x_2} (F'(y)-\hat F'_d(y)) dy- [F(x_1)-\hat F_d(x_1)] + \int_{-\infty}^{x_1} (F'(y)-\hat F'_d(y)) dy \\ &=g(x_2)- g(x_1)- \int_{x_1}^{x_2} g'(y) dy\\ &\ge 0 \end{aligned}$$

其中

$$g(x)=F(x)-\hat F_d(x)$$

(3)

$$\hat F'_{s,c}(x) =F'(x) -F'(x) = 0 (a.e)$$

(4)

$$\begin{aligned} \hat F_{s,c}(x) - \hat F_{s,c}(x^-) &= F(x)-F(x^-)-(\hat F_c(x)- \hat F_c(x^-)) - (\hat F_d(x)- \hat F_d(x^-)) \end{aligned}$$

由定义可知

$$F(x)-F(x^-)=\hat F_d(x)- \hat F_d(x^-) \\ \hat F_c(x)- \hat F_c(x^-) = 0$$

所以

$$\hat F_{s,c}(x) - \hat F_{s,c}(x^-) = 0$$

因此$\hat F_{s,c}$左连续，注意到$F(x) ,F_c(x),\hat F_d(x)$右连续，所以

$$\hat F_{s,c}(x) = F(x) - \hat F_c(x) -\hat F_d(x)$$

右连续，因此

$$\hat F_{s,c}(x)连续$$

若$\hat F_c(+\infty) >0, \hat F_d(+\infty) >0,\hat F_{s,c}(+\infty) >0$，那么

$$\begin{aligned} F(x)&= \hat F_c(+\infty) \frac{\hat F_c(x)}{\hat F_c(+\infty)} + \hat F_d(+\infty)\frac{\hat F_d(x)}{\hat F_d(+\infty)}+\hat F_{s,c}(+\infty) \frac{\hat F_{s,c}(x)}{\hat F_{s,c}(+\infty)}\\ &\triangleq \lambda_1 F_c(x) +\lambda_2 F_d (x) + \lambda_3 F_{s,c}(x) \end{aligned}$$

令$x \to +\infty$可得

$$\lambda_1 + \lambda_2 +\lambda_3= 1$$

若$\hat F_c(+\infty) , \hat F_d(+\infty) ,\hat F_{s,c}(+\infty) $某项为$0$，则取对应的$\lambda_i=0$即可

3.条件期望

设$X$是定义在$(\Omega, \mathcal F, \mathbb P)$上实值$r.v$且$\mathbb E[X]$存在，我们有如下命题：

命题

$$定义\nu(A)=\int_{A} x d\mathbb P,则\nu是\mathcal F上符号测度$$

证明：显然$\nu(\varnothing)=0$，所以只需证明第二条性质即可。设$\{A_n\}$互不相交，则

$$\begin{aligned} \nu(\bigcup_{n=1}^{\infty}A_n) &=\int_{\bigcup_{n=1}^{\infty}A_n} xd\mathbb P \\ &=\int_{\Omega} x\sum_{n=1}^{\infty}1_{A_{n}} d\mathbb P\\ &=\int_{\Omega} x^+(\sum_{n=1}^{\infty}1_{A_{n}}-\sum_{n=1}^{\infty}x^-1_{A_{n}}) d\mathbb P\\ &=\int_{\Omega} x^+\sum_{n=1}^{\infty}1_{A_{n}} d\mathbb P -\int_{\Omega} x^-\sum_{n=1}^{\infty}1_{A_{n}} d\mathbb P\\ &=\sum_{n=1}^{\infty}\int_{\Omega} x^+1_{A_{n}} d\mathbb P -\sum_{n=1}^{\infty}\int_{\Omega} x^-1_{A_{n}} d\mathbb P \\ &=\sum_{n=1}^{\infty}\int_{\Omega} (x^+-x^-)1_{A_{n}} d\mathbb P\\ &=\sum_{n=1}^{\infty}\int_{A_n} xd\mathbb P \end{aligned}$$

其中倒数第三个等号是因为单调收敛定理。

习题

习题1

（课本P173/7.1/1）

证明：由Hahn分解的定义可知

$$\varphi = \varphi^+ -\varphi^-\\ \varphi^+(A)= \varphi(A\bigcap P) , \varphi^-(A)= -\varphi(A\bigcap N)$$

$\forall A \in \Omega$，注意$\mu_1(A),\mu_2(A)$，所以

$$\begin{aligned} \varphi^+(A) &= \varphi(A\bigcap P)\\ &=\mu_1(A\bigcap P) -\mu_2(A\bigcap P) \\ &\le \mu_1(A\bigcap P)\\ &\le \mu_1(A) \end{aligned}\\ \begin{aligned} \varphi^-(A) &= -\varphi(A\bigcap N)\\ &=\mu_2(A\bigcap N)-\mu_1(A\bigcap N) \\ &\le\mu_2(A\bigcap N)\\ &\le \mu_2(A) \end{aligned}$$

由$A$的任意性可得

$$\varphi^+ \le \mu_1, \varphi^- \le \mu_2$$

习题2

（课本P182/7.2/3）

证明：因为

$$\varphi, \varphi' \ll \mu$$

所以

$$\varphi+\varphi' \ll \mu$$

从而可以用定理5.5.2，注意$(\varphi+\varphi’)(A)=\varphi(A) +\varphi’(A)$，所以

$$\begin{aligned} (\varphi+\varphi')(A) &= \int_A \frac{d(\varphi+\varphi')}{d\mu}d\mu\\ &=\varphi(A) + \varphi'(A)\\ &=\int_A \frac{d\varphi}{d\mu}d\mu +\int_A \frac{d\varphi'}{d\mu}d\mu \\ &=\int_A(\frac{d\varphi}{d\mu}+\frac{d\varphi'}{d\mu}) d\mu \end{aligned}$$

因此

$$\frac{d(\varphi+\varphi')}{d\mu} = \frac{d\varphi}{d\mu}+\frac{d\varphi'}{d\mu} (a.e)$$

因为$\nu \ll \mu$，所以任取可测函数$g$，有

$$\int_A g d\nu =\int_A g\frac{d\nu}{ d\mu} d\mu$$

因为$\varphi \ll \nu$，所以$g = \frac{d \varphi}{d\nu}$可测，带入可得

$$\varphi(A)= \int_A\frac{d\varphi}{ d\nu} d\nu =\int_A \frac{d \varphi}{d\nu}\frac{d\nu}{ d\mu} d\mu$$

注意到

$$\varphi(A) = \int_A \frac{d\varphi}{ d\mu} d\mu = \int_A \frac{d\varphi}{ d\nu} d\nu$$

因此

$$\frac{d\varphi}{ d\mu}= \frac{d \varphi}{d\nu}\frac{d\nu}{ d\mu}(\mu \ \ a.e)$$

习题3

（课本P182/7.2/6）

证明：

$$\varphi(A)=\int_A f d\mu =\int_A f^+ d\mu- \int_A f^- d\mu$$

令

$$u_1(A)=\int_A f^+ d\mu,u_2(A)=\int_A f^- d\mu$$

另一方面，$\varphi(A)$是符号测度，所以有Hahn分解，因此

$$\varphi(A)= \varphi^+(A)- \varphi^-(A) ,\\ \varphi^+(A) =\varphi(P\bigcap A)=\sup_{B\subset \Sigma} \mu(B\bigcap A)\\ \varphi^-(A) =-\varphi(N\bigcap A)=-\inf_{B\subset \Sigma} \mu(B\bigcap A)$$

注意到

$$\begin{aligned} \varphi^+(A) &=\varphi(P\bigcap A)\\ &=u_1(P\bigcap A)-u_2(P\bigcap A)\\ &\le u_1(P\bigcap A) \\ &\le u_1(A) \end{aligned}$$

所以接下来只要证明反方向的不等式即可，令$C=\{f\ge 0\}$，接着利用定义计算

$$\begin{aligned} u_1(A) &=\int_A f^+ d\mu \\ &= \int_{A\bigcap C} f d\mu \\ &= \varphi(A\bigcap C)\\ & \le \varphi^+(A) \end{aligned}$$

最后一个不等号是由$\varphi^+(A)$的定义决定的。因此

$$\varphi^+(A)= u_1(A) =\int_A f^+ d\mu$$

同理可得

$$\varphi^-(A)= u_2(A) =\int_A f^- d\mu$$

所以

$$\begin{aligned} |\varphi|(A) &= \varphi^+(A)+\varphi^-(A)\\ &=\int_A f^+ d\mu +\int_A f^- d\mu\\ &=\int_A (f^++f^-) d\mu\\ &=\int_A |f| d\mu \end{aligned}$$