高等概率论第十讲

记录本校的高等概率论课程笔记，参考教材《测度与概率》。

本讲继续介绍条件期望的性质。

4.条件期望的性质

定理5.4.1

条件期望具有如下性质

$\begin{aligned} &(1)若X与\mathcal G独立（即\sigma(X)与\mathcal G独立，也即X与1_A独立），\forall A\in \mathcal G,则 \mathbb E[X|\mathcal G] =\mathbb E[X] (a.s)\\ &(2)若X为\mathcal G可测，则\mathbb E[XY|\mathcal G]= X\mathbb E[Y |\mathcal G](a.s)\\ &(3)\mathcal G_1 \subset \mathcal G_2 \subset \mathcal G ,则 \mathbb E[\mathbb E[X|\mathcal G_1]| \mathcal G_2] = \mathbb E[X|\mathcal G_1] = \mathbb E[\mathbb E[X|\mathcal G_2]| \mathcal G_1](a.s) \end{aligned}$

(1)证明：首先$\mathbb E[X]$为$\mathcal G$可测，接着$\forall A\in \mathcal G$，

$\int_A \mathbb E[X] d p =\int 1 _A\mathbb E[X] d p \overset{独立}=\mathbb E[X]\mathbb E[1_A] =\mathbb E[X1_A] = \int_{A} X dp$

(2)证明：$X$为$\mathcal G$可测，$\mathbb E[Y |\mathcal G]$为$\mathcal G$可测，从而$X\mathbb E[Y |\mathcal G]$为$\mathcal G$可测。我们的目标是证明

$\forall A\in \mathcal G, \int_{A} X \mathbb E[Y|\mathcal G] dp =\int_{A} XY dp$

如果$X=1_B$，那么

$左边= \int_{A} 1_B \mathbb E[Y|\mathcal G] dp= \int_{AB} \mathbb E[Y|\mathcal G] dp=\int_{AB} Y dp = \int_{A} 1_BY dp =右边$

接下来将上述结论推广到非负简单，非负可测，再到一般的情形，从而完成证明。

(3)证明：因为$\mathbb E[X|\mathcal G_1]$为$\mathcal G_1$可测，所以$\mathbb E[X|\mathcal G_1]$为$\mathcal G_2$可测，由(2)可得

$\mathbb E[\mathbb E[X|\mathcal G_1]| \mathcal G_2] = \mathbb E[X|\mathcal G_1]$

接着证明第二个等号。注意到$\mathbb E[X|\mathcal G_1] $为$\mathcal G_1$可测，$\forall A\in \mathcal G_1$，

$\int_{A}\mathbb E[X|\mathcal G_2] dp = \int_{A} X dp$

所以

$\mathbb E[X|\mathcal G_1] = \mathbb E[\mathbb E[X|\mathcal G_2]| \mathcal G_1]$

定理5.4.2

$\begin{aligned} &(1)若p,q \ge 1是一对共轭对，\frac 1 p + \frac 1 q =1，那么 \mathbb E[|XY||\mathcal G] \le (\mathbb E[|X|^p|\mathcal G])^{\frac 1 p}(\mathbb E[|Y|^q|\mathcal G])^{\frac 1 q} \\ &(2)若\mathbb E[X]存在，\varphi是\mathbb R中下凸函数，使得\mathbb E[\varphi(X)]存在，则 \varphi(\mathbb E[X]) \le \mathbb E[\varphi(X)] , \varphi(\mathbb E[X|\mathcal G]) \le \mathbb E[\varphi(X)|\mathcal G](a.s) \end{aligned}$

(1)证明：利用

$ab\le \frac{a^p}{p}+ \frac{b^q}{q},a,b\ge 0$

如果

$(\mathbb E[|X|^p|\mathcal G])^{\frac 1 p} \neq 0 ,(\mathbb E[|Y|^q|\mathcal G])^{\frac 1 q}\neq 0$

取$a= \frac{|X|}{ (\mathbb E[|X|^p|\mathcal G])^{\frac 1 p} },b=\frac{|Y|}{(\mathbb E[|Y|^q|\mathcal G])^{\frac 1 q} }$，那么

$\frac{|X|}{\mathbb (\mathbb E[|X|^p|\mathcal G])^{\frac 1 p} } \frac{|Y|}{(\mathbb E[|Y|^q|\mathcal G])^{\frac 1 q} }\le \frac{|X|^p}{p\mathbb E[|X|^p|\mathcal G]} + \frac{|Y|^q}{q\mathbb E[|Y|^q|\mathcal G]}$

关于$\mathcal G$取条件期望可得

$\mathbb E\Big[\frac{|X|}{ (\mathbb E[|X|^p|\mathcal G])^{\frac 1 p} }\frac{|Y|} {(\mathbb E[|Y|^q|\mathcal G])^{\frac 1 q} }\Big | \mathcal G \Big] \le \frac 1 p + \frac 1 q = 1 \\ \mathbb E[|XY||\mathcal G] \le (\mathbb E[|X|^p|\mathcal G])^{\frac 1 p}(\mathbb E[|Y|^q|\mathcal G])^{\frac 1 q}$

如果

$(\mathbb E[|X|^p|\mathcal G])^{\frac 1 p} = 0 或(\mathbb E[|Y|^q|\mathcal G])^{\frac 1 q}=0$

考虑$X+\epsilon ,Y+\epsilon,\epsilon >0$，那么

$\mathbb E[|(X+\epsilon)(Y+\epsilon)||\mathcal G] \le \mathbb (E[|(X+\epsilon)|^p|\mathcal G])^{\frac 1 p}(E[|(Y+\epsilon)|^q|\mathcal G])^{\frac 1 q}$

令$\epsilon \to 0$即可。

(2)证明：因为下凸，所以$\forall x,y$

$\varphi(y)-\varphi(x) \le \varphi_+'(y)(y-x)$

取$x=X(w),y =\mathbb E[X]$，则

$\varphi(\mathbb E[X])-\varphi(X) \le \varphi_+'(\mathbb E[X])(\mathbb E[X]-X)$

取期望可得

$\varphi(\mathbb E[X])-\mathbb E[\varphi(X)]\le 0 \\ \varphi(\mathbb E[X]) \le \mathbb E[\varphi(X)]$

取$x=X(w),y =\mathbb E[X|\mathcal G]$，则

$\varphi(\mathbb E[X|\mathcal G])-\varphi(X) \le \varphi_+'(\mathbb E[X|\mathcal G])(\mathbb E[X|\mathcal G]-X)$

两边取关于$\mathcal G$取条件期望可得

$\varphi(\mathbb E[X|\mathcal G])-\mathbb E[\varphi(X)|\mathcal G] \le 0 \\ \varphi(\mathbb E[X|\mathcal G]) \le \mathbb E[\varphi(X)|\mathcal G]$

命题

$若X,Y独立，则 \\ \mathbb E[f(X,Y) |Y]= h(Y) ,\\ 其中h(y) = \mathbb E[f(X,y)] \\ 特别的， \mathbb E[f(X)g(Y)|Y] = g(Y)\mathbb E[f(X) | Y] = g(Y) \mathbb E[f(X)] \\$

证明：由截口的定义知$h(Y)$是$\sigma(Y)$可测。

为了证明

$\forall A\in \sigma(Y)= Y^{-1} (\Sigma)=\lbrace Y^{-1}(B),B\in \Sigma \rbrace \\ \int_{Y^{-1}(B)} h(y) d p= \int_{Y^{-1}(B)} f(x,y) dp$

上式

$\Leftrightarrow \int_{y\in B} h(y) d p= \int_{y\in B} f(x,y) dp \\ \Leftrightarrow \int 1_B(y) h(y) d p= \int 1_B(y)f(x,y) dp$

注意到

$\begin{aligned} 左边 &=\int 1_B(y) h(y) dp \\ &= \int 1_B(y) h(y) \mu_Y(dy) \\ &=\int 1_B(y) \mathbb E[f(X,y)] \mu_Y(dy) \\ &=\int f(x,y) \mu_X(dx) \int 1_B(y)\mu_Y(dy) \\ &=\underset{_{E\times E} }{\int \int} 1_B(y)f(x,y) d(\mu_X \times \mu_Y)\\ &=右边 \end{aligned}$

定理5.4.3

$设\mathbb E[X^2]<\infty，则对任意\mathcal G可测的Y，如果\mathbb E[Y^2]<\infty，那么\\ \mathbb E[(X-\mathbb E[X |\mathcal G]) Y]= 0$

证明：

推论

$\mathbb E[X-\mathbb E[X|Y]]^2 =\min_{Z\in L^2(\sigma(Y),\mathbb P)} \mathbb E[X-Z]^2\\ L^2(\sigma(Y),\mathbb P)表示平方可积函数$

证明见习题。

习题

习题1

（课本P193/7.4/2）

(1)证明：首先考虑$X’$为示性函数的情形，假设$X’= 1_A$，那么$\forall B\in \mathcal C$，我们有

$\begin{aligned} \int_B \mathbb E[XX'|\mathcal C] d\mathbb P_{\mathcal C} &=\int_B XX'd\mathbb P_{\mathcal C} \\ &=\int_B X1_Ad\mathbb P_{\mathcal C} \\ &=\int_{AB} Xd\mathbb P_{\mathcal C} \\ &=\int_{AB} \mathbb E[X| \mathcal C']d\mathbb P_{\mathcal C} \\ &=\int_{B} 1_A\mathbb E[X| \mathcal C']d\mathbb P_{\mathcal C} \\ &=\int_{B}X'\mathbb E[X| \mathcal C']d\mathbb P_{\mathcal C} \\ &=\int_{B}\mathbb E[X'\mathbb E[X| \mathcal C']|\mathcal C]d\mathbb P_{\mathcal C} \end{aligned}$

最后一步是由条件期望的定义。

由条件期望的线性性可知，$X’$为简单函数时结论也成立。

如果$X’$为非负可测函数，存在简单简单函数$\lbrace X_n’\rbrace \uparrow X’$，利用单调收敛定理可得结论也成立。

如果$X’$为一般可测函数，利用$X’= X^{‘+}-X^{‘-}$可得结论也成立。

(2)证明：取$C’=C$，则

$\mathbb E[XX'|C]= \mathbb E[X' \mathbb E[X|C]|C]=X' \mathbb E[X|C]$

取$X’=1_C $，则

$\mathbb E[X|C] = \mathbb E[\mathbb E[X|C']|C]$

习题2

（课本P193/7.4/3）

(1)证明：$\Rightarrow$：取$m=n+1$即可

$\Leftarrow$：因为$\mathcal F_n \uparrow$，所以

$X_n=\mathbb E[X_{n+1}| \mathcal F_n] =\mathbb E[\mathbb E[X_{n+2}| \mathcal F_{n+1}]| \mathcal F_n]=\mathbb E[X_{n+2}| \mathcal F_n]$

递推可得

$X_n = \mathbb E[X_{m}| \mathcal F_n] (m>n)$

(2)证明：

$\begin{aligned} \mathbb E[X_{n+1}|\mathcal F_n] &= \mathbb E[X_n + Y_{n+1}|\mathcal F_n]\\ &=\mathbb E[X_n|\mathcal F_n] + \mathbb E[Y_{n+1}|\mathcal F_n] \end{aligned}$

因为$X_n$为$\mathcal F_n$可测，$Y_{n+1}$与$\mathcal F_n$独立，所以

$\mathbb E[X_n|\mathcal F_n]= X_n,\mathbb E[Y_{n+1}|\mathcal F_n] =\mathbb E[Y_{n+1}]=0$

因此

$\mathbb E[X_{n+1}|\mathcal F_n] =X_n$

从而$X_n$是鞅

习题3

（课本P193/7.4/5）

该题需增加如下条件

$\mathbb P(|Y|<\infty)= 1,\mathbb P(|X|<\infty)= 1$

备注：该证明参考老师上课的讲解。

证明：计算截断期望$\mathbb E[(X-Y)^2 1_{\lbrace |X|\le n\rbrace }]$

$\begin{aligned} \mathbb E[(X-Y)^2 1_{\lbrace |X|\le n\rbrace }] &= \mathbb E[\mathbb E[(X-Y)^2 1_{\lbrace |X|\le n\rbrace }| \mathcal C]]\\ &=\mathbb E[ X^21_{\lbrace |X|\le n\rbrace }-2X1_{\lbrace |X|\le n\rbrace }\mathbb E[Y|\mathcal C] + 1_{\lbrace |X|\le n\rbrace } \mathbb E[Y^2|\mathcal C] ]\\ &=\mathbb E[ X^21_{\lbrace |X|\le n\rbrace }] - 2\mathbb E [X^21_{\lbrace |X|\le n\rbrace }] + \mathbb E[X^2 1_{\lbrace |X|\le n\rbrace }]\\ &=0 \end{aligned}$

第二个等号成立需要拆开后的运算有意义，这里证明每一项都有限：

$\mathbb E[X^2 1_{\lbrace |X|\le n\rbrace }] \le n^2 \\ \begin{aligned} \mathbb E[2|XY|1_{\lbrace |X|\le n\rbrace }] &\le 2n \mathbb E[|Y|1_{\lbrace |X|\le n\rbrace }]\\ &\le 2n (\mathbb E[Y^21_{\lbrace |X|\le n\rbrace }])^{\frac 1 2} (C-S不等式)\\ &\le 2n (\mathbb E[\mathbb E[Y^21_{\lbrace |X|\le n\rbrace }]|\mathcal C])^{\frac 1 2} \\ &\le 2n (\mathbb E[X^21_{\lbrace |X|\le n\rbrace }])^{\frac 1 2}\\ &\le 2n^2 \end{aligned}\\ \mathbb E[Y^2 1_{\lbrace |X|\le n\rbrace }]= \mathbb E[\mathbb E[Y^2 1_{\lbrace |X|\le n\rbrace }]|\mathcal C]=\mathbb E[X^21_{\lbrace |X|\le n\rbrace }]\le n^2$

第三个等号用到了题目中的条件。

所以

$(X-Y) 1_{\lbrace |X|\le n\rbrace } =0 (a.s)$

令$n\to \infty$可

$X = Y (a.s)$

习题4

$\mathbb E[X-\mathbb E[X|Y]]^2 =\min_{Z\in L^2(\sigma(Y),\mathbb P)} \mathbb E[X-Z]^2\\ L^2(\sigma(Y),\mathbb P)表示平方可积函数$

证明：

$\begin{aligned} \mathbb E[X-Z]^2 &=\mathbb E[X-\mathbb E[X|Y]+\mathbb E[X|Y]-Z]^2 \\ &=\mathbb E[X-\mathbb E[X|Y]]^2 + \mathbb E[\mathbb E[X|Y]-Z]^2 +2\mathbb E[(X-\mathbb E[X|Y])(\mathbb E[X|Y]-Z)] \end{aligned}$

而

$\begin{aligned} \mathbb E[(X-\mathbb E[X|Y])(\mathbb E[X|Y]-Z)] &=\mathbb E[\mathbb E[(X-\mathbb E[X|Y])(\mathbb E[X|Y]-Z)]| Y]\\ &= \mathbb E[(\mathbb E[X|Y]-Z)\mathbb E[X-\mathbb E[X|Y] |Y] ] \end{aligned}\\ \mathbb E[X-\mathbb E[X|Y] |Y] = 0$

所以