记录本校的高等概率论课程笔记,参考教材《测度与概率》

本讲继续上次的内容并介绍弱大数定律。

定理 6.4.2

证明:利用对角线方法。

记$Q= \lbrace r_1,r_2,…,r_n,…\rbrace $为全体有理数,因为$\lbrace F_n (r_1)\rbrace $有界,因此有收敛子列$\lbrace F_{1n} (r_1)\rbrace $,记

因为$\lbrace F_{1n} (r_2)\rbrace $也有界,因此有收敛子列$\lbrace F_{2n} (r_2)\rbrace $,记

注意$F_{1n}$在$r_1$收敛,$F_{2n}$在$r_1,r_2$收敛,如此下去,得到阵列

于是$\lbrace F_{nn}\rbrace $在每个有理点都收敛,记

再定义

则$F(x)$是一分布函数且$F_n \overset {v}\to F , n\to \infty$

定理 6.4.3

证明:设$F$是所有淡收敛子列的极限,若$F_n \nrightarrow F$,则$\exists x_0 \in \mathcal C(F)$,使得$F_n(x_0 ) \nrightarrow F(x_0 )$,所以有子列$\lbrace F_{n_k} (x_0)\rbrace $使得$|F_{n_k} (x_0)-F(x_0)|\ge \epsilon, \epsilon > 0$,而$\lbrace F_{n_k} \rbrace $有淡收敛子列$\lbrace F_{n_k’} (x_0)\rbrace $,极限为$F$,则$F_{n_k’}(x_0) \to F(x_0)$,这就产生了矛盾。

定理 6.4.4

证明:$\Rightarrow$:注意到

所以存在$L >0$,使得$F$在$L$与$-L$连续,并且

因为$F_n \overset {v}\to F$,所以当$n$充分大时,

从而

因此

$\Leftarrow $:注意到

所以同上一部分可得

从而

所以当$x > L$时,

令$x \to \infty, \epsilon \to 0$可得

命题

证明:$\Rightarrow$:因为弱收敛,所以$\forall a\le b \in \mathcal C(F)$,

从而

$\Leftarrow $:$\forall a\le b \in \mathcal C(F)$

那么

因为$\lbrace F, F_n ,n\ge 1\rbrace $是概率分布函数,所以令$a\to -\infty$可得

令$n\to \infty$,由条件可得

所以

定义

设$\lbrace \mu, \mu_n ,n\ge 1\rbrace $都是$\mathbb R$上的概率测度,若在区间$I = [a, b)$上满足$\mu(\lbrace a, b\rbrace ) =0$时有

则称$\lbrace \mu_n\rbrace $弱收敛于$\mu$,记为

直观理解:注意到$\mu(\lbrace a, b\rbrace ) =0$时有

这说明$F$在$a,b$点左连续,从而$F$在$a,b$点右连续,所以该定义的含义是在$F$的连续点$a,b$满足

从而结合定理6.4.5以及定义可得如下推论:

推论

定理 6.4.5

老师对这个定理没有给出严格证明,只给出直观解释。

因为

所以第二行等价于

由推论可知第一行等价于

证明的思路是

Chapter 7 大数定理

1.几个经典结论

定理 7.1.1

证明:

从而

推论

例1

定理 7.1.2

证明:不妨假定$\mathbb E S_n=0$,方差上界为$M$,所以

从而

现在任取$n \ge 1$,存在$k_n$,使得$k_n^2 \le n < (k_n +1)^2$,因此

因为

所以

而$\forall \epsilon >0$,我们有

倒数第三个不等号是因为

倒数第二个不等号是因为

从而

从定理 7.1.1的推导的过程中,不难看出如果$\text{Var}(S_n) = o(a_n^2)$,则

所以有如下推广的大数定律:

定义

例2

从$\lbrace 1,…,n\rbrace $中放回抽样,$X_m$为第$m$次取的数,那么$X_1,…,X_m \ \ i.i.d$,记$\tau _k = \inf \lbrace m | |{x_1,…, x_m}| = k\rbrace $,我们的目标是计算$\text{Var}(\tau_n)$。

记$\tau_0 = 0$,那么

不难看出$\tau_k - \tau_{k-1}$独立,其含义为在已经抽取了$k-1$个不同的数的条件下,抽到第$k$个不同的数的次数,所以$\tau_k - \tau_{k-1}$服从参数为$p =\frac{n-(k-1)} {n}$的几何分布,所以

所以

备注:这部分和老师的结果有所不同,但是暂时没找出问题。

习题

习题1

(课本P223/8.5/4)

将题目中的相对紧修改为tight

证明:$\Rightarrow$:因为$\lbrace F_\alpha\rbrace $ tight,所以

所以当$x \ge L$时,$\forall \epsilon$

从而$F_{\alpha}$对$\alpha$一致收敛

$\Leftarrow$:因为$F_{\alpha}$对$\alpha$一致收敛,所以

因此

所以$\lbrace F_\alpha\rbrace $ tight

习题2

(课本P223/8.5/5)

将题目中的相对紧修改为tight

证明:不妨设上界为$M$,则

现在$\forall \epsilon > 0$,取$L = (\frac M \epsilon)^{\frac 1 r}$,那么

注意到

所以

因此$\lbrace F_\alpha\rbrace $ tight

习题3

(课本P243/9.1/3)

证明:

注意到

所以

又因为$X_1,…,X_n$独立同分布,所以满足强大数定律,从而

习题4

证明:因为$\lbrace X_n\rbrace $ a.s有限,所以$\exists M_n >0$,使得

取$A_n =(\max \lbrace n,M_n\rbrace )^2$,则

注意到

现在$\forall \epsilon >0$,利用Markov不等式可得

所以$\Delta_{1}^{(n)}\overset{a.s}\to 0$。接着考虑第二项

所以$\Delta_{2}^{(n)}\overset{a.s}\to 0$。从而