课程主页:https://ocw.nctu.edu.tw/course_detail.php?bgid=8&gid=0&nid=558

老师主页:http://shannon.cm.nctu.edu.tw/

课程视频:https://www.bilibili.com/video/BV1sW411U7xK?from=search&seid=2411740640027894887,

https://www.youtube.com/watch?v=IsQSWVbAKy0&list=PLj6E8qlqmkFvw7Rt63yBqai2HmPKF0V0J

这次回顾第三讲,继续介绍基本概念,对应视频7-8。

半随机电报信号

继续上一讲的泊松过程,这里假设$\lambda(t)=\lambda$,定义:

计算$\boldsymbol u(t)$的期望以及自相关函数。

解:

对于$t_1 \le t_2$,

同理当$t_1>t_2$时,

因此

泊松分布的和与差

  • 如果$\boldsymbol{x}_{1}(t) \sim \operatorname{Poisson}\left(\lambda_{1} t\right), \boldsymbol{x}_{2}(t) \sim \operatorname{Poisson}\left(\lambda_{2} t\right)$,并且两个过程独立

  • 那么$z(t)=\boldsymbol{x}_{1}(t)+\boldsymbol{x}_{2}(t)\sim \operatorname{Poisson}\left((\lambda_1+\lambda_{2}) t\right)$

  • 但是$\boldsymbol{y}(t)=\boldsymbol{x}_{1}(t)-\boldsymbol{x}_{2}(t)$不是泊松过程,计算概率可得:

其中

为$n$阶贝塞尔函数。

泊松点的随机选择

令$\boldsymbol{x}(t) \sim \operatorname{Poisson}(\lambda t)$,生成泊松点列$\left\{t_{1}, t_{2}, t_{3}, \ldots\right\}$,每个$t_i$以概率$p$被独立标记,令$y(t)$为区间$[0, t)$的标记点数,$z(t)$为区间$[0, t)$的未被标记点数,那么

证明:

(1)首先证明

原因如下:

另一方面,任取区间$[t_1,t_2)$,我们有

(2)其次证明独立性。

假设$[t_1,t_2)$和$[t_3,t_4)$是非重叠区间,那么

泊松点和二项分布

命题:对于泊松过程$x(t)$以及$t_1<t_2$,事件$\left[\boldsymbol{x}\left(t_{1}\right)=k\text { given } \boldsymbol{x}\left(t_{2}\right)=n\right]$服从二项分布$B\left(n, t_{1} / t_{2}\right)$

证明:

平稳族

  • 平稳性:如果随机过程$\boldsymbol{x}(t)$的统计特性对于原点偏移不变,则称为严平稳(SSS)。
  • 联合平稳性:如果两个随机过程的联合统计特性对于原点偏移不变,则它们是联合平稳的。
  • 宽平稳性:如果随机过程$\boldsymbol{x}(t)$的均值和自相关函数对于原点偏移不变,则称为宽平稳(WSS)。
  • 联合宽平稳性:如果两个随机过程$\boldsymbol{x}(t)$和$\boldsymbol{y}(t)$的均值和自相关函数以及它们的互相关函数对于原点偏移均不变,则它们是联合宽平稳的。
  • 协方差平稳性:如果自协方差函数对于原点偏移不变,则过程$x(t)$是协方差平稳的。
  • $n$阶平稳性:如果任何$n$维统计量都关于原点偏移不变,则过程$x(t)$是$n$阶平稳的。
  • 区间平稳性:如果过程$x(t)$在该某区间内的统计特性对于原点的移动不变,则该过程在该区间中是平稳的。 即$\left\{x\left(t_{i}\right)\right\}_{i=1}^{n}$和$\left\{x\left(t_{i}+c\right)\right\}_{i=1}^{n}$具有相同的统计量,只要所有$t_1$和$t_i+c$都属于该区间。
  • 渐近平稳:如果$y(t)=\lim _{c \rightarrow \infty} x(t+c)$是平稳的,则过程$x(t)$是渐近平稳的,前提是存在极限。

重要定理

定理:

过程$\boldsymbol{x}(t)=\boldsymbol{a} \cos (\omega t)+\boldsymbol{b} \sin (\omega t)$是SSS,当且仅当$\boldsymbol a, \boldsymbol b$的联合密度$f(a,b)$是圆对称的,即

其中$r=\sqrt{a^2+b^2}$

证明:

1.$\Rightarrow$:

如果$\boldsymbol x(t)$是SSS,那么$\vec{\boldsymbol{x}}^{T}=[\boldsymbol{x}(0), \boldsymbol{x}(\pi / 2 \omega)]^{T}=[\boldsymbol{a}, \boldsymbol{b}]^{T}$和$\vec{\boldsymbol{y}}^{T}=[\boldsymbol{x}(t), \boldsymbol{x}(t+\pi / 2 \omega)]^{T}$具有相同的概率密度$\boldsymbol f$,注意到

所以利用变量替换公式可得

注意到

所以

由于

以及$t$的任意性,所以

2.$\Leftarrow$:

对于固定的$\tau$,考虑

其中

注意到

所以$(\boldsymbol a,\boldsymbol b),(\boldsymbol a_1,\boldsymbol b_1)$的概率分布相同,而$x_1(t)$的统计特性由$(\boldsymbol a_1,\boldsymbol b_1)$完全确定,$x(t)$的统计特性由$(\boldsymbol a,\boldsymbol b)$完全确定,所以$x(t)$和$x(t+\tau)$的统计特性相同。

推论1

如果$\boldsymbol a,\boldsymbol b$不相关,$0$均值,方差相同,那么过程$\boldsymbol{x}(t)=\boldsymbol{a} \cos (\omega t)+\boldsymbol{b} \sin (\omega t)$是WSS。

证明:

期望:

自相关函数:

推论2

如果$\varphi$是在$[-\pi,\pi)$的均匀分布,那么过程$\boldsymbol{x}(t)=a \cos (\omega t+\varphi)$是WSS。

证明:

期望:

自相关函数:

推论3

如果$\varphi$是在$[-\pi,\pi)$的均匀分布,那么过程$z(t)=a e^{j(\omega t+\varphi)}$是WSS。

证明:

然后利用推论2的证明过程即可。

推论4

如果过程$\boldsymbol{x}(t)=\boldsymbol{a} \cos (\omega t)+\boldsymbol{b} \sin (\omega t)$是SSS,且$\boldsymbol a,\boldsymbol b$独立,那么$\boldsymbol x(t)$是正态过程。

证明:

第一部分,证明$\boldsymbol a,\boldsymbol b$服从正态分布。

  • 首先由定理可得$\boldsymbol a, \boldsymbol b$的联合密度$f(a,b)=g(r)$是圆对称的,其中$r=\sqrt{a^2+b^2}$。

  • 其次由$\boldsymbol a,\boldsymbol b$的独立性可得$g(r)=f_{\boldsymbol{a}}(a) f_{\boldsymbol{b}}(b)$。

  • 求导可得:

下面证明:

利用反证法,如果存在某个$\alpha\neq \beta$,使得

考虑$(a,b)=(\alpha,\beta)$和$(a,b)=(\beta,\alpha)$,我们有

但是$(\alpha,\beta)$和$(\beta,\alpha)$对应的模长相同,这就与上述事实矛盾。

  • 积分可得

    由对称性得到

    利用

    可得

  • 总结:圆对称和独立性可以推出高斯。

第二部分,证明$\boldsymbol x(t)$是正态过程。

只要证明任意有限维服从联合正态分布即可,可以利用如下事实得到:

相关时间

WSS过程$\boldsymbol x(t)$的相关时间$\tau_c$定义为:

例子

对于$a-$独立WSS过程$\boldsymbol x(t)$,即$C_{xx}(\tau)=0,|\tau| > a$。因此,

其中

是利用了协方差矩阵半正定:

以及

备注:这里假设过程为实过程。