台交大随机过程 Lecture 7

课程主页：https://ocw.nctu.edu.tw/course_detail.php?bgid=8&gid=0&nid=558

老师主页：http://shannon.cm.nctu.edu.tw/

课程视频：https://www.bilibili.com/video/BV1sW411U7xK?from=search&seid=2411740640027894887，

https://www.youtube.com/watch?v=IsQSWVbAKy0&list=PLj6E8qlqmkFvw7Rt63yBqai2HmPKF0V0J

这次回顾第七讲，介绍了离散时间过程，对应视频15。

基本概念

利用符号$x[m]$表示离散时间过程，即

$$\boldsymbol{x}[m]=\boldsymbol{x}(m) \text { for integer } m$$

自相关函数为

$$R_{x x}\left[m_{1}, m_{2}\right]=E\left\{\boldsymbol{x}\left[m_{1}\right] \boldsymbol{x}^{*}\left[m_{2}\right]\right\}$$

如果$x[m]$是WSS，那么自相关函数为

$$R_{x x}[\tau]=E\left\{\boldsymbol{x}[m+\tau] \boldsymbol{x}^{*}[m]\right\}=E\left\{\boldsymbol{x}(m+\tau) \boldsymbol{x}^{*}(m)\right\}=R_{x x}(\tau)$$

离散时间过程的功率谱为

$$S_{x x}[\omega]=\sum_{n=-\infty}^{\infty} R_{x x}[n] e^{-j \omega n} \quad\left(=\sum_{n=-\infty}^{\infty} R_{x x}[n]\left(e^{j \omega}\right)^{-n}=\sum_{n=-\infty}^{\infty} R_{x x}[n] z^{-n}\right)$$

这里

$$z=e^{j \omega}$$

利用逆傅里叶变换得到

$$R_{x x}[n]=\frac{1}{2 \pi} \int_{-\pi}^{\pi} S_{x x}[\omega] e^{j \omega n} d \omega$$

由定义不难得到

$$\begin{aligned} R_{x x}[\tau]=R_{x x}(\tau) &=\frac{1}{2 \pi} \int_{-\infty}^{\infty} S_{x x}(\omega) e^{j \omega \tau} d \omega \\ &=\frac{1}{2 \pi} \sum_{k=-\infty}^{\infty} \int_{(2 k-1) \pi}^{(2 k+1) \pi} S_{x x}(\omega) e^{j \omega \tau} d \omega \\ &=\frac{1}{2 \pi} \sum_{k=-\infty}^{\infty} \int_{-\pi}^{\pi} S_{x x}\left(\omega^{\prime}+2 k \pi\right) e^{j\left(\omega^{\prime}+2 k \pi\right) \tau} d \omega^{\prime}\left(\omega^{\prime}=\omega-2 k \pi\right) \\ &=\frac{1}{2 \pi} \int_{-\pi}^{\pi}\left(\sum_{k=-\infty}^{\infty} S_{x x}\left(\omega^{\prime}+2 k \pi\right)\right) e^{j \omega^{\prime} \tau} d \omega^{\prime} \end{aligned}$$

由唯一性可得

$$S_{x x}[\omega]=\sum_{k=-\infty}^{\infty} S_{x x}(\omega+2 k \pi)$$

卷积

对应响应函数为$h[n]$的离散时间系统，我们有

$$\boldsymbol{y}[n]=\sum_{k=-\infty}^{\infty} \boldsymbol{h}[k] \boldsymbol{x}[n-k]=\boldsymbol{h}[n] * \boldsymbol{x}[n]$$

有类似之前的基本定理：

半正定性

函数$R(\tau)$有非负傅里叶变换，当且仅当其为半正定，即

$$\sum_{i} \sum_{j} a_{i} a_{j}^{*} R\left(t_{i}-t_{j}\right) \geq 0 \quad \text { for any complex } a_{i} \text { and } a_{j}$$

为了证明这点，需要用到如下引理：

引理（Schur）

离散（可和）函数$R[\tau]$，满足$R^{*}[-\tau]=R[\tau]$，有非负傅里叶变换

$$S[\omega]=\sum_{m=-\infty}^{\infty} R[m] e^{-j m \omega}=R[0]+2 \sum_{m=1}^{\infty} \operatorname{Re}\left\{R[m] e^{-j m \omega}\right\}$$

当且仅当对每个$n$，Hermitian Toeplitz矩阵$\mathbb{T}_{n}$是半正定，其中

$$\mathbb{T}_{n} \triangleq\left[\begin{array}{ccccc} R[0] & R[1] & R[2] & \cdots & R[n] \\ R^{*}[1] & R[0] & R[1] & \cdots & R[n-1] \\ R^{*}[2] & R^{*}[1] & R[0] & \cdots & R[n-2] \\ \vdots & \vdots & \vdots & \ddots & \vdots \\ R^{*}[n] & R^{*}[n-1] & R^{*}[n-2] & \cdots & R[0] \end{array}\right]$$

证明：

$\Rightarrow$：

假设$S[\omega] \geq 0$，令$\vec{a}=\left[a_{0}, a_{1}, \cdots, a_{n}\right]^{T}$。那么

$$\begin{aligned} \vec{a}^{\dagger} \mathbb{T}_{n} \vec{a} &=\sum_{k=0}^{n} \sum_{m=0}^{n} a_{k}^{*} a_{m} R[m-k] \\ &=\sum_{k=0}^{n} \sum_{m=0}^{n} a_{k}^{*} a_{m} \frac{1}{2 \pi} \int_{-\pi}^{\pi} S[\omega] e^{j(m-k) \omega} d \omega \\ &=\frac{1}{2 \pi} \int_{-\pi}^{\pi} S[\omega] \sum_{k=0}^{n} \sum_{m=0}^{n}\left(a_{k} e^{j k \omega}\right)^{*}\left(a_{m} e^{j m \omega}\right) d \omega \\ &=\frac{1}{2 \pi} \int_{-\pi}^{\pi} S[\omega]\left|\sum_{m=0}^{n} a_{m} e^{j m \omega}\right|^{2} d \omega \\ &\ge 0 \end{aligned}$$

其中${\dagger}$表示共轭转置。

$\Leftarrow$：

假设$\mathbb T_n$对每个$n$都是半正定。

令$\vec{a}=\left[a_{0}, a_{1}, \cdots, a_{n}\right]^{T}$，其中$a_{m}=\sqrt{1-\rho^{2} } \rho^{m} e^{j m \omega_{0} },0<\rho <1,-\pi \le w_0 <\pi$。那么，

$$\begin{aligned} 0 \leq \vec{a}^{\dagger} \mathbb{T}_{n} \vec{a} &=\frac{1}{2 \pi} \int_{-\pi}^{\pi}\left(1-\rho^{2}\right)\left|\sum_{m=0}^{n} \rho^{m} e^{j m\left(\omega-\omega_{0}\right)}\right|^{2} S[\omega] d \omega \\ &=\frac{1}{2 \pi} \int_{-\pi}^{\pi}\left(1-\rho^{2}\right)\left|\frac{1-\rho^{n+1} e^{j\left(\omega-\omega_{0}\right)(n+1)} }{1-\rho e^{j\left(\omega-\omega_{0}\right)} }\right|^{2} S[\omega] d \omega \end{aligned}$$

注意到

$$\begin{aligned} \left| \sum_{m=0}^{n} \rho^{m} e^{j m\left(\omega-\omega_{0}\right)}\right|^{2} S[\omega] & \leq\left(\sum_{m=0}^{\infty}\left|\rho^{m} e^{j m\left(\omega-\omega_{0}\right)}\right|\right)^{2}\left(\sum_{\tau=-\infty}^{\infty}|R[\tau]|\right) \\ &=\left(\frac{1}{1-\rho}\right)^{2}\left(\sum_{\tau=-\infty}^{\infty}|R[\tau]|\right) \end{aligned}$$

第一个不等号利用了绝对可和性：

$$|S[\omega]|=\left|\sum_{\tau=-\infty}^{\infty} R[\tau] e^{-j \omega \tau}\right| \leq \sum_{\tau=-\infty}^{\infty}|R[\tau]|<\infty$$

所以由控制收敛定理，我们有

$$\begin{aligned} 0 & \leq \lim _{n \rightarrow \infty} \frac{1}{2 \pi} \int_{-\pi}^{\pi}\left(1-\rho^{2}\right)\left|\frac{1-\rho^{n+1} e^{j\left(\omega-\omega_{0}\right)(n+1)} }{1-\rho e^{j\left(\omega-\omega_{0}\right)} }\right|^{2} S[\omega] d \omega \\ &=\frac{1}{2 \pi} \int_{-\pi}^{\pi} \lim _{n \rightarrow \infty}\left(1-\rho^{2}\right)\left|\frac{1-\rho^{n+1} e^{j\left(\omega-\omega_{0}\right)(n+1)} }{1-\rho e^{j\left(\omega-\omega_{0}\right)} }\right|^{2} S[\omega] d \omega \\ &=\frac{1}{2 \pi} \int_{-\pi}^{\pi} \frac{\left(1-\rho^{2}\right)}{1-2 \rho \cos \left(\omega-\omega_{0}\right)+\rho^{2} } S[\omega] d \omega \\ &=\frac{1}{2 \pi} \int_{-\pi}^{\pi} \frac{\left(1-\rho^{2}\right)}{1-2 \rho \cos \left(\omega-\omega_{0}\right)+\rho^{2} } \varphi\left(e^{j \omega}\right) d \omega \end{aligned}$$

其中

$$\varphi\left(e^{j \omega}\right)=\sum_{\tau=-\infty}^{\infty} R[\tau]\left(e^{j \omega}\right)^{-\tau}$$

利用泊松公式

$$\varphi\left(\rho e^{j \omega_{0} }\right)=\frac{1}{2 \pi} \int_{0}^{2 \pi} \frac{\left(r^{2}-\rho^{2}\right)}{r^{2}-2 r \rho \cos \left(\omega-\omega_{0}\right)+\rho^{2} } \varphi\left(r e^{j \omega}\right) d \omega \quad \text { for } 0<\rho<r$$

我们可得对于任意$0<\rho <1$，

$$\varphi\left(\rho e^{j \omega_{0} }\right)=\sum_{\tau=-\infty}^\infty R[\tau]\left(\rho e^{j \omega}\right)^{-\tau} \geq 0$$

令$\rho \to 1$，我们有

$$S\left[\omega_{0}\right]=\lim _{\rho \uparrow 1} \varphi\left(\rho e^{j \omega_{0} }\right) \geq 0$$

推论（Paley-Wiener判别准则）

在Schur引理下，如果

$$\frac{1}{2 \pi} \int_{-\pi}^{\pi} \log (S[\omega]) d \omega>-\infty$$

那么对每个$n$，$\mathbb{T}_{n}$都是正定。

说明：该判别准则的含义是不存在测度大于$0$的集合，使得$S[w]=0$。

证明见ppt 141-142.

一般性质

$\boldsymbol{x}[t]=\sum_{i=1}^{n} \boldsymbol{c}_{i} e^{j \omega_{i} t}$是WSS当且仅当$\left\{c_{i}\right\}$不相关$0$均值（这里假设$\left\{\omega_{i}\right\}$两两不同并且不包含$0$）

证明：

$\Rightarrow$：

此时

$$E\{\boldsymbol{x}[t]\}=E\left\{\sum_{i=1}^{n} c_{i} e^{j \omega_{i} t}\right\}=\sum_{i=1}^{n} E\left\{\boldsymbol{c}_{i}\right\} e^{j \omega_{i} t} =E\{\boldsymbol{x}[0]\}= \sum_{i=1}^n E\left\{\boldsymbol{c}_{i}\right\}$$

即

$$\sum_{i=1}^{n} (E\left\{\boldsymbol{c}_{i}\right\} -1)e^{j \omega_{i} t} =0$$

求解该线性方程组可得

$$E\left\{\boldsymbol{c}_{i}\right\} =0, i=1,\ldots, n$$

另一方面

$$E\left\{\boldsymbol{x}[t+\tau] \boldsymbol{x}^{*}[t]\right\}=\sum_{i=1}^{n} \sum_{k=1}^{n} E\left\{\boldsymbol{c}_{i} \boldsymbol{c}_{k}^{*}\right\} e^{j \omega_{i} \tau} e^{j t\left(\omega_{i}-\omega_{k}\right)}$$

利用之前类似的方法可得

$$E\left\{c_{i} c_{k}^{*}\right\}_{i=1}^{n}=0, i\neq k$$

$\Leftarrow$：

显然。

定理回顾