台交大随机过程 Lecture 5

课程主页：https://ocw.nctu.edu.tw/course_detail.php?bgid=8&gid=0&nid=558

老师主页：http://shannon.cm.nctu.edu.tw/

课程视频：https://www.bilibili.com/video/BV1sW411U7xK?from=search&seid=2411740640027894887，

https://www.youtube.com/watch?v=IsQSWVbAKy0&list=PLj6E8qlqmkFvw7Rt63yBqai2HmPKF0V0J

这次回顾第五讲，介绍了功率谱密度，对应视频12。

功率谱

功率谱

WSS过程$\boldsymbol{x}(t)$的功率谱$S_{x x}(\omega)$是自相关函数$R_{x x}(\tau)=E\left[\boldsymbol{x}(t+\tau) \boldsymbol{x}^{*}(t)\right]$的傅里叶变换：

$$S_{x x}(\omega)=\int_{-\infty}^{\infty} R_{x x}(\tau) e^{-j \omega \tau} d \tau$$

几点说明：

• 由逆变换可得

  $$R_{x x}(\tau)=\frac{1}{2 \pi} \int_{-\infty}^{\infty} S_{x x}(\omega) e^{j \omega \tau} d \omega$$

• 因为$R_{x x}(-\tau)=R_{x x}^{*}(\tau)$，所以$S_{x x}(\omega)$是实函数

• 如果$\boldsymbol{x}(t)$是实数，那么$R_{x x}(\tau),S_{x x}(\omega)$为偶函数，并且也为实函数，此时

  $$\begin{array}{l} S_{x x}(\omega)=2 \int_{0}^{\infty} R_{x x}(\tau) \cos (\omega \tau) d \tau \\ R_{x x}(\tau)=\frac{1}{\pi} \int_{0}^{\infty} S_{x x}(\omega) \cos (\omega \tau) d \omega \end{array}$$

互功率谱

WSS过程$\boldsymbol{x}(t)$的交叉功率谱$S_{x y}(\omega)$是互相关函数$R_{x y}(\tau)=E\left[\boldsymbol{x}(t+\tau) \boldsymbol{y}^{*}(t)\right]$的傅里叶变换：

$$S_{x y}(\omega)=\int_{-\infty}^{\infty} R_{x y}(\tau) e^{-j \omega \tau} d \tau$$

协方差谱

WSS过程$\boldsymbol{x}(t)$的协方差谱$S_{x x}^{c}(\omega)$是自协方差函数

$$C_{x x}(\tau)=E\left[\left(\boldsymbol{x}(t+\tau)-\eta_{x}(t+\tau)\right)\left(\boldsymbol{x}(t)-\eta_{x}(t)\right)^{*}\right]=E\left[(\boldsymbol{x}(t+\tau)-\eta)(\boldsymbol{x}(t)-\eta)^{*}\right]$$

的傅里叶变换：

$$S_{x x}^{c}(\omega)=\int_{-\infty}^{\infty} C_{x x}(\tau) e^{-j \omega \tau} d \tau$$

注意到

$$C_{xx}(\omega)= R_{x x}(\omega)- \eta^2$$

所以

$$S_{x x}(\omega)=S_{x x}^{c}(\omega)+2 \pi \eta^{2} \delta(\omega)$$

两个重要引理

引理1

给定任意非负可积函数$S(\omega)$，存在复WSS过程$\boldsymbol{x}(t)$，其功率谱为$S(\omega)$

证明：

构造复随机过程

$$\boldsymbol{x}(t)=a e^{j(\boldsymbol{\omega} t-\boldsymbol{\varphi})}$$

其中

$$|a|^{2}=\frac{1}{2 \pi} \int_{-\infty}^{\infty} S(\omega) d \omega$$

上述这点由能量恒等式得到。

$\omega$是随机变量，并且

$$f_{\omega}(\omega)= \begin{cases} \frac{S(\omega)}{2 \pi|a|^{2}} & a\neq 0\\ 任意值 & a=0 \end{cases}$$

$\varphi$服从$[-\pi, \pi)$上的均匀分布，并且与$\omega$独立。

引理2

给定任意非负可积偶函数$S(\omega)$，存在实WSS过程$\boldsymbol{x}(t)$，其功率谱为$S(\omega)$ 。

证明：

构造实随机过程

$$\boldsymbol{x}(t)=a \cos (\boldsymbol{\omega} t+\varphi)$$

其中

$$|a|^{2}=\frac{1}{ \pi} \int_{-\infty}^{\infty} S(\omega) d \omega$$

上述这点由能量恒等式得到。

$\omega$是随机变量，并且

$$f_{\omega}(\omega)= \begin{cases} \frac{S(\omega)}{\pi|a|^{2}} & a\neq 0\\ 任意值 & a=0 \end{cases}$$

$\varphi$服从$[-\pi, \pi)$上的均匀分布，并且与$\omega$独立。

例子

考虑第三讲半随机电报信号的例子，即假设$\lambda(t)=\lambda$，定义：

$$\boldsymbol{x}(t)=\left\{\begin{array}{ll} 1, & \text { if } \boldsymbol{n}[0, t) \text { is even } \\ -1, & \text { if } \boldsymbol{n}[0, t) \text { is odd } \end{array}\right.$$

之前已经推导过

$$R_{x x}(\tau)=e^{-2 \lambda|\tau|}$$

因此

$$\begin{aligned} S_{x x}(\omega) &=\int_{-\infty}^{\infty} e^{-2 \lambda|\tau|} e^{-j \omega \tau} d \tau\\ &=\int_{0}^{\infty} e^{-2 \lambda \tau} e^{-j \omega \tau} d \tau+\int_{-\infty}^{0} e^{2 \lambda \tau} e^{-j \omega \tau} d \tau \\ &=\int_{0}^{\infty} e^{-(2 \lambda+j \omega) \tau} d \tau+\int_{0}^{\infty} e^{-(2 \lambda-j \omega) \tau} d \tau \\ &=\frac{1}{2 \lambda+j \omega}+\frac{1}{2 \lambda-\jmath \omega} \\ &=\frac{4 \lambda}{4 \lambda^{2}+\omega^{2}} \end{aligned}$$

线性系统回顾

证明：

$$\begin{aligned} R_{x y}\left(t_{1}=t+\tau, t_{2}=t\right) &=E\left[\int_{-\infty}^{\infty} \boldsymbol{h}^{*}\left(u ; t_{2}\right) R_{x x}\left(t_{1}-t_{2}+u\right) d u\right] \\ &=E\left[\int_{-\infty}^{\infty} \boldsymbol{h}_{2}^{*}(t) \boldsymbol{h}_{1}^{*}(u) R_{x x}(\tau+u) d u\right] \\ &=E\left[\boldsymbol{h}_{2}^{*}(t) \int_{-\infty}^{\infty} \boldsymbol{h}_{1}^{*}(-u) R_{x x}(\tau-u) d u\right]\\ R_{y y}\left(t_{1}=t+\tau, t_{2}=t\right) &=E\left[\int_{-\infty}^{\infty} \int_{-\infty}^{\infty} \boldsymbol{h}^{*}\left(u^{\prime} ; t_{2}\right) \boldsymbol{h}\left(u ; t_{1}\right) R_{x x}\left(t_{1}-t_{2}-u+u^{\prime}\right) d u d u^{\prime}\right] \\ &=E\left[\int_{-\infty}^{\infty} \int_{-\infty}^{\infty} \boldsymbol{h}_{2}^{*}\left(t_{2}\right) \boldsymbol{h}_{1}^{*}\left(u^{\prime}\right) \boldsymbol{h}_{2}\left(t_{1}\right) \boldsymbol{h}_{1}(u) R_{x x}\left(\tau-u+u^{\prime}\right) d u d u^{\prime}\right] \\ &=E\left[\boldsymbol{h}_{2}(t+\tau) \boldsymbol{h}_{2}^{*}(t) \int_{-\infty}^{\infty} \int_{-\infty}^{\infty} \boldsymbol{h}_{1}^{*}\left(-u^{\prime}\right) \boldsymbol{h}_{1}(u) R_{x x}\left(\tau-u-u^{\prime}\right) d u d u^{\prime}\right] \end{aligned}$$

证明：

$$\begin{aligned} S_{x y}(\omega ; t) &=\int_{-\infty}^{\infty} R_{x y}(t+s, t) e^{-j \omega s} d s \\ &=e^{-j \omega_{0} t} \int_{-\infty}^{\infty} E\left[\int_{-\infty}^{\infty} h_{1}^{*}(-\tau) R_{x x}(s-\tau) d \tau\right] e^{-j \omega s} d s \\ &=e^{-j \omega_{0} t} E\left[\int_{-\infty}^{\infty} h_{1}^{*}(-\tau) e^{-j \omega \tau}\left(\int_{-\infty}^{\infty} R_{x x}(v) e^{-j \omega v} d v\right) d \tau\right], \quad v=s-\tau \\ &=e^{-j \omega_{0} t} E\left[\boldsymbol{H}_{1}^{*}(\omega) S_{x x}(\omega)\right]\\ S_{y y}(\omega ; t) &=\int_{-\infty}^{\infty} R_{y y}(t+s, t) e^{-j \omega s} d s \\ &=\int_{-\infty}^{\infty} e^{-j \omega_{0} t} e^{j \omega_{0}(t+s)} E\left[\int_{-\infty}^{\infty} \int_{-\infty}^{\infty} h_{1}^{*}\left(-\tau^{\prime}\right) h_{1}(\tau) R_{x x}\left(\left[s-\tau^{\prime}\right]-\tau\right) d \tau^{\prime} d \tau\right] e^{-j \omega s} d s \\ &=E\left[\int_{-\infty}^{\infty} \int_{-\infty}^{\infty} \int_{-\infty}^{\infty} h_{1}^{*}\left(\tau^{\prime \prime}\right) h_{1}(\tau) R_{x x}\left(s-\tau+\tau^{\prime \prime}\right) e^{-j\left(\omega-\omega_{0}\right) s} d s d \tau d \tau^{\prime \prime}\right], \tau^{\prime \prime}=-\tau \\ &=E\left[\int_{-\infty}^{\infty} \int_{-\infty}^{\infty} \int_{-\infty}^{\infty} h_{1}^{*}\left(\tau^{\prime \prime}\right) h_{1}(\tau) R_{x x}(v) e^{-j\left(\omega-\omega_{0}\right)\left(v+\tau-\tau^{\prime \prime}\right)} d v d \tau d \tau^{\prime \prime}\right], v=s-\tau+\tau^{\prime \prime} \\ &=S_{x x}\left(\omega-\omega_{0}\right) E\left[\left|\boldsymbol{H}_{1}\left(\omega-\omega_{0}\right)\right|^{2}\right] \end{aligned}$$

线性系统的转移函数

线性系统的功率谱由如下关系描述

$$Y(\omega)=X(\omega) H(\omega)$$

其中

$$\begin{aligned} \boldsymbol{Y}(\omega)&=\int_{-\infty}^{\infty} \boldsymbol{y}(t) e^{-j \omega t} d t \\ \quad \boldsymbol{X}(\omega)&=\int_{-\infty}^{\infty} \boldsymbol{x}(t) e^{-j \omega t} d t \end{aligned}$$

傅里叶变换的拓展

函数$g(t)$的傅里叶变换存在，如果$\int_{-\infty}^{\infty}|g(t)| d t<\infty$，并且$g(t)$在每个有限区间只有有限个局部最大值，局部最小值，不连续点。

拓展的傅里叶变换，找到函数序列$g_n(t)$，该序列满足

$$\lim _{n \rightarrow \infty} g_{n}(t)=g(t)$$

$g_n(t)$可以进行傅里叶变换，对应的傅里叶变换为$G_n(\omega)$，定义$g(t)$的傅里叶变换为

$$\lim _{n \rightarrow \infty} G_{n}(\omega)$$

例子：

取

$$\begin{aligned} g(t)&= 1\\ g_{n}(t)&=e^{-|t| / n} \end{aligned}$$

那么

$$\lim _{n \rightarrow \infty} \int_{-\infty}^{\infty} e^{-|t| / n} e^{-j \omega t} d t=\lim _{n \rightarrow \infty} \frac{2 n}{1+n^{2} \omega^{2}}=2 \pi \delta(\omega)$$

其中常数项$2\pi$是因为

$$\int_{-\infty}^{\infty} \frac{2 n}{1+n^{2} \omega^{2}} d \omega=2 \pi$$

希尔伯特变换

希尔伯特变换是指如下转移函数

$$H(\omega)=-j \operatorname{sgn}(\omega)=\left\{\begin{array}{ll} -j, & \omega>0 \\ j, & \omega<0 \end{array}\right.$$

希尔伯特变换的拓展逆傅里叶变换为

$$\begin{aligned} \frac{1}{2 \pi} \int_{-\infty}^{\infty} H_{n}(\omega) e^{j \omega \tau} d \omega &=\frac{1}{2 \pi} \int_{-\infty}^{\infty}\left(-j \operatorname{sgn}(\omega) e^{-|\omega| / n}\right) e^{j \omega \tau} d \omega \\ &=\frac{1}{2 \pi} \int_{-\infty}^{0}\left(j e^{\omega / n}\right) e^{j \omega \tau} d \omega+\frac{1}{2 \pi} \int_{0}^{\infty}\left(-j e^{-\omega / n}\right) e^{j \omega \tau} d \omega \\ &=\frac{n}{2 \pi(n \tau-j)}+\frac{n}{2 \pi(n \tau+j)} \\ &=\frac{n^{2} \tau}{\pi\left(n^{2} \tau^{2}+1\right)} \\ &\stackrel{n \rightarrow \infty}{\longrightarrow}\left\{\begin{array}{ll} \frac{1}{\pi \tau} & \tau \neq 0 \\ 0 & \tau=0 \end{array}\right. \end{aligned}$$

解析信号

复过程$z(t)=x(t)+j \hat{x}(t)$被称为实过程$\boldsymbol{x}(t)$的解析信号，其中$\hat{\boldsymbol{x}}(t)$是${\boldsymbol{x}}(t)$的希尔伯特变换。

对上述过程取傅里叶变换可得

$$\begin{aligned} Z(\omega) &=\boldsymbol{X}(\omega)+j \hat{\boldsymbol{X}}(\omega) \\ &=\boldsymbol{X}(\omega)+j \boldsymbol{X}(\omega) H(\omega) \\ &=\boldsymbol{X}(\omega)+j \boldsymbol{X}(\omega)[-j \operatorname{sgn}(\omega)] \\ &=[1+\operatorname{sgn}(\omega)] \boldsymbol{X}(\omega) \\ &=2 \boldsymbol{X}(\omega) \cdot 1[\omega>0]+\boldsymbol{X}(\omega) \cdot 1[\omega=0] \end{aligned}$$

Wiener-Khinchin定理

任意WSS过程$\boldsymbol{x}(t)$的功率谱是非负的。

证明：

假设$S_{x x}(\omega)$在区间$\left(\omega_{1}, \omega_{2}\right)$为负数，定义

$$H(\omega)=\begin{cases} 1 & \omega_1 < \omega < \omega_2\\ 0 &其他 \end{cases}$$

那么

$$E\left[|\boldsymbol{y}(t)|^{2}\right]=\frac{1}{2 \pi} \int_{\omega_{1}}^{\omega_{2}} S_{x x}(\omega)|H(\omega)|^{2} d \omega=\frac{1}{2 \pi} \int_{\omega_{1}}^{\omega_{2}} S_{x x}(\omega) d \omega \geq 0$$

这就产生了矛盾。