EE261 Lecture 10

课程主页：https://see.stanford.edu/Course/EE261

这次回顾第十讲，这一讲完成了卷积部分的内容。

另一种热方程

依旧考虑热方程

$$u_{t}=\frac{1}{2} u_{x x}$$

这里的初值条件为

$$u(0, t)=f(t)$$

这里我们假设

$$u(x,0)=0$$

另一方面，我们假设

$$u(x,t)=0, x<0$$

对$u(x,t)$关于$x$做傅里叶变换得到

$$\hat{u}(s, t)=\int_{-\infty}^{\infty} e^{-2 \pi i s x} u(x, t) d x$$

求偏导，利用热方程可得

$$\begin{aligned} \frac{\partial}{\partial t} \hat{u}(s, t) &=\int_{-\infty}^{\infty} e^{-2 \pi i s x} \frac{\partial}{\partial t} u(x, t) d x\\ &=\int_{-\infty}^{\infty} e^{-2 \pi i s x} \frac{\partial^{2}}{\partial x^{2}} \frac{1}{2} u(x, t) d x \end{aligned}$$

所以

$$\begin{aligned} \int_{0}^{\infty} e^{-2 \pi i s x} \frac{1}{2} \frac{\partial^{2}}{\partial x^{2}} u(x, t) d x &=\frac{1}{2}\left(\left[e^{-2 \pi i s x} \frac{\partial}{\partial x} u(x, t)\right]_{x=0}^{x=\infty}+2 \pi i s \int_{0}^{\infty} \frac{\partial}{\partial x} u(x, t) e^{-2 \pi i s x} d x\right) \\ &=-\frac{1}{2} u_{x}(0, t)+\pi i s \int_{0}^{\infty} \frac{\partial}{\partial x} u(x, t) e^{-2 \pi i s x} d x \end{aligned}$$

计算第二项得到

$$\begin{aligned} \int_{0}^{\infty} \frac{\partial}{\partial x} u(x, t) e^{-2 \pi i s x} d x &=\left[e^{-2 \pi i s x} u(x, t)\right]_{x=0}^{x=\infty}+2 \pi i s \int_{0}^{\infty} e^{-2 \pi i s t} u(x, t) d x \\ &=-u(0, t)+2 \pi i s \int_{0}^{\infty} e^{-2 \pi i s t} u(x, t) d x \\ &=-f(t)+2 \pi i s \int_{-\infty}^{\infty} e^{-2 \pi i s t} u(x, t) d x \\ &=-f(t)+2 \pi i s \hat{u}(s, t) \end{aligned}$$

从而

$$\frac{\partial}{\partial t} \hat{u}(s, t)=-\frac{1}{2} u_{x}(0, t)-\pi i s f(t)-2 \pi^{2} s^{2} \hat{u}(s, t)$$

考虑如下常微分方程的解法

$$y^{\prime}(t)+P(t) y(t)=Q(t)$$

利用积分因子

$$e^{\int_{0}^{t} P(\tau) d \tau}$$

我们可得

$$\left(y(t) e^{\int_{0}^{t} P(\tau) d \tau}\right)^{\prime}=e^{\int_{0}^{t} P(\tau) d \tau} Q(t)$$

这里

$$\begin{array}{l}{P(t)=2 \pi^{2} s^{2} } \\ {Q(t)=-\frac{1}{2} u_{x}(0, t)-\pi i s f(t)}\end{array}$$

所以积分因子为

$$e^{2 \pi^{2} s^{2} t}$$

我们得到

$$\left(e^{2 \pi^{2} s^{2} t} \hat{u}(t)\right)^{\prime}=e^{2 \pi^{2} s^{2} t}\left(-\frac{1}{2} u_{x}(0, t)-\pi i s f(t)\right)$$

从$0$到$t$积分可得

$$e^{2 \pi^{2} s^{2} t} \hat{u}(s, t)-\hat{u}(s, 0)=\int_{0}^{t} e^{2 \pi s^{2} \tau}\left(-\frac{1}{2} u_{x}(0, \tau)-\pi i s f(\tau)\right) d \tau$$

因为

$$u(x,0) =0$$

所以

$$\hat u(s, 0)=0$$

那么

$$\begin{aligned} \hat{u}(s, t) &=e^{-2 \pi^{2} s^{2} t} \int_{0}^{t} e^{2 \pi s^{2} \tau}\left(-\frac{1}{2} u_{x}(0, \tau)-\pi i s f(\tau)\right) d \tau \\ &=\int_{0}^{t} e^{-2 \pi^{2} s^{2}(t-\tau)}\left(-\frac{1}{2} u_{x}(0, \tau)-\pi i s f(\tau)\right) d \tau \end{aligned}$$

做傅里叶逆变换得到

$$\begin{aligned} u(x, t) &=\int_{-\infty}^{\infty} e^{2 \pi i s x} \hat{u}(s, t) d s \\ &=\int_{-\infty}^{\infty} e^{2 \pi i s x}\left(\int_{0}^{t} e^{-2 \pi^{2} s^{2}(t-\tau)}\left(-\frac{1}{2} u_{x}(0, \tau)-\pi i s f(\tau)\right) d \tau\right) d s \\ &=\int_{0}^{t} \int_{-\infty}^{\infty} e^{2 \pi i s x} e^{-2 \pi^{2} s^{2}(t-\tau)}\left(-\frac{1}{2} u_{x}(0, \tau)-\pi i s f(\tau)\right) d s d \tau \end{aligned}$$

考虑内部的积分项

$$\begin{array}{l}{\int_{-\infty}^{\infty} e^{2 \pi i s x}\left(e^{-2 \pi^{2} s^{2}(t-\tau)}\left(-\frac{1}{2} u_{x}(0, \tau)-\pi i s f(\tau)\right)\right) d s=} \\ {\qquad \qquad-\frac{1}{2} u_{x}(0, \tau) \int_{-\infty}^{\infty} e^{2 \pi i s x} e^{-2 \pi^{2} s^{2}(t-\tau)} d s-\pi i f(\tau) \int_{-\infty}^{\infty} e^{2 \pi i s x} s e^{-2 \pi^{2} s^{2}(t-\tau)} d s}\end{array}$$

现在首先求解第一项，回顾

$$\mathcal{F}\left(\frac{1}{\sigma \sqrt{2 \pi}} e^{-x^{2} / 2 \sigma^{2}}\right)=e^{-2 \pi^{2} \sigma^{2} s^{2}}, \quad \mathcal{F}\left(e^{-x^{2} / 2 \sigma^{2}}\right)=\sigma \sqrt{2 \pi} e^{-2 \pi^{2} \sigma^{2} s^{2}}$$

取

$$\sigma={ \sqrt{t-\tau}}$$

那么

$$\int_{-\infty}^{\infty} e^{2 \pi i s x} e^{-2 \pi ^2s^{2}(t-\tau)} d s=\mathcal{F}^{-1}\left(e^{-2 \pi^2 s^{2}(t-\tau)}\right)=\frac{e^{-x^{2} / 2(t-\tau)}}{\sqrt{2 \pi(t-\tau)}}$$

第二项我们需要求解

$$\mathcal{F}^{-1}\left(s e^{-2 \pi^{2} s^{2}(t-\tau)}\right)$$

注意到我们有

$$s e^{-2 \pi^{2} s^{2}(t-\tau)}=-\frac{1}{4 \pi^{2}(t-\tau)} \frac{d}{d s} e^{-2 \pi^{2} s^{2}(t-\tau)}$$

因此

$$\int_{-\infty}^{\infty} e^{2 \pi i s x} s e^{-2 \pi^{2} s^{2}(t-\tau)} d s=\mathcal{F}^{-1}\left(-\frac{1}{4 \pi^{2}(t-\tau)} \frac{d}{d s} e^{-2 \pi^{2} s^{2}(t-\tau)}\right)=-\frac{1}{4 \pi^{2}(t-\tau)} \mathcal{F}^{-1}\left(\frac{d}{d s} e^{-2 \pi^{2} s^{2}(t-\tau)}\right)$$

为了计算最后一项，利用对偶性，我们有

$$\mathcal{F}^{-1} f^{\prime}=\left(\mathcal{F} f^{\prime}\right)^{-}=(2 \pi i x \mathcal{F} f)^{-}=-2 \pi i x(\mathcal{F} f)^{-}=-2 \pi i x \mathcal{F}^{-1} f$$

从而

$$\begin{aligned} \mathcal{F}^{-1}\left(\frac{d}{d s} e^{-2 \pi^{2} s^{2}(t-\tau)}\right) &=-2 \pi i x \mathcal{F}^{-1}\left(e^{-2 \pi^{2} s^{2}(t-\tau)}\right) \\ &=-2 \pi i x \frac{1}{\sqrt{2 \pi(t-\tau)}} e^{-x^{2} / 2(t-\tau)} \end{aligned}$$

我们需要计算的项为

$$-\frac{1}{4 \pi^{2}(t-\tau)} \mathcal{F}^{-1}\left(\frac{d}{d s} e^{-2 \pi^{2} s^{2}(t-\tau)}\right)=\frac{2 \pi i x}{4 \pi^{2}(t-\tau)} \frac{e^{-x^{2} / 2(t-\tau)}}{\sqrt{2 \pi(t-\tau)}}=\frac{i}{2 \pi} \frac{x e^{-x^{2} / 2(t-\tau)}}{\sqrt{2 \pi(t-\tau)^{3}}}$$

即

$$\mathcal{F}^{-1}\left(s e^{-2 \pi^{2} s^{2}(t-\tau)}\right)=\frac{i}{2 \pi} \frac{x e^{-x^{2} / 2(t-\tau)}}{\sqrt{2 \pi(t-\tau)^{3}}}$$

将所有内容总结得到

$$\begin{aligned} u(x, t) &=-\frac{1}{2} \int_{0}^{t} u_{x}(0, \tau) \mathcal{F}^{-1}\left(e^{-2 \pi s^{2}(t-\tau)}\right) d \tau-\pi i \int_{0}^{t} f(\tau) \mathcal{F}^{-1}\left(s e^{-2 \pi^{2} s^{2}(t-\tau)}\right) d \tau \\ &=-\frac{1}{2} \int_{0}^{t} u_{x}(0, \tau) \frac{e^{-x^{2} / 2(t-\tau)}}{\sqrt{2 \pi(t-\tau)}} d \tau+\frac{1}{2} \int_{0}^{t} f(\tau) \frac{x e^{-x^{2} / 2(t-\tau)}}{\sqrt{2 \pi(t-\tau)^{3}}} d \tau \end{aligned}$$

为了化简上式，我们讨论更一般的情形：

$$\Phi(x, t)=\int_{0}^{t} \phi(x, \tau) d \tau+\int_{0}^{t} \psi(x, \tau) d \tau$$

这里我们知道$\Phi(x, t)=0, x<0$，$\phi (x,\tau )$关于$x$是偶函数，$\psi (x,\tau )$关于$x$是奇数。取$a>0$，那么$\Phi( -a, \tau )=0$，利用奇偶性可得

$$0=\int_{0}^{t} \phi(-a, \tau) d \tau+\int_{0}^{t} \psi(-a, \tau) d \tau=\int_{0}^{t} \phi(a, \tau) d \tau-\int_{0}^{t} \psi(a, \tau) d \tau$$

从而对于$a>0$，我们有

$$\int_{0}^{t} \phi(a, \tau)=\int_{0}^{t} \psi(a, \tau) d \tau$$

因此

$$\begin{aligned} \Phi(x, t) &=\int_{0}^{t} \phi(x, \tau) d \tau+\int_{0}^{t} \psi(x, \tau) d \tau \\ &=2 \int_{0}^{t} \psi(x, \tau) d \tau=2 \int_{0}^{t} \phi(x, \tau) d \tau \end{aligned}$$

我们对

$$\phi(x, \tau)=-\frac{1}{2} u_{x}(0, \tau) \frac{e^{-x^{2} / 2(t-\tau)}}{\sqrt{2 \pi(t-\tau)}}, \quad \psi(x, \tau)=\frac{1}{2} f(\tau) \frac{x e^{-x^{2} / 2(t-\tau)}}{\sqrt{2 \pi(t-\tau)^{3}}}$$

使用上述结论得到

$$u(x, t)=\int_{0}^{t} f(\tau) \frac{x e^{-x^{2} / 2(t-\tau)}}{\sqrt{2 \pi(t-\tau)^{3}}} d \tau$$

对比

回顾一开始介绍的元周上的热方程，其解为

$$u(x, t)=\int_{0}^{1} g(x-y) f(y) d y$$

其中

$$g(u)=\sum_{n=-\infty}^{\infty} e^{-2 \pi^{2} n^{2} t} e^{2 \pi i n u}$$

为了讨论方便，给出如下记号

$$g(x, t)=\sum_{n=-\infty}^{\infty} e^{-2 \pi^{2} n^{2} t} e^{2 \pi i n x}$$

所以问题的解为

$$u(x, t)=g(x, t) * f(x)=\int_{0}^{1} \sum_{n=-\infty}^{\infty} e^{-2 \pi^{2} n^{2} t} e^{2 \pi i n(x-y)} f(y) d y$$

回顾上一讲的热方程的解：

$$u(x, t)=\int_{-\infty}^{\infty} \frac{1}{\sqrt{2 \pi t}} e^{-(x-y)^{2} / 2 t} f(y) d y$$

下面证明在$f(x)$的周期为$1$，$f(x)$在$\mathbb R$上都有定义时，这两个解相同，使用的结论为

$$\sum_{n=-\infty}^{\infty} e^{-(x-n)^{2} / 2 t}=\sqrt{2 \pi t} \sum_{n=-\infty}^{\infty} e^{-2 \pi^{2} n^{2} t} e^{2 \pi i n x}$$

证明：

$$\begin{aligned} u(x, t) &=\int_{0}^{1} \sum_{n=-\infty}^{\infty} e^{-2 \pi^{2} n^{2} t} e^{2 \pi i n(x-y)} f(y) d y \\ &=\frac{1}{\sqrt{2 \pi t}} \int_{0}^{1} \sum_{n=-\infty}^{\infty} e^{-(x-y-n)^{2} / 2 t} f(y) d y \\ &=\frac{1}{\sqrt{2 \pi t}} \sum_{n=-\infty}^{\infty} \int_{0}^{1} e^{-(x-y-n)^{2} / 2 t} f(y) d y \\ &=\frac{1}{\sqrt{2 \pi t}} \sum_{n=-\infty}^{\infty} \int_{n}^{n+1} e^{-(x-u)^{2} / 2 t} f(u-n) d u \quad u=y+n \\ &=\frac{1}{\sqrt{2 \pi t}} \sum_{n=-\infty}^{\infty} \int_{n}^{n+1} e^{-(x-u)^{2} / 2 t} f(u) d u \quad f 的周期为1\\ &=\frac{1}{\sqrt{2 \pi t}} \int_{-\infty}^{\infty} e^{-(x-u)^{2} / 2 t} f(u) d u \end{aligned}$$

最后证明恒等式：

$$\sum_{n=-\infty}^{\infty} e^{-(x-n)^{2} / 2 t}=\sqrt{2 \pi t} \sum_{n=-\infty}^{\infty} e^{-2 \pi^{2} n^{2} t} e^{2 \pi i n x}$$

考虑

$$h(x)=\sum_{n=-\infty}^{\infty} e^{-(x-n)^{2} / 2 t}$$

显然该函数的周期为$1$，现在计算傅里叶系数：

$$\begin{aligned} \hat{h}(k) &=\int_{0}^{1} h(x) e^{-2 \pi i k x} d x \\ &=\int_{0}^{1}\left(\sum_{n=-\infty}^{\infty} e^{-(x-n)^{2} / 2 t}\right) e^{-2 \pi i k x} d x \\ &=\sum_{n=-\infty}^{\infty} \int_{0}^{1} e^{-(x-n)^{2} / 2 t} e^{-2 \pi i k u} d u \\ &=\sum_{n=-\infty}^{\infty} \int_{-n}^{-n+1} e^{-u^{2} / 2 t} e^{-2 \pi i k u} d u \\ &= \int_{-\infty}^{\infty} e^{-u^{2} / 2 t} e^{-2 \pi i k u} d u \end{aligned}$$

而最后一项为$e^{-\frac{x^2}{2t}}$的傅里叶变换在$s=k$的值，我们知道其值为

$$\sqrt{2 \pi t} e^{-2 \pi^{2} k^{2} t}$$

因此

$$\hat{h}(k)=\sqrt{2 \pi t} e^{-2 \pi^{2} k^{2} t}$$

我们得到如下结论

$$\begin{aligned} h(x) &=\sum_{n=-\infty}^{\infty} e^{-(x-n)^{2} / 2 t} \\ &=\sum_{n=-\infty}^{\infty} \hat{h}(n) e^{2 \pi i n x}\\ &=\sqrt{2 \pi t} \sum_{n=-\infty}^{\infty} e^{-2 \pi^{2} n^{2} t} e^{2 \pi i n x} \end{aligned}$$

卷积的另一种应用：中心极限定理

$X_1, \ldots,X_n$为独立随机变量，其概率密度函数为$p_{1}, p_{2}, \ldots, p_{n}$，不难得到$\sum_{i=1}^n X_i$的概率密度函数为$p_{1} p_{2} \cdots * p_{n}$。

为了叙述方便，定义

$$p^{* n}(x)=(p * p * \cdots * p)(x)$$

现在考虑独立同分布的随机变量$X_i$，其概率密度函数为$p$，记

$$S_{n}=X_{1}+X_{2}+\cdots X_{n}$$

后续计算中，我们假设$X_i$的期望为$0$，方差为$1$，即

$$\int_{-\infty}^{\infty} x p(x) d x=0 \quad \text { and } \quad \int_{-\infty}^{\infty} x^{2} p(x) d x=1$$

除此之外，我们显然有

$$\int_{-\infty}^{\infty} p(x) d x=1$$

利用之前的结论，我们知道$S_n$的概率密度函数为

$$p^{* n}(x)=(p * p * \cdots * p)(x)$$

因此$\frac{S_n}{\sqrt n}$的概率密度函数为

$$p_{n}(x)=\sqrt{n} p^{* n}(\sqrt{n} x)$$

中心极限定理的结论为

$$p_{n}(x) \rightarrow \frac{1}{\sqrt{2 \pi}} e^{-x^{2} / 2} \quad \text { as } n \rightarrow \infty$$

下面证明这点，首先假设

$$P(s)=\mathcal{F} p(s)$$

那么$p_n(x)$的傅里叶变换为

$$P^{n}\left(\frac{s}{\sqrt{n}}\right)$$

注意到我们有

$$\begin{aligned} P\left(\frac{s}{\sqrt{n}}\right) &=\int_{-\infty}^{\infty} e^{-2 \pi i s x / \sqrt{n}} p(x) d x \\ &=\int_{-\infty}^{\infty}\left(1-\frac{2 \pi i s x}{\sqrt{n}}+\frac{1}{2}\left(\frac{2 \pi i s x}{\sqrt{n}}\right)^{2}+\text { small }\right) p(x) d x \\ &=\int_{-\infty}^{\infty}\left(1-\frac{2 \pi i s x}{\sqrt{n}}-\frac{2 \pi^{2} s^{2} x^{2}}{n}+\text { small }\right) p(x) d x \\ &=\int_{-\infty}^{\infty} p(x) d x-\frac{2 \pi i s}{\sqrt{n}} \int_{-\infty}^{\infty} x p(x) d x-\frac{2 \pi^{2} s^{2}}{n} \int_{-\infty}^{\infty} x^{2} p(x) d x+\int_{-\infty}^{\infty}(\text { small }) p(x) d x \\ &=1-\frac{2 \pi^{2} s^{2}}{n}+\text { small. } \end{aligned}$$

从而

$$P^{n}\left(\frac{s}{\sqrt{n}}\right) \approx\left(1-\frac{2 \pi^{2} s^{2}}{n}\right)^{n} \approx e^{-2 \pi^{2} s^{2}}$$

取傅里叶逆变换，我们得到

$$p_{n}(x) \rightarrow \frac{1}{\sqrt{2 \pi}} e^{-x^{2} / 2}$$

结论得证。