EE263 Lecture 12 Eigenvectors and diagonalization

课程主页：https://see.stanford.edu/Course/EE263

这次回顾第十二讲，这一讲结束了指数函数求解线性动力系统，介绍了特征值和对角化。

采样连续系统

假设$\dot x = Ax$，在$t_{1} \leq t_{2} \leq \cdots$采样$x$，定义

$$z(k)=x\left(t_{k}\right)$$

那么

$$z(k+1)=e^{\left(t_{k+1}-t_{k}\right) A_{z}(k)}$$

对于均匀采样：$t_{k+1}-t_{k}=h$，我们得到

$$z(k+1)=e^{h A} z(k)$$

这称为连续时间系统的离散化。

分段常数系统

考虑时间变化的LDS：$\dot x =A(t)x$，其中

$$A(t)=\left\{\begin{array}{ll}{A_{0}} & {0 \leq t<t_{1}} \\ {A_{1}} & {t_{1} \leq t<t_{2}} \\ {\vdots} & {}\end{array}\right.$$

并且

$$0<t_{1}<t_{2}<\cdots$$

对于$t \in\left[t_{i}, t_{i+1}\right]$，我们有

$$x(t)=e^{\left(t-t_{i}\right) A_{i}} \cdots e^{\left(t_{3}-t_{2}\right) A_{2}} e^{\left(t_{2}-t_{1}\right) A_{1}} e^{t_{1} A_{0}} x(0)$$

（右边的矩阵被称为系统的状态转移矩阵，用$\Phi(t)$表示）

$x(t)$的定性行为

假设

$$\dot{x}=A x, x(t) \in \mathbb{R}^{n}$$

那么

$$x(t)=e^{t A} x(0)$$

首先假设$A$的特征值$\lambda_i$不同，那么$x_i(t)$的形式如下

$$x_{i}(t)=\sum_{j=1}^{n} \beta_{i j} e^{\lambda_{j} t}$$

其中$\beta_{ij}$线性依赖于$x(0)$。

特征值决定了$x$的定性行为：

• 特征值给出了出现在指数部分的元素
• 实特征值$\lambda $对应解中的$e^{\lambda t}$项
• 复特征值$\lambda =\sigma +j w$对应解中的$e^{\sigma t} \cos (\omega t+\phi)$项
• $\Re \lambda_{j}$给出指数增长率（$>0$），或者指数衰减率（$<0$）
• $\Im \lambda_{j}$给出振荡项的频率（$\neq 0$）

接着假设$A$有重复特征值，特征值$\lambda_1, \ldots,\lambda_r$的重数分别为$n_{1}, \ldots, n_{r}$（$n_{1}+\cdots+n_{r}=n$）

那么$x_i(t)$的形式为

$$x_{i}(t)=\sum_{j=1}^{r} p_{i j}(t) e^{\lambda_{j} t}$$

其中$p_{ij}(t)$的多项式次数$<n_j$（和$x(0)$有线性关系）

稳定性

我们说系统$\dot{x}=A x$稳定，如果当$t\to \infty$时，$e^{t A} \to 0$。

这意味着：

• 随着$t\to \infty $，状态$x(t)$收敛到$0$，无论状态$x(0)$
• 随着$t\to \infty $，$\dot{x}=A x$的所有轨迹收敛到$0$

事实上：$\dot{x}=A x$稳定当且仅当$A$的所有特征值的实部小于$0$：

$$\Re \lambda_{i}<0, \quad i=1, \ldots, n$$

充分性显然，因为如果$\Re \lambda<0$，那么对任意多项式

$$\lim _{t \rightarrow \infty} p(t) e^{\lambda t}=0$$

必要性随后证明。

更一般的，$\max _{i} \Re \lambda_{i}$确定了$x(t)$最大渐近指数增长率。

Lecture 11 特征向量和对角化

特征向量和特征值

$\lambda \in \mathbb{C}$是$A \in \mathbb{C}^{n \times n}$的特征值，如果

$$\mathcal{X}(\lambda)=\operatorname{det}(\lambda I-A)=0$$

这等价于：

• 存在非零$v\in \mathbb {C}^{n}$，使得$(\lambda I-A) v=0$，即

  $$A v=\lambda v$$

  任何满足上述条件的$v$称为$A$的特征向量（特征值$\lambda $对应的特征向量）

• 存在非零$w\in \mathbb C^n$，使得$w^{T}(\lambda I-A)=0$，即

  $$w^{T} A=\lambda w^{T}$$

  任何满足上述条件的$w$称为$A$的左特征向量

• 如果$v$是$A$的特征值$\lambda $对应的特征向量，那么对任意$\alpha \in \mathbb C, \alpha \neq 0$，$\alpha v$也是特征向量

• 尽管$A$是实矩阵，特征值$\lambda $和特征向量$v$可能是复的

• 如果$A$和$\lambda $是实的，我们总可以找到和$\lambda $有关的特征向量$v$：如果$A v=\lambda v$，$A\in \mathbb R^{n\times n}, \lambda \in \mathbb R, v\in \mathbb C^n$，那么

  $$A \Re v=\lambda \Re v, \qquad A \Im v=\lambda \Im v$$

  所以$\Re v$和$\Im v$是实特征向量

• 共轭对称：如果$A$是实矩阵，$v\in \mathbb C^n$是$\lambda \in \mathbb C$对应的特征向量，那么$\overline v$是$\overline \lambda $对应的特征向量。原因如下：对$Av =\lambda v$取共轭得到$\overline{A v}=\overline{\lambda v}$，所以

  $$A \overline{v}=\overline{\lambda} \overline{v}$$

后续讨论中都假设$A$是实矩阵。

缩放解释

这里假设特征值$\lambda \in \mathbb R$。

如果$v$是特征向量，$A$作用在$v$上的效果很简单：根据$\lambda $缩放：

• $\lambda \in \mathbb R,\lambda >0$：$v$和$Av$同向
• $\lambda \in \mathbb R,\lambda <0$：$v$和$Av$反向
• $\lambda \in \mathbb R,|\lambda |<1$：$Av$比$v$小（模长）
• $\lambda \in \mathbb R,|\lambda |>1$：$Av$比$v$大（模长）

动力学解释

假设$Av=\lambda v, v\neq 0$。

如果$\dot{x}=A x$，并且$x(0)=v$，那么$x(t)=e^{\lambda t} v$，原因如下：

$$\begin{aligned} x(t)=e^{t A} v &=\left(I+t A+\frac{(t A)^{2}}{2 !}+\cdots\right) v \\ &=v+\lambda t v+\frac{(\lambda t)^{2}}{2 !} v+\cdots \\ &=e^{\lambda t} v \end{aligned}$$

（因为$(t A)^{k} v=(\lambda t)^{k} v$）

• 对$\lambda \in \mathbb C$，解是复数；到目前为止，假设$\lambda \in \mathbb R$
• 如果初始状态是特征向量$v$，结果很简单——在$v$张成的直线上
• 解$x(t)=e^{\lambda t} v$被称为系统$\dot{x}=A x$的mode（和特征值$\lambda$对应的）
• 对于$\lambda \in \mathbb R,\lambda >0$，随着$t\uparrow$，mode收缩
• 对于$\lambda \in \mathbb R,\lambda <0$，随着$t\uparrow$，mode扩张

不变集合

集合$S\subset \mathbb R^n$在$\dot x =Ax$下不变，如果只要$x(t)\in S$，就有$x(\tau )\in S,\tau \ge t$。

即，如果一个轨道进入$S$，那么一直在$S$中：

假设$A v=\lambda v, v \neq 0, \lambda \in \mathbb{R}$

• $\{t v | t \in \mathbb{R}\}$不变
• $\{t v | t>0\}$不变
• 如果$\lambda <0$，$\{t v | 0 \leq t \leq a\}$不变

复特征向量

假设$A v=\lambda v, v \neq 0$，其中$\lambda$是复数。

对于$a\in \mathbb C$，（复）轨道$ae^{\lambda t}v$满足$\dot{x}=A x$，因此（实）轨道也满足该系统，即

$$\begin{aligned} x(t) &=\Re\left(a e^{\lambda t} v\right) \\ &=e^{\sigma t} \Re\left( (\alpha+j \beta) e^{jwt}(v_{\text{re}} +j v_{\text{im}}) \right) \\ &=e^{\sigma t}\left[\begin{array}{ll}{v_{\mathrm{re}}} & {v_{\mathrm{im}}}\end{array}\right]\left[\begin{array}{cc}{\cos \omega t} & {\sin \omega t} \\ {-\sin \omega t} & {\cos \omega t}\end{array}\right]\left[\begin{array}{c}{\alpha} \\ {-\beta}\end{array}\right] \end{aligned}$$

其中

$$v=v_{\mathrm{re}}+j v_{\mathrm{im}}, \quad \lambda=\sigma+j \omega, \quad a=\alpha+j \beta$$

• 轨道保持在平面$\operatorname{span}\left\{v_{\mathrm{re}}, v_{\mathrm{im}}\right\}$内
• $\sigma$给出了对数增长/衰减率
• $w$给出平面的旋转角速度

动力学解释：左特征向量

假设$w^{T} A=\lambda w^{T}, w \neq 0$，那么

$$\frac{d}{d t}\left(w^{T} x\right)=w^{T} \dot{x}=w^{T} A x=\lambda\left(w^{T} x\right)$$

即$w^T x$满足微分方程

$$d\left(w^{T} x\right) / d t=\lambda\left(w^{T} x\right)$$

因此

$$w^{T} x(t)=e^{\lambda t} w^{T} x(0)$$

• 尽管轨道$x$很复杂，$w^T x$很简单

• 如果$\lambda \in \mathbb R, \lambda <0$，半平面$\left\{z | w^{T} z \leq a\right\}$保持不变，对于$a\ge 0$

• 对于$\lambda=\sigma+j \omega \in \mathbb{C}$，$(\Re w)^{T} x$和$(\Im w)^{T} x$都有如下形式

  $$e^{\sigma t}(\alpha \cos (\omega t)+\beta \sin (\omega t))$$

总结

• 如果右特征向量是初始状态，那么由此产生的运动很简单（即，保持在线或在平面内）
• 左特征向量为任何初始状态提供简单的线性函数