EE263 Lecture 15 Linear dynamical systems with inputs and outputs

课程主页：https://see.stanford.edu/Course/EE263

这次回顾第十五讲，这一讲结束了带有输入输出的线性动力系统，介绍了对称矩阵的一些性质。

DC或静态收益矩阵

首先回顾转移函数$H(s)=C(s I-A)^{-1} B+D$，我们有如下结论：

• 转移矩阵在$s=0$处为$H(0)=-C A^{-1} B+D \in \mathbb{R}^{m \times p}$

• DC转移矩阵描述系统在静止条件下的情形，即$x,u,y$为常数：

  $$0=\dot{x}=A x+B u, \qquad y=C x+D u$$

  对上式消去$x$得到$y=H(0)u$

• 如果系统稳定，回顾

  $$H(s)=\int_{0}^{\infty} e^{-s t} h(t) d t, s(t)=\int_{0}^{t} h(\tau) d \tau$$

  我们有

  $$H(0)=\int_{0}^{\infty} h(t) d t=\lim _{t \rightarrow \infty} s(t)$$

  如果$u(t) \rightarrow u_{\infty} \in \mathbb{R}^{m}$，那么

  $$y(t) \rightarrow y_{\infty}=H(0) u_{\infty} \in \mathbb{R}^{p}$$

用分段常数输入离散化

考虑线性系统

$$\dot{x}=A x+B u, y=C x+D u$$

假设$u_{d} : \mathbb{Z}_{+} \rightarrow \mathbb{R}^{m}$是序列，以及

$$u(t)=u_{d}(k) \qquad \text { for } k h \leq t<(k+1) h, \quad k=0,1, \ldots$$

定义序列

$$x_{d}(k)=x(k h), \qquad y_{d}(k)=y(k h), \qquad k=0,1, \ldots$$

• $h>0$被称为采样间隔（对于$x,y$）或更新间隔（对于$u$）
• $u$是分段常数（称为zero-order-hold）
• $x_d,y_d$是$x,y$的采样版本

利用定义，我们有

$$\begin{aligned} x_{d}(k+1) &=x((k+1) h) \\ &=e^{h A} x(k h)+\int_{0}^{h} e^{\tau A} B u((k+1) h-\tau) d \tau \\ &=e^{h A} x_{d}(k)+\left(\int_{0}^{h} e^{\tau A} d \tau\right) B u_{d}(k) \end{aligned}$$

所以$x_d,u_d,y_d$满足离散时间LDS方程

$$x_{d}(k+1)=A_{d} x_{d}(k)+B_{d} u_{d}(k), \qquad y_{d}(k)=C_{d} x_{d}(k)+D_{d} u_{d}(k)$$

其中

$$A_{d}=e^{h A}, \qquad B_{d}=\left(\int_{0}^{h} e^{\tau A} d \tau\right) B, \quad C_{d}=C, \qquad D_{d}=D$$

该系统被称为离散化系统。

如果$A$可逆，那么积分项为

$$\int_{0}^{h} e^{\tau A} d \tau=A^{-1}\left(e^{h A}-I\right)$$

稳定性：如果$A$的特征值为$\lambda_{1}, \ldots, \lambda_{n}$，那么$A_d$的特征值为$e^{h \lambda_{1}}, \ldots, e^{h \lambda_{n}}$，离散化的系统保持稳定，因为对$h>0 $

$$\Re \lambda_{i}<0 \Leftrightarrow\left|e^{h \lambda_{i}}\right|<1$$

扩展/变化：

• 偏移：对$u$的更新和$x,y$的采样在时间上有偏移
• 多速率：使用不同间隔对$u_i$更新，$y_i$采样（通常是$h$的整数倍）

对偶系统

如下系统

$$\dot{x}=A x+B u, \qquad y=C x+D u$$

的对偶系统为

$$\dot{z}=A^{T} z+C^{T} v, \qquad w=B^{T} z+D^{T} v$$

• 所有矩阵都转置
• $B,C$的角色互换

对偶系统的转移函数为

$$\left(B^{T}\right)\left(s I-A^{T}\right)^{-1}\left(C^{T}\right)+D^{T}=H(s)^{T}$$

其中

$$H(s)=C(s I-A)^{-1} B+D$$

通过框图展示对偶性

在框图中，对偶性由如下事实体现：

• 转置所有矩阵
• 交换所有框的输入输出
• 将信号流反向
• 交换分支和求和点

具体如下：

Causality因果关系

对于$t\ge 0$，考虑下式的解释

$$\begin{array}{l}{x(t)=e^{t A} x(0)+\int_{0}^{t} e^{(t-\tau) A} B u(\tau) d \tau} \\ {y(t)=C e^{t A} x(0)+\int_{0}^{t} C e^{(t-\tau) A} B u(\tau) d \tau+D u(t)}\end{array}$$

当且状态$x(t)$和输出$y(t)$依赖于过去时间的输入$u(\tau),\tau \le t$

即，从输入映射到状态和输出是因果关系（对于固定的初始状态）

现在考虑固定的最终状态$x(T),t\le T$，

$$x(t)=e^{(t-T) A} x(T)+\int_{T}^{t} e^{(t-\tau) A} B u(\tau) d \tau$$

即，当前状态（和输出）依赖于未来的输入。

所以对于固定的最终状态，同一系统是反因果的。

状态的含义

$x(t)$被称为系统在$t$时刻的状态，因为：

• 未来的输出只依赖于当且状态和未来的输入
• 未来的输出仅取决于过去的输入，这些输入只能通过现状传递
• 状态总结了过去的输入对未来的影响
• 状态是过去输入和未来输出的桥梁

坐标变换

考虑LDS

$$\dot{x}=A x+B u, y=C x+D u$$

利用$x=T \tilde{x}$将坐标改写为$\tilde x$，那么

$$\dot{\tilde{x}}=T^{-1} \dot{x}=T^{-1}(A x+B u)=T^{-1} A T \tilde{x}+T^{-1} B u$$

因此LDS可以表示为

$$\dot{\tilde{x}}=\tilde{A} \tilde{x}+\tilde{B} u, \quad y=\tilde{C} \tilde{x}+\tilde{D} u$$

其中

$$\tilde{A}=T^{-1} A T, \qquad \tilde{B}=T^{-1} B, \qquad \tilde{C}=C T, \quad \tilde{D}=D$$

转移矩阵不变：

$$\tilde{C}(s I-\tilde{A})^{-1} \tilde{B}+\tilde{D}=C(s I-A)^{-1} B+D$$

LDS的标准形式

可以通过坐标变换将$A$变成不同形式（对角，实正规，约当…）

例如，为了将LDS变成对角形式，找到$T$，使得

$$T^{-1} A T=\operatorname{diag}\left(\lambda_{1}, \ldots, \lambda_{n}\right)$$

记

$$T^{-1} B=\left[\begin{array}{c}{\tilde{b}_{1}^{T}} \\ {\vdots} \\ {\tilde{b}_{n}^{T}}\end{array}\right], \quad C T=\left[\begin{array}{lll}{\tilde{c}_{1}} & {\cdots} & {\tilde{c}_{n}}\end{array}\right]$$

那么

$$\dot{\tilde{x}}_{i}=\lambda_{i} \tilde{x}_{i}+\tilde{b}_{i}^{T} u, \qquad y=\sum_{i=1}^{n} \tilde{c}_{i} \tilde{x}_{i}$$

（这里假设$D=0$），框图为

离散时间系统

考虑离散时间系统：

$$x(t+1)=A x(t)+B u(t), \qquad y(t)=C x(t)+D u(t)$$

框图为

• 框图和连续时间不同之处只有将$s$替换为$z$
• $z^{-1}$块的解释：
  • 单位延迟（将序列延迟个时间戳）
  • 锁存（latch）（增加小的延迟避免冲突）

在离散时间系统性，我们有

$$\begin{aligned} x(1)&=A x(0)+B u(0)\\ x(2) &=A x(1)+B u(1) \\ &=A^{2} x(0)+A B u(0)+B u(1) \end{aligned}$$

一般的，对于$t\in \mathbb Z^+$，

$$x(t)=A^{t} x(0)+\sum_{\tau=0}^{t-1} A^{(t-1-\tau)} B u(\tau)$$

因此

$$y(t)=CA^{t} x(0)+\sum_{\tau=0}^{t-1}C A^{(t-1-\tau)} B u(\tau)+D u(t)=C A^{t} x(0)+h * u$$

其中*表示离散时间的卷积，以及

$$h(t)=\left\{\begin{array}{ll}{D,} & {t=0} \\ {C A^{t-1} B,} & {t>0}\end{array}\right.$$

为脉冲响应。

$\mathcal{Z}$变换

假设$w \in \mathbb{R}^{p \times q}$是序列（离散时间信号），即

$$w : \mathbb{Z}^{+} \rightarrow \mathbb{R}^{p \times q}$$

回顾$\mathcal{Z}$变换$W=\mathcal{Z}(w)$：

$$W(z)=\sum_{t=0}^{\infty} z^{-t} w(t)$$

其中

$$W : D \subseteq \mathbb{C} \rightarrow \mathbb{C}^{p \times q}$$

（$D$是$W$的定义域）

考虑时间提前或移位信号$v$：

$$v(t)=w(t+1), \qquad t=0,1, \ldots$$

时间提前信号的$\mathcal{Z}$变换为

$$\begin{aligned} V(z) &=\sum_{t=0}^{\infty} z^{-t} w(t+1) \\ &=z \sum_{t=1}^{\infty} z^{-t} w(t) \\ &=z W(z)-z w(0) \end{aligned}$$

离散时间转移函数

对系统方程使用$\mathcal Z$变换

$$x(t+1)=A x(t)+B u(t), \qquad y(t)=C x(t)+D u(t)$$

得到

$$z X(z)-z x(0)=A X(z)+B U(z), \qquad Y(z)=C X(z)+D U(z）$$

求解$X(z)$得到

$$X(z)=(z I-A)^{-1} z x(0)+(z I-A)^{-1} B U(z)$$

因此

$$\begin{aligned} Y(z) &= C \left((z I-A)^{-1} z x(0)+(z I-A)^{-1} B U(z)\right)+D U(z）\\ &= \left(C(z I-A)^{-1} B+D\right) U(z)+ C(z I-A)^{-1} z x(0)\\ &\triangleq H(z) U(z)+C(z I-A)^{-1} z x(0) \end{aligned}$$

其中$H(z)=C(z I-A)^{-1} B+D$为离散时间转移矩阵。

注意resolvent的幂级数展开为

$$(z I-A)^{-1}=z^{-1} I+z^{-2} A+z^{-3} A^{2}+\cdots$$

Lecture 15 对称矩阵，二次型，矩阵范数，SVD

对称矩阵的特征值

假设$A \in \mathbb{R}^{n \times n}$为对称矩阵，即$A=A^T$，有如下事实：

• $A$的特征值是实数

为了证明这点，假设$Av=\lambda v,v\neq 0, v\in \mathbb C^n$，那么

$$\overline{v}^{T} A v=\overline{v}^{T}(A v)=\lambda \overline{v}^{T} v=\lambda \sum_{i=1}^{n}\left|v_{i}\right|^{2}$$

另一方面，我们有

$$\overline{v}^{T} A v=\overline{(A v)}^{T} v=\overline{(\lambda v)}^{T} v=\overline{\lambda} \sum_{i=1}^{n}\left|v_{i}\right|^{2}$$

所以$\lambda =\overline \lambda$，即$\lambda \in \mathbb R$，因此可以假设$v\in \mathbb R^n$

对称矩阵的特征向量

对称矩阵$A$存在一组正交特征向量，即存在$q_{1}, \dots, q_{n}$，使得

$$A q_{i}=\lambda_{i} q_{i}, q_{i}^{T} q_{j}=\delta_{i j}$$

在矩阵形式下：存在正交矩阵$Q$，使得

$$Q^{-1} A Q=Q^{T} A Q=\Lambda$$

因为可以将$A$表示为

$$A=Q \Lambda Q^{T}=\sum_{i=1}^{n} \lambda_{i} q_{i} q_{i}^{T}$$

特别的，$q_i$同时是$A$的左右特征向量。

解释

$A=Q \Lambda Q^{T}$的框图为

线性映射$y=Ax$可以分解为

• 解析为$q_i$的坐标
• 对坐标缩放$\lambda_i$
• 用基$q_i$重建

或，几何上，

• 用$Q^T$旋转
• 使用$\Lambda$进行对角线缩放
• 用$Q$旋转

如下分解

$$A=\sum_{i=1}^{n} \lambda_{i} q_{i} q_{i}^{T}$$

即将$A$表示为$1$维投影的线性组合。

正交性的证明

只证明$\lambda_i $都不同的情形，假设$v_{1}, \dots, v_{n}$是$A$的线性无关的特征向量，满足

$$A v_{i}=\lambda_{i} v_{i}, \qquad\left\|v_{i}\right\|=1$$

所以我们有

$$v_{i}^{T}\left(A v_{j}\right)=\lambda_{j} v_{i}^{T} v_{j}=\left(A v_{i}\right)^{T} v_{j}=\lambda_{i} v_{i}^{T} v_{j}$$

因此

$$\left(\lambda_{i}-\lambda_{j}\right) v_{i}^{T} v_{j}=0$$

对于$i \neq j, \lambda_{i} \neq \lambda_{j}$，所以

$$v_{i}^{T} v_{j}=0$$

• 在该情形下，我们可以说：特征向量正交
• 更一般的情形下（$\lambda_i $可以相同），我们必须说：特征向量可以选择为正交

例子：RC电路

该系统满足

$$c_{k} \dot{v}_{k}=-i_{k}, \qquad i=G v$$

$G=G^{T} \in \mathbb{R}^{n \times n}$为电阻电路的电导矩阵，那么

$$\dot{v}=-C^{-1} G v$$

其中

$$C=\operatorname{diag}\left(c_{1}, \ldots, c_{n}\right)$$

注意到$-C^{-1}G$不是对称矩阵。

使用状态

$$x_{i}=\sqrt{c_{i}} v_{i}$$

那么

$$\dot{x}=C^{1 / 2} \dot{v}=-C^{-1 / 2} G C^{-1 / 2} x$$

其中

$$C^{1 / 2}=\operatorname{diag}\left(\sqrt{c_{1}}, \ldots, \sqrt{c_{n}}\right)$$

我们得到如下结论：

• $-C^{-1 / 2} G C^{-1 / 2}$的特征值$\lambda_{1}, \ldots, \lambda_{n}$为实数（由相似性可得$-C^{-1} G$的特征值也为实数）

• 特征向量$q_i$（在$x_i$坐标下）可以被选择为正交

• 电压坐标下的特征向量$s_{i}=C^{-1 / 2} q_{i}$满足

  $$-C^{-1} G s_{i}=\lambda_{i} s_{i}, \qquad s_{i}^{T} C s_{i}=\delta_{i j}$$

  原因为

  $$\begin{aligned} -C^{-1 / 2} G C^{-1 / 2} q_i =\lambda_i q_i& \Rightarrow -C^{-1} G s_{i}=\lambda_{i} s_{i}\\ q_i^Tq_j=\delta_{ij} & \Rightarrow s_{i}^{T} C s_{i}=\delta_{i j} \end{aligned}$$
• $$\| x\|^2=\sum_{i} c_i v_i^2$$