台交大信息论 Lecture 9
课程主页:https://ocw.nctu.edu.tw/course_detail-c.php?bgid=8&gid=0&nid=612&pid=973
http://shannon.cm.nctu.edu.tw/it18.htm
老师主页:http://shannon.cm.nctu.edu.tw/
课程视频:https://www.youtube.com/playlist?list=PLj6E8qlqmkFsWS54o6gNWeDGXeI7c3eUd
这次回顾第九讲,这一讲主要介绍了数据传输和信道容量,对应视频15,16。
可靠传输
可靠传输的定义
信息可以以任意小的错误率传输。
怎么做?
利用发送方和接收方站点之间受信道噪声影响最小的公共部分。
我们将看到,这些公共部分很可能被信道输入和信道输出之间的互信息捕获。
记号
一个数据传输系统,由如下特征描述
$W$表示传输消息。
$X^n=(X_1,\ldots, X_n)$表示信道输入符号$W$对应的码字。
$Y^n=(Y_1,\ldots, Y_n)$表示由于信道输入$X^n$而接收到的向量 ...
The Hardware Software Interface Section 5 Procedures and Stacks
课程主页:https://courses.cs.washington.edu/courses/cse351/16sp/
课程资料:
实验部分:https://github.com/vuquangtrong/HW-SW_Interface_Course
实验说明:https://courses.cs.washington.edu/courses/cse351/13sp/lab-0.html
课件:http://academictorrents.com/details/b63a566df824b39740eb9754e4fe4c0140306f4b
课程视频:https://www.bilibili.com/video/BV1Zt411s7Gg?from=search&seid=8781593976070799647
这次回顾第五部分,这部分介绍了进程和堆栈。
第5节:进程和堆栈这部分和课件略有不同,主要介绍x64体系结构。
内存中的堆栈和堆栈操作内存布局
x86-64栈
通过栈规范管理内存区域
栈顶在低地址
寄存器%rsp为最小的堆栈地址
即“顶部”元素的地址
Pus ...
The Hardware Software Interface Section 4 x86 Assembly
课程主页:https://courses.cs.washington.edu/courses/cse351/16sp/
课程资料:
实验部分:https://github.com/vuquangtrong/HW-SW_Interface_Course
实验说明:https://courses.cs.washington.edu/courses/cse351/13sp/lab-0.html
课件:http://academictorrents.com/details/b63a566df824b39740eb9754e4fe4c0140306f4b
课程视频:https://www.bilibili.com/video/BV1Zt411s7Gg?from=search&seid=8781593976070799647
这次回顾第四部分,这部分介绍了汇编码。
第4节:x86汇编编程移动指令、寄存器和操作数三种基本指令
内存与寄存器之间的数据传输
将数据从内存加载到寄存器
$\%\text{reg = Mem[address]}$
将寄存器数据存入内存
$\text{Mem[ad ...
The Hardware Software Interface Section 3 Basics of Architecture Machine Code
课程主页:https://courses.cs.washington.edu/courses/cse351/16sp/
课程资料:
实验部分:https://github.com/vuquangtrong/HW-SW_Interface_Course
实验说明:https://courses.cs.washington.edu/courses/cse351/13sp/lab-0.html
课件:http://academictorrents.com/details/b63a566df824b39740eb9754e4fe4c0140306f4b
课程视频:https://www.bilibili.com/video/BV1Zt411s7Gg?from=search&seid=8781593976070799647
这次回顾第三部分,这部分介绍了ISA。
第3节:架构基础,机器编程什么是ISA(指令集体系结构)?ISA(指令集体系结构)
ISA定义:
系统状态(例如寄存器,内存,程序计数器)
CPU可执行的指令
每个指令中对系统状态产生的影响
ISA的一般设计决策
指令
...
The Hardware Software Interface Lab 1
课程主页:https://courses.cs.washington.edu/courses/cse351/16sp/
课程资料:
实验部分:https://github.com/vuquangtrong/HW-SW_Interface_Course
实验说明:https://courses.cs.washington.edu/courses/cse351/13sp/lab-0.html
课件:http://academictorrents.com/details/b63a566df824b39740eb9754e4fe4c0140306f4b
课程视频:https://www.bilibili.com/video/BV1Zt411s7Gg?from=search&seid=8781593976070799647
这次完成Lab1,主要是进行比特操作。
bits.c编译以及测试结果
make
./btest
Score Rating Errors Function
1 1 0 bitAnd
1 1 0 bitXor
1 1 0 thirdBits
2 2 0 fits ...
The Hardware Software Interface Lab 0
课程主页:https://courses.cs.washington.edu/courses/cse351/16sp/
课程资料:
实验部分:https://github.com/vuquangtrong/HW-SW_Interface_Course
实验说明:https://courses.cs.washington.edu/courses/cse351/13sp/lab-0.html
课件:http://academictorrents.com/details/b63a566df824b39740eb9754e4fe4c0140306f4b
课程视频:https://www.bilibili.com/video/BV1Zt411s7Gg?from=search&seid=8781593976070799647
这次完成Lab0,只要写一些基本的代码即可。
// These #includes tell the compiler to include the named
// header files, similar to imports in Java. The cod ...
台交大信息论 Lecture 8
课程主页:https://ocw.nctu.edu.tw/course_detail-c.php?bgid=8&gid=0&nid=612&pid=973
http://shannon.cm.nctu.edu.tw/it18.htm
老师主页:http://shannon.cm.nctu.edu.tw/
课程视频:https://www.youtube.com/playlist?list=PLj6E8qlqmkFsWS54o6gNWeDGXeI7c3eUd
这次回顾第八讲,这一讲主要介绍了用于无损压缩的变长码,对应视频13。
前缀码的例子霍夫曼编码:最优变长码引理1令$\mathcal C$是最优二元前缀码,码长为$\ell_i,i=1,\ldots,M$,其信源为$\mathcal{X}=\left\{a_{1}, \ldots, a_{M}\right\}$,符号概率为$p_{1}, \ldots, p_{M}$。不失一般性,假设
p_{1} \geq p_{2} \geq p_{3} \geq \cdots \geq p_{M}并且概率相同的符号按照码 ...
台交大随机过程 Lecture 7
课程主页:https://ocw.nctu.edu.tw/course_detail.php?bgid=8&gid=0&nid=558
老师主页:http://shannon.cm.nctu.edu.tw/
课程视频:https://www.bilibili.com/video/BV1sW411U7xK?from=search&seid=2411740640027894887,
https://www.youtube.com/watch?v=IsQSWVbAKy0&list=PLj6E8qlqmkFvw7Rt63yBqai2HmPKF0V0J
这次回顾第七讲,介绍了离散时间过程,对应视频15。
基本概念利用符号$x[m]$表示离散时间过程,即
\boldsymbol{x}[m]=\boldsymbol{x}(m) \text { for integer } m自相关函数为
R_{x x}\left[m_{1}, m_{2}\right]=E\left\{\boldsymbol{x}\left[m_{1}\right] \boldsymbol{x}^ ...
The Hardware Software Interface Section 2 Integer and Floating Point Numbers
课程主页:https://courses.cs.washington.edu/courses/cse351/16sp/
课程资料:
实验部分:https://github.com/vuquangtrong/HW-SW_Interface_Course
实验说明:https://courses.cs.washington.edu/courses/cse351/13sp/lab-0.html
课件:http://academictorrents.com/details/b63a566df824b39740eb9754e4fe4c0140306f4b
课程视频:https://www.bilibili.com/video/BV1Zt411s7Gg?from=search&seid=8781593976070799647
这次回顾第二部分,整型数和浮点数。
第二部分:整型数和浮点数整数表示:无符号和有符号假设比特表示为
X=x_{w-1}x_{w-2}\ldots x_0无符号整数
\text{B2U}_w(X)=\sum_{i=0}^{w-1} x_{i} \cdot 2^{i} ...
台交大信息论 Lecture 7
课程主页:https://ocw.nctu.edu.tw/course_detail-c.php?bgid=8&gid=0&nid=612&pid=973
http://shannon.cm.nctu.edu.tw/it18.htm
老师主页:http://shannon.cm.nctu.edu.tw/
课程视频:https://www.youtube.com/playlist?list=PLj6E8qlqmkFsWS54o6gNWeDGXeI7c3eUd
这次回顾第七讲,这一讲主要介绍了用于无损压缩的变长码,对应视频13。
无损压缩的变长码这部分讨论无损压缩的变长码。
非奇异编码和唯一可解码编码
非奇异
用变长码字对所有源字进行编码。
唯一可解码编码
码字的拼接(无标点机制)是可唯一解码的。
变长码的定义考虑取值于有限集合$\mathcal X$的离散源$\begin{equation}\left\{X_{n}\right\}_{n=1}^{\infty}\end{equation}$以及取值于$\begin{equation}\mathcal{B ...
The Hardware Software Interface Section 1 Memory Data and Addressing
课程主页:https://courses.cs.washington.edu/courses/cse351/16sp/
课程资料:
实验部分:https://github.com/vuquangtrong/HW-SW_Interface_Course
实验说明:https://courses.cs.washington.edu/courses/cse351/13sp/lab-0.html
课件:http://academictorrents.com/details/b63a566df824b39740eb9754e4fe4c0140306f4b
课程视频:https://www.bilibili.com/video/BV1Zt411s7Gg?from=search&seid=8781593976070799647
CMU课程完成了一半,接下来学习华盛顿大学的软硬件接口进行复习和巩固。
这次回顾第一部分,内存,数据和地址。
第一部分:内存,数据和地址初步内容CPU“内存”:寄存器和指令缓存
CPU中有固定数量的寄存器
寄存器保存数据
CPU中有一个I-缓存,用于保存最近获 ...
台交大随机过程 Lecture 6
课程主页:https://ocw.nctu.edu.tw/course_detail.php?bgid=8&gid=0&nid=558
老师主页:http://shannon.cm.nctu.edu.tw/
课程视频:https://www.bilibili.com/video/BV1sW411U7xK?from=search&seid=2411740640027894887,
https://www.youtube.com/watch?v=IsQSWVbAKy0&list=PLj6E8qlqmkFvw7Rt63yBqai2HmPKF0V0J
这次回顾第六讲,介绍了均方误差下的等式,对应视频13-14。
几个重要定理定理9-5如果WSS过程$x(t)$的自相关函数$R_{x x}(\tau)$满足$R_{x x}\left(\tau_{1}\right)=R_{x x}(0)$,对于某个$\tau_1\neq 0$,那么$R_{xx}(\tau)$的周期为$\tau_1$。
证明:
利用Cauchy-Schwartz不等式
\left.\left|E ...