CS236 Deep Generative Models Homework 1

课程主页:https://deepgenerativemodels.github.io/

课件资料:https://github.com/Subhajit135/CS236_DGM,https://github.com/deepgenerativemodels/notes

视频地址:https://www.bilibili.com/video/av81625948?from=search&seid=4636291486683332935

这里回顾CS236 Homework 1。

Problem 1

证明:

因此

Problem 2

所以

Problem 3

(a)由乘法原理可得数量为

(b)由条件可得

注意$p(X_{1}, \ldots, X_{m})$需要的参数数量为

而$p\left(X_{i} | X_{i-1}, X_{i-2}, \ldots X_{i-m}\right)$需要的参数数量为

所以总共需要的参数数量为

(c)不难看到当且仅当下式成立时满足条件

Problem 4

结论不成立。

利用反证法,考虑$n=2$的情形,假设原结论成立,那么

对比指数上的系数不难得到

由$\sigma_2$的任意性可得第二个等式不可能恒成立,与原假设矛盾。

Problem 5

(a)

(b)由Jason不等式可得

当且仅当$A$是常数时等号成立,所以不是无偏估计

Problem 6

1.

2.

3.

1
2
3
4
5
6
7
8
9
logits, h_prev = self.forward(x)
x = logits.argmax().item()
texts.append(x)
x = torch.tensor([[x]])
for i in range(seq_len):
logits, h_prev = self.forward(x, h_prev)
x = logits.argmax().item()
texts.append(x)
x = torch.tensor([[x]])

4.

1
2
3
4
5
6
7
for i in range(len(string) - 1):
logits, h_prev = self.forward(x, h_prev)
prob = F.softmax(logits)[0]
ll += np.log(prob[string[i + 1]])

x = string[None, i + 1, None]
x = torch.from_numpy(x).type(torch.int64).to(self.device)

5.

根据图像即可得到条件

1
2
3
4
5
6
if ll < -600:
lbls.append(0)
elif ll < -200:
lbls.append(1)
else:
lbls.append(2)

本文标题:CS236 Deep Generative Models Homework 1

文章作者:Doraemonzzz

发布时间:2020年03月29日 - 15:45:00

最后更新:2020年04月08日 - 11:43:42

原始链接:http://doraemonzzz.com/2020/03/29/CS236 Deep Generative Models Homework 1/

许可协议: 署名-非商业性使用-禁止演绎 4.0 国际 转载请保留原文链接及作者。