大概总共花了一个半月的时间来刷完coursera上Andrew Ng这门Deep learning。基本上年前期末考试后就开始，寒假中由于生病也没有继续，开学到了学校才捡起来，总共5门子项设定了16周的课程学习时间，其实如果心无旁骛+有点基础地刷的话20天也能刷完了。
总的来说这门课课程设置还是较为科学，虽然感觉RNN部分有些烂尾，但是瑕不掩瑜。主要优点有：

  • 涉及范围广 除开基础的入门外, 常用的CNN和RNN都介绍了,再加上一点GAN的内容的话就能把大部分应用场景都覆盖了.
  • 框架明晰 这里指的是没用引入太多繁杂的细节, 对于入门者来说最常见的一个问题就是过早陷入纷繁的细节而不见枝干. 这门课就先把枝枝叶叶都先去掉, 数学推导略过了很多, 有助于把握深度学习整体的框架.
  • 注重实践 实验设置应该是一个亮点, 和上面说的一样, 基本上代码都是填空题, 这就避免了初学者陷入实现上的困难而着重于理解算法.实验中还引入不少业界常见的问题, toy data也都很有趣.

不过内容还是有些浅了, 等手头工作的ddl结束还是要好好把Goodfellow那本书过一遍.

下面把笔记整理一下备忘, 部分非核心的课程内容有删减.

Neural Network & Deep Learning

W1 Introduction to DL

W2 Logistic Regression as a NN

W3 Shallow NN

W4 Deep NN

Improving NN: Hyperparameters tuning, Regularization & Optimization

W1 Setting & Regularzation


W2 Optimization algorithms

W3 Hyperparameter tuning, Batch Normalization and Programming Frameworks

Structing ML Projects

W1 ML Strategy(1)

W2 ML Strategy(2)

Convolutional NN

W1 Foundations of CNN

W2 Case studies

W3 Detection algorithms

W4 Face recognition/ Neural Style

Sequence models

W1 RNN

W2 Word Embedding

W3 Seq2Seq & Attention