发信人: CRH1235 (江左没狼), 信区: Programming 标 题: 胡扯几句什么叫Deep Learning入门 发信站: BBS 未名空间站 (Sat Jul 8 22:23:36 2017, 美东) 今天有空瞎扯几句,版上的大神们不要见笑。其实今天很多人所谓的ML入门,其实是DL 入门,或者叫神经网络入门。我觉得可以分三步。 第一,把Goodfellow等著的deep learning书Part I and Park II都看懂,包括第一章数 学基础都查漏补缺完成,基本的理论基础就具备了。看不懂的youtube,Coursera, udacity找资源帮助理解。 第二,自己实现几个简单的神经网络,我个人建议是用numpy手撕一个MLP,一个 vanilla的CNN和一个vanilla的RNN,重点是了解matrix(或者叫tensor)在层之间怎么流 动,forward(比如convolution),backward(尤其是RNN的backpropagation through time)怎么实现。这些都不难,但是需要一些耐心。虽然耗时间,但是对彻底 摸清神经网络的工作细节很有帮助。所有的三个网络都可以用mnist数据集。 第三,学习一两个主流的libraries。个人推荐先学pytorch,后学tensorflow。因为这 两个是DL libraries的两种风格,imperative programming vs symbolic programming 的代表。symbolic programming一开始会不习惯,不如先把pytorch学好再开始 tensorflow。这两个反正都得学会,先学哪个都一样。从pytorch开始learning curve 比较平缓。 学习libraries的顺序是先看tutorial,依葫芦画瓢做几个图像识别(比如 not hotdog )和简单的语言模型,这就算CNN和RNN都算是“会了”。下一步可以做些复杂的图像应 用比如style transfer,object detection,对RNN有兴趣的可以用pytorch自己 写个LSTM什么的。 能做到以上三点个人觉得可以算DL入门了。再往下的更深入的研究就要看个人的兴趣。...