Skip to main content

标 题: 胡扯几句什么叫Deep Learning入门

发信人: CRH1235 (江左没狼), 信区: Programming
标  题: 胡扯几句什么叫Deep Learning入门
发信站: BBS 未名空间站 (Sat Jul  8 22:23:36 2017, 美东)

今天有空瞎扯几句，版上的大神们不要见笑。其实今天很多人所谓的ML入门，其实是DL
入门，或者叫神经网络入门。我觉得可以分三步。

第一，把Goodfellow等著的deep learning书Part I and Park II都看懂，包括第一章数
学基础都查漏补缺完成，基本的理论基础就具备了。看不懂的youtube，Coursera，
udacity找资源帮助理解。

第二，自己实现几个简单的神经网络，我个人建议是用numpy手撕一个MLP，一个
vanilla的CNN和一个vanilla的RNN，重点是了解matrix(或者叫tensor)在层之间怎么流
动，forward（比如convolution），backward（尤其是RNN的backpropagation
through time）怎么实现。这些都不难，但是需要一些耐心。虽然耗时间，但是对彻底
摸清神经网络的工作细节很有帮助。所有的三个网络都可以用mnist数据集。

第三，学习一两个主流的libraries。个人推荐先学pytorch，后学tensorflow。因为这
两个是DL libraries的两种风格，imperative programming vs symbolic programming
的代表。symbolic programming一开始会不习惯，不如先把pytorch学好再开始
tensorflow。这两个反正都得学会，先学哪个都一样。从pytorch开始learning curve
比较平缓。

学习libraries的顺序是先看tutorial，依葫芦画瓢做几个图像识别（比如 not hotdog
）和简单的语言模型，这就算CNN和RNN都算是“会了”。下一步可以做些复杂的图像应
用比如style transfer，object detection，对RNN有兴趣的可以用pytorch自己
写个LSTM什么的。

能做到以上三点个人觉得可以算DL入门了。再往下的更深入的研究就要看个人的兴趣。

Labels:

Comments

Post a Comment

https://gengwg.blogspot.com/

Popular posts from this blog

OWASP Top 10 Threats and Mitigations Exam - Single Select

Last updated 4 Aug 11 Course Title: OWASP Top 10 Threats and Mitigation Exam Questions - Single Select 1) Which of the following consequences is most likely to occur due to an injection attack? Spoofing Cross-site request forgery Denial of service   Correct Insecure direct object references 2) Your application is created using a language that does not support a clear distinction between code and data. Which vulnerability is most likely to occur in your application? Injection   Correct Insecure direct object references Failure to restrict URL access Insufficient transport layer protection 3) Which of the following scenarios is most likely to cause an injection attack? Unvalidated input is embedded in an instruction stream.   Correct Unvalidated input can be distinguished from valid instructions. A Web application does not validate a client’s access to a resource. A Web action performs an operation on behalf of the user without checking a shared sec
2 comments
Read more

CKA Simulator Kubernetes 1.22

  https://killer.sh Pre Setup Once you've gained access to your terminal it might be wise to spend ~1 minute to setup your environment. You could set these: alias k = kubectl                         # will already be pre-configured export do = "--dry-run=client -o yaml"     # k get pod x $do export now = "--force --grace-period 0"   # k delete pod x $now Vim To make vim use 2 spaces for a tab edit ~/.vimrc to contain: set tabstop=2 set expandtab set shiftwidth=2 More setup suggestions are in the tips section .     Question 1 | Contexts Task weight: 1%   You have access to multiple clusters from your main terminal through kubectl contexts. Write all those context names into /opt/course/1/contexts . Next write a command to display the current context into /opt/course/1/context_default_kubectl.sh , the command should use kubectl . Finally write a second command doing the same thing into /opt/course/1/context_default_no_kubectl.sh , but without the use of k
Post a Comment
Read more

标 题: 关于Daniel Guo 律师

发信人: q123452017 (水天一色), 信区: I140 标  题: 关于Daniel Guo 律师 关键字: Daniel Guo 发信站: BBS 未名空间站 (Thu Apr 26 02:11:35 2018, 美东) 这些是lz根据亲身经历在 Immigration版上发的帖以及一些关于Daniel Guo 律师的回 帖，希望大家不要被一些马甲帖广告帖所骗，慎重考虑选择律师。 WG 和Guo两家律师对比 1. fully refund的合约上的区别 wegreened家是case不过只要第二次没有file就可以fully refund。郭家是要两次case 没过才给refund，而且只要第二次pl draft好律师就可以不退任何律师费。 2. 回信速度 wegreened家一般24小时内回信。郭律师是在可以快速回复的时候才回复很快，对于需 要时间回复或者是不愿意给出确切答复的时候就回复的比较慢。 比如：lz问过郭律师他们律所在nsc区域最近eb1a的通过率，大家也知道nsc现在杀手如 云，但是郭律师过了两天只回复说让秘书update最近的case然后去网页上查，但是上面 并没有写明tsc还是nsc。 lz还问过郭律师关于准备ps （他要求的文件）的一些问题，模版上有的东西不是很清 楚，但是他一般就是把模版上的东西再copy一遍发过来。 3. 材料区别 （推荐信） 因为我只收到郭律师写的推荐信，所以可以比下两家推荐信 wegreened家推荐信写的比较长，而且每封推荐信会用不同的语气和风格，会包含lz写 的research summary里面的某个方面 郭家四封推荐信都是一个格式，一种语气，连地址，信的称呼都是一样的，怎么看四封 推荐信都是同一个人写出来的。套路基本都是第一段目的，第二段介绍推荐人，第三段 某篇或几篇文章的abstract，最后结论 4. 前期材料准备 wegreened家要按照他们的模版准备一个十几页的research summary。 郭律师在签约之前说的是只需要准备五页左右的summary，但是在lz签完约收到推荐信 ，郭律师又发来一个很长的ps要lz自己填，而且和pl的格式基本差不多。 总结下来，申请自己上心最重要。但是如果选律师，lz更倾向于wegreened，
Post a Comment
Read more