【新智元导读】吴恩达的斯坦福大学CS230课程可谓鼎鼎大名,备受深度学习爱好者推崇,其中第八讲主要讲了如何阅读论文、找工作时应该注意什么。Medium上有位小哥将讲座要点做了一番归纳总结,配合讲座视频观看效果更佳!
首先,我建议观看吴恩达的讲座视频了解更多细节,这是非常有用的。但无论你看不看视频,这篇文章的内容都应该会很有帮助。因此,我试图在这里概述这些建议。
讲座视频观看地址:
https://youtu.be/733m6qBH-jI?list=PLoROMvodv4rOABXSygHTsbvUz4G_YQhOb
吴恩达主要分享了两个建议,具体来说就是
1、如何阅读论文。
2、为机器学习的职业生涯提供建议。
如何阅读研究论文
如何通过阅读研究论文实现如何高效,快速地学习。如果你想从学术文献中了解到是否要学习构建一个感兴趣的机器学习系统/项目,或者获取更多知识,并将深度学习作为职业而努力,为了达成这些目标,你应该做些什么。
具体建议如下:
编制一份论文清单:尝试创建一份研究论文,中等职位以及您拥有的任何文本或学习资源。
阅读策略:
基本上,你应该以平行的方式阅读研究论文;意思是尝试一次处理多篇论文。具体地说,尝试快速浏览并理解每篇论文,不要全部阅读,也许你阅读每篇论文的10-20%,就足以让你对手中的论文有一个高层次的理解。在那之后,你可能需要决定不再某些论文,或者只是挑出一两篇论文来完整阅读。
吴恩达还提到,如果你读过了:
5-20篇论文(在一个选定的领域,比如语音识别),那么你可能已经有足够的知识来实现一个语音识别系统,但可能还不足进行研究,也不足以处于相关领域最前沿。
50-100篇论文:你可能对领域应用(语音识别)有了很充分的理解。
怎么读论文?
不要从头到尾逐字逐句阅读。具体点说应该:
阅读标题,摘要和数字:通过阅读标题,摘要,关键网络架构图,也许还有实验部分,将能够全面了解论文中涉及的概念。在深度学习中,有很多研究论文将整篇论文总结为一两个数字,不需要通过大量文本描述。
阅读导言+结论+数字+浏览其余部分:引言,结论和摘要是作者试图仔细总结其工作的地方,以便为审稿人澄清为什么他们的论文应该被接受发表。另外,浏览“相关研究”部分(如果可能的话),本部分旨在强调其他人以某种方式与作者的工作联系所做的成果。因此,阅读这部分可能会有用,但如果你不熟悉相关文献,这部分有时不好理解。
阅读论文但跳过数学部分。
阅读整篇文章,但跳过没有意义的部分:伟大的研究意味着我们在知识和理解的边界上发布事物。
吴恩达还解释说,当你阅读论文(即使是最有影响力的人)时,可能会发现某些部分应用得很少或者没有意义。因此,如果阅读一篇论文并且文中一些内容没什么用(这并不罕见),没关系,最初可以略读。除非,你想要精通这些内容,可以随后再花更多的时间阅读。
阅读论文时,请尝试回答以下问题:
作者试图完成什么工作?
使用的方法的关键要素是什么?
换了你自己能够采用什么方法?
你想要遵循哪些其他参考?
如果你能够回答这些问题,就说明你对论文有很好的理解。事实证明,当读过更多论文时,通过练习你会更快地答出这些问题。因为,许多作者在撰写论文时都使用通用的格式。
理解论文需要多长时间?
对于机器学习新手来说,可能需要一个小时才能理解一篇相对容易的论文,这很常见。但是,有时你可能会偶然发现需要3个小时,甚至更长时间才能真正理解它的论文。
论文来源:
网上有很多很棒的资源。例如,对于新手而言,语音识别中最重要的论文的博客文章将非常有用。
Twitter:令人惊讶的是,Twitter正在成为研究人员了解新事物的重要场所。
重要的机器学习会议:NIPS / ICML / ICLR等。
和朋友交流:找一个社区或一群朋友,对该领域感兴趣,分享有趣的研究论文。
对迈向机器学习职业生涯的一些建议
无论你的目标是获得一份工作(大公司、初创公司和高校教职),还是攻读硕士和博士研究生,只需专注于做重要的工作,并将你的工作视为一种策略,寻找机会做有用的工作。
招聘人员一般看重什么?
机器学习技巧。
有意义的工作:表明你可以完成工作中的项目。
要成为成功的机器学习工程师,强有力的求职者,一个非常普遍的模式是开发一个T形知识库(既要有横向宽度,又要有纵向深度)。这需要对人工智能中的不同方面有广泛的理解,并至少在一个领域有非常深刻的理解。
横向:
在这些领域建立基础技能的一种非常有效的方法是通过上课和阅读研究论文。
纵向:
可以通过参与开放相关项目、开源贡献、研究和实习来构建。
选择一份工作:
如果想继续学习新事物,那么下面所讲可能是影响你成功的因素:
除了经理之外,专注于了解和评估您将与之合作的团队(您将与之互动的10-30人)。
不要专注于“品牌”:公司的品牌与您的个人体验并不是很相关。
因此,如果获得了工作机会,请询问将与哪个团队合作,并且不要接受“先进来,我们稍后将分配团队”的说法,因为你最终可能加入的团队可能从事的是你不感兴趣的事。这对你的提升没有帮助。另一方面,如果你能找到一个好的团队(即使是在一个不知名的公司)并加入,你实际上可以学到很多东西。
最后是一些通用建议:
学习最重要的东西:倾向于选择能够让你学到最多东西的事物。
做重要的工作:从事能够推动世界前进的、有真正价值的项目。
尝试将机器学习转移到传统行业中:我们在科技行业已经转变了很多,但我认为最令人兴奋的工作之一可能是在传统行业,因为你可以在这些行业内创造更多的价值。
原文链接:
https://medium.com/@mohamedalihabib7/advice-on-building-a-machine-learning-career-and-reading-research-papers-by-prof-andrew-ng-f90ac99a0182