我是如何花了一年时间来学机器学习的

标签: geek | 发表时间:2017-02-08 00:00 | 作者:
出处:http://itindex.net/admin/pagedetail

大家都知道 AI 的发展前景非常好,例如 Google 成为了一家 AI First 的企业,越来越多的开发者开始关注并学习机器学习。因此,po 主特意找来这篇文章,分享下如何寻找适合入门者的在线学习资源,如 Udacity、Coursera、斯坦福大学课程等,并告诉大家如何避免其中的一些坑。

这篇文章来自  Per Harald Borgen,在 Medium 上获得了 2.7k 的赞。

这位大大最初在 Hacker News 上了解并对机器学习产生兴趣,然后花费了近一年时间,从入门机器学习到在实际项目中应用。期间利用 Udacity、Coursera、Kaggle竞赛、斯坦福大学课程等多种资源来进行学习和训练,也踩了不少坑。

下面是正文。


一年前我写过一篇文章《Machine Learning in a Week》,那时我花了五天的时间学了一些机器学习基本概念,算了入了门。从那之后,我开始利用业余时间,持续学习了一年时间,现在我已经能实际项目中应用了机器学习这门技术。

对我来说,我的本职工作需要我去学习机器学习,而这门技术恰好又是我感兴趣的,这真的非常赞。

我之前一直认为,只有机器学习领域的硕士或博士才能应用这门技术,但现在我发现这种想法并不正确。

真实情况是,入门机器学习并不需要多么高深的数学知识,而且你也不需要非得拿个研究生学位才能深入研究机器学习。

这篇文章里我想分享一下一年来我的学习心得,希望对大家有帮助。

入门:Hacker News 和 Udacity

我对机器学习的兴趣始于2014年,当时我在阅读 Hacker News 上的文章,文中提出了一个思想:我们可以提供大量数据来给机器去学习,这个思想深深吸引了我。当时的我只是个普通的程序猿,做过几个小的项目。

于是我当时开始去学习 Udacity 上的 Supervised Learning (监督学习)课程,同时也会阅读各种机器学习相关的文章。

这些课程和文章让我对机器学习的概念有了一定的了解,但并没有培养实际的技能。我并没有看完 Udacity 的课程,就像我也很少能看完 MOOC 上的课程。呵呵。

未预期完成 Coursera 上的机器学习课程

在 2015 年一月,我加入了位于伦敦的一个 Founders and Coders训练营,希望借此机会成为一名机器学习开发者。那时我和几个基友一起学习,每周二晚上,我们一起看 Coursera 上  Andrew Ng 的机器学习课程:https://www.coursera.org/learn/machine-learning

这个课程有点碉堡了,我从中学到了非常多。但是,它对于初学者而言还是有点难度。我当时也是反复多次看视频才能理解其中的概念。其中的 Octave 变成任务非常的有难度。在几周的学习中,由于其本身的难度不小,不少学员陆陆续续放弃。最后,我也放弃了。

现在回想下,我当时应该去找一门实践性更强的课程,最好让我们应用某些机器学习 library 来做一些编程实践,如果允许使用一门我已知的编程语言就能好了。

一边学习新语言,一边学习机器学习算法,这样的学习方式对于新手来说有点不太现实。

如果我再重新学一遍,我会先从 Udacity 的机器学习入门课程开始,因为这个课程更加简单,而且是使用 Python 和 Scikit 工具。这样子的话,会学得更加轻松,培养自信,学习起来也更有趣。

Intro to Machine Learning Course | Udacityhttps://www.udacity.com/course/intro-to-machine-learning–ud120

经验值: 先从简单、实用的方式来开始学习,而不是一上来就学习难点和纯理论。

一周沉浸式训练

Founders and Coders我做的最后一件事是一周魔鬼训练:完整花费一周的时间投入到机器学习上,并利用我掌握的机器学习知识来解决一个实际问题。

这一周我做了下面几件事:

  • 学习 Scikit Learn
  • 针对 真实世界数据集采用机器学习处理
  • 编写 线性回归算法代码(基于 Python)
  • 做一些自然语言处理

那一周是我经历过的最深入的学习曲线。感兴趣的话可以读一下这篇文章《Machine Learning in a Week》https://medium.com/learning-new-stuff/machine-learning-in-a-week-a0da25d59850

经验: 沉浸式地把自己投入去学习是非常高效的。

不顺利地神经网络学习

在我完成了伦敦的 FAC 训练营并会到挪威后,我尝试再用一周的沉浸式训练来学习神经网络技术。

不过这次,我失败了。

很简单,每天花完整的 10 个小时来学习并编程很容易受到各种干扰。我才发现,自己低估了当时在 FAC 训练营集体学习的重要性了,有同伴一起学习,往往效率会高很多。

经验:在学习有难度的知识技能时,尽可能找一个积极向上的环境围绕自己。

但是,不管怎样,我至少入门了神经网络,并能缓慢地理解其中一些概念。到了2016年7月,我开始编写自己的神经网络代码。虽然那份代码写的非常蹩脚,我甚至都不好意思拿出来,不过,它确实基本实现了神经网络的功能。这也表明我大致理解了 backpropagation 反向传播算法gradient descent 梯度下降算法。

我是如何花了一年时间来学机器学习的0

在 2015 年下半年,我的学习进度有所下降,因为我重新换了工作。这期间我的主要成长是从非向量化神经网络实现到向量化实现。

在 2015 年底,我写了一篇总结文章介绍了我在神经网络的学习进展:《Learning How To Code Neural Networks》https://medium.com/learning-new-stuff/how-to-learn-neural-networks-758b78f2736e

尝试 Kaggle 算法竞赛

在 2015 年圣诞节期间,我决定尝试下 Kaggle 测试[ Kaggle是一个数据建模和数据分析竞赛平台]。于是我花了很多时间来实验各种算法来解决Homesite Quote Conversion, Otto Group Product Classification 和 Bike Sharing Demand 问题。

我是如何花了一年时间来学机器学习的1

Kaggle 是一个很赞的平台,它上面提供丰富的数据集,而且你能看到你的算法的实际运行性能。

这段期间我主要学会了不断迭代算法,来改善试验结果。而且在做机器学习时,我也学会了相信我的代码逻辑,很多时候只要调整一些参数就可以达到不错的效果。

在工作中继续保持学习

到 了 2016 年一月份,我想继续投入更多时间在机器学习上。于是我向 manager 请求在工作时间来学习机器学习,manager 同意了我的请求!我很高兴,还写了一篇文章关于如何利用工作时间来提高自己的技能:《How To Setup A Learning Routine At Work》https://medium.com/xeneta/how-to-gain-new-skills-at-work-923bb088a352

于是,我继续了我的学习。那时我已经对神经网络有了基本的理解了,我希望能够进一步去学习 深度学习

令我失望的 Udacity 深度学习课程

我第一次接触深度学习是 Udacity 的深度学习课程,不过这个课程让我非常失望。每一集的视频内容质量还不错,但是每一集实在是太短了,地主坑农民啊。

而且课程里采用的 IPython Notebook非常难使用,我花了大多数时间来调试代码错误,这直接毁了我的学习激情。于是在学了几次后,我直接放弃了。

当然,我并不是说 IPython Notebook 不好,只不过 IPython Notebook 对于初学者的我来说实在是个噩梦。

超赞!斯坦福大学-自然语言处理中的深度学习

很幸运,我随后发现了斯坦福大学的课程 CS224D(http://cs224d.stanford.edu/syllabus.html)并决定去尝试一下。这个课程非常赞!虽然它讲的内容有点难度,但我再也不用去持续不断 debug 代码问题了。

而且,他们还提供了答案代码,每次我搞不懂时就去读答案,这也帮助了我理解一个问题是如何一步步被解决的。

虽然我还没有完全学完这套课程,但它大大扩展了我在自然语言处理和神经网络方面的知识面。

不过,这个课程不是那么容易。有一次,我意识到了自己必须要一位大牛来帮我,于是我花了 40 刀每小时请了一位博士学生来做我的家教,帮我讲解遇到的问题,形成整体的理解。这位家教帮我扫清了很多知识上的漏洞。

经验:可以考虑花 50 刀每小时的金钱来换取一位优秀的机器学习老师。如果你资金上宽裕,那一定值得这样做。

而且,我的公司 Xeneta最近招了一位数据科学家,他有数学硕士学位。因此每次我遇到线性代数、微积分或机器学习的问题时就会向他请教。所以,尽可能让公司内部的资源帮助你的学习。

利用机器学习知识来改进我司销售评估

在完成了大半年的学习后,我觉得自己已经准备好在实际工作用应用了。于是,我利用公司的描述信息数据,训练了一套算法来评估销售人员的业绩。这套算法最重为销售人员带来了极大的效率提高。

你可以读我之前写的文章《Boosting Sales With Machine Learning 我们如何应用自然语言处理技术来评估销售负责人》https://medium.com/xeneta/boosting-sales-with-machine-learning-fbcf2e618be3,代码开源在 GitHub:https://github.com/xeneta/LeadQualifier
这段学习旅程非常的漫长,但是也还算快。毕竟当我最初启动一周沉浸式训练时,我并不抱多大期望自己能在一年内掌握并应用到实际场景中。

但这样的学习方式百分百能行得通,如果我能学会,那每个人都能学会。

相关 [何花 一年 时间] 推荐:

我是如何花了一年时间来学机器学习的

- - IT瘾-geek
大家都知道 AI 的发展前景非常好,例如 Google 成为了一家 AI First 的企业,越来越多的开发者开始关注并学习机器学习. 因此,po 主特意找来这篇文章,分享下如何寻找适合入门者的在线学习资源,如 Udacity、Coursera、斯坦福大学课程等,并告诉大家如何避免其中的一些坑. 这篇文章来自  Per Harald Borgen,在 Medium 上获得了 2.7k 的赞.

为什么有些人用一年时间获得了你十年的工作经验?

- - 冷知识·爱生活
如何用一年的时间获得十年的经验和能力. 这篇文章提到了两个神奇的名词——学习曲线与Hacking大脑,就这两个神奇的名词竟然能让一个人用一年的时间收获另一个十年的工作经验. 为什么会这么说,大家看了相信就能理解. 我一直喜欢跟优秀的人来往,和非常优秀的人工作,因为我是一个非常懒惰的人,而我知道跟非常优秀的人工作的时候心情可以非常愉快.

暗时间

- myartings - 微软亚洲研究院
刘未鹏,Mindhacks帮主,在这块自留地上笔耕不辍了八年. 他从2003年在《程序员》杂志上发表第一篇技术文章,并开始在CSDN写技术博客. 起初的博客较短,也较琐碎,并夹杂着一些翻译的文章,后来才慢慢开始有了一些自己的心得和看法. 八年来,虽然平均每个月写1篇或者更少,但他从未停止. 写博客这件事情,给他带来的最大体会就是,一件事情如果你能够坚持做8年,那么不管效率和频率多低,最终总能取得一些很可观的收益.

时间与空间

- 马都 - 博客李淼
(《Vision》文章,勿转). 时间与空间这两个概念是物理学的基石,也是我们人类甚至动物依靠直觉就具备的概念. 我们判断一个物体的位置,我们从一个地点走到另一个地点,涉及到空间这个概念. 在小学,我们就开始学习一些简单的几何概念,例如三角形,三角形中的三个角有锐角、钝角和直角. 到了中学,我们还学一点立体几何和解析几何.

linux时间同步

- - BlogJava-首页技术区
第一步的意思是设置时间,设置完了可以用date命令查看对不对...注意是月日时分年  . 第二步的意思是写入主板的rtc芯片..  . su -c 'date -s 月/日/年'  . su -c 'date -s 时:分:秒'  . 由于Linux时钟和Windows时钟从概念的分类、使用到设置都有很大的不同,所以,搞清楚Linux时钟的工作方式与设置操作,不仅对于Linux初学者有着重大意义,而且对于使用Linux服务器的用户来说尤为重要.

香港官员如何花公款

- Sunny - 南方周末-热点新闻
午餐、晚宴人均上限分别为350与450港元——在金贵的香港中环,这只够几个人点份勉强说得过去的西式套餐,或在嘈杂的中餐馆大厅里,来桌最寻常的五菜一汤.

编程时间分配图

- Greyby - 酷壳 - CoolShell.cn
下面是一个程序员coding的时间分配图,原图在这里. 思考会是一个很重要的过程,当然耽搁拖沓也有可能也是因为没有想好,抽烟/喝咖啡应该也是一种思考,吃点东西是为了让脑子转得更快一点,上网搜索一下灵感可以借鉴一下其它人的想法,抱怨写注释只是一个例子,更多的应该是抱怨加班或是公司的老板. 如果需要加上点什么的话,我觉得应该加点“重构”,“编译”,“调试”,当然,他们都可以算在coding里.

我的番茄时间

- Dynamic - GTD Life
两天前(5月15日),我们在西安组织了第四期的时间管理沙龙,渡过了一个完美的下午,直到现在还在回味杜蕾的十五分钟短讲呢,呵呵,郭军峰也从心理学的角度分析了“为什么有的时候三个月完成不了的事情,能够在3天内完成”,最后我们还一起列出了“时间管理沙龙荐书单”,大家在分享中收获,在收获中分享,这种感觉还真的是很棒.

细节时间黑洞

- Demi - 最新文章 - UCD大社区
在最早的时候产品设计大多采用瀑布模型方式做迭代,上一个流程完毕之后才进入到下一个流程. 这种模式有一个最大的好处就是下一个流程的准备相对充分,但是缺陷也显而易见,那就是迭代成本太大且显得笨重. 随着互联网行业的发展,“快”成了这个行业最重要的一个口诀,于是类似“唯快不破”成为大受追捧的产品设计哲学.