介绍几本数学书(By Dahua Lin@MIT)

标签: 科研 读书 Dahua Lin MIT NIPS | 发表时间:2010-12-29 08:52 | 作者:丕子 Kpon
出处:http://www.zhizhihu.com

优秀的人我们就去要学习,学习人家的长处。Dahua Lin原来是科大的本科,然后去港中文读的硕士,现在在MIT。NIPS2010的Best Student Paper。他的数学功底很好,在原来的MSN博客上推荐了基本数学书,我转载至此。

前面几篇谈了一些对数学的粗浅看法。其实,如果对某门数学有兴趣,最好的方法就是走进那个世界去学习和体验。

这里说说几本我看过后觉得不错的数学教科书。

1. 线性代数 (Linear Algebra):

我想国内的大学生都会学过这门课程,但是,未必每一位老师都能贯彻它的精要。这门学科对于Learning是必备的基础,对它的透彻掌握是必不可少的。我在科大一年级的时候就学习了这门课,后来到了香港后,又重新把线性代数读了一遍,所读的是

Introduction to Linear Algebra (3rd Ed.)  by Gilbert Strang.

这本书是MIT的线性代数课使用的教材,也是被很多其它大学选用的经典教材。它的难度适中,讲解清晰,重要的是对许多核心的概念讨论得比较 透彻。我个人觉得,学习线性代数,最重要的不是去熟练矩阵运算和解方程的方法——这些在实际工作中MATLAB可以代劳,关键的是要深入理解几个基础而又 重要的概念:子空间(Subspace),正交(Orthogonality),特征值和特征向量(Eigenvalues and eigenvectors),和线性变换(Linear transform)。从我的角度看来,一本线代教科书的质量,就在于它能否给这些根本概念以足够的重视,能否把它们的联系讲清楚。Strang的这本书 在这方面是做得很好的。

而且,这本书有个得天独厚的优势。书的作者长期在MIT讲授线性代数课(18.06),课程的video在MIT的Open courseware网站上有提供。有时间的朋友可以一边看着名师授课的录像,一边对照课本学习或者复习。

http://ocw.mit.edu/OcwWeb/Mathematics/18-06Spring-2005/CourseHome/index.htm

2. 概率和统计 (Probability and Statistics):

概率论和统计的入门教科书很多,我目前也没有特别的推荐。我在这里想介绍的是一本关于多元统计的基础教科书:

Applied Multivariate Statistical Analysis (5th Ed.)  by Richard A. Johnson and Dean W. Wichern

这本书是我在刚接触向量统计的时候用于学习的,我在香港时做研究的基础就是从此打下了。实验室的一些同学也借用这本书学习向量统计。这本书 没有特别追求数学上的深度,而是以通俗易懂的方式讲述主要的基本概念,读起来很舒服,内容也很实用。对于Linear regression, factor analysis, principal component analysis (PCA), and canonical component analysis (CCA)这些Learning中的基本方法也展开了初步的论述。

之后就可以进一步深入学习贝叶斯统计和Graphical models。一本理想的书是

Introduction to Graphical Models (draft version).  by M. Jordan and C. Bishop.

我不知道这本书是不是已经出版了(不要和Learning in Graphical Models混淆,那是个论文集,不适合初学)。这本书从基本的贝叶斯统计模型出发一直深入到复杂的统计网络的估计和推断,深入浅 出,statistical learning的许多重要方面都在此书有清楚论述和详细讲解。MIT内部可以access,至于外面,好像也是有电子版的。

3. 分析 (Analysis):

我想大家基本都在大学就学过微积分或者数学分析,深度和广度则随各个学校而异了。这个领域是很多学科的基础,值得推荐的教科书莫过于

Principles of Mathematical Analysis, by Walter Rudin

有点老,但是绝对经典,深入透彻。缺点就是比较艰深——这是Rudin的书的一贯风格,适合于有一定基础后回头去看。

在分析这个方向,接下来就是泛函分析(Functional Analysis)。

Introductory Functional Analysis with Applications, by Erwin Kreyszig.

适合作为泛函的基础教材,容易切入而不失全面。我特别喜欢它对于谱论和算子理论的特别关注,这对于做learning的研究是特别重要的。 Rudin也有一本关于functional analysis的书,那本书在数学上可能更为深刻,但是不易于上手,所讲内容和learning的切合度不如此书。

在分析这个方向,还有一个重要的学科是测度理论(Measure theory),但是我看过的书里面目前还没有感觉有特别值得介绍的。

4. 拓扑 (Topology):

在我读过的基本拓扑书各有特色,但是综合而言,我最推崇:

Topology (2nd Ed.)  by James Munkres

这本书是Munkres教授长期执教MIT拓扑课的心血所凝。对于一般拓扑学(General topology)有全面介绍,而对于代数拓扑(Algebraic topology)也有适度的探讨。此书不需要特别的数学知识就可以开始学习,由浅入深,从最基本的集合论概念(很多书不屑讲这个)到Nagata- Smirnov Theorem和Tychonoff theorem等较深的定理(很多书避开了这个)都覆盖了。讲述方式思想性很强,对于很多定理,除了给出证明过程和引导你思考其背后的原理脉络,很多令人 赞叹的亮点——我常读得忘却饥饿,不愿释手。很多习题很有水平。

5. 流形理论 (Manifold theory):

对于拓扑和分析有一定把握时,方可开始学习流形理论,否则所学只能流于浮浅。我所使用的书是

Introduction to Smooth Manifolds.  by John M. Lee

虽然书名有introduction这个单词,但是实际上此书涉入很深,除了讲授了基本的manifold, tangent space, bundle, sub-manifold等,还探讨了诸如纲理论(Category theory),德拉姆上同调(De Rham cohomology)和积分流形等一些比较高级的专题。对于李群和李代数也有相当多的讨论。行文通俗而又不失严谨,不过对某些记号方式需要熟悉一下。

虽然李群论是建基于平滑流形的概念之上,不过,也可能从矩阵出发直接学习李群和李代数——这种方法对于急需使用李群论解决问题的朋友可能更加实用。而且,对于一个问题从不同角度看待也利于加深理解。下面一本书就是这个方向的典范:

Lie Groups, Lie Algebras, and Representations: An Elementary Introduction.  by Brian C. Hall

此书从开始即从矩阵切入,从代数而非几何角度引入矩阵李群的概念。并通过定义运算的方式建立exponential mapping,并就此引入李代数。这种方式比起传统的通过“左不变向量场(Left-invariant vector field)“的方式定义李代数更容易为人所接受,也更容易揭示李代数的意义。最后,也有专门的论述把这种新的定义方式和传统方式联系起来。

————————————————————————————

无论是研究Vision, Learning还是其它别的学科,数学终究是根基所在。学好数学是做好研究的基石。学好数学的关键归根结底是自己的努力,但是选择一本好的书还是大有益 处的。不同的人有不同的知识背景,思维习惯和研究方向,因此书的选择也因人而异,只求适合自己,不必强求一致。上面的书仅仅是从我个人角度的出发介绍的, 我的阅读经历实在非常有限,很可能还有比它们更好的书(不妨也告知我一声,先说声谢谢了)。By Dahua Lin

相关文章

相关 [数学 by dahua] 推荐:

介绍几本数学书(By Dahua Lin@MIT)

- Kpon - 丕子
优秀的人我们就去要学习,学习人家的长处. Dahua Lin原来是科大的本科,然后去港中文读的硕士,现在在MIT. NIPS2010的Best Student Paper. 他的数学功底很好,在原来的MSN博客上推荐了基本数学书,我转载至此. 前面几篇谈了一些对数学的粗浅看法. 其实,如果对某门数学有兴趣,最好的方法就是走进那个世界去学习和体验.

数学,传奇?

- cindy - 粉红小猪
   在国内就老是听到传奇,说是中国的数学有多么多么的好,国外的数学有多么多么的撇,还把这里的学生的数学,说得跟弱智一样,过来一看,都哪跟哪啊,这边的人还啭中国高中生呢:“微积分都不懂.   这边的数学书,搞得跟百科全书一样厚,都基本上没办法带回家,只能放学校个人的柜子里,是国内数学书的3-5倍厚重,从测量的历史开始写,图片跟历史地理一样漂亮,不大像数学书……我带回家给我爸看了一眼,他说:难怪学生不能自己拥有书,只能用完了下届学生继续用,这得多高的成本啊.

数学是数学家的墓志铭

- 李龑 - 果壳网 guokr.com - 果壳网
作者:严酷的魔王 你想在自己的墓碑上刻下什么文字. 也许对于我们来说,考虑这个问题为时尚早,但是许许多多的前辈数学家已经用自己的实际行动告诉了我们:墓碑上书写着自己的荣耀. “他生命的六分之一是幸福的童年;再活了他的生命的十二分之一,两颊长起了细细的胡子;他结了婚,又度过了一生的七分之一;再过五年,他有了儿子,感到很幸福;可是儿子只活了他全部年龄的一半;儿子死后,他在极度悲痛中度过了四年,也与世长辞了.

篮球的数学

- 猫 - Solidot
是当机立断投篮还是等待更佳良机,职员篮球运动员每场比赛都要面临多次类似的困境. 现在,明尼苏达大学理论物理学研究生Brian Skinner在arXiv.org上发表了一篇论文,向球员提供了投篮最佳时机的数学建议. Skinner是一位狂热的篮球迷,他发现篮球运动类似于交通网络中的汽车驾驶,每辆车相当于一个被球员持有的篮球,通过在网络中运动实现得分目的.

数学公式生成器

- ArBing - 阮一峰的网络日志
上一篇文章《数学常数e的含义》,有很多数学公式. 但是,在网页上显示数学公式,是一件非常麻烦的事情. 怎样才能把这个公式放到网页上呢. 传统的方式是,先在相关软件中把公式做出来,然后截图,再把图片贴到网页上,这样既麻烦又耗时. 我就在想,有没有便捷的方法,可以生成数学公式. 我知道,Google Chart接受TeX语言,实时返回数学公式的图片.

改变思想的数学

- 我要发芽 - Solidot
观点将随事实的改变而改变,这是贝叶斯定理的真谛. 贝叶斯定理以18世纪的长老教会牧师Thomas Bayes的名字命名,目的是为了解决一些本质问题:当更多信息涌入时我们如何改变信仰. 是顽固的直到旧有假说完全站不住脚. 还是在怀疑第一次出现后立即抛弃旧观念. 贝叶斯的推导已经变成了无价的科学工具,它帮助我们一步步认清现实.

谷歌背后的数学

- 欲望道人 - 卢昌海个人主页
站长撰写的介绍谷歌公司的网页排序算法的文章.

数学家 vs. 上帝

- 虫虫 - 科学松鼠会
原作地址:http://abstrusegoose.com/395.

Hadoop背后的数学

- - 灰色的灵魂
自从 Nathan Marz同学写了那篇著名的 How to beat the CAP theorem的Blog,以及 Storm发布之后,俨然成为了技术界新偶像. 顺着他本人的blog,翻了一下他过去几年的写的技术文章,发现老美的牛人们都爱总结,能够把技术实践提升到理论高度,然后抽象出新的设计和产品,比起我等只能每天苦逼苦逼应对实际需求的人来说,还是强出很多.

PCA的数学原理

- - CodingLabs
PCA(Principal Component Analysis)是一种常用的数据分析方法. PCA通过线性变换将原始数据变换为一组各维度线性无关的表示,可用于提取数据的主要特征分量,常用于高维数据的降维. 网上关于PCA的文章有很多,但是大多数只描述了PCA的分析过程,而没有讲述其中的原理. 这篇文章的目的是介绍PCA的基本数学原理,帮助读者了解PCA的工作机制是什么.