不确定性原理的前世今生 · 数学篇(一)

标签: 数学 计算机科学 不确定性原理 原创 | 发表时间:2011-02-11 15:41 | 作者:木遥 李隆
出处:http://songshuhui.net

在现代数学中有一个很容易被外行误解的词汇:信号 (signal)。当数学家们说起「一个信号」的时候,他们脑海中想到的并不是交通指示灯所发出的闪烁光芒或者手机屏幕顶部的天线图案,而是一段可以具体数字化的信息,可以是声音,可以是图像,也可是遥感测量数据。简单地说,它是一个函数,定义在通常的一维或者多维空间之上。譬如一段声音就是一个定义在一维空间上的函数,自变量是时间,因变量是声音的强度,一幅图像是定义在二维空间上的函数,自变量是横轴和纵轴坐标,因变量是图像像素的色彩和明暗,如此等等。

在数学上,关于一个信号最基本的问题在于如何将它表示和描述出来。按照上面所说的办法,把一个信号理解成一个定义在时间或空间上的函数是一种自然而然的表示方式,但是它对理解这一信号的内容来说常常不够。例如一段声音,如果单纯按照定义在时间上的函数来表示,它画出来是这个样子的:

这通常被称为波形图。毫无疑问,它包含了关于这段声音的全部信息。但是同样毫无疑问的是,这些信息几乎没法从上面这个「函数」中直接看出来,事实上,它只不过是巴赫的小提琴无伴奏 Partita No.3 的序曲开头几个小节。下面是巴赫的手稿,从某种意义上说来,它也构成了对上面那段声音的一个「描述」:

这两种描述之间的关系是怎样的呢?第一种描述刻划的是具体的信号数值,第二种描述刻划的是声音的高低(即声音震动的频率)。人们直到十九世纪才渐渐意识到,在这两种描述之间,事实上存在着一种对偶的关系,而这一点并不显然。

1807 年,法国数学家傅立叶 (J. Fourier) 在一篇向巴黎科学院递交的革命性的论文 Mémoire sur la propagation de la chaleur dans les corps solides (《固体中的热传播》)中,提出了一个崭新的观念:任何一个函数都可以表达为一系列不同频率的简谐振动(即简单的三角函数)的叠加。有趣的是,这结论是他研究热传导问题的一个副产品。这篇论文经拉格朗日 (J. Lagrange)、拉普拉斯 (P-S. Laplace) 和勒让德 (A-M. Legendre) 等人审阅后被拒绝了,原因是他的思想过于粗糙且极不严密。1811 年傅立叶递交了修改后的论文,这一次论文获得了科学院的奖金,但是仍然因为缺乏严密性而被拒绝刊载在科学院的《报告》中。傅立叶对此耿耿于怀,直到 1824 年他本人成为了科学院的秘书,才得以把他 1811 年的论文原封不动地发表在《报告》里。

用今天的语言来描述,傅立叶的发现实际上是在说:任何一个信号都可以用两种方式来表达,一种就是通常意义上的表达,自变量是时间或者空间的坐标,因变量是信号在该处的强度,另一种则是把一个信号「展开」成不同频率的简单三角函数(简谐振动)的叠加,于是这就相当于把它看作是定义在所有频率所组成的空间(称为频域空间)上的另一个函数,自变量是不同的频率,因变量是该频率所对应的简谐振动的幅度。

这两个函数一个定义在时域(或空域)上,一个定义在频域上,看起来的样子通常截然不同,但是它们是在以完全不同的方式殊途同归地描述着同一个信号。它们就象是两种不同的语言,乍一听完全不相干,但是其实可以精确地互相翻译。在数学上,这种翻译的过程被称为「傅立叶变换」。

傅立叶变换是一个数学上极为精美的对象:

  • 它是完全可逆的,任何能量有限的时域或空域信号都存在唯一的频域表达,反之亦然。
  • 它完全不损伤信号的内在结构:任何两个信号之间有多少相关程度(即内积),它们的频域表达之间也一定有同样多的相关程度。
  • 它不改变信号之间的关联性:一组信号收敛到一个特定的极限,它们的频域表达也一定收敛到那个极限函数的频域表达。

傅立叶变换就象是把信号彻底打乱之后以最面目全非的方式复述出来,而一切信息都还原封不动的存在着。要是科幻小说作家了解这一点,他们本来可以多出多少有趣的素材啊。

在傅立叶变换的所有这些数学性质中,最不寻常的是这样一种特性:一个在时域或空域上看起来很复杂的信号(譬如一段声音或者一幅图像)通常在频域上的表达会很简单。这里「简单」的意思是说作为频域上的函数,它只集中在很小一块区域内,而很大一部分数值都接近于零。例如下图是一张人脸和它对应的傅立叶变换,可以看出,所有的频域信号差不多都分布在中心周围,而大部分周边区域都是黑色的(即零)。

这是一个意味深长的事实,它说明一个在空域中看起来占满全空间的信号,从频域中看起来很可能只不过占用了极小一块区域,而大部分频率是被浪费了的。这就导出了一个极为有用的结论:一个看起来信息量很大的信号,其实可以只用少得多的数据来加以描述。只要对它先做傅里叶变换,然后只记录那些不接近零的频域信息就可以了,这样数据量就可以大大减少。

基本上,这正是今天大多数数据压缩方法的基础思想。在互联网时代,大量的多媒体信息需要在尽量节省带宽和时间的前提下被传输,所以数据压缩从来都是最核心的问题之一。而今天几乎所有流行的数据压缩格式,无论是声音的 mp3 格式还是图像的 jpg 格式,都是利用傅立叶变换才得以发明的。从这个意义上说来,几乎全部现代信息社会都建立在傅立叶的理论的基础之上。

这当然是傅立叶本人也始料未及的。

(待续)

相关 [不确定性 原理 前世今生] 推荐:

不确定性原理的前世今生 · 数学篇(一)

- 李隆 - 科学松鼠会
在现代数学中有一个很容易被外行误解的词汇:信号 (signal). 当数学家们说起「一个信号」的时候,他们脑海中想到的并不是交通指示灯所发出的闪烁光芒或者手机屏幕顶部的天线图案,而是一段可以具体数字化的信息,可以是声音,可以是图像,也可是遥感测量数据. 简单地说,它是一个函数,定义在通常的一维或者多维空间之上.

不确定性原理的前世今生 · 数学篇(二)

- 李隆 - 科学松鼠会
傅立叶变换这种对偶关系的本质,是把一块信息用彻底打乱的方式重新叙述一遍. 正如前面所提到的那样,一个信号可能在空域上显得内容丰富,但是当它在频域上被重新表达出来的时候,往往就在大多数区域接近于零. 反过来这个关系也是对称的:一个空域上大多数区域接近于零的信号,在频域上通常都会占据绝大多数频率. 有没有一种信号在空域和频域上的分布都很广泛呢.

不确定性原理的前世今生 · 数学篇(三)

- 李隆 - 科学松鼠会
不确定性原理事实上不是一个单独的定理,而是一组定理的统称. 基本上,凡是刻划一个信号不能在时空域和频域上同时过于集中的命题都可以称为不确定性原理,由于这里「集中」这一性质可以有不同的数学描述,也就对应着不同的数学定理. 但是在所有冠以「不确定性原理」之名的定理中,最著名的当然是海森堡 (W. Heisenberg) 在 1927 年所提出的影响物理学发展至深的那个版本.

不确定性原理的前世今生 · 数学篇(完)

- 李隆 - 科学松鼠会
到二十世纪末,人们对「信号」这个词的理解已经发生了微妙的变化. 如果在二十世纪上半叶的时候提到一个信号,人们还倾向于将它理解为一个连续的函数. 而到下半叶,信号已经越来越多地对应于一个离散的数组. 毫无疑问,这是电子计算机革命的后果. 在这样的情形下,「不确定性原理」也有了新的形式. 在连续情形下,我们可以讨论一个信号是否集中在某个区域内.

[小红猪]不确定性原理:进化如何两头下注

- 秋也 - 科学松鼠会
译者自我介绍:大家好,我是月光. 正在某岛国国立大学读电子工程系. 兴趣是物理学,前沿科技,推理,变态、犯罪心理学以及各种神秘学. 一年前从牛博网链接接触科学松鼠会然后发现原来还有这么多各界geek与我兴趣相投. 目前目标:希望通过翻译各种有趣的文章为科普传播做些贡献~. 校对:Glaußren, Ent.

inline-blcok 前世今生

- - Taobao UED Team
曾几何时,display:inline-block 已经深入「大街小巷」,随处可见 「display:inline-block; *display:inline; *zoom:1; 」这样的代码. 如今现代浏览器已经全面支持这个属性值了,上面的代码只是为了兼容 IE6、7 而已. 那么你真的了解 inline-block 了吗.

NB-IoT 的 “前世今生”

- - DiyCode - 致力于构建开发工程师高端交流分享社区社区
作者:个推B2D研发工程师 海晏. 根据《爱立信2018移动报告》(Ericsson Mobility Report,June 2018)的预测,蜂窝物联网设备连接数将在2023年达到35亿,年增长率达到30%. 图片来源:《爱立信2018移动报告》(Ericsson Mobility Report,June 2018).

HTTP的前世今生

- - 酷 壳 – CoolShell
HTTP (Hypertext transfer protocol) 翻译成中文是超文本传输协议,是互联网上重要的一个协议,由欧洲核子研究委员会CERN的英国工程师 Tim Berners-Lee v发明的,同时,他也是WWW的发明人,最初的主要是用于传递通过HTML封装过的数据. 0.9和1.0这两个版本,就是最传统的 request – response的模式了,HTTP 0.9版本的协议简单到极点,请求时,不支持请求头,只支持 GET 方法,没了.

我和Android的前世今生缘

- - 我爱水煮鱼
老实说我是 Google Android 手机的忠实粉丝,我从2009年9月份开始买了第一台 Android 手机 HTC Magic,也就是俗称的 G2 开始,就一直使用 Android 手机,期间用过 Motorola Milestone,HTC Legend,现在正在用的是 Samsung I9000.

从“古”到今 回顾Mac OS的前世今生

- will - cnBeta.COM
Mac OS是指运行于苹果Macintosh系列电脑上的操作系统,一直以来都被业界用来和微软的Windows进行相互比较. Mac OS是首个在商用领域成功的图形用户界面.当年Mac OS推出图形界面的时候,微软还只停留在DOS年代,Windows尚在襁褓之中. 在Mac OS X Lion即将推出之际,我们一起来回顾一下Mac OS的“前世今生”吧.