贝叶斯推断及其互联网应用（二）

标签： IT | 发表时间：2011-08-27 16:21 | 作者：(author unknown) mikelong

出处：http://www.ruanyifeng.com/blog/

上一次，我介绍了贝叶斯推断的原理，今天讲如何将它用于垃圾邮件过滤。

========================================

贝叶斯推断及其互联网应用

作者：阮一峰

（接上文）

七、什么是贝叶斯过滤器？

垃圾邮件是一种令人头痛的顽症，困扰着所有的互联网用户。

正确识别垃圾邮件的技术难度非常大。传统的垃圾邮件过滤方法，主要有"关键词法"和"校验码法"等。前者的过滤依据是特定的词语；后者则是计算邮件文本的校验码，再与已知的垃圾邮件进行对比。它们的识别效果都不理想，而且很容易规避。

2002年，Paul Graham提出使用"贝叶斯推断"过滤垃圾邮件。他说，这样做的效果，好得不可思议。1000封垃圾邮件可以过滤掉995封，且没有一个误判。

另外，这种过滤器还具有自我学习的功能，会根据新收到的邮件，不断调整。收到的垃圾邮件越多，它的准确率就越高。

八、建立历史资料库

贝叶斯过滤器是一种统计学过滤器，建立在已有的统计结果之上。所以，我们必须预先提供两组已经识别好的邮件，一组是正常邮件，另一组是垃圾邮件。

我们用这两组邮件，对过滤器进行"训练"。这两组邮件的规模越大，训练效果就越好。Paul Graham使用的邮件规模，是正常邮件和垃圾邮件各4000封。

"训练"过程很简单。首先，解析所有邮件，提取每一个词。然后，计算每个词语在正常邮件和垃圾邮件中的出现频率。比如，我们假定"sex"这个词，在4000封垃圾邮件中，有200封包含这个词，那么它的出现频率就是5%；而在4000封正常邮件中，只有2封包含这个词，那么出现频率就是0.05%。（【注释】如果某个词只出现在垃圾邮件中，Paul Graham就假定，它在正常邮件的出现频率是1%，反之亦然。随着邮件数量的增加，计算结果会自动调整。）

有了这个初步的统计结果，过滤器就可以投入使用了。

九、贝叶斯过滤器的使用过程

现在，我们收到了一封新邮件。在未经统计分析之前，我们假定它是垃圾邮件的概率为50%。（【注释】有研究表明，用户收到的电子邮件中，80%是垃圾邮件。但是，这里仍然假定垃圾邮件的"先验概率"为50%。）

我们用S表示垃圾邮件（spam），H表示正常邮件（healthy）。因此，P(S)和P(H)的先验概率，都是50%。

$P(S)=P(H)=50%$

然后，对这封邮件进行解析，发现其中包含了sex这个词，请问这封邮件属于垃圾邮件的概率有多高？

我们用W表示"sex"这个词，那么问题就变成了如何计算P(S|W)的值，即在某个词语（W）已经存在的条件下，垃圾邮件（S）的概率有多大。

根据条件概率公式，马上可以写出

$P(S|W)=\frac{P(W|S)P(S)}{P(W|S)P(S)+P(W|H)P(H)}$

公式中，P(W|S)和P(W|H)的含义是，这个词语在垃圾邮件和正常邮件中，分别出现的概率。这两个值可以从历史资料库中得到，对sex这个词来说，上文假定它们分别等于5%和0.05%。另外，P(S)和P(H)的值，前面说过都等于50%。所以，马上可以计算P(S|W)的值：

$P(S|W)=\frac{5%\times 50%}{5%\times 50%+0.05%\times 50%}=99.0%$

因此，这封新邮件是垃圾邮件的概率等于99%。这说明，sex这个词的推断能力很强，将50%的"先验概率"一下子提高到了99%的"后验概率"。

十、联合概率的计算

做完上面一步，请问我们能否得出结论，这封新邮件就是垃圾邮件？

回答是不能。因为一封邮件包含很多词语，一些词语（比如sex）说这是垃圾邮件，另一些说这不是。你怎么知道以哪个词为准？

Paul Graham的做法是，选出这封信中P(S|W)最高的15个词，计算它们的联合概率。（【注释】如果有的词是第一次出现，无法计算P(S|W)，Paul Graham就假定这个值等于0.4。因为垃圾邮件用的往往都是某些固定的词语，所以如果你从来没见过某个词，它多半是一个正常的词。）

所谓联合概率，就是指在多个事件发生的情况下，另一个事件发生概率有多大。比如，已知W1和W2是两个不同的词语，它们都出现在某封电子邮件之中，那么这封邮件是垃圾邮件的概率，就是联合概率。

在已知W1和W2的情况下，无非就是两种结果：垃圾邮件（事件E1）或正常邮件（事件E2）。

其中，W1、W2和垃圾邮件的概率分别如下：

如果假定所有事件都是独立事件（【注释】严格地说，这个假定不成立，但是这里可以忽略），那么就可以计算P(E1)和P(E2)：

$P(E_{1})=P(S|W_{1})P(S|W_{2})P(S)$

$P(E_{2})=(1-P(S|W_{1}))(1-P(S|W_{2}))(1-P(S))$

又由于在W1和W2已经发生的情况下，垃圾邮件的概率等于下面的式子：

$P=\frac{P(E_{1})}{P(E_{1})+P(E_{2})}$

即

$P=\frac{P(S|W_{1})P(S|W_{2})P(S)}{P(S|W_{1})P(S|W_{2})P(S)+(1-P(S|W_{1}))(1-P(S|W_{2}))(1-P(S))}$

将P(S)等于0.5代入，得到

$P=\frac{P(S|W_{1})P(S|W_{2})}{P(S|W_{1})P(S|W_{2})+(1-P(S|W_{1}))(1-P(S|W_{2}))}$

将P(S|W1)记为P1，P(S|W1)记为P2，公式就变成

$P=\frac{P_{1}P_{2}}{P_{1}P_{2}+(1-P_{1})(1-P_{2})}$

这就是联合概率的计算公式。

十一、最终的计算公式

将上面的公式扩展到15个词的情况，就得到了最终的概率计算公式：

$P=\frac{P_{1}P_{2}\cdot \cdot \cdot P_{15}}{P_{1}P_{2}\cdot \cdot \cdot P_{15}+(1-P_{1})(1-P_{2})\cdot \cdot \cdot (1-P_{15})}$

一封邮件是不是垃圾邮件，就用这个式子进行计算。这时我们还需要一个用于比较的门槛值。Paul Graham的门槛值是0.9，概率大于0.9，表示15个词联合认定，这封邮件有90%以上的可能属于垃圾邮件；概率小于0.9，就表示是正常邮件。

有了这个公式以后，一封正常的信件即使出现sex这个词，也不会被认定为垃圾邮件了。

（完）

文档信息

版权声明：自由转载-非商用-非衍生-保持署名 | Creative Commons BY-NC-ND 3.0
原文网址：http://www.ruanyifeng.com/blog/2011/08/bayesian_inference_part_two.html
最后修改时间：2011年8月27日 16:21
付费支持（说明）： |

相关 [互联网应用] 推荐：

互联网时代的应用设计

- james - 所有文章 - UCD大社区

在互联网时代如何开发一个成功的应用. 先发放一万份调查问卷，找几十个人关在黑屋子里花两年时间研发，然后期待着一旦推出就颠覆整个互联网. 我不得不抱歉地说，以这样一种方式研发一款互联网应用，在互联网时代已经不太适用. 互联网应用单纯地从和传统应用的运行环境下的不同所带来的差异就足够决定互联网应用并不是把传统应用简单地搬到网上.

谈移动互联网应用

- - 人月神话的BLOG

周末参加了pmcaff组织的产品经理峰会，里面有个主题是谈移动互联网应用相关的，对这块个人没有做过，只能简单谈下个人的一些想法. 讨论中提到的一点，移动互联网应用和市场增速会很快，是传统互联网的多少倍不好说，但是简单以现有移动互联网的规模来讲，2-3年时间5-10倍的增速是完全可能的，毕竟当前的移动互联网的规模毕竟小.

企业应用开发与互联网应用开发区别

- - 行业应用 - ITeye博客

注：转自 http://timeson.iteye.com/blog/609045. 新形式下的企业应用特点： . 企业应用系统从封闭走向开放，由局域网转到互联网，随着涉众面的极大扩展，新的企业应用要求多浏览器支持（IE，FireFox），国际化支持，全球业务的互联互通. 这样就要求企业应用不能满足简单的表单、表格、树、菜单；而是要求有较好的用户体验，提倡富互联网应用.

开放、平台：应用层变成互联网本身

- Yuli - It Talks--上海魏武挥的博客

在DOS系统刚刚向Windows系统转换的时候，我有一度相当不习惯. 比如说，我很难理解计算机桌面上的东西，居然不是根目录下的东西. 图形化界面很方便使用者，这是实情. 但同样的，图形化界面也是一种傻瓜化的操作界面，越来越多的人，知其然而不知其所以然. 如果电脑上不预装windows系统，我真得很怀疑，还有多少人会使用电脑.

移动互联网应用栏目开通

- helloyj - 月光博客

　　由于目前月光博客上关于移动互联网的应用介绍越来越多，因此我打算开辟一个移动互联网应用推荐的栏目：“移动应用观察”，专门介绍优秀的移动互联网应用. 　　移动应用观察栏目介绍的应用以iPhone、iPad、Android应用为主，主要介绍免费应用和较高质量的付费应用，同时给出该应用在苹果、谷歌官方应用商店的下载链接地址.

移动互联网应用的推广方法

- RobinsonNie - 互联网的那点事

本期极客攻略由OAKMIKEOAK撰写. 在上期极客活动“百万级应用是怎样炼成的”上，多家百万级应用的拥有者和助力军分享了自己眼中百万级应用的炼就过程. 那么对于实际开发者来说，如何才能在众多的应用中脱颖而出. 目前，主流移动互联网应用平台包括iOS,Android,Palm,Blackberry,webOS,Windows Mobile六大平台.

最新移动互联网应用推荐第五期『2011.01』

- mgo - 天涯海阁-Web2.0Share

友录通讯录是一款手机通讯录增强应用，以强劲的查找和一系列精妙的小功能，提升打电话、发短信等日常操作的效率和体验. 支持联系人分组，联系人同步到服务器端. 不过个人目前还不太愿意将联系人同步到除Google以外的服务商. 各平台下载：Touch/iPhone；Android；S60 V3/V5. 2.街旁iPhone原生客户端.

贝叶斯推断及其互联网应用（一）

- ArBing - 阮一峰的网络日志

一年前的这个时候，我正在翻译Paul Graham的《黑客与画家》. 那本书大部分谈的是技术哲学，但是第八章却写了一个非常具体的技术问题----如何使用贝叶斯推断过滤垃圾邮件（英文版）. 说实话，我没完全看懂那一章. 那时，交稿截止日期已经过了，没时间留给我去啃概率论教科书了. 我只好硬着头皮，按照字面意思把它译了出来.