如何让搜索引擎抓取AJAX内容？
- - 互联网的那点事越来越多的网站，开始采用 “单页面结构”（Single-page application）. 整个网站只有一张网页，采用 Ajax技术，根据用户的输入，加载不同的内容. 这种做法的好处是用户体验好、节省流量，缺点是AJAX内容无法被搜索引擎抓取. 用户通过 井号结构的URL，看到不同的内容.
如何让搜索引擎抓取AJAX内容？
标签：
产品设计
| 发表时间：2013-07-23 08:09 | 作者：P迪
出处：http://www.alibuybuy.com
作者： 阮一峰
越来越多的网站，开始采用 “单页面结构”（Single-page application）。
整个网站只有一张网页，采用 Ajax技术，根据用户的输入，加载不同的内容。
这种做法的好处是用户体验好、节省流量，缺点是AJAX内容无法被搜索引擎抓取。举例来说，你有一个网站。
http://example.com
用户通过 井号结构的URL，看到不同的内容。
http://example.com#1
http://example.com#2
http://example.com#3
但是，搜索引擎只抓取example.com，不会理会井号，因此也就无法索引内容。
为了解决这个问题，Google提出了”井号+感叹号”的结构。
http://example.com#!1
当Google发现上面这样的URL，就自动抓取另一个网址：
http://example.com/?_escaped_fragment_=1
只要你把AJAX内容放在这个网址，Google就会收录。但是问题是，”井号+感叹号”非常难看且烦琐。Twitter曾经采用这种结构，它把
http://twitter.com/ruanyf
改成
http://twitter.com/#!/ruanyf
结果用户抱怨连连，只用了半年就废除了。
那么，有没有什么方法，可以在保持比较直观的URL的同时，还让搜索引擎能够抓取AJAX内容？
我一直以为没有办法做到，直到前两天看到了 Discourse创始人之一的 Robin Ward的解决方法，不禁拍案叫绝。
Discourse是一个论坛程序，严重依赖Ajax，但是又必须让Google收录内容。它的解决方法就是放弃井号结构，采用 History API。
所谓 History API，指的是不刷新页面的情况下，改变浏览器地址栏显示的URL(准确说，是改变网页的当前状态)。这里有一个 例子，你点击上方的按钮，开始播放音乐。然后，再点击下面的链接，看看发生了什么事？
地址栏的URL变了，但是音乐播放没有中断！
History API 的详细介绍，超出这篇文章的范围。这里只简单说，它的作用就是在浏览器的History对象中，添加一条记录。
window.history.pushState(state object, title, url);
上面这行命令，可以让地址栏出现新的URL。History对象的pushState方法接受三个参数，新的URL就是第三个参数，前两个参数都可以是null。
window.history.pushState(null, null, newURL);
目前，各大浏览器都支持这个方法：Chrome（26.0+），Firefox（20.0+），IE（10.0+），Safari（5.1+），Opera（12.1+）。
下面就是Robin Ward的方法。
首先，用History API替代井号结构，让每个井号都变成正常路径的URL，这样搜索引擎就会抓取每一个网页。
example.com/1
example.com/2
example.com/3
然后，定义一个JavaScript函数，处理Ajax部分，根据网址抓取内容（假定使用jQuery）。
function anchorClick(link) {
var linkSplit = link.split(‘/’).pop();
$.get(‘api/’ + linkSplit, function(data) {
$(‘#content’).html(data);
});
}
再定义鼠标的click事件。
$(‘#container’).on(‘click’, ‘a’, function(e) {
window.history.pushState(null, null, $(this).attr(‘href’));
anchorClick($(this).attr(‘href’));
e.preventDefault();
});
还要考虑到用户点击浏览器的”前进 / 后退”按钮。这时会触发History对象的popstate事件。
window.addEventListener(‘popstate’, function(e) {
anchorClick(location.pathname);
});
定义完上面三段代码，就能在不刷新页面的情况下，显示正常路径URL和AJAX内容。
最后，设置服务器端。
因为不使用井号结构，每个URL都是一个不同的请求。所以，要求服务器端对所有这些请求，都返回如下结构的网页，防止出现404错误。
<html>
<body>
<section id=’container’></section>
<noscript>
… …
</noscript>
</body>
</html>
仔细看上面这段代码，你会发现有一个noscript标签，这就是奥妙所在。
我们把所有要让搜索引擎收录的内容，都放在noscript标签之中。这样的话，用户依然可以执行AJAX操作，不用刷新页面，但是搜索引擎会收录每个网页的主要内容！
来源： http://www.ruanyifeng.com/blog/2013/07/how_to_make_search_engines_find_ajax_content.html
© 推荐 for 互联网的那点事, 2013. |
相关 [搜索引擎 ajax] 推荐：
uSniff:BT种子搜索引擎
- leqoqo - 软件志一、uSniff相关信息： 1、官方主页：http://www.usniff.com/ 2、简介：uSniff是一个BT种子搜索引擎，简单、易用、实时是其最大的优点，其搜索引擎数据库包含了17个知名种子站点的种子信息，目的是想发展成为世界上最大的BT种子搜索引擎，而且对于每个种子，该搜索引擎都会进行安全认证，以保证用户的正常使用.
资源搜索引擎
- - 不死鸟 - 分享为王官网易搜 阿里百度夸克网盘搜索. tg中文搜索 电报资源搜索引擎. 千帆搜索 电报资源搜索引擎. 影视搜 影视聚合搜索引擎. 辅助狗 无捆绑软件搜索引擎. 查报告 可查询各行业的分析报告. 学霸盘 课程资料百度网盘. 库问搜索 PDF文献资料搜索.
原生AJAX
- - Web前端 - ITeye博客对象是ajax的基础，几乎所有的浏览器都支持他，只是创建方式不同，如IE5，IE6. 2、AJAX - 向服务器发送请求请求. 与 POST 相比，GET 更简单也更快，并且在大部分情况下都能用. 然而，在以下情况中，请使用 POST 请求：. 无法使用缓存文件（更新服务器上的文件或数据库）. 向服务器发送大量数据（POST 没有数据量限制）.
初识Ajax
- - CSDN博客推荐文章Ajax(Asynchronous JavaScript and XMLS异步JavaScript和XML)(“阿贾克斯”)技术. 完成页面的局部刷新，从而提升操作性能. AJAX 不是一种新的编程语言，而是一种用于创建更好更快以及交互性更强的 Web 应用程序的技术. 依赖的核心对象：XMLHttpRequest.
人眼启发视觉搜索引擎
- feng823 - SolidotGoogle上周宣布将支持声音和图片进行搜索，但一家创业公司在图像搜索方面走在了Google前面. 源自伦敦帝国学院研究项目的创业公司Cortexica，开发出视觉搜索工具，通过手机拍摄产品照片，它会自动呈现价格信息. Cortexica已经发布了一个用于比较酒价格的工具WINEfindr. Cortexica的视觉搜索技术是受到了人眼视觉系统的启发，它能识别出一个目标的关键特征，不受方位、大小、光线亮暗的影响.
比较好的学术搜索引擎
- hfut_chen - C++博客-首页原创精华区 摘要: 1、http://scholar.google.com/. Google学术搜索滤掉了普通搜索结果中大量的垃圾信息，排列出文章的不同版本以及被其它文章的引用次数. 略显不足的是，它搜索出来的结果没有按照权威度（譬如影响因子、引用次数）依次排列，在中国搜索出来的，前几页可能大部分为中文的一些期刊的文章.
Blekko 对搜索引擎的新探索
- thinkingit - 知乎的博客Blekko 这款搜索产品做的如何. 从目前我的使用过程来看，Blekko还是很让人激动的. 在谈Blekko之前就要先问：为何在搜索这个看似已经垄断的行业还会有人想去分一杯羹，这些小团队能与Google或微软这样的巨头抗衡吗. 比如之前的Powerset，后来的Cuil，和现在的Blekko. 在Google之前Yahoo是靠人工收录网页，Google的算法和蜘蛛革了搜索的命，一直垄断搜索业十余年，而现在随着WEB 2.0的发展，让人又看到了搜索业革命的火种，可以说Blekko就是这样的一个产品.
Mr.Icons：图标icon搜索引擎
- 壮壮爱 - 够趣堂之前Anliu在如何更换更好的icon文章里面推荐了4个icon搜索引擎，目前部分已经不复存在. 不过Mr.Icons倒是又一个不错的选择,可以搜索图标icon进行下载，有PNG、ico格式以及不同大小提供下载. Mr.Icons还提供图标icon集打包下载，比如动物图标等. 和之前的介绍几款搜索引擎一样，依然不支持中文.
迅搜全文搜索引擎 XunSearch
- Le - 开源中国社区最新软件迅搜(xunsearch)是采用 C/C++ 基于 xapian 和 scws 开发的全文搜索引擎解决方案，提供 PHP 语言的开发接口. 支持海量数据高速检索，功能强大，简单易用. 本项目旨在帮助一般开发者针对既有的海量数据，快速而方便地建立自己的全文搜索引擎. 全文检索可以帮助您降低服务器搜索负荷、极大程度的提高搜索速度和用户体验.