使用Nginx的proxy_cache缓存功能取代Squid

标签: nginx proxy cache | 发表时间:2017-03-13 18:13 | 作者:cnsong
出处:http://www.iteye.com

  Nginx从0.7.48版本开始,支持了类似Squid的缓存功能。这个缓存是把URL及相关组合当作Key,用md5编码哈希后保存在硬盘上,所以它可以支持任意URL链接,同时也支持404/301/302这样的非200状态码。虽然目前官方的Nginx Web缓存服务只能为指定URL或状态码设置过期时间,不支持类似Squid的PURGE指令,手动清除指定缓存页面,但是,通过一个第三方的Nginx模块,可以清除指定URL的缓存。

 

  Nginx的Web缓存服务主要由proxy_cache相关指令集和fastcgi_cache相关指令集构成,前者用于反向代理时,对后端内容源服务器进行缓存,后者主要用于对FastCGI的动态程序进行缓存。两者的功能基本上一样。

 

  Nginx的proxy_cache和fastcgi_cache已经比较完善,加上第三方的ngx_cache_purge模块(用于清除指定URL的缓存),已经可以完全取代Squid。而且十分稳定,速度不逊于 Squid。

 

 

一、所需软件

yum -y install gcc gcc-c++ autoconf  openssl openssl-devel psmisc zip

pcre-8.40.tar.gz ftp://ftp.csx.cam.ac.uk/pub/software/programming/pcre/

ngx_cache_purge-1.6.tar.gz http://labs.frickle.com/files/

Tengine-2.0.0.tar.gz http://tengine.taobao.org/download.html

 

 

二、编译安装

/usr/sbin/groupadd www

/usr/sbin/useradd -g www -s /sbin/nologin www

mkdir /data/proxy_temp_dir

mkdir /data/proxy_cache_dir

tar zxvf pcre-8.40.tar.gz

tar zxvf ngx_cache_purge-1.6.tar.gz

tar zxvf tengine-2.0.0.tar.gz

cd tengine-2.0.0/

./configure --user=www --group=www --add-module=../ngx_cache_purge-1.6 --prefix=/usr/local/nginx --with-http_stub_status_module --with-http_ssl_module  --with-pcre=../pcre-8.40 

#注意:--with-pcre=../pcre-8.37指向的是源码包解压的路径,而不是安装的路径,否则会报错,

make && make install

cd ../

 

三、nginx配置文件

##################################################################

user  www www;

 

worker_processes 8;

 

error_log  /usr/local/nginx/logs/nginx_error.log  crit;

 

pid        /usr/local/nginx/nginx.pid;

 

#Specifies the value for maximum file descriptors that can be opened by this process. 

worker_rlimit_nofile 65535;

 

events 

{

  use epoll;

  worker_connections 65535;

}

 

http 

{

  include       mime.types;

  default_type  application/octet-stream;

 

  charset  utf-8;

      

  server_names_hash_bucket_size 128;

  client_header_buffer_size 32k;

  large_client_header_buffers 4 32k;

  client_max_body_size 300m;

      

  sendfile on;

  tcp_nopush     on;

 

  keepalive_timeout 60;

 

  tcp_nodelay on;

 

  client_body_buffer_size  512k;

  proxy_connect_timeout    5;

  proxy_read_timeout       60;

  proxy_send_timeout       5;

  proxy_buffer_size        16k;

  proxy_buffers            4 64k;

  proxy_busy_buffers_size 128k;

  proxy_temp_file_write_size 128k;

 

  gzip on;

  gzip_min_length  1k;

  gzip_buffers     4 16k;

  gzip_http_version 1.1;

  gzip_comp_level 2;

  gzip_types       text/plain application/x-javascript text/css application/xml;

  gzip_vary on;

 

  #注:proxy_temp_path和proxy_cache_path指定的路径必须在同一分区

  proxy_temp_path   /data/proxy_temp_dir;

  #设置Web缓存区名称为cache_one,内存缓存空间大小为200MB,1天没有被访问的内容自动清除,硬盘缓存空间大小为30GB。

  proxy_cache_path  /data/proxy_cache_dir  levels=1:2   keys_zone=cache_one:200m inactive=1d max_size=30g;

  

  upstream backend_server {

    server   192.168.8.43:80 weight=1 max_fails=2 fail_timeout=30s;

    server   192.168.8.44:80 weight=1 max_fails=2 fail_timeout=30s;

    server   192.168.8.45:80 weight=1 max_fails=2 fail_timeout=30s;

  }

 

  server

  {

    listen       80;

    server_name  www.yourdomain.com;

    index index.html index.htm;

    root  /data0/htdocs/www;  

 

    location /

    {

         #如果后端的服务器返回502、504、执行超时等错误,自动将请求转发到upstream负载均衡池中的另一台服务器,实现故障转移。

         proxy_next_upstream http_502 http_504 error timeout invalid_header;

         proxy_cache cache_one;

         #对不同的HTTP状态码设置不同的缓存时间

         proxy_cache_valid  200 304 12h;

         #以域名、URI、参数组合成Web缓存的Key值,Nginx根据Key值哈希,存储缓存内容到二级缓存目录内

         proxy_cache_key $host$uri$is_args$args;

         proxy_set_header Host  $host;

         proxy_set_header X-Forwarded-For  $remote_addr;

         proxy_pass http://backend_server;

         expires      1d;

    }

    

    #用于清除缓存,假设一个URL为http://192.168.8.42/test.txt,通过访问http://192.168.8.42/purge/test.txt就可以清除该URL的缓存。

    location ~ /purge(/.*)

    {

     #设置只允许指定的IP或IP段才可以清除URL缓存。

     allow            127.0.0.1;

     allow            192.168.0.0/16;

     deny            all;

     proxy_cache_purge    cache_one   $host$1$is_args$args;

    }    

 

    #扩展名以.php、.jsp、.cgi结尾的动态应用程序不缓存。

    location ~ .*\.(php|jsp|cgi)?$

    {

         proxy_set_header Host  $host;

         proxy_set_header X-Forwarded-For  $remote_addr;

         proxy_pass http://backend_server;

    }

 

    access_log  off;

  }

}

##################################################################

启用Nginx

/usr/local/nginx/sbin/nginx



已有 0 人发表留言,猛击->> 这里<<-参与讨论


ITeye推荐



相关 [nginx proxy cache] 推荐:

nginx 设置 expires and Cache-Control

- - 互联网 - ITeye博客
源:http://nginx.org/en/docs/http/ngx_http_headers_module.html. Adds the specified field to a response header provided that the response code equals 200, 201, 204, 206, 301, 302, 303, 304, or 307.

Nginx content cache Nginx内容缓存

- - CSDN博客推荐文章
原文地址: http://nginx.com/resources/admin-guide/caching/. When caching is enabled NGINX saves responses in the cache on the disk and uses them to respond to clients without proxying the requests..

使用nginx作为websocket的proxy server

- - CSDN博客推荐文章
WebSocket协议为创建客户端和服务器端需要实时双向通讯的webapp提供了一个选择. 其为HTML5的一部分,WebSocket相较于原来开发这类app的方法来说,其能使开发更加地简单. 大部分现在的浏览器都支持WebSocket,比如Firefox,IE,Chrome,Safari,Opera,并且越来越多的服务器框架现在也同样支持WebSocket.

nginx做负载均衡器以及proxy缓存配置

- - SegmentFault 最新的文章
关于nginx的安装和基本配置请参考 nginx,本文在原基础上完成以下几个功能:. 结合proxy和upstream模块实现nginx负载均衡. 结合 nginx_upstream_check_module模块实现后端服务器的健康检查. 使用 nginx-sticky-module扩展模块实现Cookie会话黏贴(session-sticky效果).

开启nginx cache后导致内存几乎100%问题

- - 开涛的博客
1、前些日子某服务被刷,每分钟达到上几百万请求;当时采用了nginx cache来解决的;但是因为某服务不能缓存太久,当时设置了5s,那么带来的问题就是产生大量小文件,而且很快就删除了. 会发现used是27G;但是通过top查看进程占的内存并没有那么多. SReclaimable: 16474128 kB (这些是内核保持的但是可以释放的inode和dentry的缓存).

nginx cache静态化+tmpfs 高性能cdn方案

- - 开源软件 - ITeye博客
本文档主要分为3部分内容:. (1)       解决不同URL访问不同后端的nginx配置方法. (2)       Nginx cache和内存文件系统的配置方法. (3)       Proxy cache的详细配置内容. 2       匹配不同URL访问不同后端. 如果想通过访问不同类别URL分配到不同的后端通过nginx实现,首先举个例子,将需求场景进行描述:.

GitHub - winshining/nginx-http-flv-module: Media streaming server based on nginx-rtmp-module. In addtion to the features nginx-rtmp-module supplies, HTTP-FLV, GOP cache and VHOST are supported now.

- -
MUSTbe enclosed by quotation marks, or arguments in url will be discarded (some shells not so smart will interpret "&" as "run in background").. ngx_rtmp_stat_modulemay not get statistics from a specified worker process in multi-processes mode, for HTTP requests are randomly distributed to worker processes.

nginx cache静态化+tmpfs 高性能cdn方案 原创-胡志广

- - 开源软件 - ITeye博客
nginx cache静态化+tmpfs 高性能cdn方案 原创-胡志广. cachenginxproxy静态化. 本文档主要分为3部分内容:. (1)       解决不同URL访问不同后端的nginx配置方法. (2)       Nginx cache和内存文件系统的配置方法. (3)       Proxy cache的详细配置内容.

Guava cache

- - 孟飞阳的博客
Guava Cache是一个全内存的本地缓存实现,它提供了线程安全的实现机制. 整体上来说Guava cache 是本地缓存的不二之选,简单易用,性能好.    Guava Cache有两种创建方式:.   通过这两种方法创建的cache,和通常用map来缓存的做法比,不同在于,这两种方法都实现了一种逻辑——从缓存中取key X的值,如果该值已经缓存过了,则返回缓存中的值,如果没有缓存过,可以通过某个方法来获取这个值.

Java Cache系列之Guava Cache

- - BlogJava-首页技术区
然而作为工具库中的一部分,我们自然不能期待Guava对Cache有比较完善的实现. 因而Guava中的Cache只能用于一些把Cache作为一种辅助设计的项目或者在项目的前期为了实现简单而引入. 在Guava CacheBuilder的注释中给定Guava Cache以下的需求:. 对于这样的需求,如果要我们自己来实现,我们应该怎么设计.