使用memcache处理缓存的三种方案

标签: memcache 缓存 | 发表时间:2013-10-22 06:49 | 作者:a23456789zxcvbnm
出处:http://blog.csdn.net

这篇文章主要讨论的问题是:如何为项目设计一个完整而简洁的缓存系统。只讲做法,不讲原理。在我们项目中,使用到了三种方法,来保证了缓存系统的有效简洁。

1) 第一种,最常见的方式 读取数据的主要步骤如下:

       1)先从缓存中获取数据(如果在缓存中获取到,则直接返回已获取的数据)

        2)如果获取不到,再从数据库里面读取相应的数据

        3)  把获取到的数据加入缓存中

注意:这种方式是在Model层,也就是业务处理层加入的。

      实例代码如下:

    public static function getCombatPowerRank()
    {
        $cacheKey = 'Rank:CombatPower';

        // 先从缓存中读取
        if ($list = F('Memcache')->get($cacheKey)) {
            return $list;
        }

        $list = array();

        // 遍历所有用户分库,执行清理
        for ($i = 1; $i <= DIST_USER_DB_NUM; $i++) {
            if ($distList = Dao('Dist_User')->setDs($i)->getCombatPowerTopUsers(self::RANK_LIMIT)) {
                $list = array_merge($list, $distList);
            }
        }

        // 保存到缓存中
        F('Memcache')->set($cacheKey, $list, C('RANK_CACHE_TIME'));

        return $list;
    }

这种方式确实很好理解,有一个弊端就是,所有的缓存都需要手动的加上以上缓存的代码,需要修改函数的内部代码。请注意,我们在项目中加入缓存的时间是项目完成的差不多了,也就是说需要有很多这样的“读取类”函数加入缓存,如果全是以上这种加入缓存方式的话,需要修改很多函数的内部代码,那绝对是一个复杂而容易遗漏的苦力活。如果一不小心,就会出现错误。有没有好的方式可以集中的给某些函数加入这样的缓存系统呢(如果有的话,绝对是一个福音,哈哈)


2)第二种方式 ,在DAO层集中处理。在解释这种方法之前,我先简要说明一下我们的需求,便于更好理解为什么我可以这么做。

 在我们的游戏项目中,有一部分数据时静态资源数据,这种数据时配置好的,不会经常变动,每个用户需要的都一样。例如各种角色类的基础的属性,船只的基础属性等。这类数据涉及到的操作一般是读:把一张表全部读出来,获取根据某个条件读取相应的内容。既然操作单一,我们就直接在DAO层处理这类方法的缓存。做法就是给每一个Dao类里面的函数加入缓存。

        不改变方法的内部代码,却可以给每个方法加入缓存,PHP魔术方法__call()就可以实现,如果对象调用某个方法,而这个方法又不存在,那么就会调用到这个魔术方法了,具体实现代码如下:

    /**
     * 调用魔术方法
     *
     * @param string $method
     * @param mixed $args
     * @return mixed
     */
    public function __call($method, $args)
    {
        if (! method_exists($this, '__CACHE__' . $method)) {

            // 这里是实现数据库链式查询的,这里可以忽略
            return parent::__call($method, $args);
        }

        $cacheKey = md5($this->_dbName . ':' . $this->_tableName . ':' . $method . ':' . serialize($args));

        $data = $this->_cache->get($cacheKey);

        if ($data === false) {
            // 调用类里面的方法
            $data = call_user_func_array(array($this, '__CACHE__' . $method), $args);
            $this->_cache->set($cacheKey, $data);
        }

        return $data;
    }

代码运行机制: 比如说有这样的一个调用关系:Dao('Static_Ship')->get(),但是在Static_Ship这个类中没有get()这个方法,于是程序就会执行__call(),在这个类中,有一个这样的方法__CACHE__get()这样的一个方法,于是我就执行了这个方法,并且把这个函数的数据缓存起来了。这样就达到了我们的目的,不改变函数内部的代码,把函数的结果缓存起来。


3)集中处理和用户有关的数据的缓存。如果大家细心的话,可以发现方法2中缓存的键值设计并不针对某一个用户。

$cacheKey = md5($this->_dbName . ':' . $this->_tableName . ':' . $method . ':' . serialize($args)); 注意,这个键值的设计主要由库名,表名,方法名,参数,需要注意的是库名,因为如果数据库涉及到分布式处理,就需要定位到相应的库名中。如果需要缓存的数据和用户有关系,我该如何设计呢。

这个处理方式还是需要结合需求,在我们项目中,需要读取“我的船”相应的数据。比如

      1)我需要读取我的船的攻击力:getShipFieldByUserShipId($uid, $shipId, attack)

         2) 我需要读取船的防御力 :getShipFieldByUserShipId($uid, $shipId, defence)

         3) 读取我的船的航海速度:getShipFieldByUserShipId($uid, $shipId, speed)

这个时候,有两种SQL查询方法:

1) uid = $uid AND shipId = $shipId AND field=$field

2)   $data = " uid = $uid AND shipId = $shipId " 然后再这个$data数组中,返回相应的$data[$field].

你可能会觉得第二种方法会获取到一些无用的数据,不好。但是,事实上,第二种方法比第一种方法好,因为他可以使用索引查询,这个属于SQL优化的,暂且不讨论,第二个原因是便于方法可以加入缓存,查询条件越“统一”,越容易加入缓存。第三种做法也是在DAO层中实现,缓存方式正是基于查询条件高度统一的原则:

    public function getField($pk, $field)
    {
        // 禁用缓存时
        if (! $this->_isCached) {
            return $this->field($field)
                        ->where($this->_getPkCondition($pk))
                        ->fetchOne();
        }

        $data = $this->get($pk);
        return isset($data[$field]) ? $data[$field] : null;
    }

get方法的主要代码如下:

    /**
     * 根据主键 fetchRow
     *
     * @param mixed $pk
     * @return array
     */
    public function get($pk)
    {
        // 禁用缓存时
        if (! $this->_isCached) {
            return $this->where($this->_getPkCondition($pk))->fetchRow();
        }

        $cacheKey = $this->_getRowCacheKey($pk);

        // 保证相同的静态记录只读取一遍
        if (isset($this->_rowDatas[$cacheKey])) {
            return $this->_rowDatas[$cacheKey];
        }

        $row = $this->_cache->get($cacheKey);

        if ($row === false) {
            $row = $this->where($this->_getPkCondition($pk))->fetchRow() ?: array();
            $this->_cache->set($cacheKey, $row, $this->_cacheTTL);
            $this->_rowDatas[$cacheKey] = $row;
        }

        return $row;
    }

获取缓存键值的方法_getRowCacheKey()实现方式如下:
    // 获取单条记录缓存key
    protected function _getRowCacheKey($pk)
    {
        if (is_array($pk)) {
            $pkString = implode(':', $pk);
        }
        else {
            $pkString = $pk;
        }

        return md5($this->_dbName . ':' . $this->_tableName . ':get:' . $pkString);
    }
保证查询条件的高度统一,根据查询的条件设置缓存,就是第三中做法的精髓了。


缓存系统需要注意的几点:

1) 注意缓存系统的关联性,如果数据发生了变化,一定要更新缓存 

2)如果被缓存的数据和用户有关,一定要把$cacheKey处理好,保证每个用户数据不会被其它用户串改。特别需要注意的是分库的时候uid=1可不止一个哦

3)如果有必要的话,可以做一个缓存命中率的统计,统计哪些库的那些表被哪些函数操作的次数

4) 如果某些表的数据频繁的被修改,可以不需要缓存,如果用户的行文记录表,_isCached 这个属性就是用来控制是否需要缓存。

见如下代码:

    /**
     * 删除(根据主键)
     *
     * @param mixed $pk
     * @param array $extraWhere 格外的WHERE条件
     * @return bool
     */
    public function deleteByPk($pk, array $extraWhere = array())
    {
        $where = $this->_getPkCondition($pk);

        if ($extraWhere) {
            $where = array_merge($where, $extraWhere);
        }

        if (! $result = $this->where($where)->delete()) {
            return $result;
        }

        // 清理缓存
        if ($this->_isCached) {
            $this->_deleteRowCache($pk);
        }

        // 统计Memcache读写次数
        Dao('Massive_MemcacheRecord')->mark($this->_dbName, $this->_tableName, __METHOD__, 1);

        return $result;
    }




作者:a23456789zxcvbnm 发表于2013-10-21 22:49:02 原文链接
阅读:92 评论:0 查看评论

相关 [memcache 缓存] 推荐:

Memcache缓存与Mongodb数据库的优势和应用

- - C++博客-牵着老婆满街逛
转载自: http://www.jzxue.com/shujuku/shujukuzonghe/201005/19-3807.html. 先说说自己对 Memcache和Mongodb的一些看法,主要是抛砖引玉了,希望看到大家的意见和补充. Memcache的优势我觉得总结下来主要体现在:. 可以由10台拥有4G内存的机器,构成一个40G的内存池,如果觉得还不够大可以增加机器,这样一个大的内存池,完全可以把大部分热点业务数据保存进去,由内存来阻挡大部分对数据库读的请求,对数据库释放可观的压力.

使用memcache处理缓存的三种方案

- - CSDN博客架构设计推荐文章
这篇文章主要讨论的问题是:如何为项目设计一个完整而简洁的缓存系统. 在我们项目中,使用到了三种方法,来保证了缓存系统的有效简洁. 1) 第一种,最常见的方式 读取数据的主要步骤如下:.        1)先从缓存中获取数据(如果在缓存中获取到,则直接返回已获取的数据).         2)如果获取不到,再从数据库里面读取相应的数据.

Nosql Redis ttserver Flare memcache比较

- - 小彰
随着互联网web2.0网站的兴起,非关系型的数据库现在成了一个极其热门的新领域,非关系数据库产品的发展非常迅速. 而传统的关系数据库在应付 web2.0网站,特别是超大规模和高并发的SNS类型的web2.0纯动态网站已经显得力不从心,暴露了很多难以克服的问题,例如:. 1、High performance - 对数据库高并发读写的需求.

Memcache架构新思考

- - ITeye博客
2011年初Marc Kwiatkowski通过Memecache@Facebook介绍了Facebook的Memcache架构,现在重新审视这个架构,仍有很多方面在业界保持先进性. 作为weibo内部数据处理量最大,对数据延迟最敏感的部门,基于本厂2年多来对mc的使用心得,我在本文总结对MC架构的一些新思考.

Memcache工作原理总结

- - Java - 编程语言 - ITeye博客
1.  分片原理. 咱们废话话不多说了,直接看Memcache的原理. 首先memcache解决的最大的一个问题就是内存多次读取的内存碎片问题. 内存碎片分为内存内部碎片和内存外部碎片. 一般是指在外部碎片中出现了不连续的细小内存片段,不能够被进程利用.

mctop: 监视 Memcache 流量

- - LinuxTOY
mctop 与 top 相似,主要用于监视 Memcache 的流量,包括 key 的调用次数、对象存储大小、每秒的请求数、以及消耗的网络带宽等. mctop 的源代码可从 GitHub 获取. 收藏到 del.icio.us |.

深入理解Memcache原理

- - CSDN博客研发管理推荐文章
1.为什么要使用memcache.  由于网站的高并发读写需求,传统的关系型数据库开始出现瓶颈,例如:. 1)对数据库的高并发读写:. 关系型数据库本身就是个庞然大物,处理过程非常耗时(如解析SQL语句,事务处理等). 如果对关系型数据库进行高并发读写(每秒上万次的访问),那么它是无法承受的. 对于大型的SNS网站,每天有上千万次的苏剧产生(如twitter, 新浪微博).

[Cacti] memcache安装运行、cacti监控memcache实战

- - CSDN博客系统运维推荐文章
Memcache是danga.com的一个项目,最早是为 LiveJournal 服务的,目前全世界不少人使用这个缓存项目来构建自己大负载的网站,来分担数据库的压力. Memcache官方网站:http://memcached.org/. 下载地址:  http://www.memcached.org/downloads,我们线上使用的比较稳定的版本是1.4.15,如果官网找不到以前的版本了,可以去我的csdn资源里面下载此版本,下载地址:.

深入研究memcache 特性和限制

- - 开源软件 - ITeye博客
转自 http://hi.baidu.com/jqxw4444/item/59c33ea3656ede3e020a4d1c. 在 Memcached中可以保存的item数据量是没有限制的,只要内存足够. Memcached单进程最大使用内存为2G,要使用更多内存,可以分多个端口开启多个Memcached进程,最大30天的数据过期时间,设置为永久的也会在这个时间过期.

[转]Memcache内存分配策略

- - 企业架构 - ITeye博客
一、Memcache内存分配机制.         关于这个机制网上有很多解释的,我个人的总结如下. Memcached的内存分配以page为单位,默认情况下一个page是1M,可以通过-I参数在启动时指定. 如果需要申请内存时,memcached会划分出一个新的page并分配给需要的slab区域.