周六的S2 Web 2.0技能沙龙上先容了memcache中利用mutex场景(文后要演讲稿),有网友对详情绪兴趣,大略先容如下。
场景
Mutex紧张用于有大量并发访问并存在cache过期的场合,如

问题
在大并发的场合,当cache失落效时,大量并发同时取不到cache,会同一瞬间去访问db并回设cache,可能会给系统带来潜在的超负荷风险。我们曾经在线上系统涌现过类似故障。
办理方法
方法一
在load db之前先add一个mutex key, mutex key add成功之后再去做加载db, 如果add失落败则sleep之后重试读取原cache数据。为了防止去世锁,mutex key也须要设置过期韶光。伪代码如下
(注:下文伪代码仅供理解思路,可能存在bug,欢迎随时指出。)
if (memcache.get(key) == null) { // 3 min timeout to avoid mutex holder crash if (memcache.add(key_mutex, 3 60 1000) == true) { value = db.get(key); memcache.set(key, value); memcache.delete(key_mutex); } else { sleep(50); retry(); }}
方法二
在value内部设置1个超市价(timeout1), timeout1比实际的memcache timeout(timeout2)小。当从cache读取到timeout1创造它已经由期时候,立时延长timeout1并重新设置到cache。然后再从数据库加载数据并设置到cache中。伪代码如下
v = memcache.get(key);if (v == null) { if (memcache.add(key_mutex, 3 60 1000) == true) { value = db.get(key); memcache.set(key, value); memcache.delete(key_mutex); } else { sleep(50); retry(); }} else { if (v.timeout <= now()) { if (memcache.add(key_mutex, 3 60 1000) == true) { // extend the timeout for other threads v.timeout += 3 60 1000; memcache.set(key, v, KEY_TIMEOUT 2); // load the latest value from db v = db.get(key); v.timeout = KEY_TIMEOUT; memcache.set(key, value, KEY_TIMEOUT 2); memcache.delete(key_mutex); } else { sleep(50); retry(); } }}
相对付方案一
优点:避免cache失落效时候大量要求获取不到mutex并进行sleep
缺陷:代码繁芜性增大,因此一样平常场合用方案一也已经足够。
方案二在Memcached FAQ中也有详细先容 How to prevent clobbering updates, stampeding requests,并且Brad还先容了用他其余一个得意的工具 Gearman 来实现单实例设置cache的方法,见 Cache miss stampedes,不过用Gearman来办理就觉得就有点奇技淫巧了。
附:本次Web2.0技能沙龙演讲主题:微博Cache设计谈,需下载请点击演讲稿下menu/download (需登录slideshare)。
微博cache设计谈 http://www.slideshare.net/iso1600/cache-4842490