Nginx的Memc和SR Cache模塊
我們知道,Nginx的核心設計思想是事件驅動的非阻塞I/O。Nginx被設計為可以配置I/O多路復用策略,在Unix系統中傳統的多路復用是 采用select或poll,但是這兩個方法的問題是隨著監聽socket的增加,性能會下降,因為在linux內核中是采用輪詢的方式判斷是否可以觸發 事件,換句話說算法的復雜度為O(N),而在較新的linux內核中引入了復雜度為O(1)的epoll,因此Nginx在Linux下默認采用 epoll,而在FreeBSD下默認采用kqueue作為I/O策略。
即便是這樣,傳統的緩存策略仍可能造成效率低下,因為傳統上是通過PHP操作memcache的,要執行PHP代碼,Nginx就必然要和FastCGI通信,同時也要進入PHP的生命周期,因此SAPI、PHP Core和Zend Engine的一系列邏輯會被執行。 更糟糕的是,fpm和PHP可能會阻塞,因此破壞了Nginx的非阻塞性。 (原文中此處表述有誤,fastcgi與nginx進行同步通信,但并不會破壞nginx i/o的非阻塞性,多謝agentzh給予指正)下圖展示了在memcache命中時整個處理過程。
可以看到,即使memcache命中,還是要進入PHP的生命周期。我們知道,目前很多互聯網應用都使用RESTful規范進行設計,在 RESTful應用下,普遍使用uri和查詢參數作為緩存的key,因此一種更高效的緩存策略是Nginx直接訪問memcache,并用$uri 和$args等Nginx內置變量設定緩存key規則,這樣,當緩存命中時,Nginx可以跳過通過fastcgi和PHP通信的過程,直接從 memcache中獲取數據并返回。memc-nginx和srcache-nginx正是利用這種策略提高了緩存的效率。下圖是這種高效緩存策略的示意 圖(當memcache命中時)。
模塊介紹
memc-nginx和srcache-nginx模 塊均為前淘寶工程師agentzh(章亦春)開發。其中memc模塊擴展了Nginx標準的memcache模塊,增加了set、add、delete等 memcache命令,而srcache則是為location增加了透明的基于subrequest的緩存層。兩者配合使用,可以實現上一節提到的高效 緩存機制。關于兩個模塊的詳細信息可以參考它們Nginx官網的wiki(memc wiki,srcache wiki)頁。
http://blog.codinglabs.org/articles/nginx-memc-and-srcache.html