那些年我們一起追過的Java緩存寫法(一)

jopen 9年前發布 | 110K 次閱讀緩存緩存組件

介紹

本篇主要說下樓主平常項目中緩存使用經驗和遇到過的問題。

一：基本寫法

為了方便演示，我們用Runtime.Cache做緩存容器，并定義個簡單操作類。如下：

public class CacheHelper
   {
       public static object Get(string cacheKey)
       {
           return HttpRuntime.Cache[cacheKey];
       }
       public static void Add(string cacheKey, object obj, int cacheMinute)
       {
           HttpRuntime.Cache.Insert(cacheKey, obj, null, DateTime.Now.AddMinutes(cacheMinute),
               Cache.NoSlidingExpiration, CacheItemPriority.Normal, null);
       }
   }

簡單讀取：

public object GetMemberSigninDays1()
    {
        const int cacheTime = 5;
        const string cacheKey = "mushroomsir";

        var cacheValue = CacheHelper.Get(cacheKey);
        if (cacheValue != null)
            return cacheValue;

        cacheValue = "395"; //這里一般是 sql查詢數據。 例：395 簽到天數
        CacheHelper.Add(cacheKey, cacheValue, cacheTime);
        return cacheValue;
    }

在項目中，有不少這樣寫法。這樣寫沒有錯，但在并發量上來后就會有問題。繼續看

二：緩存雪崩

緩存雪崩是由于緩存失效(過期)，新緩存未到期間。

這個中間時間內，所有請求都去查詢數據庫，而對數據庫CPU和內存造成巨大壓力，前端連接數不夠、查詢阻塞。

這個中間時間并沒有那么短，比如sql查詢1秒，加上傳輸解析0.5秒。就是說1.5秒內所有用戶查詢，都是直接查詢數據庫的。

這種情況下，我們想到最多的就是加鎖排隊了。

1：全局鎖，實例鎖

 public static object obj1 = new object();
        public object GetMemberSigninDays2()
        {
            const int cacheTime = 5;
            const string cacheKey = "mushroomsir";

            var cacheValue = CacheHelper.Get(cacheKey);

            if (cacheValue != null)
                return cacheValue;

            //lock (obj1)         //全局鎖
            //{
            //    cacheValue = CacheHelper.Get(cacheKey);
            //    if (cacheValue != null)
            //        return cacheValue;
            //    cacheValue = "395"; //這里一般是 sql查詢數據。 例：395 簽到天數
            //    CacheHelper.Add(cacheKey, cacheValue, cacheTime);
            //}
            lock (this)
            {
                cacheValue = CacheHelper.Get(cacheKey);
                if (cacheValue != null)
                    return cacheValue;

                cacheValue = "395"; //這里一般是 sql查詢數據。 例：395 簽到天數
                CacheHelper.Add(cacheKey, cacheValue, cacheTime);
            }
            return cacheValue;
        }

第一種：lock (obj1) 是全局鎖可以滿足，但我們要為每個函數都聲明一個obj，不然在A、B函數都鎖obj1時，必然會讓其中一個阻塞。

第二種：lock (this) 這個鎖當前實例，對其他實例無效，這個鎖就沒什么效果了。使用單例模式的可以鎖。

但在當前實例中：A函數鎖當前實例，其他鎖當前實例的函數讀寫，也被阻塞。不可取

2：字符串鎖

既然鎖對象不行，利用字符串的特性，我們直接鎖緩存key呢。來看下

 public object GetMemberSigninDays3()
        {
            const int cacheTime = 5;
            const string cacheKey = "mushroomsir";

            var cacheValue = CacheHelper.Get(cacheKey);
            if (cacheValue != null)
                return cacheValue;
            const string lockKey = cacheKey + "n(*≧▽≦*)n";

            //lock (cacheKey)
            //{
            //    cacheValue = CacheHelper.Get(cacheKey);
            //    if (cacheValue != null)
            //        return cacheValue;
            //    cacheValue = "395"; //這里一般是 sql查詢數據。 例：395 簽到天數
            //    CacheHelper.Add(cacheKey, cacheValue, cacheTime);
            //}
            lock (lockKey)
            {
                cacheValue = CacheHelper.Get(cacheKey);
                if (cacheValue != null)
                    return cacheValue;
                cacheValue = "395"; //這里一般是 sql查詢數據。 例：395 簽到天數
                CacheHelper.Add(cacheKey, cacheValue, cacheTime);
            }
            return cacheValue;
        }

第一種：lock (cacheName) 有問題，因為字符串也是共享的，會阻塞其他使用這個字符串的操作行為。具體請看之前的博文 c#語言-多線程中的鎖系統(一)。

2015-01-04 13:36更新：因為字符串被公共語言運行庫 (CLR)暫留，這意味著整個程序中任何給定字符串都只有一個實例。所以才會用第二種

第二種：lock (lockKey) 可以滿足。其實目就是為了保證鎖的粒度最小并且全局唯一性，只鎖當前緩存的查詢行為。

三：緩存穿透

舉個簡單例子：一般我們會緩存用戶搜索結果。而數據庫查詢不到，是不會做緩存的。但如果頻繁查這個關鍵字，就會每次都直查數據庫了。

這樣緩存就沒意義了，這也是常提的緩存命中率問題。

  public object GetMemberSigninDays4()
        {
            const int cacheTime = 5;
            const string cacheKey = "mushroomsir";

            var cacheValue = CacheHelper.Get(cacheKey);
            if (cacheValue != null)
                return cacheValue;
            const string lockKey = cacheKey + "n(*≧▽≦*)n";

            lock (lockKey)
            {
                cacheValue = CacheHelper.Get(cacheKey);
                if (cacheValue != null)
                    return cacheValue;

                cacheValue = null; //數據庫查詢不到，為空。
                //if (cacheValue2 == null)
                //{
                //    return null;  //一般為空，不做緩存
                //}
                if (cacheValue == null)
                {
                    cacheValue = string.Empty; //如果發現為空，我設置個默認值，也緩存起來。
                }
                CacheHelper.Add(cacheKey, cacheValue, cacheTime);
            }
            return cacheValue;
        }

例子中我們把查詢不到的結果，也給緩存起來了。這樣就可以避免，查詢為空時，引起緩存穿透了。

當然我們也可以單獨設置個緩存區，進行第一層控制校驗。以便和正常緩存區分開了。

四：再談緩存雪崩

額不是用加鎖排隊方式就解決了嗎？其實加鎖排隊只是為了減輕DB壓力，并沒有提高系統吞吐量。

在高并發下：緩存重建期間，你是鎖著的，1000個請求999個都在阻塞的。用戶體驗不好，還浪費資源：阻塞的線程本可以處理后續請求的。

public object GetMemberSigninDays5()
        {
            const int cacheTime = 5;
            const string cacheKey = "mushroomsir";

            //緩存標記。
            const string cacheSign = cacheKey + "_Sign";
            var sign = CacheHelper.Get(cacheSign);

            //獲取緩存值
            var cacheValue = CacheHelper.Get(cacheKey);
            if (sign != null)
                return cacheValue; //未過期，直接返回。

            lock (cacheSign)
            {
                sign = CacheHelper.Get(cacheSign);
                if (sign != null)
                    return cacheValue;

                CacheHelper.Add(cacheSign, "1", cacheTime);
                ThreadPool.QueueUserWorkItem((arg) =>
                {
                    cacheValue = "395"; //這里一般是 sql查詢數據。 例：395 簽到天數
                    CacheHelper.Add(cacheKey, cacheValue, cacheTime*2); //日期設緩存時間的2倍，用于臟讀。
                });
            }
            return cacheValue;
        }

代碼中，我們多用個緩存標記key，雙檢鎖校驗。它設置為正常時間，過期后通知另外的線程去更新緩存數據。

而實際的緩存由于設置了2倍的時間，仍然可以能用臟數據給前端展現。

這樣就能提高不少系統吞吐量了。

五：總結

補充下：這里說的阻塞其他函數指的是，高并發下鎖同一對象。

實際使用中，緩存層封裝往往要復雜的多。關于更新緩存，可以單開一個線程去專門跑這些，圖方便就扔線程池吧。

具體使用場景，可根據實際用戶量來平衡。

來源：蘑菇先生

本文由用戶 jopen 自行上傳分享，僅供網友學習交流。所有權歸原作者，若您的權利被侵害，請聯系管理員。

轉載本站原創文章，請注明出處，并保留原始鏈接、圖片水印。

本站是一個以用戶分享為主的開源技術平臺，歡迎各類分享！

本文地址：http://www.baiduhome.net/lib/view/open1425524285415.html

緩存緩存組件