nginx proxy_store文件管理實現方案
本文主要介紹關于nginx中proxy_store文件管理實現方案的介紹,因nginx proxy_store可以實現將上游服務器下載下來的文件放置到某個目錄中作為靜態文件下發到下游客戶端,但是這種方式的缺陷在于nginx內部無文件管理主要是LRU,基于此提供了一個解決方案修復此缺陷,實現方式采用golang+redis;
1。源碼下載地址:
https://github.com/cxwshawn/ngx_proxy_store_file_mgr
2。介紹:
1)、nginx-conf目錄:主要實現基于nginx.conf中操作redis數據庫代碼,基于lua實現;大致流程:
獲取cache鎖是否是locked -> 如果是locked,說明文件管理進程正在做lru策略,直接proxy到上游,不操作本地文件;
-> 非locked, 那么設置redis中sorted set文件訪問時間(即score)
redis結構采用hash+sorted set; hash為md5(uri)->filepath, sortedset 為:md5(uri)+ngx.now()(score)排序;
2)、src目錄:主要采用golang實現的nginx proxy_store的文件管理,主要思想:
目前只統計當磁盤剩余不超過20%時,通過redis中的sorted set排序結果取百分比的數量依次進行刪除;
3)、配置項:
{
"MaxFileLimit" : 100000, 最大文件數量,超過該數量時做LRU(未實現)
"CheckInterval" : 20, 檢測做LRU的時間間隔
"ExpireDays" : 7, 過期時間超過7day的文件均會刪除
"ErrorLog": true, 是否輸出錯誤日志
"AccessLog": false, 是否輸入調試日志
"SortedSetName": "defset", redis中sortedset的名字與access_file.lua文件中的sorte set名字一致
"HashName": "defhash", redis中hash名字與access_file.lua文件中的hash名字一致
"RedisAddr" : "127.0.0.1:6379", redis數據庫的地址
"RoutineCount" : 32 go lru的并發數
}