大型網站的負載均衡器、db proxy和db

本文主要分析網站后臺架構中的負載均衡器，企業常用的硬件負載均衡器軟件負載均衡器、數據庫代理服務器和數據庫。

1.1 負載均衡

在大型網站部署中，負載均衡至少有三層部署。第一層為web server或者緩存代理之上的負載均衡，第二層為數據庫之上的負載均衡，第三層為存儲設備之上的負載均衡。

在 第一層部署中，最常使用的是硬件負載均衡器有F5 BIG-IP、Citrix NetScaler、Radware、Cisco CSS、Foundry等產品。這些產品價格不菲，高達幾十萬人民幣。在中國大陸，采用F5Network公司的BIG-IP負載均衡交換機的網站有新浪 網、雅虎、百度、搜狐、鳳凰網、央視國際、中華英才網、貓撲、暢游等。之前淘寶采用 NetScaler作為其硬件負載均衡器。后來用軟件負載均衡器LVS和HAproxy混合使用來代替硬件負載均衡器。硬件負載均衡器可以提供OSI參考 模型的第四/七層進行負載均衡。在第七層實現負載均衡的原理是，通過檢查流經的HTTP報頭，根據報頭內的信息來執行負載均衡任務。在第四層(網絡層)實 現負載均衡的DR模式的原理是，通過更改請求包的目的MAC地址來進行負載均衡。

在第一層部署中，最常用的軟件負載均衡器為LVS(LinuxVirtual Server)和HAproxy。其中LVS采用基于IP負載均衡技術和基于內容請求分發技術。最常用的LVS負載均衡技術為DR負載均衡。

在第二層部署中，最常用的為mysql-proxy(后端部署必須為MySQL數據庫)，該代理服務器可以監測、分析或改變客戶端的通信。最常用途為負載均衡，讀寫分離等。

在第三層部署中，最常用的存儲設備都要做RAID，其中RAID0便為最基本的存儲層的負載均衡。RAID0通過分帶技術，將數據分割，然后并行的讀寫于各個磁盤上。這樣實現底層存儲一級的負載均衡。

1.2 LVS軟件負載均衡器

LVS(LinuxVirtual Server)是由章文嵩博士主導開發的一款開源軟件，可以實現Linux平臺下的基于網絡層的負載均衡軟件。典型的基本架構圖如圖6-2-1所示。

                                                                            圖6-2-1

LVS集群采用IP負載均衡技術和基于內容請求分發技術。

如 圖6-2-1所示，LVS集群采用基于IP負載均衡技術和基于內容請求分發技術。當客戶端有請求時，首先將請求包傳送到Load Balance，然后Load Balance從后面的Real Servers中按照一定的算法策略選取一臺Real Server，比如Real Server1，然后把請求包發送給Real Server1進行處理。對所有用戶而言，面向用戶的服務器端IP地址，只有一臺，稱之為VirtualIP Address。

1.2.1 LVS集群中實現的三種IP負載均衡技術

VS/NAT、 VS/TUN 和VS/DR技術是LVS集群中實現的三種IP負載均衡技術。

1.2.1.1 VS/NAT技術

VS/NAT(VirtualServer via Network Address Translation)技術，主要通過網絡地址轉換，將一組服務器構成一個高性能的、高可用的虛擬服務器。NAT的工作原理是當內部網絡中的主機要訪問 Internet或被Internet訪問時，就需要采用網絡地址轉換NAT,將內部地址轉化為Internet上可用的外部地址。NAT的工作原理是報 文頭(目標地址、源地址和端口等)被正確改寫后，客戶端相信他們連接到了一個IP地址，而不同的IP地址服務器組也認為他們與客戶直接相連的。由此，可以 用NAT方法將不同IP地址的并行網絡服務變成一個IP地址上的虛擬服務。VS/NAT的體系結構如圖6-2-1-1所示。

                                                                                                           圖6-2-1-1

客戶端訪問服務器的請求包和響應包變化情況如下所示：

訪問Web服務的報文可能有以下的源地址和目標地址：

SOURCE

202.100.1.2:3456

DEST

202.103.106.5:80

調度器從調度列表中選出一臺服務器，例如是172.16.0.3:8000。該報文會被改寫為如下地址，并將它發送給選出的服務器。

SOURCE

202.100.1.2:3456

DEST

172.16.0.3:8000

從服務器返回到調度器的響應報文如下：

SOURCE

172.16.0.3:8000

DEST

202.100.1.2:3456

響應報文的源地址會被改寫為虛擬服務的地址，再將報文發送給客戶：

SOURCE

202.103.106.5:80

DEST

202.100.1.2:3456

這樣，客戶認為是從202.103.106.5:80服務得到正確的響應，而不會知道該請求是服務器172.16.0.2還是服務器172.16.0.3處理的。

1.2.1.2 VS/TUN技術

VS/TUN 的工作原理：它的連接調度和管理與VS/NAT中的一樣，只是它的報文轉發方法不同。調度器根據各個服務器的負載情況，動態地選擇一臺服務器，將請求報文 封裝在另一個IP報文中，再將封裝后的IP報文轉發給選出的服務器；服務器收到報文后，先將報文解封獲得原來目標地址為VIP的報文，服務器發現VIP地 址被配置在本地的IP隧道設備上，所以就處理這個請求，然后根據路由表將響應報文直接返回給客戶。如圖6-2-1-2所示。

                                                                                      圖6-2-1-2

1.2.1.3 VS/DR技術

在 VS/DR中，調度器根據各個服務器的負載情況，動態地選擇一臺服務器，不修改也不封裝IP報文，而是將數據幀的MAC地址改為選出服務器的MAC地址， 再將修改后的數據幀在與服務器組的局域網上發送。因為數據幀的MAC地址是選出的服務器，所以服務器肯定可以收到這個數據幀，從中可以獲得該IP報文。當 服務器發現報文的目標地址VIP是在本地的網絡設備上，服務器處理這個報文，然后根據路由表將響應報文直接返回給客戶。如圖6-2-1-3所示。

                                                                                  圖6-2-1-3

1.2.1.4 LVS的調度算法

前面幾節，介紹了LVS的三種基于IP的負載均衡技術，下面簡單介紹一下調度算法。調度算法的目的是解決如何合理有效的從LVS后端的RealServers中，選擇一個RealServer來對請求包進行處理。在整個LVS項目中，共給出八種調度算法，主要有：

(1)輪詢調度。主要指按順序從RealServers中選擇一臺RealServers。

(2) 加權輪叫調度。給Real Servers設置一定權值，進行調度。

(3)最小連接調度。按照RealServers的連接情況進行調度。

(4)加權最小連接。根據設置的權值和現有的連接數進行調度。

(5)基于局部性的最小連接。主要用于增大Cache命中。

(6)代復制的基于局部性的最小連接。

(7)目標地址散列調度。

(8)源地址散列調度。

在上述八種調度算法中，最常用的調度算法是輪詢調度。

1.3 db proxy

在 大型互聯網站的數據庫部署中，部署最多的數據庫為MySQL。隨著MySQL中Innodb存儲引擎對事物的支持，MySQL在互聯網公司部署中，應用量 越來越多。典型應用MySQL的公司有Google、Baidu、Taobao等大型互聯網公司。MySQL的優勢在于其高擴展性和價格優勢等。實際 上，MySQL可以免費應用于企業級的部署中。

在MySQL復制方式部署中，有兩種部署方式：同步復制和異步復制。同步復制采用NDB 存儲引擎，異步復制需要使用mysql-proxy結合master-slave實現。

異 步復制主要為了解決讀寫分離的問題。因為用戶對網站的訪問有讀操作多，寫操作少的特點。甚至像taobao.com這樣的網站讀寫比例高達10:1，所以 采用MySQL-Proxy結合主從異步復制實現讀寫分離是非常重要的增快訪問速度的方法。這樣如果有更高的用戶訪問需求，通過增加slave機器，不會 對現有系統提供的服務產生影響而實現很好的、很靈活的業務擴展。

1.3.1 mysql-proxy

mysql-proxy是一個MySQL的代理服務器，用戶的請求先發向mysql-proxy，然后mysql-proxy對用戶的數據包進行分析，從下一層的mysql 數據庫中選擇一臺數據庫，將用戶的請求包交給mysql處理。

首 先MySQL Proxy 以服務器的身份接受客戶端的請求，根據相應配置對這些請求進行分析處理，然后以客戶端的身份轉發給相應的后端數據庫服務器，再接受服務器的信息，然后返回 給客戶端。所以MySQL Proxy需要同時實現客戶端和服務器的協議。由于要對客戶端發送過來的SQL語句進行分析，還需要包含一個SQL解析器。MySQL Proxy通過使用lua腳本，來實現復雜的連接控制和過濾，從而實現讀寫分離和負載平衡。所以部署MySQL-Proxy需要安裝運行Lua語言的環 境。典型的MySQL-Proxy應用為實現讀寫分離，如圖6-3-1所示。

                                                                                   圖6-3-1

1.3.2 MySQL主從復制(Master-Slave Replication)

MySQL 主從復制(Master-Slave Replication)是通過設置在Master MySQL上的binlog(使其處于打開狀態)，Slave MySQL上通過一個I/O線程從Master MySQL上讀取binlog，然后傳輸到Slave MySQL的中繼日志中，然后Slave MySQL的SQL線程從中繼日志中讀取中繼日志，然后應用到Slave MySQL的數據庫中。這樣實現了數據庫的復制功能。原理如圖6-3-2所示：

                                                            圖6-3-2

MySQL主從復制的作用如下：

(1)    可以作為一種備份機制。

(2)    可以用來做讀寫分離。

1.3.3 MySQL主從復制結合MySQL Proxy實現讀寫分離

通過使用MySQL-Proxy來作為代理服務器，配置MySQL Proxy，將所有的寫操作，分流到master MySQL上，所有的讀操作分流到slave MySQLs。      

這樣就實現了讀寫分離。如果有新的訪問需求，只需添加slave MySQL機器來解決問題。所以這樣的結構擴展能力非常好。如圖6-3-3所示。

                                                                                       圖6-3-3

1.4 本文小結

本文主要論述了負載均衡在大型網站后臺架構中的應用。主要分析了應用層的軟件負載均衡器LVS的三種負載均衡算法，簡單介紹了LVS的八種調度算法。詳細分析了MySQL的主從復制和讀寫分離的實現機制。給出了高可用網站后臺的部署中解決負載均衡的方案。
作者：鳳凰舞者 qq:578989855
原文地址：http://blog.csdn.net/longxibendi/article/details/6665670