分布式任務分發框架Gearman教程和PHP實現實例

LouL36 8年前發布 | 10K 次閱讀 PHP開發

來自: http://blog.csdn.net//clh604/article/details/19706827


1、Gearman介紹和使用場景

Gearman是一個分發任務的程序框架,可以用在各種場合,與Hadoop相 比,Gearman更偏向于任務分發功能。它的任務分布非常簡單,簡單得可以只需要用腳本即可完成。Gearman最初用于LiveJournal的圖片 resize功能,由于圖片resize需要消耗大量計算資源,因此需要調度到后端多臺服務器執行,完成任務之后返回前端再呈現到界面。


通常,多語言多系統之間的集成是個大問題,一般來說,人們多半會采用WebService的方式來處理此類集成問題,但不管采用何種風格的WebService,如RPC風格,或者REST風格,其本身都有一定的復雜性。相比之下,Gearman也能實現類似的作用,而且更簡單易用。


一個Gearman請求的處理過程涉及三個角色:Client -> Job -> Worker。


Client:請求的發起者,可以是C,PHP,Perl,MySQL UDF等等。
Job:請求的調度者,用來負責協調把Client發出的請求轉發給合適的Work。
Worker:請求的處理者,可以是C,PHP,Perl等等。


因為Client,Worker并不限制用一樣的語言,所以有利于多語言多系統之間的集成。


甚至我們通過增加更多的Worker,可以很方便的實現應用程序的分布式負載均衡架構。

2、Gearman job分發服務端安裝

安裝Gearman server and library:
wget http://launchpad.net/gearmand/trunk/0.8/+download/gearmand-0.8.tar.gz
tar zxf gearmand-0.8.tar.gz
cd gearmand-0.8
./configure
sudo make
sudo make install


中間可能會遇到些問題:
在./configure的時候,可能會出現缺少libraries的情況,一般是缺少libevent和uuid這兩個開發包,安裝之。。。

sudo apt-get install libevent-dev
sudo apt-get install uuid-dev


安裝完成后再重新配置安裝,安裝完成后執行
sudo ldconfig

3、Gearman Client和Worker端PHP實現實例

安裝Gearman PHP extension:
wget http://pecl.php.net/get/gearman-0.4.0.tgz
tar zxf gearman-0.4.0.tgz
cd gearman-0.4.0
phpize
./configure
sudo make
sudo make install


中間可能遇到的問題:
找不到phpize命令,phpize在php開發包中,所以要先安裝php5-dev

sudo apt-get install php5-dev

安裝完后,就可以在源碼目錄中執行phpize生成相關安裝配置信息,接著執行后面的./configure等

make install后,它告訴你一個目錄,生成的gearman.so就在那里。

根據需要考到相應PHP的擴展目錄里(因為我直接用系統默認安裝的php,它自動生成就在擴展中)


接下來修改php.ini以使php加載該模塊:
php --ini
看下php.ini在哪里,sudo vim 修改之,在其中加入
extension = "gearman.so"

然后,開始編寫client和worker端

client.php

[php]  view plain copy

</div>

</div>

  1. <?php    
  2.   $clientnew GearmanClient();    
  3.   $client->addServer("127.0.0.1", 4730);    
  4.   print $client->do("title""Linvo");    
  5.   print "/n";    
  6. ?>    

</div>


worker.php

[php]  view plain copy

</div>

</div>

  1. <?php    
  2.   $workernew GearmanWorker();    
  3.   $worker->addServer("127.0.0.1", 4730);     
  4.   $worker->addFunction("title""title_function");    
  5.   while (true){
  6.      $worker->work();
  7.      if ($this->worker->returnCode() != GEARMAN_SUCCESS) {
    //Gearman 狀態錯誤 需要做日志或異常處理
         }
  8.   }
  9.        
  10.   function title_function($job)    
  11.   {    
  12.     $str = $job->workload();    
  13.     return strlen($str);    
  14.   }    
  15. ?>  

</div>


準備工作已經完畢,試驗開始

1、啟動job

gearmand -d


2、啟動worker

php -c /etc/php5/apache2/php.ini worker.php


3、啟動client(新開終端中打開)

php -c /etc/php5/apache2/php.ini client.php


屏幕顯示字符串的長度 “5”


這里,有幾點需要說明一下:

1、這里直接用php cli方式運行,添加-c參數是為了加載php.ini配置文件,以加載gearman擴展

2、worker應該做成守護進程(CLI模式),可以開啟多個,這樣client發起的任務就會分發到各個worker分別來執行(自動負載均衡 )

這個例子由于太過簡單,即使開啟多個worker也無法看出效果,不過可以通過終止其中一個,可以看出系統自動切換到其他worker繼續正常執行

3、同理,client也是可以開啟多個的(模型請參考之前的那邊日志)

4、同時,job也可以開啟多個,以避免單點故障


</div>





 本文由用戶 LouL36 自行上傳分享,僅供網友學習交流。所有權歸原作者,若您的權利被侵害,請聯系管理員。
 轉載本站原創文章,請注明出處,并保留原始鏈接、圖片水印。
 本站是一個以用戶分享為主的開源技術平臺,歡迎各類分享!