hadoop再次集群搭建(5)-CDH Install

jopen 8年前發布 | 19K 次閱讀 分布式/云計算/大數據

   登錄 http://node1.com:7180/.用戶名和密碼都是admin。啟動服務命令是
service  cloudera-scm-server start

最開始兩個頁面直接continue,然后會出現下面這個頁面:


可以看出我們可以通過Cloudera Manager安裝的hadoop組件。


接下來,配置我們要安裝的服務器有哪些:

我這里有三臺服務器。


接下來選擇cdh版本:我選擇最新的5.5.1



是否安裝jdk:



是否是單用戶模式:我選擇不適用




在常規 Cloudera Manager 部署中,管理每個主機上的 Hadoop 進程的 Cloudera Manager Agent 以根用戶運行。但是,某些環境限制對根帳戶的訪問。

Cloudera Manager 5.3 提供了單用戶模式,從而滿足了對些類環境的要求。在單用戶模式中,Cloudera Manager Agent 和所有由 Cloudera Manager 所管理服務運行的進程作為單個配置的用戶和組啟動。在系統上運行的 Hadoop 進程之間,單用戶模式確定 Hadoop 與系統其他部分(隔離以外)之間的隔離的優先級。

在 Cloudera Manager 部署中,單用戶模式為全局模式,并且適用于所有由該 Cloudera Manager 實例管理的群集。

默認情況下,單用戶為 cloudera-scm,并且在以下部分所描述的配置步驟中假定該用戶用單用戶。但是,也支持其他用戶。如果選擇其他用戶,請在以下步驟中使用所選用戶替換 cloudera-scm,并執行 使用非默認單用戶 中的附加步驟。




接下來提供集群的 ssh登錄配置。


這里選擇了root用戶,選擇hadoop怎么弄都不行,現在還是沒有找到原因。我的hadoop是有user權限的,不知道為什么不行。

接下來就是安裝界面:



可以查看details看到運行的腳本。也可以通過網絡監控查看下載的速度:


可以看出下載速度其實挺快的。有這個網絡監控工具可以大致看到集群內部的連接狀態:




安裝過程中node2老是報錯,經過檢查原來是node2上面的hosts文件配置錯誤,導致不能創建socket。所以集群一定要保證每一臺服務器都可以相互通信,這是前提。


然后就是安裝cdh了:

下載完成,分發:這里下載只是在server這個機器上下載,下載一次之后分發給其他的服務器:
安裝成功之后,進行集群檢查,出現如下提示:

第一個警示是:系統的交換參數是60而集群要求的是10,需要進行修改
第二個是 Transparent Huge Page Compaction開啟,會極大的影響集群的性能,需要關閉。
修改步驟:
第一個是  /proc/sys/vm/swappiness的值為60 而不是10,而這個文件是不能夠修改的。解決方法是修改 /etc/sysctl.conf 增加vm.swappiness=10在最后
第二個直接運行echo never > /sys/kernel/mm/transparent_hugepage/defrag 然后增加同樣的命令道系統初始化的腳本中。 /etc/rc.local 加在這個文件里面

然后是設置集群


集群配置我選擇默認,感覺node1服務比較多,配置低的盆友可以適當均勻一下。
然后是測試數據庫:集群需要使用數據庫進行工作,包括hive等進行存儲元數據



完成安裝:




Charles 于2015-12-17 Phnom Penh



版權說明:
本文由Charles Dong原創,本人支持開源以及免費有益的傳播,反對商業化謀利。
CSDN博客:http://blog.csdn.net/mrcharles
個人站:http://blog.xingbod.cn
EMAIL:charles@xingbod.cn

來自: http://blog.csdn.net//mrcharles/article/details/50357254

 本文由用戶 jopen 自行上傳分享,僅供網友學習交流。所有權歸原作者,若您的權利被侵害,請聯系管理員。
 轉載本站原創文章,請注明出處,并保留原始鏈接、圖片水印。
 本站是一個以用戶分享為主的開源技術平臺,歡迎各類分享!