hadoop再次集群搭建(5)-CDH Install
登錄 http://node1.com:7180/.用戶名和密碼都是admin。啟動服務命令是
service cloudera-scm-server start 最開始兩個頁面直接continue,然后會出現下面這個頁面:

可以看出我們可以通過Cloudera Manager安裝的hadoop組件。
接下來,配置我們要安裝的服務器有哪些:

我這里有三臺服務器。
接下來選擇cdh版本:我選擇最新的5.5.1

是否安裝jdk:

是否是單用戶模式:我選擇不適用

在常規 Cloudera Manager 部署中,管理每個主機上的 Hadoop 進程的 Cloudera Manager Agent 以根用戶運行。但是,某些環境限制對根帳戶的訪問。
Cloudera Manager 5.3 提供了單用戶模式,從而滿足了對些類環境的要求。在單用戶模式中,Cloudera Manager Agent 和所有由 Cloudera Manager 所管理服務運行的進程作為單個配置的用戶和組啟動。在系統上運行的 Hadoop 進程之間,單用戶模式確定 Hadoop 與系統其他部分(隔離以外)之間的隔離的優先級。
在 Cloudera Manager 部署中,單用戶模式為全局模式,并且適用于所有由該 Cloudera Manager 實例管理的群集。
默認情況下,單用戶為 cloudera-scm,并且在以下部分所描述的配置步驟中假定該用戶用單用戶。但是,也支持其他用戶。如果選擇其他用戶,請在以下步驟中使用所選用戶替換 cloudera-scm,并執行 使用非默認單用戶 中的附加步驟。
接下來提供集群的 ssh登錄配置。

這里選擇了root用戶,選擇hadoop怎么弄都不行,現在還是沒有找到原因。我的hadoop是有user權限的,不知道為什么不行。
接下來就是安裝界面:

可以查看details看到運行的腳本。也可以通過網絡監控查看下載的速度:


可以看出下載速度其實挺快的。有這個網絡監控工具可以大致看到集群內部的連接狀態:

安裝過程中node2老是報錯,經過檢查原來是node2上面的hosts文件配置錯誤,導致不能創建socket。所以集群一定要保證每一臺服務器都可以相互通信,這是前提。

然后就是安裝cdh了:

下載完成,分發:這里下載只是在server這個機器上下載,下載一次之后分發給其他的服務器:

安裝成功之后,進行集群檢查,出現如下提示:

第一個警示是:系統的交換參數是60而集群要求的是10,需要進行修改
第二個是 Transparent Huge Page Compaction開啟,會極大的影響集群的性能,需要關閉。
修改步驟:
第一個是 /proc/sys/vm/swappiness的值為60 而不是10,而這個文件是不能夠修改的。解決方法是修改 /etc/sysctl.conf 增加vm.swappiness=10在最后
第二個直接運行echo never > /sys/kernel/mm/transparent_hugepage/defrag 然后增加同樣的命令道系統初始化的腳本中。 /etc/rc.local 加在這個文件里面
然后是設置集群

集群配置我選擇默認,感覺node1服務比較多,配置低的盆友可以適當均勻一下。
然后是測試數據庫:集群需要使用數據庫進行工作,包括hive等進行存儲元數據


完成安裝:

Charles 于2015-12-17 Phnom Penh
版權說明:
本文由Charles Dong原創,本人支持開源以及免費有益的傳播,反對商業化謀利。
CSDN博客:http://blog.csdn.net/mrcharles
個人站:http://blog.xingbod.cn
EMAIL:charles@xingbod.cn
來自: http://blog.csdn.net//mrcharles/article/details/50357254
本文由用戶 jopen 自行上傳分享,僅供網友學習交流。所有權歸原作者,若您的權利被侵害,請聯系管理員。
轉載本站原創文章,請注明出處,并保留原始鏈接、圖片水印。
本站是一個以用戶分享為主的開源技術平臺,歡迎各類分享!