Hadoop環(huán)境搭建過程中遇到的問題及解決方法
1.啟動hadoop之前,ssh免密登錄slave主機正常,使用命令start-all.sh
啟動hadoop時,需要輸入slave主機的密碼,說明ssh文件權(quán)限有問題,需要執(zhí)行以下操作:
1)進入.ssh目錄下查看是否有公鑰私鑰文件authorized_keys、id_rsa、id_rsa.pub
2)如果沒有公鑰私鑰文件,則執(zhí)行ssh-keygen -t
rsa生成秘鑰(master主機和slave主機都需要執(zhí)行)
3)公鑰私鑰文件生成完成后,執(zhí)行cat id_rsa.pub >> authorized_keys
,將生成的公鑰添加到認證文件中
4)將slave服務(wù)器公鑰寫入master服務(wù)器authorized_keys
文件中
[root@master ~]# ssh-copy-id -i slave01 [root@master ~]# ssh-copy-id -i slave02
5)登錄slave服務(wù)器(ssh slave01),看是否需要輸入密碼,如果仍然需要輸入密碼,說明uthorized_keys文件權(quán)限有問題,則執(zhí)行下一步
6)使用ssh -vvv slave01調(diào)試命令,進入到slave01調(diào)試界面
7)設(shè)置authorized_keys文件權(quán)限為600,chmod 600 ~/.ssh/authorized_keys
8)同理,slave01也要同樣進行設(shè)置,在master主機的終端中繼續(xù)執(zhí)行步驟6和步驟7中的命令
9)設(shè)置完成后在master主機中,登錄slave01和slave02,如果不需要輸入密碼,則配置完成
10)停止hadoop的所有進程:stop-all.sh
11)重新啟動hadoop:start-all.sh
2.啟動hadoop之后,使用jps查看,master服務(wù)器中沒有namenode服務(wù),解決方案如下:
1)首先停止hadoop的所有進程:stop-all.sh
2)格式化namenode:hdfs namenode -format
3)重新啟動hadoop:start-all.sh
4)輸入jps查看,可以看到namenode進程
3.啟動hadoop之后,使用jps查看,slave服務(wù)器中沒有datanode服務(wù),解決方案如下:
1)首先停止hadoop的所有進程:stop-all.sh
2)進入hadoop安裝目錄下:/software/hadoop中刪除hadoopdate文件夾
3)進入hadoop安裝目錄下:/software/hadoop中的hadoop-2.7.3文件夾中刪除logs文件夾
4)在slave01主機和slave02主機的終端執(zhí)行步驟2和步驟3,確保步驟2和步驟3的文件夾都刪除干凈
5)格式化namenode:hdfs namenode -format
6)重新啟動hadoop:start-all.sh
7)在slave01主機和slave02主機的終端輸入jps查看,可以看到datanode進程
總結(jié)
以上所述是小編給大家介紹的Hadoop環(huán)境搭建過程中遇到的問題及解決方法 ,希望對大家有所幫助,如果大家有任何疑問請給我留言,小編會及時回復(fù)大家的。在此也非常感謝大家對腳本之家網(wǎng)站的支持!
如果你覺得本文對你有幫助,歡迎轉(zhuǎn)載,煩請注明出處,謝謝!
相關(guān)文章
K8ssandra入門教程之Linux上部署K8ssandra到Kubernetes的過程
K8ssandra不僅幫助我們可以快速可靠地在Kubernetes上部署Cassandra,同時提供了許多組件,如監(jiān)控、備份、同步、訪問等,這篇文章給大家介紹K8ssandra入門教程之Linux上部署K8ssandra到Kubernetes的過程,一起看看吧2021-10-10HttpGet請求與Post請求中參數(shù)亂碼原因剖析與解決方案
這篇文章主要介紹了HttpGet請求與Post請求中參數(shù)亂碼原因剖析,文中有相關(guān)的代碼示例,具有一定的參考價值,需要的朋友可以參考下2023-07-07Notepad++文本比較插件Compare詳解(最新免費)
Notepad++是一款強大的文本編輯器,它提供了文件對比功能,可以幫助我們快速找出兩個文件之間的差異點,這篇文章主要介紹了Notepad++文本比較插件Compare詳解(最新免費),感興趣的朋友一起看看吧2024-01-01詳解使用內(nèi)網(wǎng)穿透工具Ngrok代理本地服務(wù)
本文主要介紹了使用內(nèi)網(wǎng)穿透工具Ngrok代理本地服務(wù),文中通過示例代碼介紹的非常詳細,對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2022-03-03在小程序中實現(xiàn)ChatGPT?聊天打字兼自動滾動效果
ChatGPT已經(jīng)長時間大火,未來將會是AI的天下,們需要更多地學(xué)習(xí)和掌握AI,而不是被AI所取代,在?ChatGPT?的背景下,我們今天來聊聊在小程序中怎么實現(xiàn)類似?chatGPT?的聊天打字效果,并且實現(xiàn)滾動效果2023-06-06大數(shù)據(jù)HelloWorld-Flink實現(xiàn)WordCount
這篇文章主要介紹了大數(shù)據(jù)HelloWorld-Flink實現(xiàn)WordCount的相關(guān)知識,非常不錯,具有一定的參考借鑒價值,需要的朋友可以參考下2019-08-08