欧美bbbwbbbw肥妇,免费乱码人妻系列日韩,一级黄片

Hadoop datanode重新加載失敗無法啟動現(xiàn)象解決方法介紹

  發(fā)布時間:2013-07-29 17:10:39   作者:佚名   我要評論
本人的解決方法適用于首次已經(jīng)成功啟動整個集群,但是由于不正常的操作造成第二次無法正常啟動。首次的啟動失敗可能原因有很多:可能是由于配置文件錯誤寫入造成的,或是由于ssh無密碼登陸配置錯誤造成

筆者使用的是基于虛擬機的Hadoop分布式安裝,由于關(guān)閉datanode和namenode的順序不恰當(dāng),所以經(jīng)常會出現(xiàn)datanode加載失敗的情況。

本人的解決方法適用于首次已經(jīng)成功啟動整個集群,但是由于不正常的操作造成第二次無法正常啟動。首次的啟動失敗可能原因有很多:可能是由于配置文件錯誤寫入造成的,或是由于ssh無密碼登陸配置錯誤造成。

而第二次的錯誤原因與首次啟動的有一些區(qū)別,排錯重點應(yīng)該集中在程序在運行中的一些動態(tài)加載而生成的文件上,筆者要討論的是第二種情況:

大多原因就是因為hadoop的datanode的VERSION文件中的namespaceID與namenode中的VERSION文件中的namespaceID二者出現(xiàn)不一致的情況。而namespaceID的生成筆者推斷應(yīng)該是在執(zhí)行:hdfs namenode -format 這個命令的時候生成的。

解決步驟如下:

1,首先停掉namenode上相關(guān)的進(jìn)程:切換到hadoop的/sbin目錄下:

sh  stop-dfs.sh

sh stop-yarn.sh

2,切換到hadoop的相應(yīng)/current目錄下將current下的所有文件清除。

3,將datanode與namenode的/current 下VERSION等相應(yīng)文件文件清除后,回到namenode上,執(zhí)行hsfs namenode -format命令,接著切換到namenode的hadoop的/sbin目錄下:

執(zhí)行sh start-dfs.sh

sh start-yarn.sh

(舊版本的mapre  被新版本的yarn所替代,命令上多少有些不同)

既可以看到相應(yīng)的節(jié)點成功加載。

相應(yīng)的思想就是,當(dāng)出錯時,清除掉一切干擾思路的文件,然后整理思緒,重新開始,這樣要遠(yuǎn)比在原地徘徊要好。

(由于我們在配置文件中指明的文件夾只有  hdfs tmp log,所以其余的文件也好文件夾也好都是動態(tài)執(zhí)行腳本生成創(chuàng)建的,刪除之后只要hadoop整個系統(tǒng)可以工作就會生成,即便錯刪,VM的 snapshot 也會拯救這個世界。)

相關(guān)文章

最新評論