欧美bbbwbbbw肥妇,免费乱码人妻系列日韩,一级黄片

hadoop常見錯(cuò)誤以及處理方法詳解

 更新時(shí)間:2013年06月19日 18:07:24   作者:  
本篇文章是對(duì)hadoop常見錯(cuò)誤以及處理方法進(jìn)行了詳細(xì)的分析介紹,需要的朋友參考下

1、hadoop-root-datanode-master.log 中有如下錯(cuò)誤:
ERROR org.apache.hadoop.hdfs.server.datanode.DataNode: java.io.IOException: Incompatible namespaceIDs in
導(dǎo)致datanode啟動(dòng)不了。
原因:每次namenode format會(huì)重新創(chuàng)建一個(gè)namenodeId,而dfs.data.dir參數(shù)配置的目錄中包含的是上次format創(chuàng)建的id,和dfs.name.dir參數(shù)配置的目錄中的id不一致。namenode format清空了namenode下的數(shù)據(jù),但是沒有清空datanode下的數(shù)據(jù),導(dǎo)致啟動(dòng)時(shí)失敗,所要做的就是每次fotmat前,清空dfs.data.dir參數(shù)配置的目錄.
格式化hdfs的命令

復(fù)制代碼 代碼如下:

hadoop namenode -format 

2、如果datanode連接不上namenode,導(dǎo)致datanode無法啟動(dòng)。
ERROR org.apache.hadoop.hdfs.server.datanode.DataNode: java.io.IOException: Call to ... failed on local exception: java.net.NoRouteToHostException: No route to host
關(guān)閉防火墻
復(fù)制代碼 代碼如下:

service iptables stop

機(jī)器重啟后,防火墻還會(huì)開啟。

3、從本地往hdfs文件系統(tǒng)上傳文件,出現(xiàn)如下錯(cuò)誤:
INFO hdfs.DFSClient: Exception in createBlockOutputStream java.io.IOException: Bad connect ack with firstBadLink
INFO hdfs.DFSClient: Abandoning block blk_-1300529705803292651_37023
WARN hdfs.DFSClient: DataStreamer Exception: java.io.IOException: Unable to create new block.
解決方法:
關(guān)閉防火墻:

復(fù)制代碼 代碼如下:

service iptables stop

禁用selinux:
編輯 /etc/selinux/config文件,設(shè)置“SELINUX=disabled”

4、安全模式導(dǎo)致的錯(cuò)誤
org.apache.hadoop.dfs.SafeModeException: Cannot delete ..., Name node is in safe mode
在分布式文件系統(tǒng)啟動(dòng)的時(shí)候,開始的時(shí)候會(huì)有安全模式,當(dāng)分布式文件系統(tǒng)處于安全模式的情況下,文件系統(tǒng)中的內(nèi)容不允許修改也不允許刪除,直到安全模式結(jié)束。安全模式主要是為了系統(tǒng)啟動(dòng)的時(shí)候檢查各個(gè)DataNode上數(shù)據(jù)塊的有效性,同時(shí)根據(jù)策略必要的復(fù)制或者刪除部分?jǐn)?shù)據(jù)塊。運(yùn)行期通過命令也可以進(jìn)入安全模式。在實(shí)踐過程中,系統(tǒng)啟動(dòng)的時(shí)候去修改和刪除文件也會(huì)有安全模式不允許修改的出錯(cuò)提示,只需要等待一會(huì)兒即可。

復(fù)制代碼 代碼如下:

hadoop dfsadmin -safemode leave

關(guān)閉安全模式

相關(guān)文章

最新評(píng)論