hadoop常見錯(cuò)誤以及處理方法詳解
1、hadoop-root-datanode-master.log 中有如下錯(cuò)誤:
ERROR org.apache.hadoop.hdfs.server.datanode.DataNode: java.io.IOException: Incompatible namespaceIDs in
導(dǎo)致datanode啟動(dòng)不了。
原因:每次namenode format會(huì)重新創(chuàng)建一個(gè)namenodeId,而dfs.data.dir參數(shù)配置的目錄中包含的是上次format創(chuàng)建的id,和dfs.name.dir參數(shù)配置的目錄中的id不一致。namenode format清空了namenode下的數(shù)據(jù),但是沒有清空datanode下的數(shù)據(jù),導(dǎo)致啟動(dòng)時(shí)失敗,所要做的就是每次fotmat前,清空dfs.data.dir參數(shù)配置的目錄.
格式化hdfs的命令
hadoop namenode -format
2、如果datanode連接不上namenode,導(dǎo)致datanode無法啟動(dòng)。
ERROR org.apache.hadoop.hdfs.server.datanode.DataNode: java.io.IOException: Call to ... failed on local exception: java.net.NoRouteToHostException: No route to host
關(guān)閉防火墻
service iptables stop
機(jī)器重啟后,防火墻還會(huì)開啟。
3、從本地往hdfs文件系統(tǒng)上傳文件,出現(xiàn)如下錯(cuò)誤:
INFO hdfs.DFSClient: Exception in createBlockOutputStream java.io.IOException: Bad connect ack with firstBadLink
INFO hdfs.DFSClient: Abandoning block blk_-1300529705803292651_37023
WARN hdfs.DFSClient: DataStreamer Exception: java.io.IOException: Unable to create new block.
解決方法:
關(guān)閉防火墻:
service iptables stop
禁用selinux:
編輯 /etc/selinux/config文件,設(shè)置“SELINUX=disabled”
4、安全模式導(dǎo)致的錯(cuò)誤
org.apache.hadoop.dfs.SafeModeException: Cannot delete ..., Name node is in safe mode
在分布式文件系統(tǒng)啟動(dòng)的時(shí)候,開始的時(shí)候會(huì)有安全模式,當(dāng)分布式文件系統(tǒng)處于安全模式的情況下,文件系統(tǒng)中的內(nèi)容不允許修改也不允許刪除,直到安全模式結(jié)束。安全模式主要是為了系統(tǒng)啟動(dòng)的時(shí)候檢查各個(gè)DataNode上數(shù)據(jù)塊的有效性,同時(shí)根據(jù)策略必要的復(fù)制或者刪除部分?jǐn)?shù)據(jù)塊。運(yùn)行期通過命令也可以進(jìn)入安全模式。在實(shí)踐過程中,系統(tǒng)啟動(dòng)的時(shí)候去修改和刪除文件也會(huì)有安全模式不允許修改的出錯(cuò)提示,只需要等待一會(huì)兒即可。
hadoop dfsadmin -safemode leave
關(guān)閉安全模式
相關(guān)文章
flash+php+mysql打造簡(jiǎn)單留言本教程
剛開始做這個(gè)留言本的時(shí)候,連mysql和php都沒接觸過。經(jīng)過痛苦的查找資料和學(xué)習(xí),郁悶了一個(gè)星期后完成了我的簡(jiǎn)單留言本2008-07-07php實(shí)現(xiàn)將上傳word文件轉(zhuǎn)為html的方法
這篇文章主要介紹了php實(shí)現(xiàn)將上傳word文件轉(zhuǎn)為html的方法,涉及php針對(duì)word文件操作的相關(guān)技巧,需要的朋友可以參考下2015-06-06PHP的curl實(shí)現(xiàn)get,post和cookie(實(shí)例介紹)
本篇文章是對(duì)PHP的curl實(shí)現(xiàn)get,post和cookie的方法進(jìn)行了詳細(xì)的分析介紹,需要的朋友參考下2013-06-06php實(shí)現(xiàn)陽歷陰歷互轉(zhuǎn)的方法
這篇文章主要介紹了php實(shí)現(xiàn)陽歷陰歷互轉(zhuǎn)的方法,同時(shí)還能獲取干支紀(jì)年,生肖,以及相應(yīng)的陰歷的中文叫法等,感興趣的小伙伴們可以參考一下2015-10-10用PHP ob_start()控制瀏覽器cache、生成html實(shí)現(xiàn)代碼
Output Control 函數(shù)可以讓你自由控制腳本中數(shù)據(jù)的輸出。它非常地有用,特別是對(duì)于:當(dāng)你想在數(shù)據(jù)已經(jīng)輸出后,再輸出文件頭的情況。2010-02-02PHP實(shí)現(xiàn)圖片自動(dòng)清理的方法
這篇文章主要介紹了PHP實(shí)現(xiàn)圖片自動(dòng)清理的方法,可實(shí)現(xiàn)清除固定日期內(nèi)沒有訪問的圖片,具有一定參考借鑒價(jià)值,需要的朋友可以參考下2015-07-07