欧美bbbwbbbw肥妇,免费乱码人妻系列日韩,一级黄片

linux_HDFS文件上傳后的追加報錯問題

 更新時間:2023年12月05日 09:32:16   作者:12級龍卷風(fēng)  
這篇文章主要介紹了linux_HDFS文件上傳后的追加報錯問題,具有很好的參考價值,希望對大家有所幫助,如有錯誤或未考慮完全的地方,望不吝賜教

一、背景描述

此時有node1,node2,node3虛擬機

HDFS中存在/itcast/1.txt文件

linux_node2中/test/下存在2.txt和3.txt

現(xiàn)在上傳本地2.txt,3.txt文件到HDFS中追加到1.txt文件的末尾

二、顯示報錯如下

1.第一報錯

[root@node2 ~]# hadoop fs -appendToFile 2.txt 3.txt /itcast/1.txt
2023-06-06 11:22:37,011 WARN hdfs.DataStreamer: DataStreamer Exception
java.io.IOException: Failed to replace a bad datanode on the existing pipeline due to no more good datanodes being available to try. (Nodes: current=[DatanodeInfoWithStorage[192.168.88.152:9866,DS-c220bd52-1e8d-406a-ac61-8c310e39364f,DISK], DatanodeInfoWithStorage[192.168.88.151:9866,DS-115b8ce0-0944-44f6-8638-e123a08e806f,DISK]], original=[DatanodeInfoWithStorage[192.168.88.151:9866,DS-115b8ce0-0944-44f6-8638-e123a08e806f,DISK], DatanodeInfoWithStorage[192.168.88.152:9866,DS-c220bd52-1e8d-406a-ac61-8c310e39364f,DISK]]). The current failed datanode replacement policy is DEFAULT, and a client may configure this via 'dfs.client.block.write.replace-datanode-on-failure.policy' in its configuration.
        at org.apache.hadoop.hdfs.DataStreamer.findNewDatanode(DataStreamer.java:1304)
        at org.apache.hadoop.hdfs.DataStreamer.addDatanode2ExistingPipeline(DataStreamer.java:1372)
        at org.apache.hadoop.hdfs.DataStreamer.handleDatanodeReplacement(DataStreamer.java:1598)
        at org.apache.hadoop.hdfs.DataStreamer.setupPipelineInternal(DataStreamer.java:1499)
        at org.apache.hadoop.hdfs.DataStreamer.setupPipelineForAppendOrRecovery(DataStreamer.java:1481)
        at org.apache.hadoop.hdfs.DataStreamer.run(DataStreamer.java:719)
appendToFile: /root/2.txt

原因:

  • node3的HDFS的從節(jié)點失聯(lián)

解決:

  • 可以查看我其他筆記查看這個問題解決思路

2.第二個報錯

[root@node2 ~]# hadoop fs -appendToFile 2.txt 3.txt /itcast/1.txt
appendToFile: Failed to APPEND_FILE /itcast/1.txt for DFSClient_NONMAPREDUCE_-1199279342_1 on 192.168.88.152 because lease recovery is in progress. Try again later.

原因:

  • 文件的權(quán)限只有讀的權(quán)限

解決:

  • 修改HDFS中的1.txt的文件權(quán)限

[root@node2 ~]# hadoop fs -chmod 777 /itcast/1.txt

3.第三個報錯

[root@node2 ~]# hadoop fs -appendToFile 2.txt 3.txt /itcast/1.txt
appendToFile: /root/2.txt

原因:

  • 發(fā)現(xiàn)上傳拼接的路徑不對,上述命令的路徑不是/目錄下

解決:

  • 查看文件存在的路徑
  • 修改文件上傳的路徑如下
[root@node2 ~]# ll
total 24
-rw-r--r--  1 root root     0 Jun  6 08:24 1.txt
-rw-------. 1 root root  1365 Jun  4 11:52 anaconda-ks.cfg
drwxr-xr-x  2 root root    84 Jun  6 08:36 test
-rw-r--r--  1 root root 19263 Jun  4 22:00 zookeeper.out
[root@node2 ~]# cd  test
[root@node2 test]# ll
total 16
-rw-r--r-- 1 root root 2 Jun  6 08:25 1.txt
-rw-r--r-- 1 root root 2 Jun  6 08:26 2.txt
-rw-r--r-- 1 root root 2 Jun  6 08:26 3.txt
-rw-r--r-- 1 root root 6 Jun  6 08:36 merge.txt
[root@node2 test]# hadoop fs -appendToFile 2.txt 3.txt /itcast/1.txt

總結(jié)

以上為個人經(jīng)驗,希望能給大家一個參考,也希望大家多多支持腳本之家。

  • Linux中關(guān)于控制進程的命令總結(jié)

    Linux中關(guān)于控制進程的命令總結(jié)

    程序是一組可執(zhí)行的靜態(tài)指令集,而進程(process)是一個執(zhí)行中的程序?qū)嵗?下面這篇文章主要給大家介紹了Linux中關(guān)于控制進程的一些命令,包括Linux如何查看進程、啟動進程等常用命令,下面來一起看看吧
    2017-03-03
  • win7下VMware虛擬機安裝linux7.2上網(wǎng)配置教程

    win7下VMware虛擬機安裝linux7.2上網(wǎng)配置教程

    這篇文章主要為大家詳細介紹了win7下VMware虛擬機安裝linux7.2上網(wǎng)配置教程,具有一定的參考價值,感興趣的小伙伴們可以參考一下
    2018-09-09
  • Linux靜態(tài)鏈接庫與模板類的處理方式

    Linux靜態(tài)鏈接庫與模板類的處理方式

    這篇文章主要介紹了Linux下編譯使用靜態(tài)鏈接庫遇到模板類的時該如何處理。
    2017-11-11
  • Git 詳細介紹查看、刪除、重命名遠程分支和tag

    Git 詳細介紹查看、刪除、重命名遠程分支和tag

    這篇文章主要介紹了Git 詳細介紹查看、刪除、重命名遠程分支和tag的相關(guān)資料,需要的朋友可以參考下
    2017-01-01
  • Linux磁盤分區(qū)實現(xiàn)原理及方法解析

    Linux磁盤分區(qū)實現(xiàn)原理及方法解析

    這篇文章主要介紹了Linux磁盤分區(qū)實現(xiàn)原理及方法解析,文中通過示例代碼介紹的非常詳細,對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友可以參考下
    2020-08-08
  • 在Ubuntu 14 上安裝 Nginx-RTMP 流媒體服務(wù)器的教程

    在Ubuntu 14 上安裝 Nginx-RTMP 流媒體服務(wù)器的教程

    RTMP流媒體協(xié)議是 一套 Adobe 開發(fā)的音頻視頻實時傳輸協(xié)議;nginx-rtmp 是一個基于nginx的 RTMP服務(wù)模塊,開源,免費,接下來通過本文給大家介紹在Ubuntu 14 上安裝 Nginx-RTMP 流媒體服務(wù)器,需要的朋友可以參考下
    2019-11-11
  • centos7 + php7 lamp全套最新版本配置及mongodb和redis教程詳解

    centos7 + php7 lamp全套最新版本配置及mongodb和redis教程詳解

    這篇文章主要介紹了centos7 + php7 lamp全套最新版本配置及mongodb和redis教程詳解,需要的朋友可以參考下
    2016-10-10
  • Ubuntu下搭建mail郵件服務(wù)器的方法教程

    Ubuntu下搭建mail郵件服務(wù)器的方法教程

    這篇文章主要給大家介紹了Ubuntu下搭建mail服務(wù)器的方法教程,文中介紹的非常詳細,對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面來一起看看吧。
    2017-04-04
  • 在Linux上識別同樣內(nèi)容的文件詳解

    在Linux上識別同樣內(nèi)容的文件詳解

    這篇文章主要給大家介紹了關(guān)于如何在Linux上識別同樣內(nèi)容的文件的相關(guān)資料,文中通過示例代碼介紹的非常詳細,對大家學(xué)習(xí)或者使用Linux具有一定的參考學(xué)習(xí)價值,需要的朋友們下面來一起學(xué)習(xí)學(xué)習(xí)吧
    2019-06-06
  • 最新評論