欧美bbbwbbbw肥妇,免费乱码人妻系列日韩,一级黄片

Linux刪除重復(fù)行的代碼

  發(fā)布時(shí)間:2016-11-25 23:26:11   作者:佚名   我要評(píng)論
這篇文章主要介紹了Linux刪除重復(fù)行的代碼,需要的朋友可以參考下

文本處理時(shí),經(jīng)常要?jiǎng)h除重復(fù)行,下面是三種方法

第一,用sort+uniq,注意,單純uniq是不行的。

sort -n test.txt | uniq 

第二,用sort+awk命令,注意,單純awk同樣不行,原因同上。

 sort -n $file | awk '{if($0!=line)print; line=$0}'
 
第三,用sort+sed命令,同樣需要sort命令先排序。
sort -n $file | sed '$!N; /^.∗\n\1$/!P; D'

Shell腳本

# !/bin/sh

file='test.txt'
sort -n $file | uniq
sort -n $file | awk '{if($0!=line)print; line=$0}'
sort -n $file | sed '$!N; /^\(.*\)\n\1$/!P; D'

測(cè)試文件:
yanggang@barry$ cat test.txt
aaa
bbbbb
ccccc
123
aaaaa
123
bbb
aaa
執(zhí)行結(jié)果:
yanggang@barry$ ./diffRow.sh
aaa
aaaaa
bbb
bbbbb
ccccc
123

相關(guān)文章

最新評(píng)論