Go語言實(shí)現(xiàn)ssh&scp的方法詳解
前言
最近遇到一個(gè)臨時(shí)需求,需要將客戶環(huán)境中一個(gè)服務(wù)每天的日志進(jìn)行一系列復(fù)雜處理,并生成數(shù)據(jù)報(bào)表。由于數(shù)據(jù)處理邏輯復(fù)雜,且需要存入數(shù)據(jù)庫,在客戶環(huán)境使用 shell
腳本無法處理,因此就需要將日志先拷貝到本地,再進(jìn)行處理;同時(shí)為了避免每天人工拷貝日志,需要實(shí)現(xiàn)自動(dòng)化,整條鏈路自動(dòng)執(zhí)行,無需人工干預(yù)。平時(shí)使用 Go
語言較多,由此就引出了 Go
語言 ssh
連接遠(yuǎn)程客戶服務(wù)器,并利用 scp
將數(shù)據(jù)拷貝下來的一系列操作。
說明:本文中的示例,均是基于Go1.17 64位機(jī)器
連接遠(yuǎn)程服務(wù)器并執(zhí)行命令(ssh)
如下給出了使用 用戶名+密碼
的方式連接遠(yuǎn)程服務(wù)器并執(zhí)行了 /usr/bin/whoami
命令的示例,步驟如下:
- 生成
ClientConfig
:想要連接遠(yuǎn)程服務(wù)器,必須要至少指定一種實(shí)現(xiàn)了Auth
的AuthMethod
,我們這里使用密碼的方式;同時(shí)需要提供 一種用于安全校驗(yàn)遠(yuǎn)程服務(wù)端key的方法HostKeyCallback
,我們這里使用的是不校驗(yàn)的方式ssh.InsecureIgnoreHostKey()
,生產(chǎn)情況下建議使用ssh.FixedHostKey(key PublicKey)
; - 調(diào)用
Dial
:Dial
方法與遠(yuǎn)程服務(wù)器建立連接,并返回一個(gè)client
; NewSession
:NewSession
方法開啟一個(gè)會(huì)話,在一個(gè)會(huì)話內(nèi)可以通過Run
方法執(zhí)行一個(gè)命令。
import?( ?"bytes" ?"fmt" ?"log" ?? ??"golang.org/x/crypto/ssh" ) func?main()?{ ?var?( ??username?=?"your?username" ??password?=?"your?password" ??addr?????=?"ip:22" ?) ? ?config?:=?&ssh.ClientConfig{ ??User:?username, ??Auth:?[]ssh.AuthMethod{ ???ssh.Password(password), ??}, ??HostKeyCallback:?ssh.InsecureIgnoreHostKey(), ?} ?client,?err?:=?ssh.Dial("tcp",?addr,?config) ?if?err?!=?nil?{ ??log.Fatal("Failed?to?dial:?",?err) ?} ?defer?client.Close() ?//?開啟一個(gè)session,用于執(zhí)行一個(gè)命令 ?session,?err?:=?client.NewSession() ?if?err?!=?nil?{ ??log.Fatal("Failed?to?create?session:?",?err) ?} ?defer?session.Close() ?//?執(zhí)行命令,并將執(zhí)行的結(jié)果寫到?b?中 ?var?b?bytes.Buffer ?session.Stdout?=?&b ?? ??//?也可以使用?session.CombinedOutput()?整合輸出 ?if?err?:=?session.Run("/usr/bin/whoami");?err?!=?nil?{ ??log.Fatal("Failed?to?run:?"?+?err.Error()) ?} ?fmt.Println(b.String())??//?root }
上面的例子,我們在 Run
方法里面?zhèn)魅肓艘粋€(gè)命令,然后遠(yuǎn)程服務(wù)器會(huì)將執(zhí)行結(jié)果返回給我們,如果是復(fù)雜操作,通過傳入命令的方式就比較麻煩。比如上面提到的需求,需要我從 k8s
容器中拷貝出服務(wù)每天的日志,拆解后的步驟為:獲取服務(wù)的多個(gè) k8s pod
名稱,根據(jù)當(dāng)前日期,從多個(gè)容器中分別拷貝日志文件,然后整合成一個(gè)日志文件。針對(duì)復(fù)雜操作,我們可以在遠(yuǎn)程服務(wù)器編寫一個(gè)腳本,然后 Run
方法中傳入執(zhí)行腳本的命令。
簡單舉個(gè)示例,我們在遠(yuǎn)程服務(wù)器編寫了一個(gè)腳本 test.sh
,放在了 /opt
目錄下,腳本內(nèi)容 與 調(diào)用方式分別如下:
#?腳本文件 #!/bin/bash today=$(date?+"%Y-%m-%d") #?將數(shù)據(jù)寫入文件 $(df?-h?>?$today.log)
package?main import?( ?"fmt" ?"log" ?? ??"golang.org/x/crypto/ssh" ) func?main()?{ ?var?( ??username?=?"your?username" ??password?=?"your?password" ??addr?????=?"ip:22" ?) ?config?:=?&ssh.ClientConfig{ ??User:?username, ??Auth:?[]ssh.AuthMethod{ ???ssh.Password(password), ??}, ??HostKeyCallback:?ssh.InsecureIgnoreHostKey(), ?} ?client,?err?:=?ssh.Dial("tcp",?addr,?config) ?if?err?!=?nil?{ ??log.Fatal("Failed?to?dial:?",?err) ?} ?defer?client.Close() ?session,?err?:=?client.NewSession() ?if?err?!=?nil?{ ??log.Fatal("Failed?to?create?session:?",?err) ?} ?defer?session.Close() ??//?調(diào)用遠(yuǎn)程服務(wù)器腳本腳本 ?res,?err?:=?session.CombinedOutput("sh?/opt/test.sh") ?if?err?!=?nil?{ ??log.Fatal("Failed?to?run:?"?+?err.Error()) ?} ?fmt.Println(string(res)) ?? ??/* ??Filesystem??????Size??Used?Avail?Use%?Mounted?on ??devtmpfs????????909M?????0??909M???0%?/dev ??tmpfs???????????919M???24K??919M???1%?/dev/shm ??tmpfs???????????919M??540K??919M???1%?/run ??tmpfs???????????919M?????0??919M???0%?/sys/fs/cgroup ??/dev/vda1????????50G??6.9G???40G??15%?/ ??tmpfs???????????184M?????0??184M???0%?/run/user/0 ??*/ }
拷貝遠(yuǎn)程服務(wù)器文件到本地(scp)
拷貝文件步驟比較簡單:
- 建立
ssh client
- 基于
ssh client
創(chuàng)建sftp client
- 打開遠(yuǎn)程服務(wù)器文件并拷貝到本地
package?main import?( ?"io" ?"log" ?"os" ?"time" ?? ??"github.com/pkg/sftp" ?"golang.org/x/crypto/ssh" ) func?main()?{ ?var?( ??username?=?"your?username" ??password?=?"your?password" ??addr?????=?"ip:22" ?) ?//?1.?建立?ssh?client ?config?:=?&ssh.ClientConfig{ ??User:?username, ??Auth:?[]ssh.AuthMethod{ ???ssh.Password(password), ??}, ??HostKeyCallback:?ssh.InsecureIgnoreHostKey(), ?} ?client,?err?:=?ssh.Dial("tcp",?addr,?config) ?if?err?!=?nil?{ ??log.Fatal("Failed?to?dial:?",?err) ?} ?defer?client.Close() ?//?2.?基于ssh?client,?創(chuàng)建?sftp?客戶端 ?sftpClient,?err?:=?sftp.NewClient(client) ?if?err?!=?nil?{ ??log.Fatal("Failed?to?init?sftp?client:?",?err) ?} ?defer?sftpClient.Close() ?//?3.?打開遠(yuǎn)程服務(wù)器文件 ?filename?:=?time.Now().Format("2006-01-02")?+?".log" ?source,?err?:=?sftpClient.Open("/opt/"?+?filename) ?if?err?!=?nil?{ ??log.Fatal("Failed?to?open?remote?file:?",?err) ?} ?defer?source.Close() ?//?4.?創(chuàng)建本地文件 ?target,?err?:=?os.OpenFile(filename,?os.O_RDWR|os.O_CREATE|os.O_TRUNC,?0644) ?if?err?!=?nil?{ ??log.Fatal("Failed?to?open?local?file:?",?err) ?} ?defer?target.Close() ?//?5.?數(shù)據(jù)復(fù)制 ?n,?err?:=?io.Copy(target,?source) ?if?err?!=?nil?{ ??log.Fatal("Failed?to?copy?file:?",?err) ?} ?log.Println("Succeed?to?copy?file:?",?n) }
在 sftp client
中,還有許多方法,例如 Walk
、ReadDir
、Stat
、Mkdir
等,針對(duì)文件也有 Read
、Write
、WriteTo
、ReadFrom
等方法,像操作本地文件系統(tǒng)一樣,非常便利。
簡單封裝下
package?main import?( ?"fmt" ?"io" ?"log" ?"os" ?"time" ?"github.com/pkg/sftp" ?"golang.org/x/crypto/ssh" ) type?Cli?struct?{ ?user???string ?pwd????string ?addr???string ?client?*ssh.Client } func?NewCli(user,?pwd,?addr?string)?Cli?{ ?return?Cli{ ??user:?user, ??pwd:??pwd, ??addr:?addr, ?} } //?Connect?連接遠(yuǎn)程服務(wù)器 func?(c?*Cli)?Connect()?error?{ ?config?:=?&ssh.ClientConfig{ ??User:?c.user, ??Auth:?[]ssh.AuthMethod{ ???ssh.Password(c.pwd), ??}, ??HostKeyCallback:?ssh.InsecureIgnoreHostKey(), ?} ?client,?err?:=?ssh.Dial("tcp",?c.addr,?config) ?if?nil?!=?err?{ ??return?fmt.Errorf("connect?server?error:?%w",?err) ?} ?c.client?=?client ?return?nil } //?Run?運(yùn)行命令 func?(c?Cli)?Run(shell?string)?(string,?error)?{ ?if?c.client?==?nil?{ ??if?err?:=?c.Connect();?err?!=?nil?{ ???return?"",?err ??} ?} ?session,?err?:=?c.client.NewSession() ?if?err?!=?nil?{ ??return?"",?fmt.Errorf("create?new?session?error:?%w",?err) ?} ?defer?session.Close() ?buf,?err?:=?session.CombinedOutput(shell) ?return?string(buf),?err } //?Scp?復(fù)制文件 func?(c?Cli)?Scp(srcFileName,?targetFileName?string)?(int64,?error)?{ ?if?c.client?==?nil?{ ??if?err?:=?c.Connect();?err?!=?nil?{ ???return?0,?err ??} ?} ?sftpClient,?err?:=?sftp.NewClient(c.client) ?if?err?!=?nil?{ ??return?0,?fmt.Errorf("new?sftp?client?error:?%w",?err) ?} ?defer?sftpClient.Close() ?source,?err?:=?sftpClient.Open(srcFileName) ?if?err?!=?nil?{ ??return?0,?fmt.Errorf("sftp?client?open?file?error:?%w",?err) ?} ?defer?source.Close() ?target,?err?:=?os.OpenFile(targetFileName,?os.O_RDWR|os.O_CREATE|os.O_TRUNC,?0644) ?if?err?!=?nil?{ ??return?0,?fmt.Errorf("open?local?file?error:?%w",?err) ?} ?defer?target.Close() ?n,?err?:=?io.Copy(target,?source) ?if?err?!=?nil?{ ??return?0,?fmt.Errorf("copy?file?error:?%w",?err) ?} ?return?n,?nil } //?調(diào)用測試 func?main()?{ ?var?( ??username?=?"your?username" ??password?=?"your?password" ??addr?????=?"ip:22" ?) ?//?初始化 ?client?:=?NewCli(username,?password,?addr) ?//?ssh?并運(yùn)行腳本 ?_,?err?:=?client.Run("sh?/opt/test.sh") ?if?err?!=?nil?{ ??log.Printf("failed?to?run?shell,err=[%v]\n",?err) ??return ?} ?//?scp?文件到本地 ?filename?:=?time.Now().Format("2006-01-02")?+?".log" ?n,?err?:=?client.Scp("/opt/"+filename,?filename) ?if?err?!=?nil?{ ??log.Printf("failed?to?scp?file,err=[%v]\n",?err) ??return ?} ?log.Printf("Succeed?to?scp?file,?size=[%d]\n",?n) ?//?處理文件并刪除本地文件...... }
通過上面的一系列操作,就可以實(shí)現(xiàn)了我的需求:
1.編寫程序:
- 連接客戶服務(wù)器
- 執(zhí)行遠(yuǎn)程服務(wù)器的腳本,生成日志文件
- 拷貝遠(yuǎn)程服務(wù)器的日志文件到本地
- 處理日志文件
- 刪除本地文件
2.在服務(wù)器上啟動(dòng)一個(gè)定時(shí)任務(wù)運(yùn)行該程序
以上就是Go語言實(shí)現(xiàn)ssh&scp的方法詳解的詳細(xì)內(nèi)容,更多關(guān)于Go語言實(shí)現(xiàn)ssh scp的資料請(qǐng)關(guān)注腳本之家其它相關(guān)文章!
相關(guān)文章
淺談?dòng)肎o構(gòu)建不可變的數(shù)據(jù)結(jié)構(gòu)的方法
這篇文章主要介紹了用Go構(gòu)建不可變的數(shù)據(jù)結(jié)構(gòu)的方法,文中通過示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2019-09-09使用?gomonkey?Mock?函數(shù)及方法示例詳解
在 Golang 語言中,寫單元測試的時(shí)候,不可避免的會(huì)涉及到對(duì)其他函數(shù)及方法的 Mock,即在假設(shè)其他函數(shù)及方法響應(yīng)預(yù)期結(jié)果的同時(shí),校驗(yàn)被測函數(shù)的響應(yīng)是否符合預(yù)期,這篇文章主要介紹了使用?gomonkey?Mock?函數(shù)及方法,需要的朋友可以參考下2022-06-06go語言中使用ent做關(guān)聯(lián)查詢的示例詳解
go語言的ent框架是facebook開源的ORM框架,是go語言開發(fā)中的常用框架,而關(guān)聯(lián)查詢又是日常開發(fā)中的常見數(shù)據(jù)庫操作,故文本給出一個(gè)使用ent做關(guān)聯(lián)查詢的使用示例,需要的朋友可以參考下2024-02-02Ubuntu下安裝Go語言開發(fā)環(huán)境及編輯器的相關(guān)配置
這篇文章主要介紹了Ubuntu下安裝Go語言開發(fā)環(huán)境及編輯器的相關(guān)配置,編輯器方面介紹了包括Vim和Eclipse,需要的朋友可以參考下2016-02-02