如何使用七牛Python SDK寫一個(gè)同步腳本及使用教程
七牛云存儲(chǔ)的 Python 語(yǔ)言版本 SDK(本文以下稱 Python-SDK)是對(duì)七牛云存儲(chǔ)API協(xié)議的一層封裝,以提供一套對(duì)于 Python 開發(fā)者而言簡(jiǎn)單易用的開發(fā)工具。Python 開發(fā)者在對(duì)接 Python-SDK 時(shí)無(wú)需理解七牛云存儲(chǔ) API 協(xié)議的細(xì)節(jié),原則上也不需要對(duì) HTTP 協(xié)議和原理做非常深入的了解,但如果擁有基礎(chǔ)的 HTTP 知識(shí),對(duì)于出錯(cuò)場(chǎng)景的處理可以更加高效。
最近剛搭了個(gè)markdown靜態(tài)博客,想把圖片放到云存儲(chǔ)中。
經(jīng)過調(diào)研覺得七??梢詽M足我個(gè)人的需求,就選它了。
要引用圖片就要先將圖片上傳到云上。
雖然七牛網(wǎng)站后臺(tái)可以上傳文件,但每次上傳都需要先登錄,然后選擇圖片,設(shè)置連接地址,才能上傳。
這個(gè)過程有些繁瑣,所以我便想用七牛云提供的SDK寫個(gè)一同步工具,方便增量同步文件。
有了這個(gè)想法,就馬上行動(dòng)。花了大概一個(gè)上午的時(shí)間,總算把這個(gè)工具給寫出來(lái),并放到GitOSC和github上。
#!/usr/bin/env python
#-*- coding:utf-8 -*-
#
# AUTHOR = "heqingpan"
# AUTHOR_EMAIL = "heqingpan@126.com"
# URL = "http://git.oschina.net/hqp/qiniu_sync"
import qiniu
from qiniu import Auth
from qiniu import BucketManager
import os
import re
access_key = ''
secret_key = ''
bucket_name = ''
bucket_domain = ''
q = Auth(access_key, secret_key)
bucket = BucketManager(q)
basedir=os.path.realpath(os.path.dirname(__file__))
filename=__file__
ignore_paths=[filename,"{0}c".format(filename)]
ignore_names=[".DS_Store",".git",".gitignore"]
charset="utf8"
diff_time=2*60
def list_all(bucket_name, bucket=None, prefix="", limit=100):
rlist=[]
if bucket is None:
bucket = BucketManager(q)
marker = None
eof = False
while eof is False:
ret, eof, info = bucket.list(bucket_name, prefix=prefix, marker=marker, limit=limit)
marker = ret.get('marker', None)
for item in ret['items']:
rlist.append(item["key"])
if eof is not True:
# 錯(cuò)誤處理
#print "error"
pass
return rlist
def get_files(basedir="",fix="",rlist=None,ignore_paths=[],ignore_names=[]):
if rlist is None:
rlist=[]
for subfile in os.listdir(basedir):
temp_path=os.path.join(basedir,subfile)
tp=os.path.join(fix,subfile)
if tp in ignore_names:
continue
if tp in ignore_paths:
continue
if os.path.isfile(temp_path):
rlist.append(tp)
elif os.path.isdir(temp_path):
get_files(temp_path,tp,rlist,ignore_paths,ignore_names)
return rlist
def get_valid_key_files(subdir=""):
basedir=subdir or basedir
files = get_files(basedir=basedir,ignore_paths=ignore_paths,ignore_names=ignore_names)
return map(lambda f:(f.replace("\\","/"),f),files)
def sync():
qn_keys=list_all(bucket_name,bucket)
qn_set=set(qn_keys)
l_key_files=get_valid_key_files(basedir)
k2f={}
update_keys=[]
u_count=500
u_index=0
for k,f in l_key_files:
k2f[k]=f
str_k=k
if isinstance(k,str):
k=k.decode(charset)
if k in qn_set:
update_keys.append(str_k)
u_index+=1
if u_index > u_count:
u_index-=u_count
update_file(k2f,update_keys)
update_keys=[]
else:
# upload
upload_file(k,os.path.join(basedir,f))
if update_keys:
update_file(k2f,update_keys)
print "sync end"
def update_file(k2f,ulist):
ops=qiniu.build_batch_stat(bucket_name,ulist)
rets,infos = bucket.batch(ops)
for i in xrange(len(ulist)):
k=ulist[i]
f=k2f.get(k)
ret=rets[i]["data"]
size=ret.get("fsize",None)
put_time = int(ret.get("putTime")/10000000)
local_size=os.path.getsize(f)
local_time=int(os.path.getatime(f))
if local_size==size:
continue
if put_time >= local_time - diff_time:
# is new
continue
# update
upload_file(k,os.path.join(basedir,f))
def upload_file(key,localfile):
print "upload_file:"
print key
token = q.upload_token(bucket_name, key)
mime_type = get_mime_type(localfile)
params = {'x:a': 'a'}
progress_handler = lambda progress, total: progress
ret, info = qiniu.put_file(token, key, localfile, params, mime_type, progress_handler=progress_handler)
def get_mime_type(path):
mime_type = "text/plain"
return mime_type
def main():
sync()
if __name__=="__main__":
main()
這個(gè)同步腳本支持批量比較文件,差異增量更新、批量更新。
使用方式
安裝七牛Python SDK
pip install qiniu
填寫腳本文件(qiniusync.py)的配置信息
access_key = '' secret_key = '' bucket_name = ''
注冊(cè)后可以拿到對(duì)應(yīng)的信息
將腳本文件(qiniusync.py)拷貝到待同步根目錄
運(yùn)行腳本
python qiniusync.py
后記
寫完提交之后才發(fā)現(xiàn),七牛已經(jīng)提供相應(yīng)的工具,我這個(gè)算是重復(fù)造輪子吧。
既然已經(jīng)寫,就發(fā)出來(lái),當(dāng)做熟悉一下七牛的SDK也不錯(cuò),說不定以后還能用的上。
七牛云存儲(chǔ)Python SDK使用教程
本教程旨在介紹如何使用七牛的Python SDK來(lái)快速地進(jìn)行文件上傳,下載,處理,管理等工作。
安裝
首先,要使用Python的SDK必須要先安裝。七牛的Python SDK是開源的,托管在Github上面,項(xiàng)目地址為 https://github.com/qiniu/python-sdk 。
安裝的方式可以如項(xiàng)目的說明上所說,用 pip install qiniu 。當(dāng)然也可以直接 clone 一份源代碼下來(lái)直接使用。我一般喜歡直接 clone 源代碼,這樣的話,如果要對(duì)SDK做一些改動(dòng)也是十分容易的。
最新版本的Python SDK需要依賴 requests 庫(kù),所以要提前安裝好。安裝方式當(dāng)然也可以用 pip install requests 。
開發(fā)環(huán)境
Python的開發(fā)環(huán)境有很多種選擇,如果喜歡文本的方式,比如vim,emacs,sublime text等都是很好的選擇,如果你喜歡IDE,那么最流行的莫過于 PyCharm 了。 PyCharm 的最新版本到 這里下載。
Access Key和Secret Key
我們知道七牛云存儲(chǔ)的權(quán)限校驗(yàn)機(jī)制基于一對(duì)密鑰,分別稱為 Access Key 和 Secret Key 。其中 Access Key 是公鑰, Secret Key 是私鑰。這一對(duì)密鑰可以從七牛的后臺(tái)獲取。

小試牛刀
好了,做了上面的這些準(zhǔn)備工作,我們就去上傳一個(gè)簡(jiǎn)單的文件,練練手。
python #coding=utf-8 __author__ = 'jemy' '''
本例演示了一個(gè)簡(jiǎn)單的文件上傳。
這個(gè)例子里面,sdk根據(jù)文件的大小選擇是Form方式上傳還是分片上傳。
'''
import qiniu
accessKey = "<Your Access Key>"
secretKey = "<Your Secret Key>"
#解析結(jié)果
def parseRet(retData, respInfo):
if retData != None:
print("Upload file success!")
print("Hash: " + retData["hash"])
print("Key: " + retData["key"])
#檢查擴(kuò)展參數(shù)
for k, v in retData.items():
if k[:2] == "x:":
print(k + ":" + v)
#檢查其他參數(shù)
for k, v in retData.items():
if k[:2] == "x:" or k == "hash" or k == "key":
continue
else:
print(k + ":" + str(v))
else:
print("Upload file failed!")
print("Error: " + respInfo.text_body)
#無(wú)key上傳,http請(qǐng)求中不指定key參數(shù)
def upload_without_key(bucket, filePath):
#生成上傳憑證
auth = qiniu.Auth(accessKey, secretKey)
upToken = auth.upload_token(bucket, key=None)
#上傳文件
retData, respInfo = qiniu.put_file(upToken, None, filePath)
#解析結(jié)果
parseRet(retData, respInfo)
def main():
bucket = "if-pbl"
filePath = "/Users/jemy/Documents/jemy.png"
upload_without_key(bucket, filePath)
if __name__ == "__main__":
main()
運(yùn)行結(jié)果為:
Upload file success!
Hash: Fp0XR6tM4yZmeiKXw7eZzmeyYsq8
Key: Fp0XR6tM4yZmeiKXw7eZzmeyYsq8
從上面我們可以看到,使用七牛的Python SDK上傳文件的最基本的步驟是:
1.生成上傳憑證
2.上傳文件
3.解析回復(fù)結(jié)果
小結(jié)
綜上所述,其實(shí)使用七牛的SDK來(lái)上傳文件還是很簡(jiǎn)單的,接下來(lái)的教程,我們將在這個(gè)例子的基礎(chǔ)上逐步了解更多關(guān)于文件上傳的知識(shí)。
- Python使用微信SDK實(shí)現(xiàn)的微信支付功能示例
- Idea安裝python顯示無(wú)SDK問題解決方案
- 七牛云的python sdk 批量刪除資源的操作方法
- Python?SDK實(shí)現(xiàn)私服上傳下載的示例
- 關(guān)于Python調(diào)用百度語(yǔ)音合成SDK實(shí)現(xiàn)文字轉(zhuǎn)音頻的方法
- 如何解決PyCharm顯示:無(wú)效的Python?SDK
- 將Python代碼打包成可調(diào)用SDK的四種方法小結(jié)(適用于移動(dòng)端 App)
- VSCode設(shè)置python SDK路徑的實(shí)現(xiàn)步驟
相關(guān)文章
Python使用PDFMiner.six解析PDF數(shù)據(jù)詳解
PDFMiner.six 是基于 PDFMiner 項(xiàng)目開發(fā)的增強(qiáng)版,用于從PDF文檔中提取文本和結(jié)構(gòu)信息,下面我們就來(lái)學(xué)習(xí)一下如何使用PDFMiner.six解析PDF數(shù)據(jù)吧2025-03-03
深入探索Python解碼神器Chardet自動(dòng)檢測(cè)文本編碼
Chardet,洞察編碼的清晰水晶球,一個(gè)讓你與編碼不再“失聯(lián)”的神器,本文帶大家走近這個(gè)隱藏在Python工具箱中的小寶貝,探索它的秘密2024-01-01
TensorFlow實(shí)現(xiàn)簡(jiǎn)單卷積神經(jīng)網(wǎng)絡(luò)
這篇文章主要為大家詳細(xì)介紹了TensorFlow實(shí)現(xiàn)簡(jiǎn)單卷積神經(jīng)網(wǎng)絡(luò),具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2018-05-05
pycharm工具連接mysql數(shù)據(jù)庫(kù)失敗問題
這篇文章主要介紹了pycharm工具連接mysql數(shù)據(jù)庫(kù)失敗問題及解決方法,非常不錯(cuò)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2020-04-04
利用Python監(jiān)控設(shè)備電池電量并發(fā)送通知
在日常使用電子設(shè)備時(shí),及時(shí)了解電池電量狀態(tài)并進(jìn)行合理充電是非常重要的,本文將使用Python進(jìn)行設(shè)備電池電量的監(jiān)控并發(fā)送通知,有需要的可以了解下2025-03-03

