python使用pipeline批量讀寫(xiě)redis的方法
用了很久的redis了。隨著業(yè)務(wù)的要求越來(lái)越高。對(duì)redis的讀寫(xiě)速度要求也越來(lái)越高。正好最近有個(gè)需求（需要在秒級(jí)取值1000+的數(shù)據(jù)），如果對(duì)于傳統(tǒng)的單詞取值，循環(huán)取值，消耗實(shí)在是大，有小伙伴可能考慮到多線程，但這并不是最好的解決方案，這里考慮到了redis特有的功能pipeline管道功能。
下面就更大家演示一下pipeline在python環(huán)境下的使用情況。
1、插入數(shù)據(jù)
>>> import redis
>>> conn = redis.Redis(host='192.168.8.176',port=6379)
>>> pipe = conn.pipeline()
>>> pipe.hset("hash_key","leizhu900516",8)
Pipeline<ConnectionPool<Connection<host=192.168.8.176,port=6379,db=0>>>
>>> pipe.hset("hash_key","chenhuachao",9)
Pipeline<ConnectionPool<Connection<host=192.168.8.176,port=6379,db=0>>>
>>> pipe.hset("hash_key","wanger",10)
Pipeline<ConnectionPool<Connection<host=192.168.8.176,port=6379,db=0>>>
>>> pipe.execute()
[1L, 1L, 1L]
>>>
2、批量讀取數(shù)據(jù)
>>> pipe.hget("hash_key","leizhu900516")
Pipeline<ConnectionPool<Connection<host=192.168.8.176,port=6379,db=0>>>
>>> pipe.hget("hash_key","chenhuachao")
Pipeline<ConnectionPool<Connection<host=192.168.8.176,port=6379,db=0>>>
>>> pipe.hget("hash_key","wanger")
Pipeline<ConnectionPool<Connection<host=192.168.8.176,port=6379,db=0>>>
>>> result = pipe.execute()
>>> print result
['8', '9', '10'] #有序的列表
>>>
總結(jié)：redis的pipeline就是這么簡(jiǎn)單，實(shí)際生產(chǎn)環(huán)境，根據(jù)需要去編寫(xiě)相應(yīng)的代碼。思路同理,如:
redis_db = redis.Redis(host='127.0.0.1',port=6379)
data = ['zhangsan', 'lisi', 'wangwu']
with redis_db.pipeline(transaction=False) as pipe:
for i in data:
pipe.zscore(self.key, i)
result = pipe.execute()
print result
# [100, 80, 78]
線上的redis一般都是集群模式，集群模式下使用pipeline的時(shí)候，在創(chuàng)建pipeline的對(duì)象時(shí)，需要指定
pipe =conn.pipeline(transaction=False)
經(jīng)過(guò)線上實(shí)測(cè)，利用pipeline取值3500條數(shù)據(jù)，大約需要900ms，如果配合線程or協(xié)程來(lái)使用，每秒返回1W數(shù)據(jù)是沒(méi)有問(wèn)題的，基本能滿足大部分業(yè)務(wù)。
以上這篇python使用pipeline批量讀寫(xiě)redis的方法就是小編分享給大家的全部?jī)?nèi)容了，希望能給大家一個(gè)參考，也希望大家多多支持腳本之家。
相關(guān)文章
Python 套接字 Accept 超時(shí)問(wèn)題解析
本文討論了 Python 中套接字的超時(shí)功能，該功能對(duì)于緩解無(wú)限期等待套接字接受的問(wèn)題是必要的，下面通過(guò)本文給大家大家介紹Python 套接字 Accept 超時(shí)問(wèn)題,需要的朋友可以參考下2023-06-06
解讀Opencv中Filter2D函數(shù)的補(bǔ)全方式
這篇文章主要介紹了解讀Opencv中Filter2D函數(shù)的補(bǔ)全方式，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。如有錯(cuò)誤或未考慮完全的地方，望不吝賜教2022-12-12
使用Python進(jìn)行數(shù)據(jù)清洗和預(yù)處理的實(shí)現(xiàn)代碼
Python作為數(shù)據(jù)科學(xué)領(lǐng)域的熱門(mén)編程語(yǔ)言,提供了豐富的庫(kù)和工具來(lái)處理和清洗數(shù)據(jù),本文將介紹如何使用Python進(jìn)行數(shù)據(jù)清洗和預(yù)處理,并提供相應(yīng)的代碼示例,需要的朋友可以參考下2024-05-05
python根據(jù)京東商品url獲取產(chǎn)品價(jià)格
閑著沒(méi)事嘗試抓一下京東的數(shù)據(jù)，需要使用到的庫(kù)有：BeautifulSoup，urllib2，在Python2下測(cè)試通過(guò)2015-08-08
python 實(shí)現(xiàn)將txt文件多行合并為一行并將中間的空格去掉方法
今天小編就為大家分享一篇python 實(shí)現(xiàn)將txt文件多行合并為一行并將中間的空格去掉方法，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2018-12-12
這篇文章主要介紹了python 一維、二維列表的初始化,本文通過(guò)兩種方式給大家詳細(xì)講解，對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值，需要的朋友參考下吧2022-06-06
有效的信息傳達(dá)是演示文稿中的重點(diǎn),而PowerPoint演示文稿作為最廣泛使用的演示工具之一,提供了豐富的功能來(lái)幫助演講者實(shí)現(xiàn)這一目標(biāo),本文將介紹如何利用Python來(lái)添加表格到PowerPoint演示文稿中,需要的朋友可以參考下2024-08-08
wxPython實(shí)現(xiàn)文本框基礎(chǔ)組件
這篇文章主要介紹了wxPython實(shí)現(xiàn)文本框基礎(chǔ)組件，文中示例代碼介紹的非常詳細(xì)，具有一定的參考價(jià)值，感興趣的小伙伴們可以參考一下2019-11-11
這篇文章主要介紹了Python全面解讀高級(jí)特性切片，切片（slice）就是一種截取索引片段的技術(shù)，借助切片技術(shù)，我們可以十分靈活地處理序列類(lèi)型的對(duì)象，下面我們一起進(jìn)入文章了解更詳細(xì)內(nèi)容吧2021-12-12
pandas實(shí)現(xiàn)按照多列排序-ascending
這篇文章主要介紹了pandas實(shí)現(xiàn)按照多列排序-ascending，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。如有錯(cuò)誤或未考慮完全的地方，望不吝賜教2022-05-05