python使用布隆過濾器的實(shí)現(xiàn)示例
使用庫pybloom_live
from pybloom_live import ScalableBloomFilter,BloomFilter # 可自動伸縮的布隆過濾器 bloom = ScalableBloomFilter(initial_capacity=100,error_rate=0.001) # 添加內(nèi)容 bloom.add('daqi') print('daqi'in bloom) # 定長的布隆過濾器 bloom1 = BloomFilter(capacity=10000) bloom1.add('daqi') print('daqi'in bloom1)
手動實(shí)現(xiàn)一個簡單的布隆過濾器
使用bitarray實(shí)現(xiàn),將初始數(shù)組置為0,根據(jù)hash計算出節(jié)點(diǎn)置為1,同時寫了一個生成隨機(jī)碼的函數(shù)用于測試。
import random import mmh3 from bitarray import bitarray import os.path import re # bitarray長度 BIT_SIZE = 50000 class BloomFilter(): def __init__(self): bit_array = bitarray(BIT_SIZE) bit_array.setall(0) self.bit_array = bit_array self.bit_size = self.length() def get_points(self, url): """ 生成需要插入的位置 :param url: :return:節(jié)點(diǎn)的列表 """ point_list = [] for i in range(7): point = mmh3.hash(url,30+i) % self.bit_size point_list.append(point) return point_list def add(self, url): """ 添加url到bitarray中 :param url: :return: """ res = self.bitarray_expand() points = self.get_points(url) try: for point in points: self.bit_array[point] = 1 return '注冊完成!' except Exception as e: return e def contains(self,url): """ 驗證url是否存在 :param url: :return:True or False """ points = self.get_points(url) # 在bitarray中查找對應(yīng)的點(diǎn),如果有一個點(diǎn)值為0就說明該url不存在 for p in points: if self.bit_array[p] == 0: return False return True def count(self): """ 獲取bitarrray中使用的節(jié)點(diǎn)數(shù) :return: bitarray長度 """ return self.bit_array.count() def length(self): """ 獲取bitarray的長度 :return:bitarray的長度 """ return len(self.bit_array) def bitarray_expand(self): """ 擴(kuò)充bitarray長度 :return:bitarray的長度或使用率,布隆過濾器的bitarray的使用最好不要超過50%,這樣誤判率低一些 """ isusespace = round(int(self.count()) / int(self.length()),4) if 0.50 < isusespace: # 新建bitarray expand_bitarray = bitarray(BIT_SIZE) expand_bitarray.setall(0) # 增加新建的bitarray self.bit_array = self.bit_array + expand_bitarray self.bit_size = self.length() return self.bit_size else: return f'長度尚可,{round(isusespace * 100,2)}%' def get_captcha(): """ 生成用于測試的隨機(jī)碼 :return: """ seed = '0123456789abcdefghijklmnopqrstuvwxyzABCDEFGHIJKLMNOPQRSTUVWXYZ' captcha = "" for i in range(10): captcha += random.choice(seed) print(captcha) return captcha if __name__ == '__main__': bloom = BloomFilter() for i in range(100000): bloom.add(f'www.{get_captcha()}.com') print(bloom.length()) print(bloom.count()) print(bloom.count())
到此這篇關(guān)于python使用布隆過濾器的實(shí)現(xiàn)示例的文章就介紹到這了,更多相關(guān)python 布隆過濾器內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
淺談哪個Python庫才最適合做數(shù)據(jù)可視化
數(shù)據(jù)可視化是任何探索性數(shù)據(jù)分析或報告的關(guān)鍵步驟,目前有許多非常好的商業(yè)智能工具,比如Tableau、googledatastudio和PowerBI等,本文就詳細(xì)的進(jìn)行對比,感興趣的可以了解一下2021-06-06python 實(shí)現(xiàn)將txt文件多行合并為一行并將中間的空格去掉方法
今天小編就為大家分享一篇python 實(shí)現(xiàn)將txt文件多行合并為一行并將中間的空格去掉方法,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2018-12-12基于spring boot 日志(logback)報錯的解決方式
今天小編就為大家分享一篇基于spring boot 日志(logback)報錯的解決方式,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2020-02-02windows下pycharm搭建spark環(huán)境并成功運(yùn)行 附源碼
這篇文章主要介紹了windows下pycharm搭建spark環(huán)境并成功運(yùn)行 附源碼,本文分步驟給大家介紹的非常詳細(xì),對大家的學(xué)習(xí)或工作具有一定的參考借鑒價值,需要的朋友可以參考下2021-04-04pyqt5實(shí)現(xiàn)按鈕添加背景圖片以及背景圖片的切換方法
今天小編就為大家分享一篇pyqt5實(shí)現(xiàn)按鈕添加背景圖片以及背景圖片的切換方法,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2019-06-06對python中Json與object轉(zhuǎn)化的方法詳解
今天小編就為大家分享一篇對python中Json與object轉(zhuǎn)化的方法詳解,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2018-12-12