Java布隆過濾器的原理和實現(xiàn)分析
前言
數(shù)組、鏈表、樹等數(shù)據(jù)結(jié)構(gòu)會存儲元素的內(nèi)容,一旦數(shù)據(jù)量過大,消耗的內(nèi)存也會呈現(xiàn)線性增長
所以布隆過濾器是為了解決數(shù)據(jù)量大的一種數(shù)據(jù)結(jié)構(gòu)
講述布隆過濾器的時候需要了解一些預(yù)備的知識點:比如哈希函數(shù)
1. 預(yù)備知識
1.1 哈希函數(shù)
哈希函數(shù)指將哈希表中元素的關(guān)鍵鍵值映射為元素存儲位置的函數(shù)
一般的線性表,樹中,記錄在結(jié)構(gòu)中的相對位置是隨機的,即和記錄的關(guān)鍵字之間不存在確定的關(guān)系,因此,在結(jié)構(gòu)中查找記錄時需進行一系列和關(guān)鍵字的比較。這一類查找方法建立在“比較“的基礎(chǔ)上,查找的效率依賴于查找過程中所進行的比較次數(shù)。 理想的情況是能直接找到需要的記錄,因此必須在記錄的存儲位置和它的關(guān)鍵字之間建立一個確定的對應(yīng)關(guān)系f,使每個關(guān)鍵字和結(jié)構(gòu)中一個唯一的存儲位置相對應(yīng)
具體其構(gòu)造器的方法有:
直接定址法、數(shù)字分析法、平方取中法、折疊法、除留余數(shù)法等
解決其沖突的方法有:
拉鏈法、多哈希法、開放地址法、建域法等
2. 布隆過濾器
2.1 概念
它實際上是一個很長的二進制向量和一系列隨機映射函數(shù)。(位數(shù)組和哈希函數(shù))
布隆過濾器可以用于檢索一個元素是否在一個集合中。
它的優(yōu)點是空間效率和查詢時間都比一般的算法要好的多(更加高效,存儲空間?。?/p>
缺點是有一定的誤識別率和刪除困難
2.2 實現(xiàn)原理
之所以要用布隆過濾器,是因為HashMap 的實現(xiàn)也有缺點,例如存儲容量占比高,考慮到負載因子的存在,通常空間是不能被用滿的,而且數(shù)據(jù)大了之后不可能一次性
比如存儲碼農(nóng)研究僧這個值,通過三個哈希函數(shù),算得三個哈希值,存放在3個位置中(位數(shù)組)
之后判定查詢碼農(nóng)博士僧的時候,發(fā)現(xiàn)這三個值只要有1個沒有為1,就是沒存儲到,也就是沒在集合中
但是如果存儲的值很多,再去查找的時候,可能會出現(xiàn)一定的誤判率,導(dǎo)致本身沒在集合中,但位數(shù)組卻都是1的情況
具體如何選擇上面所說的位數(shù)組長度和哈希函數(shù)的個數(shù)呢
布隆器如果過小,導(dǎo)致很多位置都很快是1,誤判率就很很高,如果布隆器過長,誤判率會越小
哈希函數(shù)的個數(shù)如果過少,其速度慢,誤判率也高,如果哈希函數(shù)的個數(shù)過多,其位1的速度加快,導(dǎo)致布隆過濾器的效率越低

2.3 步驟
添加元素的具體的步驟是
將添加的元素給k個哈希函數(shù)算出對應(yīng)位數(shù)組上的k個位置,將這k個位置設(shè)為1
查詢元素的具體步驟是
將要查詢的元素給k個哈希函數(shù)算出對應(yīng)于位數(shù)組上的k個位置,如果k個位置有一個為0,則肯定不在集合中。如果k個位置全部為1,則可能在集合中
在計數(shù)布隆過濾器中,進行刪除的前提是必須保證,值一定存在。因此單通過布隆過濾器無法保證值一定存在。如果通過其他的方法確認值存在后進行刪除,則不能保證該值在后續(xù)布隆過濾器查詢時一定返回不存在,因為該值相對應(yīng)的位置并不一定為零。但確實可以一定概率上優(yōu)化查詢的效率。因此不能說計數(shù)布隆過濾器支持刪除,應(yīng)該說計數(shù)布隆過濾器提供了實現(xiàn)刪除的可能
2.4 實現(xiàn)
public class MyBloomFilter {
/**
* 一個長度為10 億的比特位
*/
private static final int DEFAULT_SIZE = 256 << 22;
/**
* 為了降低錯誤率,使用加法hash算法,所以定義一個8個元素的質(zhì)數(shù)數(shù)組
*/
private static final int[] seeds = {3, 5, 7, 11, 13, 31, 37, 61};
/**
* 相當于構(gòu)建 8 個不同的hash算法
*/
private static HashFunction[] functions = new HashFunction[seeds.length];
/**
* 初始化布隆過濾器的 bitmap
*/
private static BitSet bitset = new BitSet(DEFAULT_SIZE);
/**
* 添加數(shù)據(jù)
*
* @param value 需要加入的值
*/
public static void add(String value) {
if (value != null) {
for (HashFunction f : functions) {
//計算 hash 值并修改 bitmap 中相應(yīng)位置為 true
bitset.set(f.hash(value), true);
}
}
}
/**
* 判斷相應(yīng)元素是否存在
* @param value 需要判斷的元素
* @return 結(jié)果
*/
public static boolean contains(String value) {
if (value == null) {
return false;
}
boolean ret = true;
for (HashFunction f : functions) {
ret = bitset.get(f.hash(value));
//一個 hash 函數(shù)返回 false 則跳出循環(huán)
if (!ret) {
break;
}
}
return ret;
}
/**
* 測試。。。
*/
public static void main(String[] args) {
for (int i = 0; i < seeds.length; i++) {
functions[i] = new HashFunction(DEFAULT_SIZE, seeds[i]);
}
// 添加1億數(shù)據(jù)
for (int i = 0; i < 100000000; i++) {
add(String.valueOf(i));
}
String id = "123456789";
add(id);
System.out.println(contains(id)); // true
System.out.println("" + contains("234567890")); //false
}
}
class HashFunction {
private int size;
private int seed;
public HashFunction(int size, int seed) {
this.size = size;
this.seed = seed;
}
public int hash(String value) {
int result = 0;
int len = value.length();
for (int i = 0; i < len; i++) {
result = seed * result + value.charAt(i);
}
int r = (size - 1) & result;
return (size - 1) & result;
}
}
到此這篇關(guān)于Java布隆過濾器的原理和實現(xiàn)分析的文章就介紹到這了,更多相關(guān)Java布隆過濾器內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
Spring?Data?Jpa?復(fù)雜查詢方式總結(jié)(多表關(guān)聯(lián)及自定義分頁)
這篇文章主要介紹了Spring?Data?Jpa?復(fù)雜查詢方式總結(jié)(多表關(guān)聯(lián)及自定義分頁),具有很好的參考價值,希望對大家有所幫助。如有錯誤或未考慮完全的地方,望不吝賜教2022-02-02
經(jīng)典再現(xiàn) 基于JAVA平臺開發(fā)坦克大戰(zhàn)游戲
經(jīng)典再現(xiàn),這篇文章主要介紹了基于JAVA平臺開發(fā)坦克大戰(zhàn)游戲的相關(guān)代碼,文中示例代碼介紹的非常詳細,具有一定的參考價值,感興趣的小伙伴們可以參考一下2016-06-06
Java Spring @Autowired的這些騷操作,你都知道嗎
這篇文章主要介紹了徹底搞明白Spring中的自動裝配和Autowired注解的使用,小編覺得挺不錯的,現(xiàn)在分享給大家,也給大家做個參考。一起跟隨小編過來看看吧2021-09-09
解決SpringAop內(nèi)部調(diào)用時不經(jīng)過代理類的問題
這篇文章主要介紹了解決SpringAop內(nèi)部調(diào)用時不經(jīng)過代理類的問題,具有很好的參考價值,希望對大家有所幫助。如有錯誤或未考慮完全的地方,望不吝賜教2022-01-01

