深入理解Python虛擬機中字典(dict)的實現(xiàn)原理及源碼剖析
更新時間：2023年03月23日 08:22:37 作者：一無是處的研究僧
這篇文章主要介紹了在?cpython?當中字典的實現(xiàn)原理，在本篇文章當中主要介紹在早期?python3?當中的版本字典的實現(xiàn)，現(xiàn)在的字典做了部分優(yōu)化,希望對大家有所幫助
字典數(shù)據(jù)結(jié)構(gòu)分析
/* The ma_values pointer is NULL for a combined table
* or points to an array of PyObject* for a split table
*/
typedef struct {
PyObject_HEAD
Py_ssize_t ma_used;
PyDictKeysObject *ma_keys;
PyObject **ma_values;
} PyDictObject;
struct _dictkeysobject {
Py_ssize_t dk_refcnt;
Py_ssize_t dk_size;
dict_lookup_func dk_lookup;
Py_ssize_t dk_usable;
PyDictKeyEntry dk_entries[1];
};
typedef struct {
/* Cached hash code of me_key. */
Py_hash_t me_hash;
PyObject *me_key;
PyObject *me_value; /* This field is only meaningful for combined tables */
} PyDictKeyEntry;
上面的各個字段的含義為：
- ob_refcnt，對象的引用計數(shù)。
- ob_type，對象的數(shù)據(jù)類型。
- ma_used，當前哈希表當中的數(shù)據(jù)個數(shù)。
- ma_keys，指向保存鍵值對的數(shù)組。
- ma_values，這個指向值的數(shù)組，但是在 cpython 的具體實現(xiàn)當中不一定使用這個值，因為 _dictkeysobject 當中的 PyDictKeyEntry 數(shù)組當中的對象也是可以存儲 value 的，這個值只有在鍵全部是字符串的時候才可能會使用，在本篇文章當中主要使用 PyDictKeyEntry 當中的 value 來討論字典的實現(xiàn)，因此大家可以忽略這個變量。
- dk_refcnt，這個也是用于表示引用計數(shù)，這個跟字典的視圖有關系，原理和引用計數(shù)類似，這里暫時不管。
- dk_size，這個表示哈希表的大小，必須是 2n，這樣的話可以將模運算變成位與運算。
- dk_lookup，這個表示哈希表的查找函數(shù)，他是一個函數(shù)指針。
- dk_usable，表示當前數(shù)組當中還有多少個可以使用的鍵值對。
- dk_entries，哈希表，真正存儲鍵值對的地方。
整個哈希表的布局大致如下圖所示：
創(chuàng)建新字典對象
這個函數(shù)還是比較簡單，首先申請內(nèi)存空間，然后進行一些初始化操作，申請哈希表用于保存鍵值對。
static PyObject *
dict_new(PyTypeObject *type, PyObject *args, PyObject *kwds)
{
PyObject *self;
PyDictObject *d;
assert(type != NULL && type->tp_alloc != NULL);
// 申請內(nèi)存空間
self = type->tp_alloc(type, 0);
if (self == NULL)
return NULL;
d = (PyDictObject *)self;
/* The object has been implicitly tracked by tp_alloc */
if (type == &PyDict_Type)
_PyObject_GC_UNTRACK(d);
// 因為還沒有增加數(shù)據(jù) 因此哈希表當中 ma_used = 0
d->ma_used = 0;
// 申請保存鍵值對的數(shù)組 PyDict_MINSIZE_COMBINED 是一個宏定義 值為 8 表示哈希表數(shù)組的最小長度
d->ma_keys = new_keys_object(PyDict_MINSIZE_COMBINED);
// 如果申請失敗返回 NULL
if (d->ma_keys == NULL) {
Py_DECREF(self);
return NULL;
}
return self;
}
// new_keys_object 函數(shù)如下所示
static PyDictKeysObject *new_keys_object(Py_ssize_t size)
{
PyDictKeysObject *dk;
Py_ssize_t i;
PyDictKeyEntry *ep0;
assert(size >= PyDict_MINSIZE_SPLIT);
assert(IS_POWER_OF_2(size));
// 這里是申請內(nèi)存的位置真正申請內(nèi)存空間的大小為 PyDictKeysObject 的大小加上 size-1 個PyDictKeyEntry的大小
// 這里你可能會有一位為啥不是 size 個 PyDictKeyEntry 的大小 因為在結(jié)構(gòu)體 PyDictKeysObject 當中已經(jīng)申請了一個 PyDictKeyEntry 對象了
dk = PyMem_MALLOC(sizeof(PyDictKeysObject) +
sizeof(PyDictKeyEntry) * (size-1));
if (dk == NULL) {
PyErr_NoMemory();
return NULL;
}
// 下面主要是一些初始化的操作 dk_refcnt 設置成 1 因為目前只有一個字典對象使用 這個 PyDictKeysObject 對象
DK_DEBUG_INCREF dk->dk_refcnt = 1;
dk->dk_size = size; // 哈希表的大小
// 下面這行代碼主要是表示哈希表當中目前還能存儲多少個鍵值對 在 cpython 的實現(xiàn)當中允許有 2/3 的數(shù)組空間去存儲數(shù)據(jù) 超過這個數(shù)則需要進行擴容
dk->dk_usable = USABLE_FRACTION(size); // #define USABLE_FRACTION(n) ((((n) << 1)+1)/3)
ep0 = &dk->dk_entries[0];
/* Hash value of slot 0 is used by popitem, so it must be initialized */
ep0->me_hash = 0;
// 將所有的鍵值對初始化成 NULL
for (i = 0; i < size; i++) {
ep0[i].me_key = NULL;
ep0[i].me_value = NULL;
}
dk->dk_lookup = lookdict_unicode_nodummy;
return dk;
}哈希表擴容機制
首先我們先了解一下字典實現(xiàn)當中哈希表的擴容機制，當我們不斷的往字典當中加入新的數(shù)據(jù)的時候，很快字典當中的數(shù)據(jù)就會達到數(shù)組長度的 23 ，這個時候就需要擴容，擴容之后的數(shù)組大小計算方式如下：
#define GROWTH_RATE(d) (((d)->ma_used*2)+((d)->ma_keys->dk_size>>1))
新的數(shù)組的大小等于原來鍵值對的個數(shù)乘以 2 加上原來數(shù)組長度的一半。
總的來說擴容主要有三個步驟：
- 計算新的數(shù)組的大小。
- 創(chuàng)建新的數(shù)組。
- 將原來的哈希表當中的數(shù)據(jù)加入到新的數(shù)組當中（也就是再哈希的過程）。
具體的實現(xiàn)代碼如下所示：
static int
insertion_resize(PyDictObject *mp)
{
return dictresize(mp, GROWTH_RATE(mp));
}
static int
dictresize(PyDictObject *mp, Py_ssize_t minused)
{
Py_ssize_t newsize;
PyDictKeysObject *oldkeys;
PyObject **oldvalues;
Py_ssize_t i, oldsize;
// 下面的代碼的主要作用就是計算得到能夠大于等于 minused 最小的 2 的整數(shù)次冪
/* Find the smallest table size > minused. */
for (newsize = PyDict_MINSIZE_COMBINED;
newsize <= minused && newsize > 0;
newsize <<= 1)
;
if (newsize <= 0) {
PyErr_NoMemory();
return -1;
}
oldkeys = mp->ma_keys;
oldvalues = mp->ma_values;
/* Allocate a new table. */
// 創(chuàng)建新的數(shù)組
mp->ma_keys = new_keys_object(newsize);
if (mp->ma_keys == NULL) {
mp->ma_keys = oldkeys;
return -1;
}
if (oldkeys->dk_lookup == lookdict)
mp->ma_keys->dk_lookup = lookdict;
oldsize = DK_SIZE(oldkeys);
mp->ma_values = NULL;
/* If empty then nothing to copy so just return */
if (oldsize == 1) {
assert(oldkeys == Py_EMPTY_KEYS);
DK_DECREF(oldkeys);
return 0;
}
/* Main loop below assumes we can transfer refcount to new keys
* and that value is stored in me_value.
* Increment ref-counts and copy values here to compensate
* This (resizing a split table) should be relatively rare */
if (oldvalues != NULL) {
for (i = 0; i < oldsize; i++) {
if (oldvalues[i] != NULL) {
Py_INCREF(oldkeys->dk_entries[i].me_key);
oldkeys->dk_entries[i].me_value = oldvalues[i];
}
}
}
/* Main loop */
// 將原來數(shù)組當中的元素加入到新的數(shù)組當中
for (i = 0; i < oldsize; i++) {
PyDictKeyEntry *ep = &oldkeys->dk_entries[i];
if (ep->me_value != NULL) {
assert(ep->me_key != dummy);
insertdict_clean(mp, ep->me_key, ep->me_hash, ep->me_value);
}
}
// 更新一下當前哈希表當中能夠插入多少數(shù)據(jù)
mp->ma_keys->dk_usable -= mp->ma_used;
if (oldvalues != NULL) {
/* NULL out me_value slot in oldkeys, in case it was shared */
for (i = 0; i < oldsize; i++)
oldkeys->dk_entries[i].me_value = NULL;
assert(oldvalues != empty_values);
free_values(oldvalues);
DK_DECREF(oldkeys);
}
else {
assert(oldkeys->dk_lookup != lookdict_split);
if (oldkeys->dk_lookup != lookdict_unicode_nodummy) {
PyDictKeyEntry *ep0 = &oldkeys->dk_entries[0];
for (i = 0; i < oldsize; i++) {
if (ep0[i].me_key == dummy)
Py_DECREF(dummy);
}
}
assert(oldkeys->dk_refcnt == 1);
DK_DEBUG_DECREF PyMem_FREE(oldkeys);
}
return 0;
}字典插入數(shù)據(jù)
我們在不斷的往字典當中插入數(shù)據(jù)的時候很可能會遇到哈希沖突，字典處理哈希沖突的方法基本和集合遇到哈希沖突的處理方法是差不多的，都是使用開發(fā)地址法，但是這個開放地址法實現(xiàn)的相對比較復雜，具體程序如下所示：
static void
insertdict_clean(PyDictObject *mp, PyObject *key, Py_hash_t hash,
PyObject *value)
{
size_t i;
size_t perturb;
PyDictKeysObject *k = mp->ma_keys;
// 首先得到 mask 的值
size_t mask = (size_t)DK_SIZE(k)-1;
PyDictKeyEntry *ep0 = &k->dk_entries[0];
PyDictKeyEntry *ep;
i = hash & mask;
ep = &ep0[i];
for (perturb = hash; ep->me_key != NULL; perturb >>= PERTURB_SHIFT) {
// 下面便是遇到哈希沖突時的處理辦法
i = (i << 2) + i + perturb + 1;
ep = &ep0[i & mask];
}
assert(ep->me_value == NULL);
ep->me_key = key;
ep->me_hash = hash;
ep->me_value = value;
}總結(jié)
在本篇文章當中主要給大家簡單介紹了一下在 cpython 內(nèi)部字典的實現(xiàn)機制，總的來說整個字典的實現(xiàn)機制還是相當復雜的，本篇文章只是談到了整個字典實現(xiàn)的一小部分，主要設計字典的內(nèi)存布局以及相關的數(shù)據(jù)結(jié)構(gòu)，最重要的字典的創(chuàng)建擴容和插入，這對我們理解哈希表的結(jié)構(gòu)還是非常有幫助的?。?！
以上就是深入理解Python虛擬機中字典(dict)的實現(xiàn)原理及源碼剖析的詳細內(nèi)容，更多關于Python虛擬機字典的資料請關注腳本之家其它相關文章！
相關文章
今天小編就為大家分享一篇pandas 透視表中文字段排序方法，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2018-11-11
前面我們介紹了如何抓取百度貼吧文章，然后講解了python的神器正則表達式，下面，我們就把2者結(jié)合起來，詳細介紹下，如何來抓取到糗事百科里面的指定內(nèi)容2014-11-11
這篇文章主要介紹了Python爬取附近餐館信息代碼示例，具有一定借鑒價值，需要的朋友可以參考下。2017-12-12
這篇文章主要介紹了實現(xiàn)自定義包的方法,本文通過示例代碼給大家介紹的非常詳細，對大家的學習或工作具有一定的參考借鑒價值，需要的朋友可以參考下2022-12-12
Python使用arrow庫優(yōu)雅地處理時間數(shù)據(jù)詳解
雖然Python提供了多個內(nèi)置模塊用于操作日期時間，但有的時候并不能滿足我們的需求，所以下面這篇文章主要給大家介紹了關于Python使用arrow庫如何優(yōu)雅地處理時間數(shù)據(jù)的相關資料，需要的朋友可以參考借鑒，下面來一起看看吧。2017-10-10
這篇文章主要介紹了Python使用插入排序算法的簡單分析與代碼示例,插入算法的平均時間復雜度為O(n^2),需要的朋友可以參考下2016-05-05
這篇文章主要介紹了python中使用%與.format格式化文本方法解析，具有一定借鑒價值,需要的朋友可以參考下2017-12-12
Pandas自定義shift與DataFrame求差集的小技巧
Python是進行數(shù)據(jù)分析的一種出色語言,主要是因為以數(shù)據(jù)為中心的python軟件包具有奇妙的生態(tài)系統(tǒng),下面這篇文章主要給大家介紹了關于Pandas自定義shift與DataFrame求差集的相關資料,需要的朋友可以參考下2022-02-02
Python使用import導入本地腳本及導入模塊的技巧總結(jié)
這篇文章主要介紹了Python使用import導入本地腳本及導入模塊的技巧,結(jié)合實例形式總結(jié)分析了Python使用import導入本地腳本及導入模塊的使用方法及相關操作注意事項,需要的朋友可以參考下2019-08-08
Python訪問MongoDB,并且轉(zhuǎn)換成Dataframe的方法
今天小編就為大家分享一篇Python訪問MongoDB,并且轉(zhuǎn)換成Dataframe的方法，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2018-10-10