初步探究Python程序的執(zhí)行原理
1. 過程概述
Python先把代碼(.py文件)編譯成字節(jié)碼,交給字節(jié)碼虛擬機(jī),然后虛擬機(jī)一條一條執(zhí)行字節(jié)碼指令,從而完成程序的執(zhí)行。
2. 字節(jié)碼
字節(jié)碼在Python虛擬機(jī)程序里對(duì)應(yīng)的是PyCodeObject對(duì)象。
.pyc文件是字節(jié)碼在磁盤上的表現(xiàn)形式。
3. pyc文件
PyCodeObject對(duì)象的創(chuàng)建時(shí)機(jī)是模塊加載的時(shí)候,即import。
Python test.py會(huì)對(duì)test.py進(jìn)行編譯成字節(jié)碼并解釋執(zhí)行,但是不會(huì)生成test.pyc。
如果test.py加載了其他模塊,如import util,Python會(huì)對(duì)util.py進(jìn)行編譯成字節(jié)碼,生成util.pyc,然后對(duì)字節(jié)碼解釋執(zhí)行。
如果想生成test.pyc,我們可以使用Python內(nèi)置模塊py_compile來編譯。
加載模塊時(shí),如果同時(shí)存在.py和.pyc,Python會(huì)嘗試使用.pyc,如果.pyc的編譯時(shí)間早于.py的修改時(shí)間,則重新編譯.py并更新.pyc。
4. PyCodeObject
Python代碼的編譯結(jié)果就是PyCodeObject對(duì)象。
typedef struct { PyObject_HEAD int co_argcount; /* 位置參數(shù)個(gè)數(shù) */ int co_nlocals; /* 局部變量個(gè)數(shù) */ int co_stacksize; /* 棧大小 */ int co_flags; PyObject *co_code; /* 字節(jié)碼指令序列 */ PyObject *co_consts; /* 所有常量集合 */ PyObject *co_names; /* 所有符號(hào)名稱集合 */ PyObject *co_varnames; /* 局部變量名稱集合 */ PyObject *co_freevars; /* 閉包用的的變量名集合 */ PyObject *co_cellvars; /* 內(nèi)部嵌套函數(shù)引用的變量名集合 */ /* The rest doesn't count for hash/cmp */ PyObject *co_filename; /* 代碼所在文件名 */ PyObject *co_name; /* 模塊名|函數(shù)名|類名 */ int co_firstlineno; /* 代碼塊在文件中的起始行號(hào) */ PyObject *co_lnotab; /* 字節(jié)碼指令和行號(hào)的對(duì)應(yīng)關(guān)系 */ void *co_zombieframe; /* for optimization only (see frameobject.c) */ } PyCodeObject; typedef struct { PyObject_HEAD int co_argcount; /* 位置參數(shù)個(gè)數(shù) */ int co_nlocals; /* 局部變量個(gè)數(shù) */ int co_stacksize; /* 棧大小 */ int co_flags; PyObject *co_code; /* 字節(jié)碼指令序列 */ PyObject *co_consts; /* 所有常量集合 */ PyObject *co_names; /* 所有符號(hào)名稱集合 */ PyObject *co_varnames; /* 局部變量名稱集合 */ PyObject *co_freevars; /* 閉包用的的變量名集合 */ PyObject *co_cellvars; /* 內(nèi)部嵌套函數(shù)引用的變量名集合 */ /* The rest doesn't count for hash/cmp */ PyObject *co_filename; /* 代碼所在文件名 */ PyObject *co_name; /* 模塊名|函數(shù)名|類名 */ int co_firstlineno; /* 代碼塊在文件中的起始行號(hào) */ PyObject *co_lnotab; /* 字節(jié)碼指令和行號(hào)的對(duì)應(yīng)關(guān)系 */ void *co_zombieframe; /* for optimization only (see frameobject.c) */ } PyCodeObject;
5. pyc文件格式
加載模塊時(shí),模塊對(duì)應(yīng)的PyCodeObject對(duì)象被寫入.pyc文件,格式如下:
6. 分析字節(jié)碼
6.1 解析PyCodeObject
Python提供了內(nèi)置函數(shù)compile可以編譯Python代碼和查看PyCodeObject對(duì)象,如下:
Python代碼[test.py]
s = ”hello” def func(): print s func() s = ”hello” def func(): print s func()
在Python交互式shell里編譯代碼得到PyCodeObject對(duì)象:
dir(co)已經(jīng)列出co的各個(gè)域,想查看某個(gè)域直接在終端輸出即可:
test.py的PyCodeObject
co.co_argcount 0 co.co_nlocals 0 co.co_names (‘s', 'func') co.co_varnames (‘s', 'func') co.co_consts (‘hello', <code object func at 0x2aaeeec57110, file ”test.py”, line 3>, None) co.co_code 'd\x00\x00Z\x00\x00d\x01\x00\x84\x00\x00Z\x01\x00e\x01\x00\x83\x00\x00\x01d\x02\x00S' co.co_argcount 0 co.co_nlocals 0 co.co_names (‘s', 'func') co.co_varnames (‘s', 'func') co.co_consts (‘hello', <code object func at 0x2aaeeec57110, file ”test.py”, line 3>, None) co.co_code 'd\x00\x00Z\x00\x00d\x01\x00\x84\x00\x00Z\x01\x00e\x01\x00\x83\x00\x00\x01d\x02\x00S'
Python解釋器會(huì)為函數(shù)也生成的字節(jié)碼PyCodeObject對(duì)象,見上面的co_consts[1]
func的PyCodeObject
func.co_argcount 0 func.co_nlocals 0 func.co_names (‘s',) func.co_varnames () func.co_consts (None,) func.co_code ‘t\x00\x00GHd\x00\x00S' func.co_argcount 0 func.co_nlocals 0 func.co_names (‘s',) func.co_varnames () func.co_consts (None,) func.co_code ‘t\x00\x00GHd\x00\x00S'
co_code是指令序列,是一串二進(jìn)制流,它的格式和解析方法見6.2。
6.2 解析指令序列
指令序列co_code的格式
Python內(nèi)置的dis模塊可以解析co_code,如下圖:
test.py的指令序列
func函數(shù)的指令序列
第一列表示以下幾個(gè)指令在py文件中的行號(hào);
第二列是該指令在指令序列co_code里的偏移量;
第三列是指令opcode的名稱,分為有操作數(shù)和無操作數(shù)兩種,opcode在指令序列中是一個(gè)字節(jié)的整數(shù);
第四列是操作數(shù)oparg,在指令序列中占兩個(gè)字節(jié),基本都是co_consts或者co_names的下標(biāo);
第五列帶括號(hào)的是操作數(shù)說明。
7. 執(zhí)行字節(jié)碼
Python虛擬機(jī)的原理就是模擬可執(zhí)行程序再X86機(jī)器上的運(yùn)行,X86的運(yùn)行時(shí)棧幀如下圖:
假如test.py用C語言來實(shí)現(xiàn),會(huì)是下面這個(gè)樣子:
const char *s = “hello”; void func() { printf(“%s\n”, s); } int main() { func(); return 0; } const char *s = “hello”; void func() { printf(“%s\n”, s); } int main() { func(); return 0; }
Python虛擬機(jī)的原理就是模擬上述行為。當(dāng)發(fā)生函數(shù)調(diào)用時(shí),創(chuàng)建新的棧幀,對(duì)應(yīng)Python的實(shí)現(xiàn)就是PyFrameObject對(duì)象。
7.1 PyFrameObject
typedef struct _frame { PyObject_VAR_HEAD struct _frame *f_back; /* 調(diào)用者的幀 */ PyCodeObject *f_code; /* 幀對(duì)應(yīng)的字節(jié)碼對(duì)象 */ PyObject *f_builtins; /* 內(nèi)置名字空間 */ PyObject *f_globals; /* 全局名字空間 */ PyObject *f_locals; /* 本地名字空間 */ PyObject **f_valuestack; /* 運(yùn)行時(shí)棧底 */ PyObject **f_stacktop; /* 運(yùn)行時(shí)棧頂 */ ……. } typedef struct _frame { PyObject_VAR_HEAD struct _frame *f_back; /* 調(diào)用者的幀 */ PyCodeObject *f_code; /* 幀對(duì)應(yīng)的字節(jié)碼對(duì)象 */ PyObject *f_builtins; /* 內(nèi)置名字空間 */ PyObject *f_globals; /* 全局名字空間 */ PyObject *f_locals; /* 本地名字空間 */ PyObject **f_valuestack; /* 運(yùn)行時(shí)棧底 */ PyObject **f_stacktop; /* 運(yùn)行時(shí)棧頂 */ ……. }
那么對(duì)應(yīng)Python的運(yùn)行時(shí)棧就是這樣子:
7.2 執(zhí)行指令
執(zhí)行test.py的字節(jié)碼時(shí),會(huì)先創(chuàng)建一個(gè)棧幀,以下用f表示當(dāng)前棧幀,執(zhí)行過程注釋如下:
test.py的符號(hào)名集合和常量集合
co.co_names (‘s', 'func') co.co_consts (‘hello', <code object func at 0x2aaeeec57110, file ”test.py”, line 3>, None) co.co_names (‘s', 'func') co.co_consts (‘hello', <code object func at 0x2aaeeec57110, file ”test.py”, line 3>, None)
test.py的指令序列
上面的CALL_FUNCTION指令執(zhí)行時(shí),會(huì)創(chuàng)建新的棧幀,并執(zhí)行func的字節(jié)碼指令,以下用f表示當(dāng)前棧幀,func的字節(jié)碼執(zhí)行過程如下:
func函數(shù)的符號(hào)名集合和常量集合
func.co_names (‘s',) func.co_consts (None,) func.co_names (‘s',) func.co_consts (None,)
func函數(shù)的指令序列
7.3 查看棧幀
如果你想查看當(dāng)前棧幀,Python提供了sys._getframe()方法可以獲取當(dāng)前棧幀,你只需要在代碼里加入代碼如下:
def func(): import sys frame = sys._getframe() print frame.f_locals print frame.f_globals print frame.f_back.f_locals #你可以打印frame的各個(gè)域 print s
相關(guān)文章
pytorch 調(diào)整某一維度數(shù)據(jù)順序的方法
今天小編就為大家分享一篇pytorch 調(diào)整某一維度數(shù)據(jù)順序的方法,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過來看看吧2018-12-12Pycharm報(bào)錯(cuò):'NoneType'?object?has?no?attribute?
這篇文章主要給大家介紹了關(guān)于Pycharm報(bào)錯(cuò):'NoneType'?object?has?no?attribute?'bytes'的解決方法,文中通過圖文將解決的方法介紹的非常詳細(xì),需要的朋友可以參考下2022-02-02centos 安裝Python3 及對(duì)應(yīng)的pip教程詳解
這篇文章主要介紹了centos 安裝Python3 及對(duì)應(yīng)的pip的教程,本文給大家介紹的非常詳細(xì),具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2019-06-06python為tornado添加recaptcha驗(yàn)證碼功能
tornado作為微框架,并沒有自帶驗(yàn)證碼組件,recaptcha是著名的驗(yàn)證碼解決方案,簡單易用,被很多公司運(yùn)用來防止惡意注冊(cè)和評(píng)論。tornado添加recaptchaHA非常容易2014-02-02python 輸出列表元素實(shí)例(以空格/逗號(hào)為分隔符)
今天小編就為大家分享一篇python 輸出列表元素實(shí)例(以空格/逗號(hào)為分隔符),具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過來看看吧2019-12-12Python入門必須知道的11個(gè)知識(shí)點(diǎn)
這篇文章主要為大家詳細(xì)介紹了Python入門必須知道的11個(gè)知識(shí)點(diǎn),幫助更好地了解python,感興趣的小伙伴們可以參考一下2018-03-03python字典如何獲取最大和最小value對(duì)應(yīng)的key
這篇文章主要介紹了python字典如何獲取最大和最小value對(duì)應(yīng)的key問題,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2022-11-11