初步探究Python程序的執(zhí)行原理

更新時(shí)間：2015年04月11日 11:23:11 作者：李劍

這篇文章主要介紹了Python程序的執(zhí)行原理,簡要地描述了其中的步驟,需要的朋友可以參考下

1. 過程概述

Python先把代碼（.py文件）編譯成字節(jié)碼，交給字節(jié)碼虛擬機(jī)，然后虛擬機(jī)一條一條執(zhí)行字節(jié)碼指令，從而完成程序的執(zhí)行。
2. 字節(jié)碼

字節(jié)碼在Python虛擬機(jī)程序里對(duì)應(yīng)的是PyCodeObject對(duì)象。
.pyc文件是字節(jié)碼在磁盤上的表現(xiàn)形式。
3. pyc文件

PyCodeObject對(duì)象的創(chuàng)建時(shí)機(jī)是模塊加載的時(shí)候，即import。
Python test.py會(huì)對(duì)test.py進(jìn)行編譯成字節(jié)碼并解釋執(zhí)行，但是不會(huì)生成test.pyc。
如果test.py加載了其他模塊，如import util，Python會(huì)對(duì)util.py進(jìn)行編譯成字節(jié)碼，生成util.pyc，然后對(duì)字節(jié)碼解釋執(zhí)行。
如果想生成test.pyc，我們可以使用Python內(nèi)置模塊py_compile來編譯。
加載模塊時(shí)，如果同時(shí)存在.py和.pyc，Python會(huì)嘗試使用.pyc，如果.pyc的編譯時(shí)間早于.py的修改時(shí)間，則重新編譯.py并更新.pyc。
4. PyCodeObject

Python代碼的編譯結(jié)果就是PyCodeObject對(duì)象。

typedef struct {
  PyObject_HEAD
  int co_argcount;    /* 位置參數(shù)個(gè)數(shù) */
  int co_nlocals;     /* 局部變量個(gè)數(shù) */
  int co_stacksize;    /* 棧大小 */
  int co_flags;  
  PyObject *co_code;   /* 字節(jié)碼指令序列 */
  PyObject *co_consts;  /* 所有常量集合 */
  PyObject *co_names;   /* 所有符號(hào)名稱集合 */
  PyObject *co_varnames; /* 局部變量名稱集合 */
  PyObject *co_freevars; /* 閉包用的的變量名集合 */
  PyObject *co_cellvars; /* 內(nèi)部嵌套函數(shù)引用的變量名集合 */
  /* The rest doesn't count for hash/cmp */
  PyObject *co_filename; /* 代碼所在文件名 */
  PyObject *co_name;   /* 模塊名|函數(shù)名|類名 */
  int co_firstlineno;   /* 代碼塊在文件中的起始行號(hào) */
  PyObject *co_lnotab;  /* 字節(jié)碼指令和行號(hào)的對(duì)應(yīng)關(guān)系 */
  void *co_zombieframe;  /* for optimization only (see frameobject.c) */
} PyCodeObject;
 
typedef struct {
  PyObject_HEAD
  int co_argcount;    /* 位置參數(shù)個(gè)數(shù) */
  int co_nlocals;     /* 局部變量個(gè)數(shù) */
  int co_stacksize;    /* 棧大小 */
  int co_flags;  
  PyObject *co_code;   /* 字節(jié)碼指令序列 */
  PyObject *co_consts;  /* 所有常量集合 */
  PyObject *co_names;   /* 所有符號(hào)名稱集合 */
  PyObject *co_varnames; /* 局部變量名稱集合 */
  PyObject *co_freevars; /* 閉包用的的變量名集合 */
  PyObject *co_cellvars; /* 內(nèi)部嵌套函數(shù)引用的變量名集合 */
  /* The rest doesn't count for hash/cmp */
  PyObject *co_filename; /* 代碼所在文件名 */
  PyObject *co_name;   /* 模塊名|函數(shù)名|類名 */
  int co_firstlineno;   /* 代碼塊在文件中的起始行號(hào) */
  PyObject *co_lnotab;  /* 字節(jié)碼指令和行號(hào)的對(duì)應(yīng)關(guān)系 */
  void *co_zombieframe;  /* for optimization only (see frameobject.c) */
} PyCodeObject;

5. pyc文件格式

加載模塊時(shí)，模塊對(duì)應(yīng)的PyCodeObject對(duì)象被寫入.pyc文件，格式如下：

2015411111617086.png (377×480)

6. 分析字節(jié)碼
6.1 解析PyCodeObject

Python提供了內(nèi)置函數(shù)compile可以編譯Python代碼和查看PyCodeObject對(duì)象，如下：

Python代碼[test.py]

s = ”hello”

def func():
  print s

func()
 
s = ”hello”
 
def func():
  print s
 
func()

在Python交互式shell里編譯代碼得到PyCodeObject對(duì)象:

2015411111701972.png (658×147)

dir(co)已經(jīng)列出co的各個(gè)域，想查看某個(gè)域直接在終端輸出即可：

2015411111733180.png (542×74)

test.py的PyCodeObject

co.co_argcount  0
co.co_nlocals   0
co.co_names    (‘s', 'func')
co.co_varnames  (‘s', 'func')
co.co_consts   (‘hello', <code object func at 0x2aaeeec57110, file ”test.py”, line 3>, None)
co.co_code    'd\x00\x00Z\x00\x00d\x01\x00\x84\x00\x00Z\x01\x00e\x01\x00\x83\x00\x00\x01d\x02\x00S'
 
co.co_argcount  0
co.co_nlocals   0
co.co_names    (‘s', 'func')
co.co_varnames  (‘s', 'func')
co.co_consts   (‘hello', <code object func at 0x2aaeeec57110, file ”test.py”, line 3>, None)
co.co_code    'd\x00\x00Z\x00\x00d\x01\x00\x84\x00\x00Z\x01\x00e\x01\x00\x83\x00\x00\x01d\x02\x00S'

Python解釋器會(huì)為函數(shù)也生成的字節(jié)碼PyCodeObject對(duì)象，見上面的co_consts[1]

func的PyCodeObject

func.co_argcount  0
func.co_nlocals  0
func.co_names   (‘s',)
func.co_varnames  ()
func.co_consts   (None,)
func.co_code    ‘t\x00\x00GHd\x00\x00S'
 
func.co_argcount  0
func.co_nlocals  0
func.co_names   (‘s',)
func.co_varnames  ()
func.co_consts   (None,)
func.co_code    ‘t\x00\x00GHd\x00\x00S'

co_code是指令序列，是一串二進(jìn)制流，它的格式和解析方法見6.2。
6.2 解析指令序列

指令序列co_code的格式

2015411111800381.jpg (360×97)

Python內(nèi)置的dis模塊可以解析co_code，如下圖：

test.py的指令序列

2015411111825052.png (734×228)

func函數(shù)的指令序列

2015411111856558.png (404×103)

第一列表示以下幾個(gè)指令在py文件中的行號(hào);
第二列是該指令在指令序列co_code里的偏移量;
第三列是指令opcode的名稱，分為有操作數(shù)和無操作數(shù)兩種，opcode在指令序列中是一個(gè)字節(jié)的整數(shù);
第四列是操作數(shù)oparg，在指令序列中占兩個(gè)字節(jié)，基本都是co_consts或者co_names的下標(biāo);
第五列帶括號(hào)的是操作數(shù)說明。
7. 執(zhí)行字節(jié)碼

Python虛擬機(jī)的原理就是模擬可執(zhí)行程序再X86機(jī)器上的運(yùn)行，X86的運(yùn)行時(shí)棧幀如下圖：

2015411111945075.png (470×610)

假如test.py用C語言來實(shí)現(xiàn)，會(huì)是下面這個(gè)樣子：

const char *s = “hello”;

void func() {
  printf(“%s\n”, s);
}

int main() {
  func();
  return 0;
}
 
const char *s = “hello”;
 
void func() {
  printf(“%s\n”, s);
}
 
int main() {
  func();
  return 0;
}

Python虛擬機(jī)的原理就是模擬上述行為。當(dāng)發(fā)生函數(shù)調(diào)用時(shí)，創(chuàng)建新的棧幀，對(duì)應(yīng)Python的實(shí)現(xiàn)就是PyFrameObject對(duì)象。
7.1 PyFrameObject

typedef struct _frame {
  PyObject_VAR_HEAD
  struct _frame *f_back;  /* 調(diào)用者的幀 */
  PyCodeObject *f_code;   /* 幀對(duì)應(yīng)的字節(jié)碼對(duì)象 */
  PyObject *f_builtins;   /* 內(nèi)置名字空間 */
  PyObject *f_globals;   /* 全局名字空間 */
  PyObject *f_locals;    /* 本地名字空間 */
  PyObject **f_valuestack; /* 運(yùn)行時(shí)棧底 */
  PyObject **f_stacktop;  /* 運(yùn)行時(shí)棧頂 */
  …….
}
 
typedef struct _frame {
  PyObject_VAR_HEAD
  struct _frame *f_back;  /* 調(diào)用者的幀 */
  PyCodeObject *f_code;   /* 幀對(duì)應(yīng)的字節(jié)碼對(duì)象 */
  PyObject *f_builtins;   /* 內(nèi)置名字空間 */
  PyObject *f_globals;   /* 全局名字空間 */
  PyObject *f_locals;    /* 本地名字空間 */
  PyObject **f_valuestack; /* 運(yùn)行時(shí)棧底 */
  PyObject **f_stacktop;  /* 運(yùn)行時(shí)棧頂 */
  …….
}

那么對(duì)應(yīng)Python的運(yùn)行時(shí)棧就是這樣子：

2015411112025713.png (628×248)

7.2 執(zhí)行指令

執(zhí)行test.py的字節(jié)碼時(shí)，會(huì)先創(chuàng)建一個(gè)棧幀，以下用f表示當(dāng)前棧幀，執(zhí)行過程注釋如下：

test.py的符號(hào)名集合和常量集合

co.co_names  (‘s', 'func')
co.co_consts (‘hello', <code object func at 0x2aaeeec57110, file ”test.py”, line 3>, None)
 
co.co_names  (‘s', 'func')
co.co_consts (‘hello', <code object func at 0x2aaeeec57110, file ”test.py”, line 3>, None)

test.py的指令序列

2015411112058949.png (561×361)

上面的CALL_FUNCTION指令執(zhí)行時(shí)，會(huì)創(chuàng)建新的棧幀，并執(zhí)行func的字節(jié)碼指令，以下用f表示當(dāng)前棧幀，func的字節(jié)碼執(zhí)行過程如下：

func函數(shù)的符號(hào)名集合和常量集合

func.co_names    (‘s',)
func.co_consts   (None,)
 
func.co_names    (‘s',)
func.co_consts   (None,)

func函數(shù)的指令序列

2015411112126342.png (559×195)

7.3 查看棧幀

如果你想查看當(dāng)前棧幀，Python提供了sys._getframe()方法可以獲取當(dāng)前棧幀，你只需要在代碼里加入代碼如下：

def func():
  import sys
  frame = sys._getframe()
  print frame.f_locals
  print frame.f_globals
  print frame.f_back.f_locals
  #你可以打印frame的各個(gè)域
  print s

您可能感興趣的文章: