利用?Python?開(kāi)發(fā)一個(gè)?Python?解釋器
前言：
計(jì)算機(jī)只能理解機(jī)器碼。歸根結(jié)底，編程語(yǔ)言只是一串文字，目的是為了讓人類(lèi)更容易編寫(xiě)他們想讓計(jì)算機(jī)做的事情。真正的魔法是由編譯器和解釋器完成，它們彌合了兩者之間的差距。解釋器逐行讀取代碼并將其轉(zhuǎn)換為機(jī)器碼。
在本文中，我們將設(shè)計(jì)一個(gè)可以執(zhí)行算術(shù)運(yùn)算的解釋器。
我們不會(huì)重新造輪子。文章將使用由 David M. Beazley 開(kāi)發(fā)的詞法解析器 ——PLY（Python Lex-Yacc(https://github.com/dabeaz/ply)）。
PLY 可以通過(guò)以下方式下載：
$ pip install ply?
我們將粗略地瀏覽一下創(chuàng)建解釋器所需的基礎(chǔ)知識(shí)。欲了解更多，請(qǐng)參閱這個(gè) GitHub 倉(cāng)庫(kù)(https://github.com/dabeaz/ply)。
1.標(biāo)記（Token）
標(biāo)記是為解釋器提供有意義信息的最小字符單位。標(biāo)記包含一對(duì)名稱(chēng)和屬性值。
讓我們從創(chuàng)建標(biāo)記名稱(chēng)列表開(kāi)始。這是一個(gè)必要的步驟。
tokens = ( ? ? ? # 數(shù)據(jù)類(lèi)型 ? ? ? "NUM", ? ? ? "FLOAT", ? ? ? # 算術(shù)運(yùn)算 ? ? ? "PLUS", ? ? ? "MINUS", ? ? ? "MUL", ? ? ? "DIV", ? ? ? # 括號(hào) ? ? ? "LPAREN", ? ? ? "RPAREN", ? )?
2.詞法分析器（Lexer）
將語(yǔ)句轉(zhuǎn)換為標(biāo)記的過(guò)程稱(chēng)為標(biāo)記化或詞法分析。執(zhí)行詞法分析的程序是詞法分析器。
# 標(biāo)記的正則表達(dá) ?
t_PLUS ? = r"\+" ?
t_MINUS ?= r"\-" ?
t_MUL ? ?= r"\*" ?
t_DIV ? ?= r"/" ?
t_LPAREN = r"\(" ?
t_RPAREN = r"\)" ?
t_POW ? ?= r"\^" ?
# 忽略空格和制表符 ?
t_ignore = " \t" ?
# 為每個(gè)規(guī)則添加動(dòng)作 ?
def t_FLOAT(t): ?
? ? r"""\d+\.\d+""" ?
? ? t.value = float(t.value) ?
? ? return t ?
def t_NUM(t): ?
? ? r"""\d+""" ?
? ? t.value = int(t.value) ?
? ? return t ?
# 未定義規(guī)則字符的錯(cuò)誤處理 ?
def t_error(t): ?
? ? # 此處的 t.value 包含未標(biāo)記的其余輸入 ?
? ? print(f"keyword not found: {t.value[0]}\nline {t.lineno}") ?
? ? t.lexer.skip(1) ?
# 如果遇到 \n 則將其設(shè)為新的一行 ?
def t_newline(t): ?
? ? r"""\n+""" ?
? ? t.lexer.lineno += t.value.count("\n")?為導(dǎo)入詞法分析器，我們將使用：
import ply.lex as lex
t_ 是一個(gè)特殊的前綴，表示定義標(biāo)記的規(guī)則。每條詞法規(guī)則都是用正則表達(dá)式制作的，與 Python 中的 re 模塊兼容。正則表達(dá)式能夠根據(jù)規(guī)則掃描輸入并搜索符合的符號(hào)串。正則表達(dá)式定義的文法稱(chēng)為正則文法。正則文法定義的語(yǔ)言則稱(chēng)為正則語(yǔ)言。
定義好了規(guī)則，我們將構(gòu)建詞法分析器:
data = 'a = 2 +(10 -8)/1.0' ? lexlexer = lex.lex() ? lexer.input(data) ? while tok := lexer.token(): ? ? ? print(tok)?
為了傳遞輸入字符串，我們使用lexer.input(data)。lexer.token() 將返回下一個(gè) LexToken 實(shí)例，最后返回 None。根據(jù)上述規(guī)則，代碼 2 + ( 10 -8)/1.0 的標(biāo)記將是：
紫色字符代表的是標(biāo)記的名稱(chēng)，其后是標(biāo)記的具體內(nèi)容。
3.巴科斯-諾爾范式（Backus-Naur Form，BNF）
大多數(shù)編程語(yǔ)言都可以用上下文無(wú)關(guān)文法來(lái)編寫(xiě)。它比常規(guī)語(yǔ)言更復(fù)雜。對(duì)于上下文無(wú)關(guān)文法，我們用上下文無(wú)關(guān)語(yǔ)法，它是描述語(yǔ)言中所有可能語(yǔ)法的規(guī)則集。BNF 是一種定義語(yǔ)法的方式，它描述了編程語(yǔ)言的語(yǔ)法。
讓我們看看例子：
symbol : alternative1 | alternative2 …
根據(jù)產(chǎn)生式，: 的左側(cè)被替換為右側(cè)的其中一個(gè)值替換。右側(cè)的值由 | 分隔（可理解為 symbol 定義為 alternative1 或 alternative2或…… 等等）。
對(duì)于我們的這個(gè)算術(shù)解釋器，語(yǔ)法規(guī)格如下：
expression : expression '+' expression ? ? ? ? ? ? ?| expression '-' expression ? ? ? ? ? ? ?| expression '/' expression ? ? ? ? ? ? ?| expression '*' expression ? ? ? ? ? ? ?| expression '^' expression ? ? ? ? ? ? ?| +expression ? ? ? ? ? ? ?| -expression ? ? ? ? ? ? ?| ( expression ) ? ? ? ? ? ? ?| NUM ? ? ? ? ? ? ?| FLOAT?
輸入的標(biāo)記是諸如 NUM、FLOAT、+、-、*、/ 之類(lèi)的符號(hào)，稱(chēng)作終端（無(wú)法繼續(xù)分解或產(chǎn)生其他符號(hào)的字符）。一個(gè)表達(dá)式由終端和規(guī)則集組成，例如 expression 則稱(chēng)為非終端。
4.解析器（Parser）
我們將使用 YACC（Yet Another Compiler Compiler） 作為解析器生成器。導(dǎo)入模塊：import ply.yacc as yacc。
from operator import (add, sub, mul, truediv, pow) ?
# 我們的解釋器支持的運(yùn)算符列表 ?
ops = { ?
? ? "+": add, ?
? ? "-": sub, ?
? ? "*": mul, ?
? ? "/": truediv, ?
? ? "^": pow, ?
}?
def p_expression(p): ?
? ? """expression : expression PLUS expression ?
? ? ? ? ? ? ? ? ? | expression MINUS expression ?
? ? ? ? ? ? ? ? ? | expression DIV expression ?
? ? ? ? ? ? ? ? ? | expression MUL expression ?
? ? ? ? ? ? ? ? ? | expression POW expression""" ?
? ? if (p[2], p[3]) == ("/", 0): ?
? ? ? ? # 如果除以 0，則將“INF”（無(wú)限）作為值 ?
? ? ? ? p[0] = float("INF") ?
? ? else: ?
? ? ? ? p[0] = ops[p[2]](p[1], p[3]) ?
def p_expression_uplus_or_expr(p): ?
? ? """expression : PLUS expression %prec UPLUS ?
? ? ? ? ? ? ? ? ? | LPAREN expression RPAREN""" ?
? ? p[0] = p[2] ?
def p_expression_uminus(p): ?
? ? """expression : MINUS expression %prec UMINUS""" ?
? ? p[0] = -p[2] ?
def p_expression_num(p): ?
? ? """expression : NUM ?
? ? ? ? ? ? ? ? ? | FLOAT""" ?
? ? p[0] = p[1] ?
# 語(yǔ)法錯(cuò)誤時(shí)的規(guī)則 ?
def p_error(p): ?
? ? print(f"Syntax error in {p.value}")?在文檔字符串中，我們將添加適當(dāng)?shù)恼Z(yǔ)法規(guī)范。p 列表中的的元素與語(yǔ)法符號(hào)一一對(duì)應(yīng)，如下所示：
expression : expression PLUS expression ? p[0] ? ? ? ? p[1] ? ? ? p[2] p[3]?
在上文中，%prec UPLUS 和 %prec UMINUS 是用來(lái)表示自定義運(yùn)算的。%prec 即是 precedence 的縮寫(xiě)。在符號(hào)中本來(lái)沒(méi)有 UPLUS 和 UMINUS 這個(gè)說(shuō)法（在本文中這兩個(gè)自定義運(yùn)算表示一元正號(hào)和符號(hào)，其實(shí) UPLUS 和 UMINUS 只是個(gè)名字，想取什么就取什么）。之后，我們可以添加基于表達(dá)式的規(guī)則。YACC 允許為每個(gè)令牌分配優(yōu)先級(jí)。
我們可以使用以下方法設(shè)置它：
precedence = ( ?
? ? ("left", "PLUS", "MINUS"), ?
? ? ("left", "MUL", "DIV"), ?
? ? ("left", "POW"), ?
? ? ("right", "UPLUS", "UMINUS") ?
)?在優(yōu)先級(jí)聲明中，標(biāo)記按優(yōu)先級(jí)從低到高的順序排列。PLUS 和 MINUS 優(yōu)先級(jí)相同并且具有左結(jié)合性（運(yùn)算從左至右執(zhí)行）。MUL 和 DIV 的優(yōu)先級(jí)高于 PLUS 和 MINUS，也具有左結(jié)合性。POW 亦是如此，不過(guò)優(yōu)先級(jí)更高。UPLUS 和 UMINUS 則是具有右結(jié)合性（運(yùn)算從右至左執(zhí)行）。
要解析輸入我們將使用：
parser = yacc.yacc() ? result = parser.parse(data) ? print(result)?
完整代碼如下：
##################################### ?
# 引入模塊 ? ? ? ? ? ? ? ? ? ? ? ? ? # ?
##################################### ?
from logging import (basicConfig, INFO, getLogger) ?
from operator import (add, sub, mul, truediv, pow) ?
import ply.lex as lex ?
import ply.yacc as yacc ?
# 我們的解釋器支持的運(yùn)算符列表 ?
ops = { ?
? ? "+": add, ?
? ? "-": sub, ?
? ? "*": mul, ?
? ? "/": truediv, ?
? ? "^": pow, ?
} ?
##################################### ?
# 標(biāo)記集 ? ? ? ? ? ? ? ? ? ? ? ? ? ? # ?
##################################### ?
tokens = ( ?
? ? # 數(shù)據(jù)類(lèi)型 ?
? ? "NUM", ?
? ? "FLOAT", ?
? ? # 算術(shù)運(yùn)算 ?
? ? "PLUS", ?
? ? "MINUS", ?
? ? "MUL", ?
? ? "DIV", ?
? ? "POW", ?
? ? # 括號(hào) ?
? ? "LPAREN", ?
? ? "RPAREN", ?
) ?
##################################### ?
# 標(biāo)記的正則表達(dá)式 ? ? ? ? ? ? ? ? ? ?# ?
##################################### ?
t_PLUS ? = r"\+" ?
t_MINUS ?= r"\-" ?
t_MUL ? ?= r"\*" ?
t_DIV ? ?= r"/" ?
t_LPAREN = r"\(" ?
t_RPAREN = r"\)" ?
t_POW ? ?= r"\^" ?
# 忽略空格和制表符 ?
t_ignore = " \t" ?
# 為每個(gè)規(guī)則添加動(dòng)作 ?
def t_FLOAT(t): ?
? ? r"""\d+\.\d+""" ?
? ? t.value = float(t.value) ?
? ? return t ?
def t_NUM(t): ?
? ? r"""\d+""" ?
? ? t.value = int(t.value) ?
? ? return t ?
# 未定義規(guī)則字符的錯(cuò)誤處理 ?
def t_error(t): ?
? ? # 此處的 t.value 包含未標(biāo)記的其余輸入 ?
? ? print(f"keyword not found: {t.value[0]}\nline {t.lineno}") ?
? ? t.lexer.skip(1) ?
# 如果看到 \n 則將其設(shè)為新的一行?
?def t_newline(t): ?
? ? r"""\n+""" ?
? ? t.lexer.lineno += t.value.count("\n") ?
##################################### ?
# 設(shè)置符號(hào)優(yōu)先級(jí) ? ? ? ? ? ? ? ? ? ? ?# ?
##################################### ?
precedence = ( ?
? ? ("left", "PLUS", "MINUS"), ?
? ? ("left", "MUL", "DIV"), ?
? ? ("left", "POW"), ?
? ? ("right", "UPLUS", "UMINUS") ?
) ?
##################################### ?
# 書(shū)寫(xiě) BNF 規(guī)則 ? ? ? ? ? ? ? ? ? ? ?# ?
##################################### ?
def p_expression(p): ?
? ? """expression : expression PLUS expression ?
? ? ? ? ? ? ? ? ? | expression MINUS expression ?
? ? ? ? ? ? ? ? ? | expression DIV expression ?
? ? ? ? ? ? ? ? ? | expression MUL expression ?
? ? ? ? ? ? ? ? ? | expression POW expression""" ?
? ? if (p[2], p[3]) == ("/", 0): ?
? ? ? ? # 如果除以 0，則將“INF”（無(wú)限）作為值 ?
? ? ? ? p[0] = float("INF") ?
? ? else: ?
? ? ? ? p[0] = ops[p[2]](p[1], p[3]) ?
def p_expression_uplus_or_expr(p): ?
? ? """expression : PLUS expression %prec UPLUS ?
? ? ? ? ? ? ? ? ? | LPAREN expression RPAREN""" ?
? ? p[0] = p[2] ?
def p_expression_uminus(p): ?
? ? """expression : MINUS expression %prec UMINUS""" ?
? ? p[0] = -p[2] ?
def p_expression_num(p): ?
? ? """expression : NUM ?
? ? ? ? ? ? ? ? ? | FLOAT""" ?
? ? p[0] = p[1] ?
# 語(yǔ)法錯(cuò)誤時(shí)的規(guī)則 ?
def p_error(p): ?
? ? print(f"Syntax error in {p.value}")?
?##################################### ?
# 主程式 ? ? ? ? ? ? ? ? ? ? ? ? ? ? # ?
##################################### ?
if __name__ == "__main__": ?
? ? basicConfig(level=INFO, filename="logs.txt")?
? ? lexlexer = lex.lex() ?
? ? parser = yacc.yacc() ?
? ? while True: ?
? ? ? ? try: ?
? ? ? ? ? ? result = parser.parse( ?
? ? ? ? ? ? ? ? input(">>>"), ?
? ? ? ? ? ? ? ? debug=getLogger()) ?
? ? ? ? ? ? print(result) ?
? ? ? ? except AttributeError: ?
? ? ? ? ? ? print("invalid syntax")?到此這篇關(guān)于利用 Python 開(kāi)發(fā)一個(gè) Python 解釋器的文章就介紹到這了,更多相關(guān)Python 解釋器內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！
相關(guān)文章
本文主要介紹了Pandas缺失值刪除df.dropna()的使用，文中通過(guò)示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2022-07-07
Python socket服務(wù)常用操作代碼實(shí)例
這篇文章主要介紹了Python socket服務(wù)常用操作代碼實(shí)例,文中通過(guò)示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下2020-06-06
Python代碼實(shí)現(xiàn)動(dòng)圖倒放
這篇文章主要介紹了Python代碼實(shí)現(xiàn)動(dòng)圖倒放，文章通過(guò)利用gif動(dòng)圖實(shí)現(xiàn)倒放效果，具有一定的參考價(jià)值，需要的小伙伴可以參考一下，希望對(duì)你的學(xué)習(xí)有所幫助2022-03-03
這篇文章主要為大家詳細(xì)介紹了python實(shí)現(xiàn)雙向鏈表原理，文中示例代碼介紹的非常詳細(xì)，具有一定的參考價(jià)值，感興趣的小伙伴們可以參考一下2022-05-05
這篇文章主要為大家詳細(xì)介紹了python如何解析基于xml格式的日志文件，具有一定的參考價(jià)值，感興趣的小伙伴們可以參考一下2017-02-02
如何基于python測(cè)量代碼運(yùn)行時(shí)間
這篇文章主要介紹了如何基于python測(cè)量代碼運(yùn)行時(shí)間,文中通過(guò)示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下2019-12-12
python socket網(wǎng)絡(luò)編程步驟詳解(socket套接字使用)
這篇文章主要介紹了什么是套接字、PYTHON套接字模塊，提供一個(gè)簡(jiǎn)單的python socket編程，大家參考使用2013-12-12
python QT界面關(guān)閉線程池的線程跟隨退出完美解決方案
這篇文章主要介紹了python QT界面關(guān)閉，線程池的線程跟隨退出解決思路方法,本文給大家分享兩種方法結(jié)合實(shí)例代碼給大家介紹的非常詳細(xì)，需要的朋友可以參考下2022-11-11
跟老齊學(xué)Python之有點(diǎn)簡(jiǎn)約的元組
元組和列表十分類(lèi)似，但是元組是不可變的.也就是說(shuō)你不能修改元組。元組通過(guò)圓括號(hào)中用逗號(hào)分割的項(xiàng)目定義。元組通常用在使語(yǔ)句或用戶(hù)定義的函數(shù)能夠安全地采用一組值的時(shí)候，即被使用的元組的值不會(huì)改變。2014-09-09
這篇文章主要介紹了python讀寫(xiě)配置文件操作,結(jié)合實(shí)例形式分析了Python針對(duì)ini配置文件的讀取、解析、寫(xiě)入等相關(guān)操作技巧,需要的朋友可以參考下2019-07-07