詳解Python如何實(shí)現(xiàn)惰性導(dǎo)入-lazy import
前言
如果你的 Python 程序程序有大量的 import,而且啟動(dòng)非常慢,那么你應(yīng)該嘗試懶導(dǎo)入,本文分享一種實(shí)現(xiàn)惰性導(dǎo)入的一種方法。雖然PEP0690已經(jīng)提案讓 Python 編譯器(-L) 或者標(biāo)準(zhǔn)庫(kù)加入這個(gè)功能,但目前的 Python 版本還未實(shí)現(xiàn)。
眾所周知,Python 應(yīng)用程序在執(zhí)行用戶的實(shí)際操作之前,會(huì)執(zhí)行 import 操作,不同的模塊可能來自不同的位置,某些模塊的運(yùn)行可能非常耗時(shí),某些模塊可能根本不會(huì)被用戶調(diào)用,因此很多模塊的導(dǎo)入純粹是浪費(fèi)時(shí)間。
因此我們需要惰性導(dǎo)入,當(dāng)應(yīng)用惰性導(dǎo)入時(shí),運(yùn)行 import foo 僅僅會(huì)把名字 foo 添加到全局的全名空間(globals())中作為一個(gè)懶引用(lazy reference),編譯器遇到任何訪問 foo 的代碼時(shí)才會(huì)執(zhí)行真正的 import 操作。類似的,from foo import bar 會(huì)把 bar 添加到命名空間,當(dāng)遇到調(diào)用 bar 的代碼時(shí),就把 foo 導(dǎo)入。
寫代碼實(shí)現(xiàn)
那怎么寫代碼實(shí)現(xiàn)呢?其實(shí)不必寫代碼實(shí)現(xiàn),已經(jīng)有項(xiàng)目實(shí)現(xiàn)了懶導(dǎo)入功能,那就是 TensorFlow,它的代碼并沒有任何三方庫(kù)依賴,我把它放到這里,以后大家需要懶導(dǎo)入的時(shí)候直接把LazyLoader類復(fù)制到自己的項(xiàng)目中去即可。
源代碼如下:
#?Code?copied?from?https://github.com/tensorflow/tensorflow/blob/master/tensorflow/python/util/lazy_loader.py """A?LazyLoader?class.""" from?__future__?import?absolute_import from?__future__?import?division from?__future__?import?print_function import?importlib import?types class?LazyLoader(types.ModuleType): ??"""Lazily?import?a?module,?mainly?to?avoid?pulling?in?large?dependencies. ??`contrib`,?and?`ffmpeg`?are?examples?of?modules?that?are?large?and?not?always ??needed,?and?this?allows?them?to?only?be?loaded?when?they?are?used. ??""" ??#?The?lint?error?here?is?incorrect. ??def?__init__(self,?local_name,?parent_module_globals,?name):??#?pylint:?disable=super-on-old-class ????self._local_name?=?local_name ????self._parent_module_globals?=?parent_module_globals ????super(LazyLoader,?self).__init__(name) ??def?_load(self): ????#?Import?the?target?module?and?insert?it?into?the?parent's?namespace ????module?=?importlib.import_module(self.__name__) ????self._parent_module_globals[self._local_name]?=?module ????#?Update?this?object's?dict?so?that?if?someone?keeps?a?reference?to?the ????#???LazyLoader,?lookups?are?efficient?(__getattr__?is?only?called?on?lookups ????#???that?fail). ????self.__dict__.update(module.__dict__) ????return?module ??def?__getattr__(self,?item): ????module?=?self._load() ????return?getattr(module,?item) ??def?__dir__(self): ????module?=?self._load() ????return?dir(module)
代碼說明:
類 LazyLoader 繼承自 types.ModuleType,初始化函數(shù)確保惰性模塊將像真正的模塊一樣正確添加到全局變量中,只要真正用到模塊的時(shí)候,也就是執(zhí)行 __getattr__ 或 __dir__ 時(shí),才會(huì)真正的 import 實(shí)際模塊,更新全局變量以指向?qū)嶋H模塊,并且將其所有狀態(tài)(__dict__)更新為實(shí)際模塊的狀態(tài),以便對(duì)延遲加載的引用,加載模塊不需要每次訪問都經(jīng)過加載過程。
代碼使用:
正常情況下我們這樣導(dǎo)入模塊:
import?tensorflow.contrib?as?contrib
其對(duì)應(yīng)的惰性導(dǎo)入版本如下:
contrib?=?LazyLoader('contrib',?globals(),?'tensorflow.contrib')
PEP0690 建議的做法
PEP0690 的提案是在編譯器( C 代碼)層面實(shí)現(xiàn),這樣性能會(huì)更好。其使用方法有兩種。
其一
一種方式是執(zhí)行 Python 腳本時(shí)加入 -L 參數(shù),比如有兩個(gè)文件 spam.py 內(nèi)容如下:
import?time time.sleep(10) print("spam?loaded")
egg.py 內(nèi)容如下:
import?spam print("imports?done")
正常導(dǎo)入情況下,會(huì)等 10 秒后先打印 "spam loaded",然后打印 "imports done",當(dāng)執(zhí)行 python -L eggs.py
時(shí),spam 模塊永遠(yuǎn)不會(huì)導(dǎo)入,應(yīng)用 spam 模塊壓根就沒有用到。如果 egg.py 內(nèi)容如下:
import?spam print("imports?done") spam
當(dāng)執(zhí)行 python -L eggs.py
時(shí)會(huì)先打印 "imports done",10 秒之后打印 "spam loaded")。
其二
另一種方式是調(diào)用標(biāo)準(zhǔn)庫(kù) importlib 的方法:
import?importlib? importlib.set_lazy_imports(True)
如果某些模塊不能懶加載,需要排除,可以這樣
import?importlib? importlib.set_lazy_imports(True,excluding=["one.mod",?"another"])
還可以這樣:
from?importlib?import?eager_imports with?eager_imports(): ????import?foo ????import?bar
到此這篇關(guān)于詳解Python如何實(shí)現(xiàn)惰性導(dǎo)入-lazy import的文章就介紹到這了,更多相關(guān)Python惰性導(dǎo)入內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
對(duì)Python的Django框架中的項(xiàng)目進(jìn)行單元測(cè)試的方法
這篇文章主要介紹了對(duì)Python的Django框架中的項(xiàng)目進(jìn)行單元測(cè)試的方法,使用Django中的tests.py模塊可以輕松地檢測(cè)出一些常見錯(cuò)誤,需要的朋友可以參考下2016-04-04Python3 Tkinkter + SQLite實(shí)現(xiàn)登錄和注冊(cè)界面
這篇文章主要為大家詳細(xì)介紹了Python3 Tkinkter + SQLite實(shí)現(xiàn)登錄和注冊(cè)界面,文中示例代碼介紹的非常詳細(xì),具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2019-11-11python3檢查字典傳入函數(shù)鍵是否齊全的實(shí)例
這篇文章主要介紹了python3檢查字典傳入函數(shù)鍵是否齊全的實(shí)例,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過來看看吧2020-06-06Python結(jié)合ImageMagick實(shí)現(xiàn)多張圖片合并為一個(gè)pdf文件的方法
這篇文章主要介紹了Python結(jié)合ImageMagick實(shí)現(xiàn)多張圖片合并為一個(gè)pdf文件的方法,結(jié)合實(shí)例形式分析了Python將圖片文件轉(zhuǎn)換為pdf文件的相關(guān)操作技巧,需要的朋友可以參考下2018-04-04python實(shí)現(xiàn)手機(jī)銷售管理系統(tǒng)
這篇文章主要為大家詳細(xì)介紹了python實(shí)現(xiàn)手機(jī)銷售管理系統(tǒng),具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2019-03-03Selenium及python實(shí)現(xiàn)滾動(dòng)操作多種方法
這篇文章主要介紹了Selenium及python實(shí)現(xiàn)滾動(dòng)操作多種方法,文中通過示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下2020-07-07使用Pandas和Matplotlib進(jìn)行數(shù)據(jù)清洗與可視化的實(shí)現(xiàn)步驟
在數(shù)據(jù)科學(xué)領(lǐng)域,數(shù)據(jù)清洗和可視化是構(gòu)建數(shù)據(jù)驅(qū)動(dòng)解決方案的重要步驟,本文將詳細(xì)介紹如何使用Pandas進(jìn)行數(shù)據(jù)清洗,并結(jié)合Matplotlib進(jìn)行可視化,文章通過實(shí)際代碼示例講解的非常詳細(xì),需要的朋友可以參考下2024-08-08