Python?使用和高性能技巧操作大全

更新時間：2022年01月17日 09:46:48 作者：davlik1

這篇文章主要介紹了Python?使用和高性能技巧總結(jié),對一些python易混淆的操作進行對比，不少 Python 的用戶是從以前 C/C++ 遷移過來的，這兩種語言在語法、代碼風格等方面有些不同，本節(jié)簡要進行介紹，需要的朋友可以參考下

1. 易混淆操作

本節(jié)對一些 Python 易混淆的操作進行對比。

1.1 有放回隨機采樣和無放回隨機采樣

import randomrandom.choices(seq, k=1)  # 長度為k的list，有放回采樣random.sample(seq, k)     # 長度為k的list，無放回采樣

1.2 lambda 函數(shù)的參數(shù)

func = lambda y: x + y          # x的值在函數(shù)運行時被綁定func = lambda y, x=x: x + y     # x的值在函數(shù)定義時被綁定

1.3 copy 和 deepcopy

import copyy = copy.copy(x)      # 只復(fù)制最頂層y = copy.deepcopy(x)  # 復(fù)制所有嵌套部分

復(fù)制和變量別名結(jié)合在一起時，容易混淆：

a = [1, 2, [3, 4]]# Alias.b_alias = a  assert b_alias == a and b_alias is a# Shallow copy.b_shallow_copy = a[:] 
assert b_shallow_copy == a and b_shallow_copy is not a and b_shallow_copy[2] is a[2]# Deep copy.import copyb_deep_copy = copy.deepcopy(a) 
assert b_deep_copy == a and b_deep_copy is not a and b_deep_copy[2] is not a[2]

對別名的修改會影響原變量，（淺）復(fù)制中的元素是原列表中元素的別名，而深層復(fù)制是遞歸的進行復(fù)制，對深層復(fù)制的修改不影響原變量。

1.4 == 和 is

x == y  # 兩引用對象是否有相同值x is y  # 兩引用是否指向同一對象

1.5 判斷類型

type(a) == int      # 忽略面向?qū)ο笤O(shè)計中的多態(tài)特征isinstance(a, int)  # 考慮了面向?qū)ο笤O(shè)計中的多態(tài)特征

1.6 字符串搜索

str.find(sub, start=None, end=None); str.rfind(...)     # 如果找不到返回-1str.index(sub, start=None, end=None); 
str.rindex(...)   # 如果找不到拋出ValueError異常

1.7 List 后向索引

這個只是習慣問題，前向索引時下標從0開始，如果反向索引也想從0開始可以使用~。

print(a[-1], a[-2], a[-3])print(a[~0], a[~1], a[~2])

2. C/C++ 用戶使用指南

不少 Python 的用戶是從以前 C/C++ 遷移過來的，這兩種語言在語法、代碼風格等方面有些不同，本節(jié)簡要進行介紹。

2.1 很大的數(shù)和很小的數(shù)

C/C++ 的習慣是定義一個很大的數(shù)字，Python 中有 inf 和 -inf：

a = float('inf')b = float('-inf')

2.2 布爾值

C/C++ 的習慣是使用 0 和非 0 值表示 True 和 False， Python 建議直接使用 True 和 False 表示布爾值。

a = Trueb = False

2.3 判斷為空

C/C++ 對空指針判斷的習慣是 if (a) 和 if (!a)。Python 對于 None 的判斷是：

if x is None:    pass

如果使用 if not x，則會將其他的對象（比如長度為 0 的字符串、列表、元組、字典等）都會被當做 False。

2.4 交換值

C/C++ 的習慣是定義一個臨時變量，用來交換值。利用 Python 的 Tuple 操作，可以一步到位。

a, b = b, a

2.5 比較

C/C++ 的習慣是用兩個條件。利用 Python 可以一步到位。

if 0 < a < 5:    pass

2.6 類成員的 Set 和 Get

C/C++ 的習慣是把類成員設(shè)為 private，通過一系列的 Set 和 Get 函數(shù)存取其中的值。在 Python 中雖然也可以通過 @property、@setter、@deleter 設(shè)置對應(yīng)的 Set 和 Get 函數(shù)，我們應(yīng)避免不必要的抽象，這會比直接訪問慢 4 - 5 倍。

2.7 函數(shù)的輸入輸出參數(shù)

C/C++ 的習慣是把輸入輸出參數(shù)都列為函數(shù)的參數(shù)，通過指針改變輸出參數(shù)的值，函數(shù)的返回值是執(zhí)行狀態(tài)，函數(shù)調(diào)用方對返回值進行檢查，判斷是否成功執(zhí)行。在 Python 中，不需要函數(shù)調(diào)用方進行返回值檢查，函數(shù)中遇到特殊情況，直接拋出一個異常。

2.8 讀文件

相比 C/C++，Python 讀文件要簡單很多，打開后的文件是一個可迭代對象，每次返回一行內(nèi)容。

with open(file_path, 'rt', encoding='utf-8') as f:   for line in f:       
    print(line)       # 末尾的\n會保留

2.9 文件路徑拼接

C/C++ 的習慣通常直接用 + 將路徑拼接，這很容易出錯，Python 中的 os.path.join 會自動根據(jù)操作系統(tǒng)不同補充路徑之間的 / 或 \ 分隔符：

import osos.path.join('usr', 'lib', 'local')

2.10 解析命令行選項

雖然 Python 中也可以像 C/C++ 一樣使用 sys.argv 直接解析命令行選擇，但是使用 argparse 下的 ArgumentParser 工具更加方便，功能更加強大。

2.11 調(diào)用外部命令

雖然 Python 中也可以像 C/C++ 一樣使用 os.system 直接調(diào)用外部命令，但是使用 subprocess.check_output 可以自由選擇是否執(zhí)行 Shell，也可以獲得外部命令執(zhí)行結(jié)果。

import subprocess# 如果外部命令返回值非0，則拋出subprocess.CalledProcessError異常result = subprocess.check_output(['cmd', 'arg1', 'arg2']).decode('utf-8') # 同時收集標準輸出和標準錯誤result = subprocess.check_output(['cmd', 'arg1', 'arg2'], stderr=subprocess.STDOUT).decode('utf-8') # 執(zhí)行shell命令（管道、重定向等），可以使用shlex.quote()將參數(shù)雙引號引起來result = subprocess.check_output('grep python | wc > out', shell=True).decode('utf-8')

2.12 不重復(fù)造輪子

不要重復(fù)造輪子，Python稱為batteries included即是指Python提供了許多常見問題的解決方案。

3. 常用工具

3.1 讀寫 CSV 文件

import csv# 無header的讀寫with open(name, 'rt', encoding='utf-8', newline='') as f:  # newline=''讓Python不將換行統(tǒng)一處理   
for row in csv.reader(f):        
print(row[0], row[1])  # CSV讀到的數(shù)據(jù)都是str類型with open(name, mode='wt') as f:   
f_csv = csv.writer(f)   
f_csv.writerow(['symbol', 'change'])# 有header的讀寫with open(name, mode='rt', newline='') as f:   
for row in csv.DictReader(f):        
print(row['symbol'], row['change'])with open(name, mode='wt') as f:    
header = ['symbol', 'change']    
f_csv = csv.DictWriter(f, header)    
f_csv.writeheader()    
f_csv.writerow({'symbol': xx, 'change': xx})

注意，當 CSV 文件過大時會報錯：_csv.Error: field larger than field limit (131072)，通過修改上限解決

import syscsv.field_size_limit(sys.maxsize)

csv 還可以讀以 \t 分割的數(shù)據(jù)

f = csv.reader(f, delimiter='\t')

3.2 迭代器工具

itertools 中定義了很多迭代器工具，例如子序列工具：

import itertoolsitertools.islice(iterable, start=None, stop, step=None)# islice('ABCDEF', 2, None) -> C, D, E, Fitertools.filterfalse(predicate, iterable)          
# 過濾掉predicate為False的元素# filterfalse(lambda x: x < 5, [1, 4, 6, 4, 1]) -> 6itertools.takewhile(predicate, iterable)         
# 當predicate為False時停止迭代# takewhile(lambda x: x < 5, [1, 4, 6, 4, 1]) -> 1, 4itertools.dropwhile(predicate, iterable)           
# 當predicate為False時開始迭代# dropwhile(lambda x: x < 5, [1, 4, 6, 4, 1]) -> 6, 4, 1itertools.compress(iterable, selectors)            
# 根據(jù)selectors每個元素是True或False進行選擇# compress('ABCDEF', [1, 0, 1, 0, 1, 1]) -> A, C, E, F

序列排序：

sorted(iterable,key=None,reverse=False)

itertools.groupby(iterable,key=None)#按值分組，iterable需要先被排序
#groupby(sorted([1,4,6,4,1]))->(1,iter1),(4,iter4),(6,iter6)

itertools.permutations(iterable,r=None)#排列，返回值是Tuple
#permutations('ABCD',2)->AB,AC,AD,BA,BC,BD,CA,CB,CD,DA,DB,DC

itertools.combinations(iterable,r=None)#組合，返回值是Tuple
itertools.combinations_with_replacement(...)
#combinations('ABCD',2)->AB,AC,AD,BC,BD,CD

多個序列合并：

itertools.chain(*iterables)#多個序列直接拼接
#chain('ABC','DEF')->A,B,C,D,E,F
importheapq
heapq.merge(*iterables,key=None,reverse=False)#多個序列按順序拼接
#merge('ABF','CDE')->A,B,C,D,E,F
zip(*iterables)#當最短的序列耗盡時停止，結(jié)果只能被消耗一次
itertools.zip_longest(*iterables,fillvalue=None)#當最長的序列耗盡時停止，結(jié)果只能被消耗一次

3.3 計數(shù)器

計數(shù)器可以統(tǒng)計一個可迭代對象中每個元素出現(xiàn)的次數(shù)。

importcollections
#創(chuàng)建
collections.Counter(iterable)
#頻次
collections.Counter[key]#key出現(xiàn)頻次
#返回n個出現(xiàn)頻次最高的元素和其對應(yīng)出現(xiàn)頻次，如果n為None，返回所有元素
collections.Counter.most_common(n=None)
#插入/更新
collections.Counter.update(iterable)
counter1+counter2;counter1-counter2#counter加減
#檢查兩個字符串的組成元素是否相同
collections.Counter(list1)==collections.Counter(list2)

3.4 帶默認值的 Dict

當訪問不存在的 Key 時，defaultdict 會將其設(shè)置為某個默認值。

importcollections
collections.defaultdict(type)#當?shù)谝淮卧L問dict[key]時，會無參數(shù)調(diào)用type，給dict[key]提供一個初始值

3.5 有序 Dict

importcollections
collections.OrderedDict(items=None)#迭代時保留原始插入順序

4. 高性能編程和調(diào)試

4.1 輸出錯誤和警告信息

向標準錯誤輸出信息

importsys
sys.stderr.write('')

輸出警告信息

importwarnings
warnings.warn(message,category=UserWarning)
#category的取值有DeprecationWarning,SyntaxWarning,RuntimeWarning,ResourceWarning,FutureWarning

控制警告消息的輸出

$python-Wall#輸出所有警告，等同于設(shè)置warnings.simplefilter('always')
$python-Wignore#忽略所有警告，等同于設(shè)置warnings.simplefilter('ignore')
$python-Werror#將所有警告轉(zhuǎn)換為異常，等同于設(shè)置warnings.simplefilter('error')

4.2 代碼中測試

有時為了調(diào)試，我們想在代碼中加一些代碼，通常是一些 print 語句，可以寫為：

#在代碼中的debug部分
if__debug__:
pass

一旦調(diào)試結(jié)束，通過在命令行執(zhí)行 -O 選項，會忽略這部分代碼：

$python-0main.py

4.3 代碼風格檢查

使用 pylint 可以進行不少的代碼風格和語法檢查，能在運行之前發(fā)現(xiàn)一些錯誤

pylintmain.py

4.4 代碼耗時

耗時測試

$python-mcProfilemain.py

測試某代碼塊耗時

#代碼塊耗時定義
fromcontextlibimportcontextmanager
fromtimeimportperf_counter
@contextmanager
deftimeblock(label):
tic=perf_counter()
try:
yield
finally:
toc=perf_counter()
print('%s:%s'%(label,toc-tic))
#代碼塊耗時測試
withtimeblock('counting'):
pass

代碼耗時優(yōu)化的一些原則

專注于優(yōu)化產(chǎn)生性能瓶頸的地方，而不是全部代碼。
避免使用全局變量。局部變量的查找比全局變量更快，將全局變量的代碼定義在函數(shù)中運行通常會快 15%-30%。
避免使用.訪問屬性。使用 from module import name 會更快，將頻繁訪問的類的成員變量 self.member 放入到一個局部變量中。
盡量使用內(nèi)置數(shù)據(jù)結(jié)構(gòu)。str, list, set, dict 等使用 C 實現(xiàn)，運行起來很快。
避免創(chuàng)建沒有必要的中間變量，和 copy.deepcopy()。
字符串拼接，例如 a + ':' + b + ':' + c 會創(chuàng)造大量無用的中間變量，':',join([a, b, c]) 效率會高不少。另外需要考慮字符串拼接是否必要，例如 print(':'.join([a, b, c])) 效率比 print(a, b, c, sep=':') 低。

5. Python 其他技巧

5.1 argmin 和 argmax

items=[2,1,3,4]
argmin=min(range(len(items)),key=items.__getitem__)

argmax同理。

5.2 轉(zhuǎn)置二維列表

A=[['a11','a12'],['a21','a22'],['a31','a32']]
A_transpose=list(zip(*A))#listoftuple
A_transpose=list(list(col)forcolinzip(*A))#listoflist

5.3 一維列表展開為二維列表

A=[1,2,3,4,5,6]

#Preferred.
list(zip(*[iter(A)]*2))

文章來源：https://zhuanlan.zhihu.com/p/48293468

到此這篇關(guān)于Python 使用和高性能技巧總結(jié)的文章就介紹到這了,更多相關(guān)Python高性能技巧內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！

您可能感興趣的文章: