前言

Python 一直以來(lái)被大家所詬病的一點(diǎn)就是執(zhí)行速度慢，但不可否認(rèn)的是 Python 依然是我們學(xué)習(xí)和工作中的一大利器。因此，我們對(duì) Python 呢是“又愛又恨”。

本文總結(jié)了一些小 tips 有助于提升 Python 執(zhí)行速度、優(yōu)化性能。以下所有技巧都經(jīng)過我的驗(yàn)證，可放心食用。

先上結(jié)論：

• 使用map()進(jìn)行函數(shù)映射
• 使用set()求交集
• 使用sort()或sorted()排序
• 使用collections.Counter()計(jì)數(shù)
• 使用列表推導(dǎo)
• 使用join()連接字符串
• 使用x, y = y, x交換變量
• 使用while 1取代while True
• 使用裝飾器緩存
• 減少點(diǎn)運(yùn)算符(.)的使用
• 使用for循環(huán)取代while循環(huán)
• 使用Numba.jit加速計(jì)算
• 使用Numpy矢量化數(shù)組
• 使用in檢查列表成員
• 使用itertools庫(kù)迭代

如何測(cè)量程序的執(zhí)行時(shí)間

關(guān)于 Python 如何精確地測(cè)量程序的執(zhí)行時(shí)間，這個(gè)問題看起來(lái)簡(jiǎn)單其實(shí)很復(fù)雜，因?yàn)槌绦虻膱?zhí)行時(shí)間受到很多因素的影響，例如操作系統(tǒng)、Python 版本以及相關(guān)硬件（CPU 性能、內(nèi)存讀寫速度）等。在同一臺(tái)電腦上運(yùn)行相同版本的語(yǔ)言時(shí)，上述因素就是確定的了，但是程序的睡眠時(shí)間依然是變化的，且電腦上正在運(yùn)行的其他程序也會(huì)對(duì)實(shí)驗(yàn)有干擾，因此嚴(yán)格來(lái)說(shuō)這就是實(shí)驗(yàn)不可重復(fù)。

我了解到的關(guān)于計(jì)時(shí)比較有代表性的兩個(gè)庫(kù)就是time和timeit。

其中，time庫(kù)中有time()、perf_counter()以及process_time()三個(gè)函數(shù)可用來(lái)計(jì)時(shí)（以秒為單位），加后綴_ns表示以納秒計(jì)時(shí)（自 Python3.7 始）。在此之前還有clock()函數(shù)，但是在 Python3.3 之后被移除了。上述三者的區(qū)別如下：

• time()精度上相對(duì)沒有那么高，而且受系統(tǒng)的影響，適合表示日期時(shí)間或者大程序的計(jì)時(shí)。
• perf_counter()適合小一點(diǎn)的程序測(cè)試，會(huì)計(jì)算sleep()時(shí)間。
• process_time()適合小一點(diǎn)的程序測(cè)試，不計(jì)算sleep()時(shí)間。

與time庫(kù)相比，timeit 有兩個(gè)優(yōu)點(diǎn)：

• timeit 會(huì)根據(jù)您的操作系統(tǒng)和 Python 版本選擇最佳計(jì)時(shí)器。
• timeit 在計(jì)時(shí)期間會(huì)暫時(shí)禁用垃圾回收。

timeit.timeit(stmt='pass', setup='pass', timer=<default timer>, number=1000000, globals=None) 參數(shù)說(shuō)明：

• stmt='pass'：需要計(jì)時(shí)的語(yǔ)句或者函數(shù)。
• setup='pass'：執(zhí)行stmt之前要運(yùn)行的代碼。通常，它用于導(dǎo)入一些模塊或聲明一些必要的變量。
• timer=<default timer>：計(jì)時(shí)器函數(shù)，默認(rèn)為time.perf_counter()。
• number=1000000：執(zhí)行計(jì)時(shí)語(yǔ)句的次數(shù)，默認(rèn)為一百萬(wàn)次。
• globals=None：指定執(zhí)行代碼的命名空間。

本文所有的計(jì)時(shí)均采用timeit方法，且采用默認(rèn)的執(zhí)行次數(shù)一百萬(wàn)次。

為什么要執(zhí)行一百萬(wàn)次呢？因?yàn)槲覀兊臏y(cè)試程序很短，如果不執(zhí)行這么多次的話，根本看不出差距。

1.使用map()進(jìn)行函數(shù)映射

Exp1：將字符串?dāng)?shù)組中的小寫字母轉(zhuǎn)為大寫字母。

測(cè)試數(shù)組為 oldlist = ['life', 'is', 'short', 'i', 'choose', 'python']。

方法一

newlist = []
for word in oldlist:
    newlist.append(word.upper())

方法二

list(map(str.upper, oldlist))

方法一耗時(shí) 0.5267724000000005s，方法二耗時(shí) 0.41462569999999843s，性能提升 21.29% 

2.使用set()求交集

Exp2：求兩個(gè)list的交集。

測(cè)試數(shù)組：a = [1,2,3,4,5]，b = [2,4,6,8,10]。

方法一

overlaps = []
for x in a:
    for y in b:
        if x == y:
            overlaps.append(x)

方法二

list(set(a) & set(b))

方法一耗時(shí) 0.9507264000000006s，方法二耗時(shí) 0.6148200999999993s，性能提升 35.33% 

關(guān)于set()的語(yǔ)法：|、&、-分別表示求并集、交集、差集。

3.使用sort()或sorted()排序

我們可以通過多種方式對(duì)序列進(jìn)行排序，但其實(shí)自己編寫排序算法的方法有些得不償失。因?yàn)閮?nèi)置的 sort()或 sorted() 方法已經(jīng)足夠優(yōu)秀了，且利用參數(shù)key可以實(shí)現(xiàn)不同的功能，非常靈活。二者的區(qū)別是sort()方法僅被定義在list中，而sorted()是全局方法對(duì)所有的可迭代序列都有效。

Exp3：分別使用快排和sort()方法對(duì)同一列表排序。

測(cè)試數(shù)組：lists = [2,1,4,3,0]。

方法一

def quick_sort(lists,i,j):
    if i >= j:
        return list
    pivot = lists[i]
    low = i
    high = j
    while i < j:
        while i < j and lists[j] >= pivot:
            j -= 1
        lists[i]=lists[j]
        while i < j and lists[i] <=pivot:
            i += 1
        lists[j]=lists[i]
    lists[j] = pivot
    quick_sort(lists,low,i-1)
    quick_sort(lists,i+1,high)
    return lists

方法二

lists.sort()

方法一耗時(shí) 2.4796975000000003s，方法二耗時(shí) 0.05551999999999424s，性能提升 97.76% 

順帶一提，sorted()方法耗時(shí) 0.1339823999987857s。

可以看出，sort()作為list專屬的排序方法還是很強(qiáng)的，sorted()雖然比前者慢一點(diǎn)，但是勝在它“不挑食”，它對(duì)所有的可迭代序列都有效。

擴(kuò)展：如何定義sort()或sorted()方法的key

1.通過lambda定義

#學(xué)生：（姓名，成績(jī)，年齡）
students = [('john', 'A', 15),('jane', 'B', 12),('dave', 'B', 10)]
students.sort(key = lambda student: student[0]) #根據(jù)姓名排序
sorted(students, key = lambda student: student[0])

2.通過operator定義

import operator

students = [('john', 'A', 15),('jane', 'B', 12),('dave', 'B', 10)]
students.sort(key=operator.itemgetter(0))
sorted(students, key = operator.itemgetter(1, 0)) #先對(duì)成績(jī)排序，再對(duì)姓名排序

operator的itemgetter()適用于普通數(shù)組排序，attrgetter()適用于對(duì)象數(shù)組排序

3.通過cmp_to_key()定義，最為靈活

import functools

def cmp(a,b):
    if a[1] != b[1]:
        return -1 if a[1] < b[1] else 1 #先按照成績(jī)升序排序
    elif a[0] != b[0]:
        return -1 if a[0] < b[0] else 1 #成績(jī)相同，按照姓名升序排序
    else:
        return -1 if a[2] > b[2] else 1 #成績(jī)姓名都相同，按照年齡降序排序 

students = [('john', 'A', 15),('john', 'A', 14),('jane', 'B', 12),('dave', 'B', 10)]
sorted(students, key = functools.cmp_to_key(cmp))

4.使用collections.Counter()計(jì)數(shù)

Exp4：統(tǒng)計(jì)字符串中每個(gè)字符出現(xiàn)的次數(shù)。

測(cè)試數(shù)組：sentence='life is short, i choose python'。

方法一

counts = {}
for char in sentence:
    counts[char] = counts.get(char, 0) + 1

方法二

from collections import Counter
Counter(sentence)

方法一耗時(shí) 2.8105250000000055s，方法二耗時(shí) 1.6317423000000062s，性能提升 41.94% 

5.使用列表推導(dǎo)

列表推導(dǎo)（list comprehension）短小精悍。在小代碼片段中，可能沒有太大的區(qū)別。但是在大型開發(fā)中，它可以節(jié)省一些時(shí)間。

Exp5：對(duì)列表中的奇數(shù)求平方，偶數(shù)不變。

測(cè)試數(shù)組：oldlist = range(10)。

方法一

newlist = []
for x in oldlist:
    if x % 2 == 1:
        newlist.append(x**2)

方法二

[x**2 for x in oldlist if x%2 == 1]

方法一耗時(shí) 1.5342976000000021s，方法二耗時(shí) 1.4181957999999923s，性能提升 7.57% 

6.使用 join() 連接字符串

大多數(shù)人都習(xí)慣使用+來(lái)連接字符串。但其實(shí)，這種方法非常低效。因?yàn)椋?code>+操作在每一步中都會(huì)創(chuàng)建一個(gè)新字符串并復(fù)制舊字符串。更好的方法是用 join() 來(lái)連接字符串。關(guān)于字符串的其他操作，也盡量使用內(nèi)置函數(shù)，如isalpha()、isdigit()、startswith()、endswith()等。

Exp6：將字符串列表中的元素連接起來(lái)。

測(cè)試數(shù)組：oldlist = ['life', 'is', 'short', 'i', 'choose', 'python']。

方法一

sentence = ""
for word in oldlist:
    sentence += word

方法二

"".join(oldlist)

方法一耗時(shí) 0.27489080000000854s，方法二耗時(shí) 0.08166570000000206s，性能提升 70.29% 

join還有一個(gè)非常舒服的點(diǎn)，就是它可以指定連接的分隔符，舉個(gè)例子??

oldlist = ['life', 'is', 'short', 'i', 'choose', 'python']
sentence = "http://".join(oldlist)
print(sentence)

life//is//short//i//choose//python

7.使用x, y = y, x交換變量

Exp6：交換x，y的值。

測(cè)試數(shù)據(jù)：x, y = 100, 200。

方法一

temp = x
x = y
y = temp

方法二

x, y = y, x

方法一耗時(shí) 0.027853900000010867s，方法二耗時(shí) 0.02398730000000171s，性能提升 13.88% 

8.使用while 1取代while True

在不知道確切的循環(huán)次數(shù)時(shí)，常規(guī)方法是使用while True進(jìn)行無(wú)限循環(huán)，在代碼塊中判斷是否滿足循環(huán)終止條件。雖然這樣做沒有任何問題，但while 1的執(zhí)行速度比while True更快。因?yàn)樗且环N數(shù)值轉(zhuǎn)換，可以更快地生成輸出。

Exp8：分別用while 1和while True循環(huán) 100 次。

方法一

i = 0
while True:
    i += 1
    if i > 100:
        break

方法二

i = 0
while 1:
    i += 1
    if i > 100:
        break

方法一耗時(shí) 3.679268300000004s，方法二耗時(shí) 3.607847499999991s，性能提升1.94%

9.使用裝飾器緩存

將文件存儲(chǔ)在高速緩存中有助于快速恢復(fù)功能。Python 支持裝飾器緩存，該緩存在內(nèi)存中維護(hù)特定類型的緩存，以實(shí)現(xiàn)最佳軟件驅(qū)動(dòng)速度。我們使用lru_cache裝飾器來(lái)為斐波那契函數(shù)提供緩存功能，在使用fibonacci遞歸函數(shù)時(shí)，存在大量的重復(fù)計(jì)算，例如fibonacci(1)、fibonacci(2)就運(yùn)行了很多次。而在使用了lru_cache后，所有的重復(fù)計(jì)算只會(huì)執(zhí)行一次，從而大大提高程序的執(zhí)行效率。

Exp9：求斐波那契數(shù)列。

測(cè)試數(shù)據(jù)：fibonacci(7)。

方法一

def fibonacci(n):
    if n == 0:
        return 0
    elif n == 1:
        return 1
    return fibonacci(n - 1) + fibonacci(n-2)

方法二

import functools

@functools.lru_cache(maxsize=128)
def fibonacci(n):
    if n == 0:
        return 0
    elif n == 1:
        return 1
    return fibonacci(n - 1) + fibonacci(n-2)

方法一耗時(shí) 3.955014900000009s，方法二耗時(shí) 0.05077979999998661s，性能提升 98.72% 

注意事項(xiàng)：

• 緩存是按照參數(shù)作為鍵，也就說(shuō)在參數(shù)不變時(shí)，被lru_cache裝飾的函數(shù)只會(huì)執(zhí)行一次。
• 所有參數(shù)必須可哈希，例如list不能作為被lru_cache裝飾的函數(shù)的參數(shù)。

import functools
 
@functools.lru_cache(maxsize=100)
def demo(a, b):
    print('我被執(zhí)行了')
    return a + b
if __name__ == '__main__':
    demo(1, 2)
    demo(1, 2)

我被執(zhí)行了（執(zhí)行了兩次demo(1, 2)，卻只輸出一次）

from functools import lru_cache
 
@lru_cache(maxsize=100)
def list_sum(nums: list):
    return sum(nums)

if __name__ == '__main__':
    list_sum([1, 2, 3, 4, 5])

TypeError: unhashable type: 'list'

functools.lru_cache(maxsize=128, typed=False)的兩個(gè)可選參數(shù)：

• maxsize代表緩存的內(nèi)存占用值，超過這個(gè)值之后，就的結(jié)果就會(huì)被釋放，然后將新的計(jì)算結(jié)果進(jìn)行緩存，其值應(yīng)當(dāng)設(shè)為 2 的冪。
• typed若為True，則會(huì)把不同的參數(shù)類型得到的結(jié)果分開保存。

10.減少點(diǎn)運(yùn)算符(.)的使用

點(diǎn)運(yùn)算符(.)用來(lái)訪問對(duì)象的屬性或方法，這會(huì)引起程序使用__getattribute__()和__getattr__()進(jìn)行字典查找，從而帶來(lái)不必要的開銷。尤其注意，在循環(huán)當(dāng)中，更要減少點(diǎn)運(yùn)算符的使用，應(yīng)該將它移到循環(huán)外處理。

這啟發(fā)我們應(yīng)該盡量使用from ... import ...這種方式來(lái)導(dǎo)包，而不是在需要使用某方法時(shí)通過點(diǎn)運(yùn)算符來(lái)獲取。其實(shí)不光是點(diǎn)運(yùn)算符，其他很多不必要的運(yùn)算我們都盡量移到循環(huán)外處理。

Exp10：將字符串?dāng)?shù)組中的小寫字母轉(zhuǎn)為大寫字母。

測(cè)試數(shù)組為 oldlist = ['life', 'is', 'short', 'i', 'choose', 'python']。

方法一

newlist = []
for word in oldlist:
    newlist.append(str.upper(word))

方法二

newlist = []
upper = str.upper
for word in oldlist:
    newlist.append(upper(word))

方法一耗時(shí) 0.7235491999999795s，方法二耗時(shí) 0.5475435999999831s，性能提升 24.33% 

11.使用for循環(huán)取代while循環(huán)

當(dāng)我們知道具體要循環(huán)多少次時(shí)，使用for循環(huán)比使用while循環(huán)更好。

Exp12：使用for和while分別循環(huán) 100 次。

方法一

i = 0
while i < 100:
    i += 1

方法二

for _ in range(100):
    pass

方法一耗時(shí) 3.894683299999997s，方法二耗時(shí) 1.0198077999999953s，性能提升73.82% 

12.使用Numba.jit加速計(jì)算

Numba 可以將 Python 函數(shù)編譯碼為機(jī)器碼執(zhí)行，大大提高代碼執(zhí)行速度，甚至可以接近 C 或 FORTRAN 的速度。它能和 Numpy 配合使用，在 for 循環(huán)中或存在大量計(jì)算時(shí)能顯著地提高執(zhí)行效率。

Exp12：求從 1 加到 100 的和。

方法一

def my_sum(n):
    x = 0
    for i in range(1, n+1):
        x += i
    return x

方法二

from numba import jit

@jit(nopython=True) 
def numba_sum(n):
    x = 0
    for i in range(1, n+1):
        x += i
    return x

方法一耗時(shí) 3.7199997000000167s，方法二耗時(shí) 0.23769430000001535s，性能提升 93.61% 

13.使用Numpy矢量化數(shù)組

矢量化是 NumPy 中的一種強(qiáng)大功能，可以將操作表達(dá)為在整個(gè)數(shù)組上而不是在各個(gè)元素上發(fā)生。這種用數(shù)組表達(dá)式替換顯式循環(huán)的做法通常稱為矢量化。

在 Python 中循環(huán)數(shù)組或任何數(shù)據(jù)結(jié)構(gòu)時(shí)，會(huì)涉及很多開銷。NumPy 中的向量化操作將內(nèi)部循環(huán)委托給高度優(yōu)化的 C 和 Fortran 函數(shù)，從而使 Python 代碼更加快速。

Exp13：兩個(gè)長(zhǎng)度相同的序列逐元素相乘。

測(cè)試數(shù)組：a = [1,2,3,4,5], b = [2,4,6,8,10]

方法一

[a[i]*b[i] for i in range(len(a))]

方法二

import numpy as np
a = np.array([1,2,3,4,5])
b = np.array([2,4,6,8,10])
a*b

方法一耗時(shí) 0.6706845000000214s，方法二耗時(shí) 0.3070132000000001s，性能提升 54.22% 

14.使用in檢查列表成員

若要檢查列表中是否包含某成員，通常使用in關(guān)鍵字更快。

Exp14：檢查列表中是否包含某成員。

測(cè)試數(shù)組：lists = ['life', 'is', 'short', 'i', 'choose', 'python']

方法一

def check_member(target, lists):
    for member in lists:
        if member == target:
            return True
    return False

方法二

if target in lists:
    pass

方法一耗時(shí) 0.16038449999999216s，方法二耗時(shí) 0.04139250000000061s，性能提升 74.19% 

15.使用itertools庫(kù)迭代

itertools是用來(lái)操作迭代器的一個(gè)模塊，其函數(shù)主要可以分為三類：無(wú)限迭代器、有限迭代器、組合迭代器。

Exp15：返回列表的全排列。

測(cè)試數(shù)組：["Alice", "Bob", "Carol"]

方法一

def permutations(lst):
    if len(lst) == 1 or len(lst) == 0:
        return [lst]
    result = []
    for i in lst:
        temp_lst = lst[:]
        temp_lst.remove(i)
        temp = permutations(temp_lst)
        for j in temp:
            j.insert(0, i)
            result.append(j)
    return result

方法二

import itertools
itertools.permutations(["Alice", "Bob", "Carol"])

方法一耗時(shí) 3.867292899999484s，方法二耗時(shí) 0.3875405000007959s，性能提升 89.98% 

擴(kuò)展：itertools庫(kù)詳解：點(diǎn)擊此鏈接

結(jié)語(yǔ)

根據(jù)上面的測(cè)試數(shù)據(jù)，我繪制了下面這張實(shí)驗(yàn)結(jié)果圖，可以更加直觀的看出不同方法帶來(lái)的性能差異。

從圖中可以看出，大部分的技巧所帶來(lái)的性能增幅還是比較可觀的，但也有少部分技巧的增幅較?。ɡ缇幪?hào)5、7、8，其中，第 8 條的兩種方法幾乎沒有差異）。

總結(jié)下來(lái)，我覺得其實(shí)就是下面這兩條原則：

1.盡量使用內(nèi)置庫(kù)函數(shù)

內(nèi)置庫(kù)函數(shù)由專業(yè)的開發(fā)人員編寫并經(jīng)過了多次測(cè)試，很多庫(kù)函數(shù)的底層是用C語(yǔ)言開發(fā)的。因此，這些函數(shù)總體來(lái)說(shuō)是非常高效的（比如sort()、join()等），自己編寫的方法很難超越它們，還不如省省功夫，不要重復(fù)造輪子了，何況你造的輪子可能更差。所以，如果函數(shù)庫(kù)中已經(jīng)存在該函數(shù)，就直接拿來(lái)用。

2.盡量使用優(yōu)秀的第三方庫(kù)

有很多優(yōu)秀的第三方庫(kù)，它們的底層可能是用 C 和 Fortran 來(lái)實(shí)現(xiàn)的，像這樣的庫(kù)用起來(lái)絕對(duì)不會(huì)吃虧，比如前文提到的 Numpy 和 Numba，它們帶來(lái)的提升都是非常驚人的。類似這樣的庫(kù)還有很多，比如Cython、PyPy等，這里我只是拋磚引玉。

其實(shí)加快 Python 代碼執(zhí)行速度的方法還有很多，比如避免使用全局變量、使用最新版本、使用合適的數(shù)據(jù)結(jié)構(gòu)、利用if條件的惰性等等，我這里就不一一例舉了。這些方法都需要我們親身去實(shí)踐才會(huì)有深刻的感受和理解，但最根本的方法就是保持我們對(duì)編程的熱情和對(duì)最佳實(shí)踐的追求，這才是我們能不斷突破自我、勇攀高峰的不竭動(dòng)力源泉！

以上就是詳解讓Python性能起飛的15個(gè)技巧的詳細(xì)內(nèi)容，更多關(guān)于Python性能提升技巧的資料請(qǐng)關(guān)注腳本之家其它相關(guān)文章！

最新評(píng)論