欧美bbbwbbbw肥妇,免费乱码人妻系列日韩,一级黄片

Python 列表篩選數(shù)據(jù)詳解

 更新時(shí)間：2021年11月18日 08:49:29   作者：陳年椰子  
這篇文章主要為大家介紹了Python 列表篩選數(shù)據(jù)，具有一定的參考價(jià)值，感興趣的小伙伴們可以參考一下，希望能夠給你帶來幫助

在做數(shù)據(jù)處理中，常會遇到列表篩選，比如有以下兩個(gè)列表：

根據(jù)上列表中的KEY1 , 篩選下列表的數(shù)據(jù)，也就是標(biāo)黃的數(shù)據(jù)。數(shù)量不大的情況，一般就是遍歷比較，邏輯簡單，幾行代碼搞掂。

但如果列表達(dá)到萬，或者百萬、千萬，那遍歷效率就低了。

先構(gòu)造測試的列表。

# 構(gòu)造篩選目標(biāo)列表,確保KEY不重復(fù)
n1 = 30000
n1_set = set([random.randint(1,n1)  for n in range(n1)])
n1 = len(n1_set)
list1 = [['1108{:0>6d}27'.format(n), "".join(random.sample('ABCDEFGHIJKLMNOPQRSTUVWXYZabcdefghijklmnopqrstuvwxyz',10))] for n in n1_set]
# 構(gòu)造待篩選數(shù)據(jù)列表,確保KEY不重復(fù)
n2 = 100000
n2_set = set([random.randint(1,n2)  for n in range(n2)])
n2= len(n2_set)
list2 = [['1108{:0>6d}27'.format(n), "".join(random.sample('ABCDEFGHIJKLMNOPQRSTUVWXYZabcdefghijklmnopqrstuvwxyz',5)),n ] for n in n2_set]

比較遍歷、列表生成式+filter 、pandas 的 merge 三種方法效率。

篩選目標(biāo)18971條, 待處理數(shù)據(jù)63275條
遍歷生成數(shù)據(jù) 耗時(shí)11.591秒 獲得數(shù)據(jù)量 12024
['11080000427', 'eArVD', 4]
filter 耗時(shí)11.5秒 獲得數(shù)據(jù)量 12024
['11080000427', 'eArVD', 4]
merge 耗時(shí)0.058秒 獲得數(shù)據(jù)量 12024
['11080000427', 'eArVD', 4]
篩選目標(biāo)189733條, 待處理數(shù)據(jù)632363條
遍歷生成數(shù)據(jù) 耗時(shí)1597.4296秒 獲得數(shù)據(jù)量 120180
['1108000000227', 'NkoEQ', 2]
filter 耗時(shí)1575.0432秒 獲得數(shù)據(jù)量 120180
['1108000000227', 'NkoEQ', 2]
merge 耗時(shí)0.64秒 獲得數(shù)據(jù)量 120180
['1108000000227', 'NkoEQ', 2]

經(jīng)過比較， 直接遍歷生成和列表生成式+filter的效率基本一致， pandas 的merge 效率最高。適合大批量數(shù)據(jù)處理。

上代碼

print("篩選目標(biāo){}條, 待處理數(shù)據(jù){}條".format(n1,n2))
# 直接遍歷生成數(shù)據(jù)，計(jì)時(shí)
t1 = time.time()
list_temp = [n[0] for n in list1]
list3 = []
for n in list2:
    if n[0] in list_temp:
        list3.append(n)
t2 = time.time()
print("遍歷生成數(shù)據(jù) 耗時(shí){}秒".format(round(t2 - t1, 4)), "獲得數(shù)據(jù)量", len(list3))
print(list3[0])
# 用filter篩選數(shù)據(jù)，計(jì)時(shí)
t1 = time.time()
list_temp = [n[0] for n in list1]
list3 = [n for n in filter(lambda x: x[0] in list_temp, list2)]
t2 = time.time()
print("filter 耗時(shí){}秒".format(round(t2 - t1,4)), "獲得數(shù)據(jù)量", len(list3))
print(list3[0])
# 用pd.merge 篩選數(shù)據(jù)，計(jì)時(shí)
t1 = time.time()
df1 = pd.DataFrame(list1, columns=['k1','m1'])
df2 = pd.DataFrame(list2, columns=['k1','m2','n2'])
df3 = pd.merge(df1[['k1']], df2, how='inner', on='k1')
t2 = time.time()
print("merge 耗時(shí){}秒".format(round(t2 - t1,4)), "獲得數(shù)據(jù)量", len(df3))
print(list(df3.iloc[0]))

總結(jié)

本篇文章就到這里了，希望能夠給你帶來幫助，也希望您能夠多多關(guān)注腳本之家的更多內(nèi)容!

相關(guān)文章

  • python實(shí)現(xiàn)按任意鍵繼續(xù)執(zhí)行程序

    python實(shí)現(xiàn)按任意鍵繼續(xù)執(zhí)行程序

    本文給大家分享的是如何使用Python腳本實(shí)現(xiàn)按任意鍵繼續(xù)執(zhí)行程序的代碼，非常的簡單實(shí)用，有需要的小伙伴可以參考下
    2016-12-12

    • 最新評論