使用pandas讀取表格數(shù)據(jù)并進(jìn)行單行數(shù)據(jù)拼接的詳細(xì)教程
業(yè)務(wù)需求
一個幾十萬條數(shù)據(jù)的Excel表格,現(xiàn)在需要拼接其中某一列的全部數(shù)據(jù)為一個字符串,例如下面簡短的幾行表格數(shù)據(jù):
| id | code | price | num |
|---|---|---|---|
| 11 | 22 | 33 | 44 |
| 22 | 33 | 44 | 55 |
| 33 | 44 | 55 | 66 |
| 44 | 55 | 66 | 77 |
| 55 | 66 | 77 | 88 |
| 66 | 77 | 88 | 99 |
現(xiàn)在需要將code的這一列用逗號,拼接為字符串,并且每個單元格數(shù)據(jù)都用單引號包含,需要拼接成字符串'22','33','44','55','66','77',這樣的情況,我們需要怎么處理呢?當(dāng)然方式有很多……
多行文本批量處理
有的時候,我們會遇到需要同時處理多行文本的情況,很多文本編輯器都支持批量操作多行文本,這里我主要說一下Sublime Text,下面是操作的快捷鍵,有需要的可以嘗試用一下,確實(shí)挺方便的。
- 選中需要操作的多行,按下Ctr+Shift+L即可同時編輯這些行
- 鼠標(biāo)選中文本,反復(fù)按CTRL+D即可繼續(xù)向下同時選中下一個相同的文本進(jìn)行同時編輯
- 鼠標(biāo)選中文本,按下Alt+F3即可一次性選擇全部的相同文本進(jìn)行同時編輯
如何節(jié)省效率
在工作中,可能會存在一些表格數(shù)據(jù)處理的情況,比如運(yùn)營給你一個表格,表格里有類似:訂單號呀、產(chǎn)品ID啊、商品SKU等,需要你協(xié)助導(dǎo)出這些數(shù)據(jù)里的明細(xì)數(shù)據(jù)以便他們做分析用,一兩次,我們可以快速用上面的方式處理,但是這種方式對于大文本的處理可能會存在卡頓的情況,操作效率較低,如果小文本的話,那么還是很方便的。
如果多次遇到這種情況,是否想要做成一個工具來快速處理呢,也就是,這種批量拼接同樣格式的數(shù)據(jù),我們可以寫一個小工具來實(shí)現(xiàn),即快速又省事,可以大大減少重復(fù)的工作消耗。
pandas讀取表格數(shù)據(jù)并處理
這我們使用Python的pandas模塊來讀取表格指定某列的數(shù)據(jù),再按照我們的拼接格式進(jìn)行循環(huán)處理,最終把拼接的字符串寫入文本文件中,方便保留和使用拼接的數(shù)據(jù)。
sheet = pandas.read_excel(io=file_name, usecols=[line_num])
data = sheet.values.tolist()
str_data = ''
# 循環(huán)處理數(shù)據(jù)
print_msg('已獲取列數(shù)據(jù)條數(shù)[' + str(len(data)) + '],開始處理數(shù)據(jù)……')
for x in range(len(data)):
if str(data[x][0]) != 'nan':
str_data += "'" + str(data[x][0]) + "',"
完整源碼
因?yàn)槟_本需要多次使用,并且針對不同文件的不同列,所以,我們采用接受關(guān)鍵參數(shù)的形式,可以不改動任何代碼,就可以直接使用此腳本來完整我們的數(shù)據(jù)拼接,同時,我們還可以使用pyinstaller模塊來將腳本進(jìn)行打包成exe的window可執(zhí)行文件,使其在無Python的運(yùn)行環(huán)境中也可以使用,打包命令為:pyinstaller -F -i favicon.ico join_excel_data.py,我已有打包的上傳到交友網(wǎng)站Github上,大家有興趣的話,可以點(diǎn)擊查看哦,交個朋友地址:github.com/gxcuizy
#!/usr/bin/env python
# -*- coding: utf-8 -*-
"""
拼接Excel表格單行數(shù)據(jù),并寫入文本
author: gxcuizy
time: 2021-03-01
"""
import pandas
import random
import os
import time
def print_msg(msg=''):
"""打印信息"""
now_time = time.strftime("%Y-%m-%d %H:%M:%S", time.localtime())
print('[' + now_time + '] ' + msg)
# 程序主入口
if __name__ == "__main__":
# 獲取傳入?yún)?shù)
file_name = input('請輸入當(dāng)前目錄下的表格文件名(例如“01.xlsx”):')
line_num = input('請輸入要拼裝的數(shù)據(jù)第幾列(例如“1”):')
# 判斷文件是否存在
if os.path.exists(file_name) == False:
print_msg('文件不存在')
os.system("pause")
exit(0)
# 判斷輸入的行數(shù)是否為數(shù)字
if line_num.isdigit() == False:
print_msg('請輸入列數(shù)的數(shù)字')
os.system("pause")
exit(0)
try:
# 獲取表格數(shù)據(jù)
print_msg('開始獲取文件[' + file_name + ']的第[' + str(line_num) + ']列數(shù)據(jù)')
line_num = int(line_num) - 1
sheet = pandas.read_excel(io=file_name, usecols=[line_num])
data = sheet.values.tolist()
str_data = ''
# 循環(huán)處理數(shù)據(jù)
print_msg('已獲取列數(shù)據(jù)條數(shù)[' + str(len(data)) + '],開始處理數(shù)據(jù)……')
for x in range(len(data)):
if str(data[x][0]) != 'nan':
str_data += "'" + str(data[x][0]) + "',"
# 寫入文本文件
print_msg('數(shù)據(jù)處理完畢,開始寫入……')
random_num = random.randint(1000, 9999)
with open('str_' + str(random_num) + '.txt', 'w') as f:
f.write(str_data.strip(','))
print_msg('數(shù)據(jù)寫入完畢.')
except Exception as err_info:
# 異常信息
print_msg(str(err_info))
# 防止exe程序執(zhí)行結(jié)束閃退
os.system("pause")
到此這篇關(guān)于使用pandas讀取表格數(shù)據(jù)并進(jìn)行單行數(shù)據(jù)拼接的詳細(xì)教程的文章就介紹到這了,更多相關(guān)pandas讀取表格并拼接內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
python中迭代器(iterator)用法實(shí)例分析
這篇文章主要介紹了python中迭代器(iterator)用法,實(shí)例分析了Python中迭代器的相關(guān)使用技巧,非常具有實(shí)用價值,需要的朋友可以參考下2015-04-04
Python跳出循環(huán)語句continue與break的區(qū)別
這篇文章主要介紹了Python跳出循環(huán)語句continue與break的區(qū)別,本文用實(shí)例來說明它們之間的區(qū)別,簡單易記易懂,需要的朋友可以參考下2014-08-08
Python使用POP3和SMTP協(xié)議收發(fā)郵件的示例代碼
這篇文章主要介紹了Python使用POP3和SMTP協(xié)議收發(fā)郵件的示例代碼,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2019-04-04
Python+Pyqt實(shí)現(xiàn)簡單GUI電子時鐘
這篇文章主要為大家詳細(xì)介紹了Python+Pyqt實(shí)現(xiàn)簡單GUI電子時鐘,文中示例代碼介紹的非常詳細(xì),具有一定的參考價值,感興趣的小伙伴們可以參考一下2019-07-07
理想高通濾波實(shí)現(xiàn)Python opencv示例
今天小編就為大家分享一篇關(guān)于理想高通濾波實(shí)現(xiàn)Python opencv示例,小編覺得內(nèi)容挺不錯的,現(xiàn)在分享給大家,具有很好的參考價值,需要的朋友一起跟隨小編來看看吧2019-01-01

