python 爬取百度文庫(kù)并下載(免費(fèi)文章限定)
import requests import re import json import os session = requests.session() def fetch_url(url): return session.get(url).content.decode('gbk') def get_doc_id(url): return re.findall('view/(.*).html', url)[0] def parse_type(content): return re.findall(r"docType.*?\:.*?\'(.*?)\'\,", content)[0] def parse_title(content): return re.findall(r"title.*?\:.*?\'(.*?)\'\,", content)[0] def parse_doc(content): result = '' url_list = re.findall('(https.*?0.json.*?)\\\\x22}', content) url_list = [addr.replace("\\\\\\/", "/") for addr in url_list] for url in url_list[:-5]: content = fetch_url(url) y = 0 txtlists = re.findall('"c":"(.*?)".*?"y":(.*?),', content) for item in txtlists: if not y == item[1]: y = item[1] n = '\n' else: n = '' result += n result += item[0].encode('utf-8').decode('unicode_escape', 'ignore') return result def parse_txt(doc_id): content_url = 'https://wenku.baidu.com/api/doc/getdocinfo?callback=cb&doc_id=' + doc_id content = fetch_url(content_url) md5 = re.findall('"md5sum":"(.*?)"', content)[0] pn = re.findall('"totalPageNum":"(.*?)"', content)[0] rsign = re.findall('"rsign":"(.*?)"', content)[0] content_url = 'https://wkretype.bdimg.com/retype/text/' + doc_id + '?rn=' + pn + '&type=txt' + md5 + '&rsign=' + rsign content = json.loads(fetch_url(content_url)) result = '' for item in content: for i in item['parags']: result += i['c'].replace('\\r', '\r').replace('\\n', '\n') return result def parse_other(doc_id): content_url = "https://wenku.baidu.com/browse/getbcsurl?doc_id=" + doc_id + "&pn=1&rn=99999&type=ppt" content = fetch_url(content_url) url_list = re.findall('{"zoom":"(.*?)","page"', content) url_list = [item.replace("\\", '') for item in url_list] if not os.path.exists(doc_id): os.mkdir(doc_id) for index, url in enumerate(url_list): content = session.get(url).content path = os.path.join(doc_id, str(index) + '.jpg') with open(path, 'wb') as f: f.write(content) print("圖片保存在" + doc_id + "文件夾") def save_file(filename, content): with open(filename, 'w', encoding='utf8') as f: f.write(content) print('已保存為:' + filename) # test_txt_url = 'https://wenku.baidu.com/view/cbb4af8b783e0912a3162a89.html?from=search' # test_ppt_url = 'https://wenku.baidu.com/view/2b7046e3f78a6529657d5376.html?from=search' # test_pdf_url = 'https://wenku.baidu.com/view/dd6e15c1227916888586d795.html?from=search' # test_xls_url = 'https://wenku.baidu.com/view/eb4a5bb7312b3169a551a481.html?from=search' def main(): url = input('請(qǐng)輸入要下載的文庫(kù)URL地址') content = fetch_url(url) doc_id = get_doc_id(url) type = parse_type(content) title = parse_title(content) if type == 'doc': result = parse_doc(content) save_file(title + '.txt', result) elif type == 'txt': result = parse_txt(doc_id) save_file(title + '.txt', result) else: parse_other(doc_id) if __name__ == "__main__": main()
爬取結(jié)果
以上就是python 爬取百度文庫(kù)并以下載的詳細(xì)內(nèi)容,更多關(guān)于python 爬取百度文庫(kù)的資料請(qǐng)關(guān)注腳本之家其它相關(guān)文章!
相關(guān)文章
python數(shù)據(jù)結(jié)構(gòu)之列表和元組的詳解
這篇文章主要介紹了python數(shù)據(jù)結(jié)構(gòu)之列表和元組的詳解的相關(guān)資料,希望通過(guò)本文能幫助到大家,讓大家徹底理解掌握這部分內(nèi)容,需要的朋友可以參考下2017-09-09學(xué)習(xí)python處理python編碼問(wèn)題
概括從python開(kāi)始就處理unicode字符,python源文件的編碼與解碼,我們寫(xiě)的python程序從產(chǎn)生到執(zhí)行的過(guò)程如下2011-03-03pytorch 中pad函數(shù)toch.nn.functional.pad()的用法
今天小編就為大家分享一篇pytorch 中pad函數(shù)toch.nn.functional.pad()的用法,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2020-01-01Django生成PDF文檔顯示在網(wǎng)頁(yè)上以及解決PDF中文顯示亂碼的問(wèn)題
這篇文章主要介紹了Django生成PDF文檔顯示在網(wǎng)頁(yè)上以及解決PDF中文顯示亂碼的問(wèn)題,小編覺(jué)得挺不錯(cuò)的,現(xiàn)在分享給大家,也給大家做個(gè)參考。一起跟隨小編過(guò)來(lái)看看吧2019-07-07Python處理excel根據(jù)全稱自動(dòng)填寫(xiě)簡(jiǎn)稱
這篇文章主要為大家詳細(xì)介紹了Python處理excel根據(jù)全稱自動(dòng)填寫(xiě)簡(jiǎn)稱,文中示例代碼介紹的非常詳細(xì),具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2021-03-03Python cookbook(數(shù)據(jù)結(jié)構(gòu)與算法)將序列分解為單獨(dú)變量的方法
這篇文章主要介紹了Python cookbook(數(shù)據(jù)結(jié)構(gòu)與算法)將序列分解為單獨(dú)變量的方法,結(jié)合實(shí)例形式分析了Python序列賦值實(shí)現(xiàn)的分解成單獨(dú)變量功能相關(guān)操作技巧,需要的朋友可以參考下2018-02-02Python操作MySQL數(shù)據(jù)庫(kù)的方法
pymsql是Python中操作MySQL的模塊,其使用方法和MySQLdb幾乎相同。接下來(lái)通過(guò)本文給大家介紹Python操作MySQL數(shù)據(jù)庫(kù)的方法,感興趣的朋友一起看看吧2018-06-06