欧美bbbwbbbw肥妇,免费乱码人妻系列日韩,一级黄片

玩轉(zhuǎn)python爬蟲(chóng)之正則表達(dá)式

 更新時(shí)間:2016年02月17日 15:28:08   作者:崔慶才  
這篇文章主要介紹了python爬蟲(chóng)的正則表達(dá)式,正則表達(dá)式在Python爬蟲(chóng)是必不可少的神兵利器,本文整理了Python中的正則表達(dá)式的相關(guān)內(nèi)容,感興趣的小伙伴們可以參考一下

面對(duì)大量雜亂的代碼夾雜文字我們?cè)鯓影阉崛〕鰜?lái)整理呢?下面就開(kāi)始介紹一個(gè)十分強(qiáng)大的工具,正則表達(dá)式!

1.了解正則表達(dá)式

正則表達(dá)式是對(duì)字符串操作的一種邏輯公式,就是用事先定義好的一些特定字符、及這些特定字符的組合,組成一個(gè)“規(guī)則字符串”,這個(gè)“規(guī)則字符串”用來(lái)表達(dá)對(duì)字符串的一種過(guò)濾邏輯。

正則表達(dá)式是用來(lái)匹配字符串非常強(qiáng)大的工具,在其他編程語(yǔ)言中同樣有正則表達(dá)式的概念,Python同樣不例外,利用了正則表達(dá)式,我們想要從返回的頁(yè)面內(nèi)容提取出我們想要的內(nèi)容就易如反掌了。

正則表達(dá)式的大致匹配過(guò)程是:

  • 依次拿出表達(dá)式和文本中的字符比較,
  • 如果每一個(gè)字符都能匹配,則匹配成功;一旦有匹配不成功的字符則匹配失敗。
  • 如果表達(dá)式中有量詞或邊界,這個(gè)過(guò)程會(huì)稍微有一些不同。

2.正則表達(dá)式的語(yǔ)法規(guī)則

下面是Python中正則表達(dá)式的一些匹配規(guī)則,圖片資料來(lái)自CSDN

3.正則表達(dá)式相關(guān)注解

(1)數(shù)量詞的貪婪模式與非貪婪模式
正則表達(dá)式通常用于在文本中查找匹配的字符串。Python里數(shù)量詞默認(rèn)是貪婪的(在少數(shù)語(yǔ)言里也可能是默認(rèn)非貪婪),總是嘗試匹配盡可能多的字符;非貪婪的則相反,總是嘗試匹配盡可能少的字符。例如:正則表達(dá)式”ab*”如果用于查找”abbbc”,將找到”abbb”。而如果使用非貪婪的數(shù)量詞”ab*?”,將找到”a”。

注:我們一般使用非貪婪模式來(lái)提取。

(2)反斜杠問(wèn)題
與大多數(shù)編程語(yǔ)言相同,正則表達(dá)式里使用”\”作為轉(zhuǎn)義字符,這就可能造成反斜杠困擾。假如你需要匹配文本中的字符”\”,那么使用編程語(yǔ)言表示的正則表達(dá)式里將需要4個(gè)反斜杠”\\\\”:前兩個(gè)和后兩個(gè)分別用于在編程語(yǔ)言里轉(zhuǎn)義成反斜杠,轉(zhuǎn)換成兩個(gè)反斜杠后再在正則表達(dá)式里轉(zhuǎn)義成一個(gè)反斜杠。

Python里的原生字符串很好地解決了這個(gè)問(wèn)題,這個(gè)例子中的正則表達(dá)式可以使用r”\\”表示。同樣,匹配一個(gè)數(shù)字的”\\d”可以寫(xiě)成r”\d”。有了原生字符串,媽媽也不用擔(dān)心是不是漏寫(xiě)了反斜杠,寫(xiě)出來(lái)的表達(dá)式也更直觀勒。

4.Python Re模塊

Python 自帶了re模塊,它提供了對(duì)正則表達(dá)式的支持。主要用到的方法列舉如下

#返回pattern對(duì)象
re.compile(string[,flag]) 
#以下為匹配所用函數(shù)
re.match(pattern, string[, flags])
re.search(pattern, string[, flags])
re.split(pattern, string[, maxsplit])
re.findall(pattern, string[, flags])
re.finditer(pattern, string[, flags])
re.sub(pattern, repl, string[, count])
re.subn(pattern, repl, string[, count])

在介紹這幾個(gè)方法之前,我們先來(lái)介紹一下pattern的概念,pattern可以理解為一個(gè)匹配模式,那么我們?cè)趺传@得這個(gè)匹配模式呢?很簡(jiǎn)單,我們需要利用re.compile方法就可以。例如

pattern = re.compile(r'hello')

在參數(shù)中我們傳入了原生字符串對(duì)象,通過(guò)compile方法編譯生成一個(gè)pattern對(duì)象,然后我們利用這個(gè)對(duì)象來(lái)進(jìn)行進(jìn)一步的匹配。

另外大家可能注意到了另一個(gè)參數(shù) flags,在這里解釋一下這個(gè)參數(shù)的含義:

參數(shù)flag是匹配模式,取值可以使用按位或運(yùn)算符'|'表示同時(shí)生效,比如re.I | re.M。

可選值有:

 • re.I(全拼:IGNORECASE): 忽略大小寫(xiě)(括號(hào)內(nèi)是完整寫(xiě)法,下同)
 • re.M(全拼:MULTILINE): 多行模式,改變'^'和'$'的行為(參見(jiàn)上圖)
 • re.S(全拼:DOTALL): 點(diǎn)任意匹配模式,改變'.'的行為
 • re.L(全拼:LOCALE): 使預(yù)定字符類(lèi) \w \W \b \B \s \S 取決于當(dāng)前區(qū)域設(shè)定
 • re.U(全拼:UNICODE): 使預(yù)定字符類(lèi) \w \W \b \B \s \S \d \D 取決于unicode定義的字符屬性
 • re.X(全拼:VERBOSE): 詳細(xì)模式。這個(gè)模式下正則表達(dá)式可以是多行,忽略空白字符,并可以加入注釋。

在剛才所說(shuō)的另外幾個(gè)方法例如 re.match 里我們就需要用到這個(gè)pattern了,下面我們一一介紹。

注:以下七個(gè)方法中的flags同樣是代表匹配模式的意思,如果在pattern生成時(shí)已經(jīng)指明了flags,那么在下面的方法中就不需要傳入這個(gè)參數(shù)了。
(1)re.match(pattern, string[, flags])
這個(gè)方法將會(huì)從string(我們要匹配的字符串)的開(kāi)頭開(kāi)始,嘗試匹配pattern,一直向后匹配,如果遇到無(wú)法匹配的字符,立即返回None,如果匹配未結(jié)束已經(jīng)到達(dá)string的末尾,也會(huì)返回None。兩個(gè)結(jié)果均表示匹配失敗,否則匹配pattern成功,同時(shí)匹配終止,不再對(duì)string向后匹配。下面我們通過(guò)一個(gè)例子理解一下

# -*- coding: utf-8 -*-
 
#導(dǎo)入re模塊
import re
 
# 將正則表達(dá)式編譯成Pattern對(duì)象,注意hello前面的r的意思是“原生字符串”
pattern = re.compile(r'hello')
 
# 使用re.match匹配文本,獲得匹配結(jié)果,無(wú)法匹配時(shí)將返回None
result1 = re.match(pattern,'hello')
result2 = re.match(pattern,'helloo CQC!')
result3 = re.match(pattern,'helo CQC!')
result4 = re.match(pattern,'hello CQC!')
 
#如果1匹配成功
if result1:
  # 使用Match獲得分組信息
  print result1.group()
else:
  print '1匹配失??!'
 
 
#如果2匹配成功
if result2:
  # 使用Match獲得分組信息
  print result2.group()
else:
  print '2匹配失??!'
 
 
#如果3匹配成功
if result3:
  # 使用Match獲得分組信息
  print result3.group()
else:
  print '3匹配失敗!'
 
#如果4匹配成功
if result4:
  # 使用Match獲得分組信息
  print result4.group()
else:
  print '4匹配失??!'

運(yùn)行結(jié)果

hello
hello
3匹配失?。?
hello

匹配分析

1.第一個(gè)匹配,pattern正則表達(dá)式為'hello',我們匹配的目標(biāo)字符串string也為hello,從頭至尾完全匹配,匹配成功。

2.第二個(gè)匹配,string為helloo CQC,從string頭開(kāi)始匹配pattern完全可以匹配,pattern匹配結(jié)束,同時(shí)匹配終止,后面的o CQC不再匹配,返回匹配成功的信息。

3.第三個(gè)匹配,string為helo CQC,從string頭開(kāi)始匹配pattern,發(fā)現(xiàn)到 ‘o' 時(shí)無(wú)法完成匹配,匹配終止,返回None

4.第四個(gè)匹配,同第二個(gè)匹配原理,即使遇到了空格符也不會(huì)受影響。

我們還看到最后打印出了result.group(),這個(gè)是什么意思呢?下面我們說(shuō)一下關(guān)于match對(duì)象的的屬性和方法
Match對(duì)象是一次匹配的結(jié)果,包含了很多關(guān)于此次匹配的信息,可以使用Match提供的可讀屬性或方法來(lái)獲取這些信息。

屬性:
1.string: 匹配時(shí)使用的文本。
2.re: 匹配時(shí)使用的Pattern對(duì)象。
3.pos: 文本中正則表達(dá)式開(kāi)始搜索的索引。值與Pattern.match()和Pattern.seach()方法的同名參數(shù)相同。
4.endpos: 文本中正則表達(dá)式結(jié)束搜索的索引。值與Pattern.match()和Pattern.seach()方法的同名參數(shù)相同。
5.lastindex: 最后一個(gè)被捕獲的分組在文本中的索引。如果沒(méi)有被捕獲的分組,將為None。
6.lastgroup: 最后一個(gè)被捕獲的分組的別名。如果這個(gè)分組沒(méi)有別名或者沒(méi)有被捕獲的分組,將為None。
方法:
1.group([group1, …]):
獲得一個(gè)或多個(gè)分組截獲的字符串;指定多個(gè)參數(shù)時(shí)將以元組形式返回。group1可以使用編號(hào)也可以使用別名;編號(hào)0代表整個(gè)匹配的子串;不填寫(xiě)參數(shù)時(shí),返回group(0);沒(méi)有截獲字符串的組返回None;截獲了多次的組返回最后一次截獲的子串。
2.groups([default]):
以元組形式返回全部分組截獲的字符串。相當(dāng)于調(diào)用group(1,2,…last)。default表示沒(méi)有截獲字符串的組以這個(gè)值替代,默認(rèn)為None。
3.groupdict([default]):
返回以有別名的組的別名為鍵、以該組截獲的子串為值的字典,沒(méi)有別名的組不包含在內(nèi)。default含義同上。
4.start([group]):
返回指定的組截獲的子串在string中的起始索引(子串第一個(gè)字符的索引)。group默認(rèn)值為0。
5.end([group]):
返回指定的組截獲的子串在string中的結(jié)束索引(子串最后一個(gè)字符的索引+1)。group默認(rèn)值為0。
6.span([group]):
返回(start(group), end(group))。
7.expand(template):
將匹配到的分組代入template中然后返回。template中可以使用\id或\g、\g引用分組,但不能使用編號(hào)0。\id與\g是等價(jià)的;但\10將被認(rèn)為是第10個(gè)分組,如果你想表達(dá)\1之后是字符'0',只能使用\g0。
下面我們用一個(gè)例子來(lái)體會(huì)一下

# -*- coding: utf-8 -*-
#一個(gè)簡(jiǎn)單的match實(shí)例
 
import re
# 匹配如下內(nèi)容:?jiǎn)卧~+空格+單詞+任意字符
m = re.match(r'(\w+) (\w+)(?P<sign>.*)', 'hello world!')
 
print "m.string:", m.string
print "m.re:", m.re
print "m.pos:", m.pos
print "m.endpos:", m.endpos
print "m.lastindex:", m.lastindex
print "m.lastgroup:", m.lastgroup
print "m.group():", m.group()
print "m.group(1,2):", m.group(1, 2)
print "m.groups():", m.groups()
print "m.groupdict():", m.groupdict()
print "m.start(2):", m.start(2)
print "m.end(2):", m.end(2)
print "m.span(2):", m.span(2)
print r"m.expand(r'\g \g\g'):", m.expand(r'\2 \1\3')
 
### output ###
# m.string: hello world!
# m.re: 
# m.pos: 0
# m.endpos: 12
# m.lastindex: 3
# m.lastgroup: sign
# m.group(1,2): ('hello', 'world')
# m.groups(): ('hello', 'world', '!')
# m.groupdict(): {'sign': '!'}
# m.start(2): 6
# m.end(2): 11
# m.span(2): (6, 11)
# m.expand(r'\2 \1\3'): world hello!

(2)re.search(pattern, string[, flags])
search方法與match方法極其類(lèi)似,區(qū)別在于match()函數(shù)只檢測(cè)re是不是在string的開(kāi)始位置匹配,search()會(huì)掃描整個(gè)string查找匹配,match()只有在0位置匹配成功的話才有返回,如果不是開(kāi)始位置匹配成功的話,match()就返回None。同樣,search方法的返回對(duì)象同樣match()返回對(duì)象的方法和屬性。我們用一個(gè)例子感受一下

#導(dǎo)入re模塊
import re
 
# 將正則表達(dá)式編譯成Pattern對(duì)象
pattern = re.compile(r'world')
# 使用search()查找匹配的子串,不存在能匹配的子串時(shí)將返回None
# 這個(gè)例子中使用match()無(wú)法成功匹配
match = re.search(pattern,'hello world!')
if match:
  # 使用Match獲得分組信息
  print match.group()
### 輸出 ###
# world

 (3)re.split(pattern, string[, maxsplit])
按照能夠匹配的子串將string分割后返回列表。maxsplit用于指定最大分割次數(shù),不指定將全部分割。我們通過(guò)下面的例子感受一下。

import re
 
pattern = re.compile(r'\d+')
print re.split(pattern,'one1two2three3four4')
 
### 輸出 ###
# ['one', 'two', 'three', 'four', '']

(4)re.findall(pattern, string[, flags])
搜索string,以列表形式返回全部能匹配的子串。我們通過(guò)這個(gè)例子來(lái)感受一下

import re
 
pattern = re.compile(r'\d+')
print re.findall(pattern,'one1two2three3four4')
 
### 輸出 ###
# ['1', '2', '3', '4']

(5)re.finditer(pattern, string[, flags])
搜索string,返回一個(gè)順序訪問(wèn)每一個(gè)匹配結(jié)果(Match對(duì)象)的迭代器。我們通過(guò)下面的例子來(lái)感受一下

import re
 
pattern = re.compile(r'\d+')
for m in re.finditer(pattern,'one1two2three3four4'):
  print m.group(),
 
### 輸出 ###
# 1 2 3 4

(6)re.sub(pattern, repl, string[, count])
使用repl替換string中每一個(gè)匹配的子串后返回替換后的字符串。
當(dāng)repl是一個(gè)字符串時(shí),可以使用\id或\g、\g引用分組,但不能使用編號(hào)0。
當(dāng)repl是一個(gè)方法時(shí),這個(gè)方法應(yīng)當(dāng)只接受一個(gè)參數(shù)(Match對(duì)象),并返回一個(gè)字符串用于替換(返回的字符串中不能再引用分組)。
count用于指定最多替換次數(shù),不指定時(shí)全部替換。

import re
 
pattern = re.compile(r'(\w+) (\w+)')
s = 'i say, hello world!'
 
print re.sub(pattern,r'\2 \1', s)
 
def func(m):
  return m.group(1).title() + ' ' + m.group(2).title()
 
print re.sub(pattern,func, s)
 
### output ###
# say i, world hello!
# I Say, Hello World!

(7)re.subn(pattern, repl, string[, count])
返回 (sub(repl, string[, count]), 替換次數(shù))。

import re
 
pattern = re.compile(r'(\w+) (\w+)')
s = 'i say, hello world!'
 
print re.subn(pattern,r'\2 \1', s)
 
def func(m):
  return m.group(1).title() + ' ' + m.group(2).title()
 
print re.subn(pattern,func, s)
 
### output ###
# ('say i, world hello!', 2)
# ('I Say, Hello World!', 2)

5.Python Re模塊的另一種使用方式

在上面我們介紹了7個(gè)工具方法,例如match,search等等,不過(guò)調(diào)用方式都是 re.match,re.search的方式,其實(shí)還有另外一種調(diào)用方式,可以通過(guò)pattern.match,pattern.search調(diào)用,這樣調(diào)用便不用將pattern作為第一個(gè)參數(shù)傳入了,大家想怎樣調(diào)用皆可。

函數(shù)API列表

 match(string[, pos[, endpos]]) | re.match(pattern, string[, flags])
 search(string[, pos[, endpos]]) | re.search(pattern, string[, flags])
 split(string[, maxsplit]) | re.split(pattern, string[, maxsplit])
 findall(string[, pos[, endpos]]) | re.findall(pattern, string[, flags])
 finditer(string[, pos[, endpos]]) | re.finditer(pattern, string[, flags])
 sub(repl, string[, count]) | re.sub(pattern, repl, string[, count])
 subn(repl, string[, count]) |re.sub(pattern, repl, string[, count])

具體的調(diào)用方法不必詳說(shuō)了,原理都類(lèi)似,只是參數(shù)的變化不同。小伙伴們嘗試一下吧~

小伙伴們加油,即使這一節(jié)看得云里霧里的也沒(méi)關(guān)系,接下來(lái)我們會(huì)通過(guò)一些實(shí)戰(zhàn)例子來(lái)幫助大家熟練掌握正則表達(dá)式的。

相關(guān)文章

  • Python Pandas分組聚合的實(shí)現(xiàn)方法

    Python Pandas分組聚合的實(shí)現(xiàn)方法

    這篇文章主要介紹了Python Pandas分組聚合的實(shí)現(xiàn)方法,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧
    2019-07-07
  • python 使用while寫(xiě)猜年齡小游戲過(guò)程解析

    python 使用while寫(xiě)猜年齡小游戲過(guò)程解析

    這篇文章主要介紹了python 使用while寫(xiě)猜年齡小游戲過(guò)程解析,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下
    2019-10-10
  • Flask??request?對(duì)象介紹

    Flask??request?對(duì)象介紹

    本文介紹?Flask??request?對(duì)象,一個(gè)完整的?HTTP?請(qǐng)求,包括客戶端向服務(wù)端發(fā)送的Request?請(qǐng)求和服務(wù)器端發(fā)送?Response?響應(yīng).為了能方便訪問(wèn)獲取請(qǐng)求及響應(yīng)報(bào)文信息,Flask?框架提供了一些內(nèi)建對(duì)象,下面就來(lái)說(shuō)一下?Flask?針對(duì)請(qǐng)求提供內(nèi)建對(duì)象reques,需要的朋友可以參考一下
    2021-11-11
  • python and or用法詳解

    python and or用法詳解

    這篇文章主要介紹了python and or用法詳解,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧
    2019-06-06
  • python列表元素拼接成字符串的4種方法

    python列表元素拼接成字符串的4種方法

    本文主要介紹了python列表元素拼接成字符串的4種方法,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧
    2023-02-02
  • Django后端按照日期查詢的方法教程

    Django后端按照日期查詢的方法教程

    這篇文章主要給大家介紹了關(guān)于Django后端按照日期查詢的相關(guān)資料,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧
    2021-02-02
  • Pytest參數(shù)化parametrize使用代碼實(shí)例

    Pytest參數(shù)化parametrize使用代碼實(shí)例

    這篇文章主要介紹了Pytest參數(shù)化parametrize使用代碼實(shí)例,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下
    2020-02-02
  • 教你用Python下載抖音無(wú)水印視頻

    教你用Python下載抖音無(wú)水印視頻

    這篇文章主要介紹了教你用Python下載抖音無(wú)水印視頻,文中有非常詳細(xì)的代碼示例,對(duì)正在學(xué)習(xí)python的小伙伴們有很好地幫助,需要的朋友可以參考下
    2021-05-05
  • 使用Python實(shí)現(xiàn)畫(huà)一個(gè)中國(guó)地圖

    使用Python實(shí)現(xiàn)畫(huà)一個(gè)中國(guó)地圖

    今天小編就為大家分享一篇使用Python實(shí)現(xiàn)畫(huà)一個(gè)中國(guó)地圖,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧
    2019-11-11
  • pytorch環(huán)境配置及安裝圖文詳解(包括anaconda的安裝)

    pytorch環(huán)境配置及安裝圖文詳解(包括anaconda的安裝)

    這篇文章主要介紹了pytorch環(huán)境配置及安裝圖文詳解(包括anaconda的安裝),本文給大家介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友可以參考下
    2023-04-04

最新評(píng)論