正则表达式的演练 - lovemoganna/DataStructure GitHub Wiki

正则表达式

常见匹配模式

模式 描述
\w 匹配字母数字及下划线
\W 匹配非字母数字下划线
\s 匹配任意空白字符，等价于 [\t\n\r\f].
\S 匹配任意非空字符
\d 匹配任意数字，等价于 [0-9]
\D 匹配任意非数字
\A 匹配字符串开始
\Z 匹配字符串结束，如果是存在换行，只匹配到换行前的结束字符串
\z 匹配字符串结束
\G 匹配最后匹配完成的位置
\n 匹配一个换行符
\t 匹配一个制表符
^ 匹配字符串的开头
$ 匹配字符串的末尾。
. 匹配任意字符，除了换行符，当re.DOTALL标记被指定时，则可以匹配包括换行符的任意字符。
[...] 用来表示一组字符,单独列出：[amk] 匹配 'a'，'m'或'k'
[^...] 不在[]中的字符：[^abc] 匹配除了a,b,c之外的字符。
* 匹配0个或多个的表达式。
+ 匹配1个或多个的表达式。
? 匹配0个或1个由前面的正则表达式定义的片段，非贪婪方式
{n} 精确匹配n个前面表达式。
{n, m} 匹配 n 到 m 次由前面的正则表达式定义的片段，贪婪方式
a|b 匹配a或b
( ) 匹配括号内的表达式，也表示一个组

re.match

re.match 尝试从字符串的起始位置匹配一个模式，如果不是起始位置匹配成功的话，match()就返回none。 re.match(pattern, string, flags=0)

最常规的匹配

import re

content = 'Hello 123 4567 World_This is a Regex Demo'
print(len(content))
result = re.match('^Hello\s\d\d\d\s\d{4}\s\w{10}.*Demo$', content)
print(result) # 打印字符串的长度
print(result.group()) # 输出结果
print(result.span()) # 输出字符串的范围
41
<_sre.SRE_Match object; span=(0, 41), match='Hello 123 4567 World_This is a Regex Demo'>
Hello 123 4567 World_This is a Regex Demo
(0, 41)
常用字符 表示
^ 开启匹配字符串的标志
\s 匹配任意空白字符
\d 匹配数字,\d{n}表示匹配n个字符
\w 匹配字母数字下划线
. 匹配任意字符,不包括换行符
* 匹配0或者多个表达式,一般 .* 连用
Demo$ 作为正则表达式的结尾

泛匹配

import re

content = 'Hello 123 4567 World_This is a Regex Demo'
result = re.match('^Hello.*Demo$', content)
print(result)
print(result.group())
print(result.span())
<_sre.SRE_Match object; span=(0, 41), match='Hello 123 4567 World_This is a Regex Demo'>
Hello 123 4567 World_This is a Regex Demo
(0, 41)

.* 可以把中间所有的字符都可以匹配到.

匹配目标

import re

content = 'Hello 1234567 World_This is a Regex Demo'
#result = re.match('^Hello\s(\d+)\sWorld.*Demo$', content)
result = re.match('^Hello\s(\d+)\sW.*Demo$',content)
print(result)
print(result.group(1))##输出第一个小括号的内容
print(result.span())
<_sre.SRE_Match object; span=(0, 40), match='Hello 1234567 World_This is a Regex Demo'>
1234567
(0, 40)

贪婪匹配

import re 

content = 'Hello 1234567 World_This is a Regex Demo'
#result = re.match('^He.*(\d+).*Demo$', content)
result = re .match('^H.*(\d+).*Demo$',content) # 也就是说.*尽可能匹配的更多的字符,直接 匹配到了6,才拉闸,只给\d匹配了一个数字7.
print(result)
print(result.group(1))## 这种模式采取的是尽可能匹配多的模式
<_sre.SRE_Match object; span=(0, 40), match='Hello 1234567 World_This is a Regex Demo'>
7

非贪婪匹配

import re

content = 'Hello 1234567 World_This is a Regex Demo'
result = re.match('^He.*?(\d+).*Demo$', content) # .* 后面多了一个? 号,就是尽可能少的匹配字符,让后面的\d多匹配数字.
print(result)
print(result.group(1))## \d+匹配的就是1234567 ,.*?匹配的就是匹配尽可能少的字符.
<_sre.SRE_Match object; span=(0, 40), match='Hello 1234567 World_This is a Regex Demo'>
1234567

匹配模式

# 存在换行的字符串,我们需要 re.S来解决.
import re

content = '''Hello 1234567 World_This
is a Regex Demo
'''
result = re.match('^He.*?(\d+).*?Demo$', content, re.S)# .*不能匹配换行符,加上re.S就可以了
print(result.group(1))
1234567

转义

import re

content = 'price is $5.00'
result = re.match('price is $5.00', content)
print(result) # 在正则表达式里面不能写入特殊字符.无效.
None

import re

content = 'price is $5.00'
result = re.match('price is \$5\.00', content) # 此时需要我们用\(转义字符)来搞定,但是不能随便放. 只能\$5\,不能\$\5
print(result)
<_sre.SRE_Match object; span=(0, 14), match='price is $5.00'>

总结：尽量使用泛匹配、使用括号得到匹配目标、尽量使用非贪婪模式、有换行符就用re.S

如果re.match第一个字符串是不匹配的,那么就会无法使用了.

re.search

re.search 扫描整个字符串并返回第一个成功的匹配。

import re

content = 'Extra stings Hello 1234567 World_This is a Regex Demo Extra stings'
result = re.match('Hello.*?(\d+).*?Demo', content) # 我们从中间开始匹配字符串,可以发现re.match匹配失败了.
print(result)
import re

content = 'Extra stings Hello 1234567 World_This is a Regex Demo Extra stings'
result = re.search('Hello.*?(\d+).*?Demo', content)
print(result)
print(result.group(1))
<_sre.SRE_Match object; span=(13, 53), match='Hello 1234567 World_This is a Regex Demo'>
1234567

总结：为匹配方便，能用search就不用match

匹配演练

import re

html = '''<div id="songs-list">
    <h2 class="title">经典老歌</h2>
    <p class="introduction">
        经典老歌列表
    </p>
    <ul id="list" class="list-group">
        <li data-view="2">一路上有你</li>
        <li data-view="7">
            <a href="/2.mp3" singer="任贤齐">沧海一声笑</a>
        </li>
        <li data-view="4" class="active">
            <a href="/3.mp3" singer="齐秦">往事随风</a>
        </li>
        <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>
        <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>
        <li data-view="5">
            <a href="/6.mp3" singer="邓丽君"><i class="fa fa-user"></i>但愿人长久</a>
        </li>
    </ul>
</div>'''

# result = re.search('<li.*?singer="(.*?)">(.*?)</a>',html,re.S) 
result = re.search('<li.*?active.*?singer="(.*?)">(.*?)</a>', html, re.S)
# 只要匹配到active标签,就能取到a标签里面的内容.
if result:
    print(result.group(1), result.group(2))
齐秦 往事随风

import re

html = '''<div id="songs-list">
    <h2 class="title">经典老歌</h2>
    <p class="introduction">
        经典老歌列表
    </p>
    <ul id="list" class="list-group">
        <li data-view="2">一路上有你</li>
        <li data-view="7">
            <a href="/2.mp3" singer="任贤齐">沧海一声笑</a>            
        </li>
        <li data-view="4" class="active">
            <a href="/3.mp3" singer="齐秦">往事随风</a>
        </li>
        <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>
        <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>
        <li data-view="5">
            <a href="/6.mp3" singer="邓丽君">但愿人长久</a>
        </li>
    </ul>
</div>'''
result = re.search('<li.*?singer="(.*?)">(.*?)</a>',html,re.S)
#result = re.search('<li.*?singer="(.*?)">(.*?)</a>', html, re.S)
if result:
    print(result.group(1), result.group(2))
任贤齐 沧海一声笑

import re

html = '''<div id="songs-list">
    <h2 class="title">经典老歌</h2>
    <p class="introduction">
        经典老歌列表
    </p>
    <ul id="list" class="list-group">
        <li data-view="2">一路上有你</li>
        <li data-view="7">
            <a href="/2.mp3" singer="任贤齐">沧海一声笑</a>
        </li>
        <li data-view="4" class="active">
            <a href="/3.mp3" singer="齐秦">往事随风</a>
        </li>
        <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>
        <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>
        <li data-view="5">
            <a href="/6.mp3" singer="邓丽君">但愿人长久</a>
        </li>
    </ul>
</div>'''
result = re.search('<li.*?singer="(.*?)">(.*?)</a>', html)
if result:
    print(result.group(1), result.group(2))
beyond 光辉岁月

re.findall

搜索字符串，以列表形式返回全部能匹配的子串。

import re

html = '''<div id="songs-list">
    <h2 class="title">经典老歌</h2>
    <p class="introduction">
        经典老歌列表
    </p>
    <ul id="list" class="list-group">
        <li data-view="2">一路上有你</li>
        <li data-view="7">
            <a href="/2.mp3" singer="任贤齐">沧海一声笑</a>
        </li>
        <li data-view="4" class="active">
            <a href="/3.mp3" singer="齐秦">往事随风</a>
        </li>
        <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>
        <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>
        <li data-view="5">
            <a href="/6.mp3" singer="邓丽君">但愿人长久</a>
        </li>
    </ul>
</div>'''
result = re.findall('<li.*?href="(.*?)".*?singer="(.*?)">(.*?)</a>',html,re.S)
print(result)

# 查看数据的类型
print(type(result))

# 打印出所有结果
# list(i for i in result)

# 打印出所有的结果
for r in result:
    print(r)
    
import re

html = '''<div id="songs-list">
    <h2 class="title">经典老歌</h2>
    <p class="introduction">
        经典老歌列表
    </p>
    <ul id="list" class="list-group">
        <li data-view="2">一路上有你</li>
        <li data-view="7">
            <a href="/2.mp3" singer="任贤齐">沧海一声笑</a>
        </li>
        <li data-view="4" class="active">
            <a href="/3.mp3" singer="齐秦">往事随风</a>
        </li>
        <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>
        <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>
        <li data-view="5">
            <a href="/6.mp3" singer="邓丽君">但愿人长久</a>
        </li>
    </ul>
</div>'''
#results = re.findall('<li.*?>\s*?(<a.*?>)?(\w+)(</a>)?\s*?</li>', html, re.S)
# li标签之后存在着换行和不换行的问题,所以我们要追加一个\s(换行字符),因为不知道有没有,所以要加一个.*?来规避掉这个问题
# * 可以匹配多个换行符或者多个空白字符,? 代表有或者没有,() 可以代表一个整体,\w表示匹配字符串.\s代表换行空白符.
# (<a.*?>)?(\w+)(</a>)? 因为a标签不知道存在不存在,所以作为一个整体来判断.
results = re.findall('<li.*?(<a.*?>)?(\w+)(</a>)?\s*?</li>',html,re.S)
print(results)

for result in results:
    print(result[1])
[('', '一路上有你', ''), ('<a href="/2.mp3" singer="任贤齐">', '沧海一声笑', '</a>'), ('<a href="/3.mp3" singer="齐秦">', '往事随风', '</a>'), ('<a href="/4.mp3" singer="beyond">', '光辉岁月', '</a>'), ('<a href="/5.mp3" singer="陈慧琳">', '记事本', '</a>'), ('<a href="/6.mp3" singer="邓丽君">', '但愿人长久', '</a>')]
一路上有你
沧海一声笑
往事随风
光辉岁月
记事本
但愿人长久

re.sub

替换字符串中每一个匹配的子串后返回替换后的字符串。

import re

content = 'Extra stings Hello 1234567 World_This is a Regex Demo Extra stings'
content = re.sub('\d+', '', content) # 他就是把数字用空白字符串替换掉了
print(content)
Extra stings Hello  World_This is a Regex Demo Extra stings

import re

content = 'Extra stings Hello 1234567 World_This is a Regex Demo Extra stings'
content = re.sub('\d+', 'Replacement', content)
print(content)
Extra stings Hello Replacement World_This is a Regex Demo Extra stings

import re

content = 'Extra stings Hello 1234567 World_This is a Regex Demo Extra stings'
content = re.sub('(\d+)', r'\1 8910', content) 
#替换的目标是原字符串本身,或者说是包含原字符串,需要把匹配的正则表达式加上一个括号.
# 至于带着前面的数,就需要用r'\1 就能带上了. \1 是转义字符,要保证它是原生的.所以要加上r.
print(content)
Extra stings Hello 1234567 8910 World_This is a Regex Demo Extra stings

import re

html = '''<div id="songs-list">
    <h2 class="title">经典老歌</h2>
    <p class="introduction">
        经典老歌列表
    </p>
    <ul id="list" class="list-group">
        <li data-view="2">一路上有你</li>
        <li data-view="7">
            <a href="/2.mp3" singer="任贤齐">沧海一声笑</a>
        </li>
        <li data-view="4" class="active">
            <a href="/3.mp3" singer="齐秦">往事随风</a>
        </li>
        <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>
        <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>
        <li data-view="5">
            <a href="/6.mp3" singer="邓丽君">但愿人长久</a>
        </li>
    </ul>
</div>'''
import re

html = '''<div id="songs-list">
    <h2 class="title">经典老歌</h2>
    <p class="introduction">
        经典老歌列表
    </p>
    <ul id="list" class="list-group">
        <li data-view="2">一路上有你</li>
        <li data-view="7">
            <a href="/2.mp3" singer="任贤齐">沧海一声笑</a>
        </li>
        <li data-view="4" class="active">
            <a href="/3.mp3" singer="齐秦">往事随风</a>
        </li>
        <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>
        <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>
        <li data-view="5">
            <a href="/6.mp3" singer="邓丽君">但愿人长久</a>
        </li>
    </ul>
</div>'''
html = re.sub('<a.*?>|</a>', '', html) # 先把a标签的开头和结尾替换掉,然后就可以直接找到了.
print(html)
results = re.findall('<li.*?>(.*?)</li>', html, re.S)
print(results)
for result in results:
    print(result.strip())# 去掉换行符
# 去掉换行符 result.strip()

re.compile

将正则字符串编译成正则表达式对象

将一个正则表达式串编译成正则对象，以便于复用该匹配模式
import re

content = '''Hello 1234567 World_This
is a Regex Demo'''
pattern = re.compile('Hello.*Demo', re.S) # 编译成正则表达式对象,代码可重复使用.
result = re.match(pattern, content)
# result = re.match('Hello.*Demo', content, re.S)
print(result)

实战练习

import requests
import re
content = requests.get('https://book.douban.com/').text
pattern = re.compile('<li.*?cover.*?href="(.*?)".*?title="(.*?)".*?more-meta.*?author">(.*?)</span>.*?year">(.*?)</span>.*?</li>', re.S)
# pattern = re.compile('<li.*?cover.*?href="(.*?)".*?title="(.*?)".*?more-meta.*?author">(.*?)</span>.*?year>(.*?)</span>.*?</li>',re.S)
results = re.findall(pattern, content)
for result in results:
    url, name, author, date = result
    author = re.sub('\s', '', author)
    date = re.sub('\s', '', date)
    print(url, name, author, date)

我的博客截取

import re
html='''<article class="index-post">
            <a class="abstract-title" href="/2018/02/25/Redis集群的搭建/">
                
                    <span>Redis-cluster搭建</span>
            </a>
            <div class="abstract-content">
                redis集群的搭建......
            </div>
            <div class="abstract-post-meta">
                <!-- date  -->
                <div class="abstract-date">
                    <span class="abstract-calander iconfont-archer"></span><span class="abstract-time">2018/02/25</span>
                </div>
                <!-- tags  -->
                
                <div class="abstract-tags">
    
        <a class="post-tag" href="javascript:void(0);" data-tags="Redis">Redis</a>
    
        <a class="post-tag" href="javascript:void(0);" data-tags="Redis-cluster">Redis-cluster</a>
    
</div>
                
            </div>
        </article>
'''        
results = re.findall('<article.*?abstract-title.*?href="(.*?)".*?<span>(.*?)</span>.*?abstract-content">(.*?)</div>.*?abstract-time">(.*?)</span>.*?</article>',html,re.S)

for result in results:
    content, title, description, date = result
    description = re.sub('\s', '', description) # 将空格替换掉
    print("content:",content,"title:", title,"description:",description,"date:", date)
content: /2018/02/25/Redis集群的搭建/ title: Redis-cluster搭建 description: redis集群的搭建...... date: 2018/02/25
⚠️ **GitHub.com Fallback** ⚠️