Python正则表达式学习笔记之语法、re模块、切分字符串、分组、贪婪匹配、编译_Python

一、介绍

字符串是编程时涉及到的最多的一种数据结构，对字符串进行操作的需求几乎无处不在。比如判断要给字符串是否是合法的 email 地址，虽然可以编程提取 @ 前后的子串，再分别判断是否是单词和域名，但这样做不但麻烦，而且代码难以复用。

正则表达式 是一种用来匹配字符串的强有力的武器。它的设计思想是用一种描述性的语言来给字符串定义一个规则，凡是符合规则的字符串，我们就认为它 “匹配” 了，否则该字符串就是不合法的。

所以我们判断一个字符串是否是合法的 email 地址的方法是：

创建一个匹配 email 的正则表达式；
用该正则表达式去匹配用户的输入来判断是否合法。

二、正则表达式语法

正则表达式由一些普通字符和一些 元字符（metacharacters） 组成。普通字符包括 大小写的字母 和数字，而元字符则具有特殊的含义，我们下面会给予解释。

在最简单的情况下，一个正则表达式看上去就是一个普通的查找串。例如，正则表达式"testing"中没有包含任何元字符，它可以匹配"testing"和"testing123"等字符串，但是不能匹配"testing"。

要想真正的用好正则表达式，正确的理解元字符是最重要的事情。下表列出了所有的元字符和对它们的一个简短的描述。

元字符	描述
\	将下一个字符标记为或特殊字符、或原义字符、或向后引用、或八进制转义符。例如，“\n”匹配\n。“\n”匹配换行符。序列“\”匹配“\”而“(”则匹配“(”。即相当于多种编程语言中都有的“转义字符”的概念。
^	匹配输入字行首。如果设置了regexp对象的multiline属性，^也匹配“\n”或“\r”之后的位置。
$	匹配输入行尾。如果设置了regexp对象的multiline属性，$也匹配“\n”或“\r”之前的位置。
*	匹配前面的子表达式任意次。例如，zo能匹配“z”，也能匹配“zo”以及“zoo”。等价于{0,}。
+	匹配前面的子表达式一次或多次(大于等于1次）。例如，“zo+”能匹配“zo”以及“zoo”，但不能匹配“z”。+等价于{1,}。
?	匹配前面的子表达式零次或一次。例如，“do(es)?”可以匹配“do”或“does”。?等价于{0,1}。
{n}	n是一个非负整数。匹配确定的n次。例如，“o{2}”不能匹配“bob”中的“o”，但是能匹配“food”中的两个o。
{n,}	n是一个非负整数。至少匹配n次。例如，“o{2,}”不能匹配“bob”中的“o”，但能匹配“foooood”中的所有o。“o{1,}”等价于“o+”。“o{0,}”则等价于“o*”。
{n,m}	m和n均为非负整数，其中n<=m。最少匹配n次且最多匹配m次。例如，“o{1,3}”将匹配“fooooood”中的前三个o为一组，后三个o为一组。“o{0,1}”等价于“o?”。请注意在逗号和两个数之间不能有空格。
?	当该字符紧跟在任何一个其他限制符（*,+,?，{n}，{n,}，{n,m}）后面时，匹配模式是非贪婪的。非贪婪模式尽可能少地匹配所搜索的字符串，而默认的贪婪模式则尽可能多地匹配所搜索的字符串。例如，对于字符串“oooo”，“o+”将尽可能多地匹配“o”，得到结果[“oooo”]，而“o+?”将尽可能少地匹配“o”，得到结果 [‘o’, ‘o’, ‘o’, ‘o’]
.点	匹配除“\n”和"\r"之外的任何单个字符。要匹配包括“\n”和"\r"在内的任何字符，请使用像“[\s\s]”的模式。
(pattern)	匹配pattern并获取这一匹配。所获取的匹配可以从产生的matches集合得到，在vbscript中使用submatches集合，在jscript中则使用$0…$9属性。要匹配圆括号字符，请使用“(”或“)”。
(?:pattern)	非获取匹配，匹配pattern但不获取匹配结果，不进行存储供以后使用。这在使用或字符“(\|)”来组合一个模式的各个部分时很有用。例如“industr(?:y\|ies)”就是一个比“industry\|industries”更简略的表达式。
(?=pattern)	非获取匹配，正向肯定预查，在任何匹配pattern的字符串开始处匹配查找字符串，该匹配不需要获取供以后使用。例如，“windows(?=95\|98\|nt\|2000)”能匹配“windows2000”中的“windows”，但不能匹配“windows3.1”中的“windows”。预查不消耗字符，也就是说，在一个匹配发生后，在最后一次匹配之后立即开始下一次匹配的搜索，而不是从包含预查的字符之后开始。
(?!pattern)	非获取匹配，正向否定预查，在任何不匹配pattern的字符串开始处匹配查找字符串，该匹配不需要获取供以后使用。例如“windows(?!95\|98\|nt\|2000)”能匹配“windows3.1”中的“windows”，但不能匹配“windows2000”中的“windows”。
(?<=pattern)	非获取匹配，反向肯定预查，与正向肯定预查类似，只是方向相反。例如，“(?<=95\|98\|nt\|2000)windows”能匹配“2000windows”中的“windows”，但不能匹配“3.1windows”中的“windows”。*python的正则表达式没有完全按照正则表达式规范实现，所以一些高级特性建议使用其他语言如java、scala等
(?<!pattern)	非获取匹配，反向否定预查，与正向否定预查类似，只是方向相反。例如“(?<!95\|98\|nt\|2000)windows”能匹配“3.1windows”中的“windows”，但不能匹配“2000windows”中的“windows”。*python的正则表达式没有完全按照正则表达式规范实现，所以一些高级特性建议使用其他语言如java、scala等
x\|y	匹配x或y。例如，“z\|food”能匹配“z”或“food”(此处请谨慎)。“[z\|f]ood”则匹配“zood”或“food”。
[xyz]	字符集合。匹配所包含的任意一个字符。例如，“[abc]”可以匹配“plain”中的“a”。
[^xyz]	负值字符集合。匹配未包含的任意字符。例如，“[^abc]”可以匹配“plain”中的“plin”任一字符。
[a-z]	字符范围。匹配指定范围内的任意字符。例如，“[a-z]”可以匹配“a”到“z”范围内的任意小写字母字符。注意:只有连字符在字符组内部时,并且出现在两个字符之间时,才能表示字符的范围; 如果出字符组的开头,则只能表示连字符本身.
[^a-z]	负值字符范围。匹配任何不在指定范围内的任意字符。例如，“[^a-z]”可以匹配任何不在“a”到“z”范围内的任意字符。
\b	匹配一个单词的边界，也就是指单词和空格间的位置（即正则表达式的“匹配”有两种概念，一种是匹配字符，一种是匹配位置，这里的\b就是匹配位置的）。例如，“er\b”可以匹配“never”中的“er”，但不能匹配“verb”中的“er”；“\b1_”可以匹配“1_23”中的“1_”，但不能匹配“21_3”中的“1_”。
\b	匹配非单词边界。“er\b”能匹配“verb”中的“er”，但不能匹配“never”中的“er”。
\cx	匹配由x指明的控制字符。例如，\cm匹配一个control-m或回车符。x的值必须为a-z或a-z之一。否则，将c视为一个原义的“c”字符。
\d	匹配一个数字字符。等价于[0-9]。grep 要加上-p，perl正则支持
\d	匹配一个非数字字符。等价于[^0-9]。grep要加上-p，perl正则支持
\f	匹配一个换页符。等价于\x0c和\cl。
\n	匹配一个换行符。等价于\x0a和\cj。
\r	匹配一个回车符。等价于\x0d和\cm。
\s	匹配任何不可见字符，包括空格、制表符、换页符等等。等价于[ \f\n\r\t\v]。
\s	匹配任何可见字符。等价于[^ \f\n\r\t\v]。
\t	匹配一个制表符。等价于\x09和\ci。
\v	匹配一个垂直制表符。等价于\x0b和\ck。
\w	匹配包括下划线的任何单词字符。类似但不等价于“[a-za-z0-9_]”，这里的"单词"字符使用unicode字符集。
\w	匹配任何非单词字符。等价于“[^a-za-z0-9_]”。
\xn	匹配n，其中n为十六进制转义值。十六进制转义值必须为确定的两个数字长。例如，“\x41”匹配“a”。“\x041”则等价于“\x04&1”。正则表达式中可以使用ascii编码。
num	匹配num，其中num是一个正整数。对所获取的匹配的引用。例如，“(.)\1”匹配两个连续的相同字符。
n	标识一个八进制转义值或一个向后引用。如果n之前至少n个获取的子表达式，则n为向后引用。否则，如果n为八进制数字（0-7），则n为一个八进制转义值。
nm	标识一个八进制转义值或一个向后引用。如果nm之前至少有nm个获得子表达式，则nm为向后引用。如果nm之前至少有n个获取，则n为一个后跟文字m的向后引用。如果前面的条件都不满足，若n和m均为八进制数字（0-7），则nm将匹配八进制转义值nm。
nml	如果n为八进制数字（0-7），且m和l均为八进制数字（0-7），则匹配八进制转义值nml。
\un	匹配n，其中n是一个用四个十六进制数字表示的unicode字符。例如，\u00a9匹配版权符号（©）。
\p{p}	小写 p 是 property 的意思，表示 unicode 属性，用于 unicode 正表达式的前缀。中括号内的“p”表示unicode 字符集七个字符属性之一：标点字符。其他六个属性：l：字母；m：标记符号（一般不会单独出现）；z：分隔符（比如空格、换行等）；s：符号（比如数学符号、货币符号等）；n：数字（比如阿拉伯数字、罗马数字等）；c：其他字符。*注：此语法部分语言不支持，例：javascript。
<>	匹配词（word）的开始（<）和结束（>）。例如正则表达式<the>能够匹配字符串"for the wise"中的"the"，但是不能匹配字符串"otherwise"中的"the"。注意：这个元字符不是所有的软件都支持的。
( )	将( 和 ) 之间的表达式定义为“组”（group），并且将匹配这个表达式的字符保存到一个临时区域（一个正则表达式中最多可以保存9个），它们可以用 \1 到\9 的符号来引用。
\|	将两个匹配条件进行逻辑“或”（or）运算。例如正则表达式(him\|her) 匹配"it belongs to him"和"it belongs to her"，但是不能匹配"it belongs to them."。注意：这个元字符不是所有的软件都支持的。

三、re模块

有了准备知识，我们就可以在 python 中使用正则表达式了。python 中提供了 re 模块，包含所有正则表达式的功能。由于 python 的字符串本身也用 \ 转移，所以要特别注意，如下所示：

s = 'abc\\-001' # python的字符串
# 对应的正则表达式字符串编程 'abc\-001'

由于不好区分普通字符串和正则表达式，我们强烈建议使用 python 的 r 前缀，这样就不用考虑转移的问题了。如下所示：

s = r'abc\-001' # python的字符串
# 对应的正则表达式字符串不变：'abc\-001'

举个例子，看看如何判断正则表达式是否匹配，如下所示：

>>> import re
>>> re.match(r'^\d{3}\-\d{3,8}$', '010-12345')
<re.match object; span=(0, 9), match='010-12345'>
>>> re.match(r'^\d{3}\-\d{3,8}$', '010 12345')

match() 方法判断是否匹配，如果匹配成功，返回一个 match 对象，否则返回 none。

常见的判断方法如下：

test = '用户输入的内容'
if re.match(r'正则表达式', test):
    print('ok')
else:
    print('failed')

四、切分字符串

用正则表达式切分字符串，比用固定的字符更灵活，请看正常的切分代码如下：

>>> 'a b   c'.split(' ')
['a', 'b', '', '', 'c']

从结果来看，如果出现连续的空格，就会导致切割出空字符串。用正则表达式实现如下：

>>> re.split(r'[\s\,]+', 'a,b, c  d')
['a', 'b', 'c', 'd']

再加入 ; 试试：

>>> re.split(r'[\s\,\;]+', 'a,b;; c  d')
['a', 'b', 'c', 'd']

如果用户输入了一组标签，下次记得用正则表达式来把不规范的输入转化成正确的数组。

五、分组

除了简单地判断是否匹配之外，正则表达式还有提取子串的强大功能。用 () 表示的就是要提取的 分组（group）。

比如：^(\d{3})-(\d{3,8})$ 分别定义了两个组，可以直接从匹配的字符串中提取出区号和本地号码。代码如下所示：

>>> import re
>>> m = re.match(r'^(\d{3})-(\d{3,8})$', '010-12345')
>>> m
<re.match object; span=(0, 9), match='010-12345'>
>>> m.group(0)
'010-12345'
>>> m.group(1)
'010'
>>> m.group(2)
'12345'

如果正则表达式中定义了组，就可以在 match 对象上用 group() 方法提取出子串来。

注意到 group(0) 永远是与整个正则表达式相匹配的字符串，group(1)、group(2)、… 表示第 1、2、… 个子串。

提取子串非常有有用。我们来看一个提取时分秒的例子：

>>> t = '19:05:30'
>>> m = re.match(r'^(0[0-9]|1[0-9]|2[0-3]|[0-9])\:(0[0-9]|1[0-9]|2[0-9]|3[0-9]|4[0-9]|5[0-9]|[0-9])\:(0[0-9]|1[0-9]|2[0-9]|3[0-9]|4[0-9]|5[0-9]|[0-9])$', t)
>>> m.groups()
('19', '05', '30')

这个正则表达式可以直接识别合法的时间。但是有些时候，用正则表达式也无法做到完全验证，比如识别日期：

r'^(0[1-9]|1[0-2]|[0-9])-(0[1-9]|1[0-9]|2[0-9]|3[0-1]|[0-9])$'

对于 2-30、4-31 这样的非法日期，用正则还是识别不了，或者说写出来非常困难，这时就需要程序配合识别了。

六、贪婪匹配

最后需要特别指出的是，正则匹配默认是贪婪匹配，也就是匹配尽可能多的字符。

举例如下，匹配出数字后面的 0：

>>> re.match(r'^(\d+)(0*)$', '102300').groups()
('102300', '')

由于 \d+ 采用淡蓝匹配，直接把后面的 0 全部匹配了，结果 0* 只能匹配空字符串了。

必须让 \d+ 采用非贪婪匹配（也就是尽可能少匹配），才能把后面的 0 匹配出来，加个 ? 就可以让 \d+ 采用非贪婪匹配，如下所示：

>>> re.match(r'^(\d+?)(0*)$', '102300').groups()
('1023', '00')

七、编译

当我们在 python 中使用正则表达式时，re 模块内部会干两件事：

编译正则表达式，如果正则表达式的字符串本身不合法，会报错：
用编译后的正则表达式去匹配字符串。

如果一个正则表达式要重复使用几千次，处于效率的考虑，我么可以预编译该正则表达式，接下来重复使用时就不需要编译这个步骤了，直接匹配：

>>> import re
>>> re_telephone = re.compile(r'^(\d{3})-(\d{3,8})$') # 编译
>>> re_telephone.match('010-12345').groups()
('010', '12345') # 使用示例1
>>> re_telephone.match('010-8086').groups()
('010', '8086') # 使用示例2

编译后，生成 regular expression 对象，由于该对象自己包含了正则表达式，所以调用对应的方法时不用给出正则字符串。