一个正则表达式引发的血案

Java基础

浏览数:262

2019-6-14

AD:资源代下载服务

周末快到了,今天为大家送上一篇很有意思的小文章,具有提神醒脑之功效。作者是来自阿里巴巴 LAZADA 产品技术部的申徒童鞋。

血案由来

近期我在为 Lazada 卖家中心做一个自助注册的项目,其中的 shop name 校验规则较为复杂,要求:

  1. 英文字母大小写
  2. 数字
  3. 越南文
  4. 一些特殊字符,如“&”,“-”,“_”等

看到这个要求的时候,自然而然地想到了正则表达式。于是就有了下面的表达式(写的比较龊):

^([A-Za-z0-9._()&'\- ]|[aAàÀảẢãÃáÁạẠăĂằẰẳẲẵẴắẮặẶâÂầẦẩẨẫẪấẤậẬbBcCdDđĐeEèÈẻẺẽẼéÉẹẸêÊềỀểỂễỄếẾệỆfFgGhHiIìÌỉỈĩĨíÍịỊjJkKlLmMnNoOòÒỏỎõÕóÓọỌôÔồỒổỔỗỖốỐộỘơƠờỜởỞỡỠớỚợỢpPqQrRsStTuUùÙủỦũŨúÚụỤưƯừỪửỬữỮứỨựỰvVwWxXyYỳỲỷỶỹỸýÝỵỴzZ])+$ 

在测试环境,这个表达式从功能上符合业务方的要求,就被发布到了马来西亚的线上环境。结果上线之后,发现线上机器时有发生 CPU 飙到 100% 的情况,导致整个站点响应异常缓慢。通过 dump 线程 trace,才发现线程全部卡在了这个正则表达式的校验上:

一开始难以置信,一个正则表达式的匹配过程怎么可能引发 CPU 飚高呢?抱着怀疑的态度去查了资料才发现小小的正则表达式里面竟然大有文章,平时写起来都是浅尝辄止,只要能够满足功能需求,就认为达到目的了,完全忽略了它可能带来的性能隐患。

引发这次血案的就是所谓的正则“回溯陷阱(Catastrophic Backtracking)”。下面详细介绍下这个问题,以避免重蹈覆辙。

正则表达式引擎

说起回溯陷阱,要先从正则表达式的引擎说起。正则引擎主要可以分为基本不同的两大类:一种是 DFA(确定型有穷自动机),另一种是 NFA(不确定型有穷自动机)。简单来讲,NFA 对应的是正则表达式主导的匹配,而 DFA 对应的是文本主导的匹配。

DFA 从匹配文本入手,从左到右,每个字符不会匹配两次,它的时间复杂度是多项式的,所以通常情况下,它的速度更快,但支持的特性很少,不支持捕获组、各种引用等等;而 NFA 则是从正则表达式入手,不断读入字符,尝试是否匹配当前正则,不匹配则吐出字符重新尝试,通常它的速度比较慢,最优时间复杂度为多项式的,最差情况为指数级的。但 NFA 支持更多的特性,因而绝大多数编程场景下(包括java,js),我们面对的是 NFA。以下面的表达式和文本为例。

text = ‘after tonight’ regex = ‘to(nite|nighta|night)’ 

在 NFA 匹配时候,是根据正则表达式来匹配文本的。从t 开始匹配 a,失败,继续,直到文本里面的第一个 t,接着比较 o 和 e,失败,正则回退到 t,继续,直到文本里面的第二个 t,然后 o 和文本里面的 o 也匹配,继续,正则表达式后面有三个可选条件,依次匹配,第一个失败,接着二、三,直到匹配。

而在 DFA 匹配时候,采用的是用文本来匹配正则表达式的方式。从 a 开始匹配 t,直到第一个 t 跟正则的t匹配,但 e 跟 o 匹配失败,继续,直到文本里面的第二个 t 匹配正则的t,接着 o 与 o 匹配,n 的时候发现正则里面有三个可选匹配,开始并行匹配,直到文本中的 g 使得第一个可选条件不匹配,继续,直到最后匹配。

可以看到,DFA 匹配过程中文本中的字符每一个只比较了一次,没有吐出的操作,应该是快于 NFA 的。另外,不管正则表达式怎么写,对于 DFA 而言,文本的匹配过程是一致的,都是对文本的字符依次从左到右进行匹配,所以,DFA 在匹配过程中是跟正则表达式无关的,而 NFA 对于不同但效果相同的正则表达式,匹配过程是完全不同的。

回溯

说完了引擎,我们再来看看到底什么是回溯。对于下面这个表达式,相信大家很清楚它的意图。

ab{1,3}c 

也就是说中间的b需要匹配 1~3 次。那么对于文本 “abbbc”,按照第1部分NFA引擎的匹配规则,其实是没有发生回溯的,在表达式中的 a 匹配完成之后,b 恰好和文本中的3个 b 完整匹配,之后是 c 发生匹配,一气呵成。如果我们把文本换成 “abc” 呢?无非就是少了一个字母 b,却发生了所谓的回溯。匹配过程如下图所示(橙色为匹配,黄色为不匹配)。

1~2 步应该都好理解,但是为什么在第 3 步开始,虽然已经文本中已经有一个 b 匹配了 b{1,3},后面还会拉着字母 c 跟 b{1,3} 做比较呢?这个就是我们下面将要提到的正则的贪婪特性,也就是说 b{1,3} 会竭尽所能的匹配最多的字符。在这个地方我们先知道它一直要匹配到撞上南墙为止。 在这种情况下,第 3 步发生不匹配之后,整个匹配流程并没有走完,而是像栈一样,将字符c吐出来,然后去用正则表达式中的 c 去和文本中的c进行匹配。这样就发生了一次回溯。

贪婪、懒惰与独占

我们再来看一下究竟什么是贪婪模式。

下面的几个特殊字符相信大家都知道它们的用法:

  • ?: 告诉引擎匹配前导字符 0 次或一次。事实上是表示前导字符是可选的。
  • +: 告诉引擎匹配前导字符 1 次或多次。
  • *: 告诉引擎匹配前导字符 0 次或多次。
  • {min, max}: 告诉引擎匹配前导字符 min 次到 max 次。min 和 max 都是非负整数。如果有逗号而 max 被省略了,则表示 max 没有限制;如果逗号和 max 都被省略了,则表示重复 min 次。

默认情况下,这个几个特殊字符都是贪婪的,也就是说,它会根据前导字符去匹配尽可能多的内容。这也就解释了为什么在第 3 部分的例子中,第 3 步以后的事情会发生了。

在以上字符后加上一个问号(?)则可以开启懒惰模式,在该模式下,正则引擎尽可能少的重复匹配字符,匹配成功之后它会继续匹配剩余的字符串。在上例中,如果将正则换为:

ab{1,3}?c 

则匹配过程变成了下面这样(橙色为匹配,黄色为不匹配)。

由此可见,在非贪婪模式下,第2步正则中的b{1,3}?与文本b匹配之后,接着去用c与文本中的c进行匹配,而未发生回溯。

如果在以上四种表达式后加上一个加号(+),则会开启独占模式。同贪婪模式一样,独占模式一样会匹配最长。不过在独占模式下,正则表达式尽可能长地去匹配字符串,一旦匹配不成功就会结束匹配而不会回溯。我们以下面的表达式为例。

ab{1,3}+bc 

如果我们用文本”abbc”去匹配上面的表达式,匹配的过程如下图所示(橙色为匹配,黄色为不匹配)。

可以发现,在第 2 和第 3 步,b{1,3}+ 会将文本中的 2 个字母 b 都匹配上,结果文本中只剩下一个字母 c 。那么在第4步时,正则中的b和文本中的 c 进行匹配,当无法匹配时,并不进行回溯,这时候整个文本就无法和正则表达式发生匹配。如果将正则表达式中的加号(+)去掉,那么这个文本整体就是匹配的了。

把以上三种模式的表达式列出如下:

贪婪 懒惰 独占
X? X?? X?+
X* X*? X*+
X+ X+? X++
X{n} X{n}? X{n}+
X{n,} X{n,}? X{n,}+
X{n,m} X{n,m}? X{n,m}+

总结

现在再回过头看看文章开头的那个很长的正则表达式,其实简化之后,就是一个形如 ^[允许字符集]+ 的表达式。该字符集大小约为 250,而 + 号表示至少出现一次。按照上面说到的 NFA 引擎贪婪模式,在用户输入一个过长字符串进行匹配时,一旦发生回溯,计算量将是巨大的。后来采用了独占模式,CPU 100% 的问题也得到了解决。

因此,在自己写正则表达式的时候,一定不能大意,在实现功能的情况下,还要仔细考虑是否会带来性能隐患。

关于正则表达式,你有哪些想要分享的特殊技能?欢迎在下面留言,一起交流探讨。

来源:【微信公众号 – 阿里技术】

作者:JaJian