使用fail2ban防止恶意扫描和CC攻击

前文服务器简易防CC攻击设置介绍了使用 Nginx 和 firewalld 对服务器进行防护。尽管过快的恶意请求会返回503错误，但持续攻击也会消耗服务器资源，浪费带宽。

本文介绍使用fail2ban从Nginx日志找出恶意IP并调用firewalld直接封禁，从而达到防止恶意扫描和CC攻击的目的。

为什么需要fail2ban

如果检查Nginx访问日志，可能经常会看到如下恶意扫描日志：

网站流量再大一点，可能不时(经常)会遇到DDos攻击或者 CC攻击。使用服务器简易防CC攻击设置的方案，恶意请求会返回503错误，Nginx日志会有如下记录：

无论404恶意扫描还是CC攻击，最佳做法是一经发现，立马将IP拉入黑名单。遗憾的是firewalld能拉黑IP，但是不知道该拉黑谁。

fail2ban 就是一个能将Nginx日志和firewalld结合的软件：扫描Nginx日志，根据规则找出恶意IP，然后调用firewalld/iptables封禁IP。

fail2ban如其名，根据规则找出有问题的IP（测试fail），然后ban掉。fail2ban不仅可以扫描Nginx日志，也可以扫描SSH、httpd、SMTP等多种应用软件的日志，并按照配置执行封禁操作。实际中fail2ban常用于扫描SSH日志，防止SSH暴力破解。

下面介绍使用fail2ban防止恶意扫描和CC攻击。

fail2ban防止恶意扫描和CC攻击

安装fail2ban

fail2ban软件包包含在绝大多数发行版的软件仓库中，因此可以直接用包管理软件安装：

# CentOS
yum install -y fail2ban
# ubuntu使用apt的系统
sudo apt-get install -y fail2ban

fail2ban配置文件

fail2ban的配置文件位于 /etc/fail2ban 目录内，有以下重要配置文件(夹)，分别对应三个核心概念：

jail.conf：对应核心概念“jail”（牢笼/监狱），一个jail由action和filter组成，代表监控目标。jail.conf配置软件监控目标及发现恶意IP后的操作；
action.d：对应核心概念action（动作），表示发现恶意IP后采取的操作。action.d目录中预定义了许多常用操作，例如调用iptables/firewalld封禁、sendmail发送通知邮件；
filter.d：对应核心概念filter（过滤规则），过滤规则是用来匹配恶意行为的规则文件/正则表达式。filter.d目录内预定于了许多软件监控规则，例如SSH、Nginx、Apache。

我们的监控目的由两部分组成：1. 查找短时间内同IP的404记录，防止恶意扫描；2. 查找短时间内的503记录，阻止CC攻击。查找恶意IP由过滤规则负责，我们先对其进行定义。

定义fail2ban过滤规则

过滤规则配置文件位于在 /etc/fail2ban/filter.d 目录下，我们新建 nginxcc.conf 文件，写入如下内容：

[Definition]
failregex = ^<HOST> .* "(GET|POST|HEAD).*HTTP.*" (404|503) .*$
ignoreregex =.*(robots.txt|favicon.ico|jpg|png)

配置文件总共三行，分表表示过滤规则的定义、恶意请求的正则表达式、以及应该忽略的正则。failregex中的<HOST>代表主机IP，404|503表示我们仅匹配这两个为恶意的请求。

请根据Nginx日志格式，以及自身需求修改failregex和ignoreregex

正则表达式比较复杂，因此正式使用前应该测试一下规则是否起作用。fail2ban很贴心的提供了 fail2ban-regex 命令用来测试过滤规则：

# 语法：fail2ban-regex 日志文件 规则文件
fail2ban-regex /var/log/nginx/tlanyan.access.log /etc/fail2ban/filter.d/nginxcc.conf

该命令输出如下：

Running tests
=============

Use   failregex filter file : nginx404, basedir: /etc/fail2ban
Use         log file : test.log
Use         encoding : UTF-8


Results
=======

Failregex: 59 total
|-  #) [# of hits] regular expression
|   1) [59] ^<HOST> .* "(GET|POST|HEAD).*HTTP.*" (404|503) .*$
`-

Ignoreregex: 16 total
|-  #) [# of hits] regular expression
|   1) [16] .*(robots.txt|favicon.ico|jpg|png)
`-

Date template hits:
|- [# of hits] date format
|  [10000] Day(?P<_sep>[-/])MON(?P=_sep)ExYear[ :]?24hour:Minute:Second(?:\.Microseconds)?(?: Zone offset)?
`-

Lines: 10000 lines, 16 ignored, 59 matched, 9925 missed

输出显示匹配到的行数、忽略的行数已经未匹配上的行数。

如果输出与预期相符，说明过滤规则书写正确，否则应该编辑规则文件，修改正则表达式后再次测试。

接下来配置监控目标。

配置fail2ban监控目标

系统内置的监控目标在 /etc/fail2ban/jail.conf 文件中，官方建议自定义的监控目标放在 /etc/fail2ban/jail.local 或者在 /etc/fail2ban/jail.d 目录中新建配置文件。本文将监控目标定义在 /etc/fail2ban/jial.local 文件里，写入下面内容：

[nginxcc]
enabled = true
#port = http,https
filter = nginxcc
action = firewallcmd-allports[name=nginxcc]
logpath = /var/log/nginx/tlanyan.access.log
bantime = 7200
findtime = 600
maxretry = 5

配置说明如下：

nginxcc：监控目标名称
port：封禁的端口，本文中我们注释掉，表示封禁所有端口
filter：过滤规则，我们使用自定义的nginxcc
action：捕捉到恶意IP后执行的操作，本文使用firewallcmd对IP封禁所有端口
logpath：监控的日志文件
bantime：封禁时间，单位为秒
findtime：查找时间段，单位为秒
maxretry：允许的最大失败次数，这里我们配置10分钟内触发5次规则，那么就封禁掉

配置好后保存配置文件，设置开启启动并启动fail2ban：

systemctl enable fail2ban
systemctl start fail2ban

测试监控目标

接下来可以测试监控目标是否按期执行，我们可以在另外一台VPS上，执行下面的脚本测试能否出发封禁：

#!/bin/bash
for ((i=1;i<=20;i++)); do
curl https://tlanyan.me/test.php
done
echo "done"

注意，不能测试test.png，因为过滤规则配置了忽略png、jpg等后缀

执行完脚本后过一两分钟，再次执行，应该会提示无法连接到服务器，与预期相符。

查看监控状态

fail2ban提供了 fail2ban-client 查看监控状态。

# 查看fail2ban的运行状态
fail2ban-client status
# 输出如下：
# Status
# |- Number of jail:	1
# `- Jail list:	nginxcc

# 查看指定监控的状态
fail2ban-client status nginxcc
# 输出如下：
# Status for the jail: nginx404
# |- Filter
# |  |- Currently failed:	0
# |  |- Total failed:	1461
# |  `- File list:	/var/log/nginx/tlanyan.access.log
# `- Actions
#    |- Currently banned:	3
#    |- Total banned:	9
#    `- Banned IP list:	37.139.8.104 194.99.106.146 185.43.251.185

Banned IP list 列出了当前被封禁的IP。如果发现有误杀IP，可以用unbanip解封：

fail2ban-client set nginxcc unbanip IP地址

其他

fail2ban不是实时的，必须等日志写入文件才能监控，因此封禁滞后是正常的；
fail2ban的日志文件是 /var/log/fail2ban.log；
fail2ban性能不是很好，使用fail2ban-regex测试时不建议用大文件；
可以用 awk '{print $1}' tlanyan.access.log| sort | uniq -c | sort -n | tail 查看请求最频繁的IP地址；
可以用 netstat -nt | awk '{print $5}' | cut -d: -f1 | sort | uniq -c | sort -n | tail 查看与当前服务器连接最多的IP；
同一个监控目标中可以配置多个日志文件、action，同一个过滤规则中可以写多条正则匹配，但这些行必须对齐。

参考

1. fail2ban manual

2. How to use Fail2ban for securing Apache web server from 404 attacks?

3. Fail2Ban 使用技巧和心得汇总