Nginx负载均衡(下)

这一小节中,我们将实战 Nginx 的四层和七层负载均衡功能。条件有限,使用一台公网主机,在上面搭建好 Nginx 服务。公网 IP 为 180.76.152.113。

首先会进行简单的四层负载均衡实验,不会涉及多种负载均衡算法,只使用默认的 Round-Robin算法。在后续的七层负载均衡实验中,会重点测试不同的负载均衡策略,完成相关实验。

1. Nginx的四层负载均衡实验

首先在 nginx.conf 中添加如下 stream 指令块配置:

stream {
    server {
        listen 3000;
        return '3000 server get ip: $remote_addr!\n';
    }

    server {
        listen 3001;
        return '3001 server get ip: $remote_addr!\n';
    }

    upstream servers { 
        server 127.0.0.1:3000 weight=2; 
        server 127.0.0.1:3001; 
    }

    server {
        listen 30;
        proxy_connect_timeout 3s;
        proxy_timeout 3s;
        proxy_pass servers;
    }
    
}

上述配置用端口3000和3001模拟两个上游服务器,然后在 upstream 指令块中指定这两个上游服务器的地址,同时给第一个设置权重为2。由于默认采用的是加权的 Round-Robin 算法,默认服务器的权重为1。设置为2,表明3次请求中,2次会转发到3000端口,一次会转发到3001端口,下面的测试也验证了这一点。

# 第一次请求,转发到3000
[shen@shen ~]$ telnet 180.76.152.113 30
Trying 180.76.152.113...
Connected to 180.76.152.113.
Escape character is '^]'.
3000 server get ip: 127.0.0.1!
Connection closed by foreign host.

[shen@shen ~]$ telnet 180.76.152.113 30
Trying 180.76.152.113...
Connected to 180.76.152.113.
Escape character is '^]'.
3001 server get ip: 127.0.0.1!
Connection closed by foreign host.

[shen@shen ~]$ telnet 180.76.152.113 30
Trying 180.76.152.113...
Connected to 180.76.152.113.
Escape character is '^]'.
3000 server get ip: 127.0.0.1!
Connection closed by foreign host.

[shen@shen ~]$ telnet 180.76.152.113 30
Trying 180.76.152.113...
Connected to 180.76.152.113.
Escape character is '^]'.
3000 server get ip: 127.0.0.1!
Connection closed by foreign host.

2. Nginx的七层负载均衡实验

和四层的配置其实差不多,在七层中除了测试最基本的,我们还将测试前面提到的几种负载均衡策略,进一步熟悉 Nginx 中的负载均衡配置。

2.1 简单的七层负载均衡

在 nginx.conf 中添加如下的 http 指令块:

http {
    include       mime.types;
    default_type  application/octet-stream;

    log_format  main  '$remote_addr - $remote_user [$time_local] "$request" '
                      '$status $body_bytes_sent "$http_referer" '
                      '"$http_user_agent" "$http_x_forwarded_for"';

    access_log  logs/access.log  main;

    sendfile        on;

    keepalive_timeout  65;

    gzip  on;

    server {
        listen 8000;
        return 200 '8000, server\n';
    }

    server {
        listen 8001;
        return 200 '8001, server\n';
    }

    server {
        listen 8002;
        return 200 '8002, server\n';
    }  

    upstream backends {
        # ip_hash
        # hash user_$arg_username;
        server 127.0.0.1:8000;
        server 127.0.0.1:8001;
        server 127.0.0.1:8002;
    }  

    server {
       listen  80;

       location / {
          proxy_pass http://backends;
          proxy_http_version 1.1;
          proxy_set_header Connection "";
       }
    }

}

上述配置中,我们用8000,8001和8002三个端口模拟了3个上游服务器,默认使用轮询负载均衡算法,而且三个的权重均为1。进行如下的 http 请求操作,可以看到 Nginx 转发 http 请求会均匀地分配到3个服务器上。

[shen@shen ~]$ curl http://180.76.152.113
8000, server
[shen@shen ~]$ curl http://180.76.152.113
8001, server
[shen@shen ~]$ curl http://180.76.152.113
8002, server
[shen@shen ~]$ curl http://180.76.152.113
8000, server

2.2 负载均衡的hash算法

我们打开 ip_hash 指令的注释,这个时候默认是使用客户端的 ip 地址作为 hash 的 key,然后重启 Nginx 服务并进行如下的命令行操作:

# 使用本机的ip地址,无论请求多少出,通过hash转发到的上游服务器地址都是一致的
[shen@shen ~]$ curl http://180.76.152.113
8002, server
[shen@shen ~]$ curl http://180.76.152.113
8002, server
[shen@shen ~]$ curl http://180.76.152.113
8002, server

# 只有换了ip之后,请求转发的上游地址才可能有变化
[shen@shen ~]$ curl -H 'X-Forwarded-For: 111.10.1.3' http://180.76.152.113
8000, server
[shen@shen ~]$ curl -H 'X-Forwarded-For: 111.10.2.3' http://180.76.152.113
8001, server

2.3 使用其他key做hash

接下来,注释 ip_hash 指令,我们打开 hash user_$arg_username 这行配置的注释, hash 指令可以让我们根据我们设置的 key 进行 hash,然后根据 hash 值选择上游的服务器。具体测试参看下面的 Linux 命令:

[shen@shen ~]$ curl http://180.76.152.113?username=shen
8001, server
[shen@shen ~]$ curl http://180.76.152.113?username=test
8000, server
[shen@shen ~]$ curl http://180.76.152.113?username=test
8000, server
[shen@shen ~]$ curl http://180.76.152.113?username=test
8000, server

这里我们可以看到,在请求中带上 username 参数,Nginx 中配置的 hash 算法会根据请求中带的 username 参数作为 key 去进行 hash,然后在根据 hash 结果映射上游服务器。username 相同时,选择的上游服务器肯定是一样的,只有在 username 的值发生变化时,返回的响应才可能有变化。

3. 小结

今天我们完成了几个测试实验,主要是针对 Nginx 的四层和七层的负载均衡功能进行了测试。这个功能在微服务部署中会有较多的应用。因为高流量企业为保证服务的高可用性,往往会水平扩展多个相同功能的服务,部署在多台主机上,这个时候负载均衡技术就能派上用场了,而 Nginx 提供了完善的负载均衡功能以及多种负载均衡算法,能满足大部分企业的需求,如果还不够,可以通过编写内部开发模块并集成到 Nginx,实现相应的需求。所以说 Nginx 是非常值得学习和深入研究的。