服务端相关 / 22 Nginx 综合实践

Nginx综合实践

今天我们将基于 Nginx 完成两个比较有用的场景,但是用到的 Nginx 的配置非常简单。

  • 内部 Yum 源搭建

  • 内部 Pip 源搭建

1. 实验环境

  • ceph1

    • centos 7.6
    • 内网ip:172.16.0.8 公网ip:106.12.220.85
    • 功能:yum源地址、pip源地址
  • ceph2

    • centos 7.6
    • 内网ip:172.16.0.9 公网ip:106.12.195.156
    • 功能:模拟用户端,访问yum源和pip源

2. 内部yum源搭建

熟悉 CentOS 操作系统的人都知道,CentOS 中默认的软件包管理工具是 Yum ,安装某个软件,我们只需要输入如下命令即可:

     $ sudo yum install 软件包

使用 Yum 工具的好处就是,它能自动帮我们处理依赖关系,连同依赖包一起下载安装。由于默认的是使用的国外的源,往往为了加快下载速度,我们会选择使用国内的 Yum 源。比较有名的有清华源、阿里源、163源等等。这些网站提供的软件包都是凌晨从国外的最全的 Yum 源地址同步,然后更新索引,提供给国内用户免费使用。往往在生产环境上部署服务时,为了安全性,除了一台虚拟机能联通外网外,其余机器都处于内网环境,是无法联通外界网络的,为了在这些机器上能统一安装某些服务,我们还需要在内网构建自己的 Yum 源。

构建 Yum 源的步骤非常简单,按照如下步骤走:

  • 准备好yum源包

我们准备好自己的rpm包,这些包可以通过下面的方式获取:

     $ sudo yum install nginx --downloadonly --downloaddir=./

这样会将 Yum 源对应的 nginx包以及相关依赖下载下来,但并不安装。我们要的就是所有这些 rpm 包。按照上面的方式,下载我们所有想要安装软件的 rpm 包,然后将其全部放入到目录 yum_source 下,最后连同包和目录压缩成 yum_source.zip 文件。

  • 上传到某个服务器

上传到 ceph1 的 /data 目录(可以是任意地址)下,并解压,又重新得到 yum_source 目录,目录下全是我们需要的 rpm 包,可以用目录将这些 rpm 包分类,比如 ansible及其依赖包就放入 /data/yum_source/ansible目录下,这样看起来会比较清晰,而不是所有的包都混在同一个目录下。这样,我们的 yum 源其实就构建好了,源地址就是 /data/yum_source。

  • 构建索引

接下来,我们使用 createrepo 这个命令来构建 yum 源的索引。这个命令需要单独安装,所以首先需要找一台能联网的机器,将 createrepo 所依赖的 rpm 下载下来,然后将其放入到ceph1的 /data/yum_source/createrepo 目录下。然后我们进入 /data/yum_source/createrepo 目录,直接使用yum localinstall createrepo-xxx.noarch.rpm即可安装该命令。

# 如果无权限进入,可以改下权限,或者后面得指令使用绝对路径
$ cd /data/yum_source/createrepo/
# 根据下载的包对应安装
$ sudo yum localinstall createrepo-0.9.9-28.el7.noarch.rpm
# 如果没有找到当前目录下的依赖,可以直接用rpm -ivh安装这个目录下的所有依赖包
$ sudo rpm -ivh *.rpm
# 有了createrepo命令,我们用-v参数来对yum源目录建立索引
$ sudo createrepo -v /data/yum_source

下图中的 repodata 就是 createrepo 命令给整个目录生成的索引文件。

图片描述

  • Nginx作为静态资源服务器

万事俱备,只差 Nginx 作为静态资源服务器来让我们访问到 yum 源中的资源。这对 Nginx 来说就是轻而易举的事情。我们按照第6节的内容安装 Nginx ,修改 Nginx.conf 配置文件,内容如下:

$ 进入nginx的配置文件目录
$ cat nginx.conf

user  root;
# 根据探测机器cpu核数设置
worker_processes  1;

#error_log  logs/error.log;
#error_log  logs/error.log  notice;
#error_log  logs/error.log  info;

#pid        logs/nginx.pid;


events {
    worker_connections  1024;
}


http {
    include       mime.types;
    default_type  application/octet-stream;

    #log_format  main  '$remote_addr - $remote_user [$time_local] "$request" '
    #                  '$status $body_bytes_sent "$http_referer" '
    #                  '"$http_user_agent" "$http_x_forwarded_for"';

    #access_log  logs/access.log  main;

    sendfile        on;
    #tcp_nopush     on;

    #keepalive_timeout  0;
    keepalive_timeout  65;

    #gzip  on;

    server {
        listen       8089;
        server_name  localhost;

        root /data/yum_source;
        autoindex on;
        index index.html index.htm;
    }

}

最核心的地方,就是我们加了一个监听8089的端口配置,将8089端口过来的请求转向 /data/yum_source 目录下的静态文件。我们本地访问这个主机的8089端口,如下图所示:

图片描述

那么如何让 ceph2 机器使用这个 yum 源呢?很简单,只需要将 ceph2 的 /etc/yum.repos.d/ 目录下的所有 repo 文件备份保存到其他位置,然后新建一个 repo 文件,将里面的地址指向这个 ceph1 即可。具体操作参考下面的 shell 命令:

$ mkdir /etc/yum.repos.d/bak
$ mv /etc/yum.repos.d/*.repo  /etc/yum.repos.d/bak
# 新建internal.repo文件,并写入yum源地址
$ vim /etc/yum.repos.d/internal.repo
$ cat /etc/yum.repos.d/internal.repo
[Local-Yum]
name=internal yum
baseurl=http://172.16.0.8:8089/
enabled=1
priority=1
gpgcheck=0
gpgkey=http://172.16.0.8:8089/release.asc

注意这里我们将源名称命名为Local-Yum,接下来我们在 ceph2 上使用 yum 命令安装某个服务(要求 ceph1 中必须要有该软件的 rpm 包):

$ yum clean all  
$ yum install nginx  

从下图中,可以看到我们的内部源确实生效了,使用的是我们定义的内部源 Local-Yum 。此外使用内网源可以大大加快下载软件的速度,提升工作效率。

图片描述

3. 内部pip源搭建

搭建好 yum 源之后,我们来看 pip 源的搭建过程,其实方式也是差不多。不过这里我们要使用一个开源的工具来帮我们做这件事情(类似于前面的 createrepo ),这样会使得 pip 源的搭建非常方便。

  • 下载开源工具
$ yum install git -y
# 如果机器无法联网,则直接去下载最新的包,然后传到主机上去
$ git clone https://github.com/wolever/pip2pi
$ cd pip2pi
$ python setup.py install
  • 使用该工具

安装好该工具后,有两个非常好用的命令:

# 这样子,会将python模块连同依赖的模块全部下载下来,这些文件构成了我们pip源的一部分
$ pip2tgz /data/pip_source/ ansible -i https://pypi.tuna.tsinghua.edu.cn/simple              
$ pip2tgz /data/pip_source/ -r requirements.txt  -i https://pypi.tuna.tsinghua.edu.cn/simple

# 目前来看,好像是生成了一个simple目录,然后有index.html
$ dir2pi  /data/pip_source/

注意:如果出现 “TypeError: ‘module’ object is not callable” 这样的错误信息,主要是pip版本太高导致的,需要将 pip 降级。解决方案如下:

# 卸载高版本的pip
$ python -m pip uninstall pip
# yum安装旧版本的pip
$ yum install python-pip

就是简简单单的这几个命令,pip 源文件已经准备好了。我们找台能联网的机器,部署该命令,然后下载我们想要的 python 模块文件及其依赖。最后使用 dir2pi 给这个 pip 目录生成索引以及 html 文件。

图片描述

  • 使用nginx做静态资源服务器

最后就是将这个目录打包并上传到对应的 ceph1 上去,放到 /data 目录下,解压得到 pip 源目录 /data/pip_source。接下来,使用 nginx 作为静态资源服务器,将某个端口的根路径指向这里即可。为此,在 nginx 中在添加一个端口的配置:

# 这个和yum还不一样,因为/data/pip_source下有生成了的index.html页面,在simple目录中
server {
    listen       8088;
    server_name  localhost;

    root /data/pip_source;
    autoindex on;
    autoindex_exact_size off;
    autoindex_localtime on;
    location /{

    }
}

修改 nginx 的配置后重启,再访问 ceph1 的8088端口,结果如下:

图片描述

图片描述
可以回过头来,看看网上第三方 pip 源的地址,都是带上了 simple ,比如:

  • 清华源: https://pypi.tuna.tsinghua.edu.cn/simple
  • 阿里源: https://mirrors.aliyun.com/pypi/simple
  • 豆瓣源: http://pypi.douban.com/simple

这样子的形式和我们搭建的 pip 源好像一致,难道她们也是用这样的工具搭建 pip 源?

  • 使用内部pip源

使用方式和前面使用第三方 pip 源一样,加上-i参数,指定 pip 源地址和端口,如下命令是在 ceph2 上用pip安装 ansible 工具,使用的正是ceph1作为 pip 源。

$ pip install ansible -i http://172.16.0.8:8088/simple/ --trusted-host 172.16.0.8

从执行结果看,我们成功使用内部的 pip 源安装了 ansible 工具,而且下载速度非常快,达到了百兆每秒的速度,其下载速度瓶颈主要在于内部的网络带宽。

图片描述

4. 小结

今天我们讲了 Nginx 作为静态服务器的两个非常典型的案例,这也是在生产中会经常用到的。下两个小结,我们将看到 Nginx 在请求转发方面的相关应用案例。