Keepalived + Nginx
<h1>概述</h1>
<pre><code>Keepalived 是一种高性能的服务器高可用或热备解决方案， Keepalived 可以用来防止服务器单点故障的发生，通过配合 Nginx 可以实现 web 前端服务的高可用。
Keepalived 以 VRRP 协议为实现基础，用 VRRP 协议来实现高可用性(HA)。 VRRP(Virtual RouterRedundancy Protocol)协议是用于实现路由器冗余的协议， VRRP 协议将两台或多台路由器设备虚拟成一个设备，对外提供虚拟路由器 IP(一个或多个)，而在路由器组内部，如果实际拥有这个对外 IP 的路由器如果工作正常的话就是 MASTER，或者是通过算法选举产生， MASTER 实现针对虚拟路由器 IP 的各种网络功能，如 ARP 请求， ICMP，以及数据的转发等；其他设备不拥有该虚拟 IP，状态是 BACKUP，除了接收 MASTER 的VRRP 状态通告信息外，不执行对外的网络功能。当主机失效时， BACKUP 将接管原先 MASTER 的网络功能。VRRP 协议使用多播数据来传输 VRRP 数据， VRRP 数据使用特殊的虚拟源 MAC 地址发送数据而不是自身网卡的 MAC 地址， VRRP 运行时只有 MASTER 路由器定时发送 VRRP 通告信息，表示 MASTER 工作正常以及虚拟路由器 IP(组)， BACKUP 只接收 VRRP 数据，不发送数据，如果一定时间内没有接收到 MASTER 的通告信息，各 BACKUP 将宣告自己成为 MASTER，发送通告信息，重新进行 MASTER 选举状态。</code></pre>
<p>参考原文：<a href="https://blog.csdn.net/l1028386804/article/details/72801492">https://blog.csdn.net/l1028386804/article/details/72801492</a></p>
<p><br></p>
<h1>环境安装</h1>
<h3>a.方案规划</h3>
<table>
<thead>
<tr>
<th>VIP（keepalived提供的虚拟ip）</th>
<th>IP</th>
<th>Nginx端口</th>
<th>默认主从</th>
</tr>
</thead>
<tbody>
<tr>
<td>10.1.4.177</td>
<td>10.1.4.71</td>
<td>88</td>
<td>MASTER</td>
</tr>
<tr>
<td>10.1.4.177</td>
<td>10.1.4.70</td>
<td>88</td>
<td>BACKUP</td>
</tr>
</tbody>
</table>
<h3>b.nginx安装(以10.1.4.71为例，10.1.4.70同理)</h3>
<h5>b.1安装编译 Nginx 所需的依赖包</h5>
<pre><code>yum -y install gcc gcc-c++ make automake autoconf libtool pcre pcre-devel zlib zlib-devel openssl openssl-devel</code></pre>
<h5>b.2下载 Nginx</h5>
<pre><code> cd /usr/local/src/
wget http://nginx.org/download/nginx-1.13.0.tar.gz</code></pre>
<h5>b.3编译安装 Nginx</h5>
<pre><code> cd /usr/local/src/
tar -zxvf nginx-1.13.0.tar.gz
cd nginx-1.13.0
./configure --prefix=/usr/local/nginx
make && make install</code></pre>
<h5>b.4配置 Nginx</h5>
<p>vi /usr/local/nginx/conf/nginx_keepalived.conf</p>
<pre><code>user root;
worker_processes 1;
#error_log logs/error.log;
#error_log logs/error.log notice;
#error_log logs/error.log info;
#pid logs/nginx.pid;
events {
worker_connections 1024;
}
http {
include mime.types;
default_type application/octet-stream;
#log_format main '$remote_addr - $remote_user [$time_local] "$request" '
# '$status $body_bytes_sent "$http_referer" '
# '"$http_user_agent" "$http_x_forwarded_for"';
#access_log logs/access.log main;
sendfile on;
#tcp_nopush on;
#keepalive_timeout 0;
keepalive_timeout 65;
#gzip on;
server {
listen 88;
server_name localhost;
#charset koi8-r;
#access_log logs/host.access.log main;
location / {
root html;
index index.html index.htm;
}
#error_page 404 /404.html;
# redirect server error pages to the static page /50x.html
error_page 500 502 503 504 /50x.html;
location = /50x.html {
root html;
}
}
}</code></pre>
<p>vi /usr/local/nginx/html/index.html
<img src="https://www.showdoc.cc/server/api/common/visitfile/sign/27eda18bc4bd30d65a8e211a5bc86da7?showdoc=.jpg" alt="" /></p>
<h5>b.5启动 Nginx</h5>
<p>/usr/local/nginx/sbin/nginx -c /usr/local/nginx/conf/nginx_keepalived.conf</p>
<h5>b.6分别访问两台 Ngnix ，测试是否安装成功</h5>
<p><img src="https://www.showdoc.cc/server/api/common/visitfile/sign/4b34a9fd30621e9a51d56aae24d8c43d?showdoc=.jpg" alt="" /></p>
<p><img src="https://www.showdoc.cc/server/api/common/visitfile/sign/27b008c1776612e2643799fd1a49efe6?showdoc=.jpg" alt="" /></p>
<h3>c.10.1.4.70上安装配置keepalived</h3>
<h5>c.1下载解压</h5>
<pre><code>cd /usr/local/src
wget https://www.keepalived.org/software/keepalived-2.1.2.tar.gz
tar -zxvf keepalived-2.1.2.tar.gz </code></pre>
<h5>c.2编译</h5>
<pre><code>cd keepalived-2.1.2/
./configure --prefix=/usr/local/keepalived
make && make install</code></pre>
<h5>c.3配置</h5>
<h6>c.3-1创建执行keepalived执行目录</h6>
<pre><code>mkdir /etc/keepalived/</code></pre>
<h6>c.3-2查询当前使用网卡</h6>
<p><img src="https://www.showdoc.cc/server/api/common/visitfile/sign/811cac52ad70c5ab011e04b0b86d0af5?showdoc=.jpg" alt="" /></p>
<h6>c.3-3配置keepalived.conf</h6>
<p>vi /etc/keepalived/keepalived.conf</p>
<pre><code>! Configuration File for keepalived
global_defs {
}
## keepalived 会定时执行脚本并对脚本执行的结果进行分析，动态调整 vrrp_instance 的优先级。如果脚本执行结果为 0，并且 weight 配置的值大于 0，则优先级相应的增加。如果脚本执行结果非 0，并且 weight配置的值小于 0，>则优先级相应的减少。其他情况，维持原本配置的优先级，即配置文件中 priority 对应的值。
vrrp_script chk_nginx {
script "/etc/keepalived/nginx_check.sh" ## 检测 nginx 状态的脚本路径
interval 2 ## 检测时间间隔
weight -20 ## 如果条件成立，权重-20
}
## 定义虚拟路由， VI_1 为虚拟路由的标示符，自己定义名称
vrrp_instance VI_1 {
state MASTER ## 主节点为 MASTER， 对应的备份节点为 BACKUP
interface ens192 ## 绑定虚拟 IP 的网络接口，与本机 IP 地址所在的网络接口相同
virtual_router_id 33 ## 虚拟路由的 ID 号， 两个节点设置必须一样， 可选 IP 最后一段使用, 相同的 VRID 为一个组，他将决定多播的 MAC 地址
mcast_src_ip 10.1.4.70 ## 本机 IP 地址
priority 100 ## 节点优先级， 值范围 0-254， MASTER 要比 BACKUP 高
nopreempt ## 优先级高的设置 nopreempt 解决异常恢复后再次抢占的问题
advert_int 1 ## 组播信息发送间隔，两个节点设置必须一样， 默认 1s
## 设置验证信息，两个节点必须一致
authentication {
auth_type PASS
auth_pass nisbos ## 真实生产，按需求对应该过来
}
## 将 track_script 块加入 instance 配置块
track_script {
chk_nginx ## 执行 Nginx 监控的服务
} #
# 虚拟 IP 池, 两个节点设置必须一样
virtual_ipaddress {
10.1.4.177 ## 虚拟 ip，可以定义多个
}
}</code></pre>
<p>其中 ens192 为当前使用网卡</p>
<h6>c.3-4编写ngnix重启脚本</h6>
<p>vi /etc/keepalived/nginx_check.sh</p>
<h1>!/bin/bash</h1>
<pre><code>A=`ps -C nginx –no-header |wc -l`
if [ $A -eq 0 ];then
/usr/local/nginx/sbin/nginx -c /usr/local/nginx/conf/nginx_keepalived.conf
sleep 2
if [ `ps -C nginx --no-header |wc -l` -eq 0 ];then
killall keepalived
fi
fi</code></pre>
<h6>c.3-5赋予ngnix重启脚本执行权限</h6>
<pre><code>chmod +x /etc/keepalived/nginx_check.sh</code></pre>
<h3>d.10.1.4.71上安装配置keepalived</h3>
<h5>d.1步骤与10.1.4.70上基本一致，不同地方为/etc/keepalived/keepalived.conf</h5>
<pre><code>global_defs {
}
vrrp_script chk_nginx {
script "/etc/keepalived/nginx_check.sh"
interval 2
weight -20
}
vrrp_instance VI_1 {
state BACKUP
interface ens192 #当前使用网卡
virtual_router_id 33
mcast_src_ip 10.1.4.71 #当前备份主机ip
priority 90
advert_int 1
authentication {
auth_type PASS
auth_pass nisbos
}
track_script {
chk_nginx
}
virtual_ipaddress {
10.1.4.177
}
}</code></pre>
<p><br></p>
<h1>场景预览</h1>
<p><img src="https://www.showdoc.cc/server/api/common/visitfile/sign/e288a011d2aec1b60fb1852583273e7a?showdoc=.jpg" alt="" /></p>
<pre><code>可以看到单机版的ngnix做负载均衡存在单点故障问题，这台nginx一旦宕机，所有的请求将失效</code></pre>
<p><img src="https://www.showdoc.cc/server/api/common/visitfile/sign/137d7412bb8a7baac39b17a7f310a087?showdoc=.jpg" alt="" /></p>
<pre><code>使用keepalived以后，由keepalived1和keepalived2生成虚拟ip地址供客户端访问。而ngnix1为master，由keepalived1负责监控，而nginx2为backup，由而keepalived2负责监控。类似redis的哨兵模式，ngnix1正常工作时，提供负载均衡的服务，而ngnix1和keepalived1一旦宕机，ngnix2将成为master接管ngnix1的工作,如下图所示</code></pre>
<p><img src="https://www.showdoc.cc/server/api/common/visitfile/sign/ed5e954168d052767f2d5bab4c768e9d?showdoc=.jpg" alt="" /></p>
<p><br></p>
<h1>快速入门</h1>
<h3>a.启动10.1.4.70和10.1.4.71的keepalived</h3>
<pre><code>systemctl start keepalived.service</code></pre>
<p>可以通过systemctl status keepalived.service查看是否启动成功
<img src="https://www.showdoc.cc/server/api/common/visitfile/sign/4f9c08d457e739f1a42e5ce4bf60626d?showdoc=.jpg" alt="" /></p>
<h3>b.访问keepalived提供的虚拟ip地址：<a href="http://10.1.4.177:88/">http://10.1.4.177:88/</a></h3>
<p><img src="https://www.showdoc.cc/server/api/common/visitfile/sign/5a4a8c647965107557950c43e5b2f2ab?showdoc=.jpg" alt="" /></p>
<pre><code>可以看到访问该地址实际访问的是10.1.4.70上的ngnix</code></pre>
<h3>c.测试10.1.4.70上ngnix宕机的情况</h3>
<pre><code>在10.1.4.70上执行：
/usr/local/nginx/sbin/nginx -c /usr/local/nginx/conf/nginx_keepalived.conf -s stop</code></pre>
<p><img src="https://www.showdoc.cc/server/api/common/visitfile/sign/4a88788ea8d23b2f6d8ae0cd31b8c7ec?showdoc=.jpg" alt="" /></p>
<pre><code>发现keepalived会执行nginx_check.sh自动帮我们重启ngnix</code></pre>
<h3>d.测试10.1.4.70上ngnix以及keepalived都宕机的情况</h3>
<pre><code>/usr/local/nginx/sbin/nginx -c /usr/local/nginx/conf/nginx_keepalived.conf -s stop
systemctl stop keepalived.service</code></pre>
<p><img src="https://www.showdoc.cc/server/api/common/visitfile/sign/17d357deec1b3fca6a69b607e235ab16?showdoc=.jpg" alt="" /></p>
<p><img src="https://www.showdoc.cc/server/api/common/visitfile/sign/3dc00c5fb9daa76c1423c45a4734c021?showdoc=.jpg" alt="" /></p>
<pre><code>可以看到现在访问的是10.1.4.71的ngnix。即10.1.4.71上的ngnix成功接管了10.1.4.70上的ngnix的工作</code></pre>
<h3>e.测试10.1.4.70上ngnix以及keepalived都宕机后重启的情况</h3>
<pre><code>/usr/local/nginx/sbin/nginx -c /usr/local/nginx/conf/nginx_keepalived.conf
systemctl start keepalived.service</code></pre>
<p><img src="https://www.showdoc.cc/server/api/common/visitfile/sign/b34b8f74d59f3af392459ebbfb3641f0?showdoc=.jpg" alt="" /></p>
<p><img src="https://www.showdoc.cc/server/api/common/visitfile/sign/dfde77927b2d2215b6a67b95e3279cc5?showdoc=.jpg" alt="" /></p>
<pre><code>可以看到现在访问的是10.1.4.70的ngnix。即10.1.4.70又成为了master，而10.1.4.71又成为了backup，还原回最开始的主备模式了。</code></pre>