邯郸普通网站建设,湖北省招投标交易云平台,网站开发需要自己写代码吗,如何做房地产微信推送网站广告一、前言
Nginx是目前负载均衡技术中的主流方案#xff0c;几乎绝大部分项目都会使用它#xff0c;Nginx是一个轻量级的高性能HTTP反向代理服务器#xff0c;同时它也是一个通用类型的代理服务器#xff0c;支持绝大部分协议#xff0c;如TCP、UDP、SMTP、HTTPS等。
二、…一、前言
Nginx是目前负载均衡技术中的主流方案几乎绝大部分项目都会使用它Nginx是一个轻量级的高性能HTTP反向代理服务器同时它也是一个通用类型的代理服务器支持绝大部分协议如TCP、UDP、SMTP、HTTPS等。
二、Nginx反向代理-负载均衡
nginx.conf配置
upstream nginx_boot{ # 30s内检查心跳发送两次包未回复就代表该机器宕机请求分发权重比为1:2 server 192.168.0.000:8080 weight100 max_fails2 fail_timeout30s; server 192.168.0.000:8090 weight200 max_fails2 fail_timeout30s; # 这里的IP请配置成你WEB服务所在的机器IP
} server { location / { root html; # 配置一下index的地址最后加上index.ftl。index index.html index.htm index.jsp index.ftl; proxy_set_header Host $host; proxy_set_header X-Real-IP $remote_addr; proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for; # 请求交给名为nginx_boot的upstream上 proxy_pass http://nginx_boot; }
} Nginx首先会根据配置的location规则进行匹配根据客户端的请求路径/会定位到location /{}规则 然后根据该location中配置的proxy_pass会再找到名为nginx_boot的upstream 最后根据upstream中的配置信息将请求转发到运行WEB服务的机器处理由于配置了多个WEB服务且配置了权重值因此Nginx会依次根据权重比分发请求。
upstream指令参数 max_conns限制最大同时连接数 1.11.5之前只能用于商业版 slow_start单位秒权重在指定时间内从1上升到指定值不适用与hash负载均衡、随机负载均衡 如果在 upstream 中只有一台 server则该参数失效商业版才有 down禁止访问 backup备用机 只有在其他服务器无法访问的时候才能访问到 不适用与hash负载均衡、随机负载均衡 max_fails表示失败几次则标记server已宕机剔出上游服务 默认值1 fail_timeout表示失败的重试时间 默认值10
负载策略策略
nginx的负载均衡策略有六种轮询、权重、ip_hash、least_conn(最少连接)、fair、url_hash。
1、轮询
默认策略nginx自带策略。它是upstream模块默认的负载均衡默认策略。会将每个请求按时间顺序分配到不同的后端服务器。
http {
upstream my_load_balance {
server 192.168.1.12:80;
server 192.168.1.13:80;
}
server {listen 81;server_name www.laowubiji.com;location / {proxy_pass http://my_load_balance;proxy_set_header Host $proxy_host;}
}
}
2、权重
weight权重nginx自带策略。指定轮询的访问几率用于后端服务器性能不均时调整访问比例。权重越高被分配的次数越多。
http {upstream my_load_balance {server 192.168.1.12:80 weight7;server 192.168.1.13:80 weight2;}server {listen 81;server_name www.laowubiji.com;location / {proxy_pass http://my_load_balance;proxy_set_header Host $proxy_host;}}
}
3、 ip_hash
ip_hash依据ip分配nginx自带策略指定负载均衡器按照基于客户端IP的分配方式这个方法确保了相同的客户端的请求一直发送到相同的服务器可以解决session不能跨服务器的问题。
http {upstream my_load_balance {ip_hash;server 192.168.1.12:80;server 192.168.1.13:80;}server {listen 81;server_name www.laowubiji.com;location / {proxy_pass http://my_load_balance;proxy_set_header Host $proxy_host;}}
} 4、least_conn
最少连接nginx自带策略把请求转发给连接数较少的后端服务器。
http {upstream my_load_balance {#把请求转发给连接数比较少的服务器least_conn;server 192.168.1.12:80;server 192.168.1.13:80;}server {listen 81;server_name www.laowubiji.com;location / {proxy_pass http://my_load_balance;proxy_set_header Host $proxy_host;}}
}
5、fair
fair第三方按照服务器端的响应时间来分配请求响应时间短的优先分配。
http {upstream my_load_balance {fair;server 192.168.1.12:80;server 192.168.1.13:80;}server {listen 81;server_name www.laowubiji.com;location / {proxy_pass http://my_load_balance;proxy_set_header Host $proxy_host;}}
}
6、url_hash
url_hash第三方该策略按访问url的hash结果来分配请求使每个url定向到同一个后端服务器需要配合缓存用。
http {upstream my_load_balance {hash $request_uri;server 192.168.1.12:80;server 192.168.1.13:80;}server {listen 81;server_name www.laowubiji.com;location / {proxy_pass http://my_load_balance;proxy_set_header Host $proxy_host;}}
}
三、Nginx动静分离
动静分离应该是听的次数较多的性能优化方案那先思考一个问题「「为什么需要做动静分离呢它带来的好处是什么」」 其实这个问题也并不难回答当你搞懂了网站的本质后自然就理解了动静分离的重要性。
当浏览器输入www.taobao.com访问淘宝首页时打开开发者调试工具可以很明显的看到首页加载会出现100的请求数而正常项目开发时静态资源一般会放入到resources/static/目录下
在项目上线部署时这些静态资源会一起打成包那此时思考一个问题「「假设淘宝也是这样干的那么首页加载时的请求最终会去到哪儿被处理」」 答案毋庸置疑首页100的所有请求都会来到部署WEB服务的机器处理那则代表着一个客户端请求淘宝首页就会对后端服务器造成100的并发请求。毫无疑问这对于后端服务器的压力是尤为巨大的。
既然有这么多请求属于静态的这些资源大概率情况下长时间也不会出现变动那为何还要让这些请求到后端再处理呢能不能在此之前就提前处理掉当然OK因此经过分析之后能够明确一点「「做了动静分离之后至少能够让后端服务减少一半以上的并发量。」」 到此时大家应该明白了动静分离能够带来的性能收益究竟有多大。
#1、先在部署Nginx的机器Nginx目录下创建一个目录static_resources
mkdir static_resources
#2、将项目中所有的静态资源全部拷贝到该目录下而后将项目中的静态资源移除重新打包。
#3、稍微修改一下nginx.conf的配置增加一条location匹配规则
location ~ .*\.(html|htm|gif|jpg|jpeg|bmp|png|ico|txt|js|css){ root /soft/nginx/static_resources; expires 7d;
}
然后照常启动nginx和移除了静态资源的WEB服务你会发现原本的样式、js效果、图片等依旧有效。
解读location规则location ~ .*\.(html|htm|gif|jpg|jpeg|bmp|png|ico|txt|js|css) ~代表匹配时区分大小写 .*代表任意字符都可以出现零次或多次即资源名不限制 \.代表匹配后缀分隔符. (html|...|css)代表匹配括号里所有静态资源类型
综上所述简单一句话概述该配置表示匹配以.html~.css为后缀的所有资源请求。
四、Nginx资源压缩
建立在动静分离的基础之上如果一个静态资源的Size越小那么自然传输速度会更快同时也会更节省带宽因此我们在部署项目时也可以通过Nginx对于静态资源实现压缩传输一方面可以节省带宽资源第二方面也可以加快响应速度并提升系统整体吞吐。
在Nginx也提供了三个支持资源压缩的模块ngx_http_gzip_module、ngx_http_gzip_static_module、ngx_http_gunzip_module其中ngx_http_gzip_module属于内置模块代表着可以直接使用该模块下的一些压缩指令后续的资源压缩操作都基于该模块先来看看压缩配置的一些参数/指令 了解了Nginx中的基本压缩配置后接下来可以在Nginx中简单配置一下
http{# 开启压缩机制gzip on;# 指定会被压缩的文件类型(也可自己配置其他类型)gzip_types text/plain application/javascript text/css application/xml text/javascript image/jpeg image/gif image/png;# 设置压缩级别越高资源消耗越大但压缩效果越好gzip_comp_level 5;# 在头部中添加Vary: Accept-Encoding建议开启gzip_vary on;# 处理压缩请求的缓冲区数量和大小gzip_buffers 16 8k;# 对于不支持压缩功能的客户端请求不开启压缩机制gzip_disable MSIE [1-6]\.; # 低版本的IE浏览器不支持压缩# 设置压缩响应所支持的HTTP最低版本gzip_http_version 1.1;# 设置触发压缩的最小阈值gzip_min_length 2k;# 关闭对后端服务器的响应结果进行压缩gzip_proxied off;
} 在上述的压缩配置中最后一个gzip_proxied选项可以根据系统的实际情况决定总共存在多种选项 off关闭Nginx对后台服务器的响应结果进行压缩。 expired如果响应头中包含Expires信息则开启压缩。 no-cache如果响应头中包含Cache-Control:no-cache信息则开启压缩。 no-store如果响应头中包含Cache-Control:no-store信息则开启压缩。 private如果响应头中包含Cache-Control:private信息则开启压缩。 no_last_modified如果响应头中不包含Last-Modified信息则开启压缩。 no_etag如果响应头中不包含ETag信息则开启压缩。 auth如果响应头中包含Authorization信息则开启压缩。 any无条件对后端的响应结果开启压缩机制。
注意点①对于图片、视频类型的数据会默认开启压缩机制因此一般无需再次开启压缩。②对于.js文件而言需要指定压缩类型为application/javascript而并非text/javascript、application/x-javascript。
五、Nginx缓冲区
先来思考一个问题接入Nginx的项目一般请求流程为“客户端→Nginx→服务端”在这个过程中存在两个连接“客户端→Nginx、Nginx→服务端”那么两个不同的连接速度不一致就会影响用户的体验比如浏览器的加载速度跟不上服务端的响应速度。
其实也就类似电脑的内存跟不上CPU速度所以对于用户造成的体验感极差因此在CPU设计时都会加入三级高速缓冲区用于缓解CPU和内存速率不一致的矛盾。在Nginx也同样存在缓冲区的机制主要目的就在于「「用来解决两个连接之间速度不匹配造成的问题」」 有了缓冲后Nginx代理可暂存后端的响应然后按需供给数据给客户端。先来看看一些关于缓冲区的配置项 proxy_buffering是否启用缓冲机制默认为on关闭状态。 client_body_buffer_size设置缓冲客户端请求数据的内存大小。 proxy_buffers为每个请求/连接设置缓冲区的数量和大小默认4 4k/8k。 proxy_buffer_size设置用于存储响应头的缓冲区大小。 proxy_busy_buffers_size在后端数据没有完全接收完成时Nginx可以将busy状态的缓冲返回给客户端该参数用来设置busy状态的buffer具体有多大默认为proxy_buffer_size*2。 proxy_temp_path当内存缓冲区存满时可以将数据临时存放到磁盘该参数是设置存储缓冲数据的目录。 path是临时目录的路径。 语法proxy_temp_path path; path是临时目录的路径 proxy_temp_file_write_size设置每次写数据到临时文件的大小限制。 proxy_max_temp_file_size设置临时的缓冲目录中允许存储的最大容量。 非缓冲参数项 proxy_connect_timeout设置与后端服务器建立连接时的超时时间。 proxy_read_timeout设置从后端服务器读取响应数据的超时时间。 proxy_send_timeout设置向后端服务器传输请求数据的超时时间。
具体的nginx.conf配置如下
http{ proxy_connect_timeout 10; proxy_read_timeout 120; proxy_send_timeout 10; proxy_buffering on; client_body_buffer_size 512k; proxy_buffers 4 64k; proxy_buffer_size 16k; proxy_busy_buffers_size 128k; proxy_temp_file_write_size 128k; proxy_temp_path /soft/nginx/temp_buffer;
}
六、Nginx缓存机制
对于性能优化而言缓存是一种能够大幅度提升性能的方案因此几乎可以在各处都能看见缓存如客户端缓存、代理缓存、服务器缓存等等Nginx的缓存则属于代理缓存的一种。对于整个系统而言加入缓存带来的优势额外明显 减少了再次向后端或文件服务器请求资源的带宽消耗。 降低了下游服务器的访问压力提升系统整体吞吐。 缩短了响应时间提升了加载速度打开页面的速度更快。
那么在Nginx中又该如何配置代理缓存呢先来看看缓存相关的配置项
「proxy_cache_path」代理缓存的路径。
语法proxy_cache_path path [levelslevels] [use_temp_pathon|off] keys_zonename:size [inactivetime] [max_sizesize] [manager_filesnumber] [manager_sleeptime] [manager_thresholdtime] [loader_filesnumber] [loader_sleeptime] [loader_thresholdtime] [purgeron|off] [purger_filesnumber] [purger_sleeptime] [purger_thresholdtime]; path缓存的路径地址。 levels缓存存储的层次结构最多允许三层目录。 use_temp_path是否使用临时目录。 keys_zone指定一个共享内存空间来存储热点Key(1M可存储8000个Key)。 inactive设置缓存多长时间未被访问后删除默认是十分钟。 max_size允许缓存的最大存储空间超出后会基于LRU算法移除缓存Nginx会创建一个Cache manager的进程移除数据也可以通过purge方式。 manager_filesmanager进程每次移除缓存文件数量的上限。 manager_sleepmanager进程每次移除缓存文件的时间上限。 manager_thresholdmanager进程每次移除缓存后的间隔时间。 loader_files重启Nginx载入缓存时每次加载的个数默认100。 loader_sleep每次载入时允许的最大时间上限默认200ms。 loader_threshold一次载入后停顿的时间间隔默认50ms。 purger是否开启purge方式移除数据。 purger_files每次移除缓存文件时的数量。 purger_sleep每次移除时允许消耗的最大时间。 purger_threshold每次移除完成后停顿的间隔时间。
「proxy_cache」开启或关闭代理缓存开启时需要指定一个共享内存区域。
语法
proxy_cache zone | off;zone为内存区域的名称即上面中keys_zone设置的名称。
「proxy_cache_key」定义如何生成缓存的键。
语法
proxy_cache_key string;string为生成Key的规则如$scheme$proxy_host$request_uri。
「proxy_cache_valid」缓存生效的状态码与过期时间。
语法
proxy_cache_valid [code ...] time;code为状态码time为有效时间可以根据状态码设置不同的缓存时间。
例如proxy_cache_valid 200 302 30m;
「proxy_cache_min_uses」设置资源被请求多少次后被缓存。
语法
proxy_cache_min_uses number;number为次数默认为1。
「proxy_cache_use_stale」当后端出现异常时是否允许Nginx返回缓存作为响应。
语法
proxy_cache_use_stale error;error为错误类型可配置timeout|invalid_header|updating|http_500...。
「proxy_cache_lock」对于相同的请求是否开启锁机制只允许一个请求发往后端。
语法
proxy_cache_lock on | off;「proxy_cache_lock_timeout」配置锁超时机制超出规定时间后会释放请求。
proxy_cache_lock_timeout time;「proxy_cache_methods」设置对于那些HTTP方法开启缓存。
语法
proxy_cache_methods method;method为请求方法类型如GET、HEAD等。
「proxy_no_cache」定义不存储缓存的条件符合时不会保存。
语法
proxy_no_cache string...;string为条件例如$cookie_nocache $arg_nocache $arg_comment;
「proxy_cache_bypass」定义不读取缓存的条件符合时不会从缓存中读取。
语法
proxy_cache_bypass string...;和上面proxy_no_cache的配置方法类似。
「add_header」往响应头中添加字段信息。
语法
add_header fieldName fieldValue;「$upstream_cache_status」记录了缓存是否命中的信息存在多种情况 MISS请求未命中缓存。 HIT请求命中缓存。 EXPIRED请求命中缓存但缓存已过期。 STALE请求命中了陈旧缓存。 REVALIDDATEDNginx验证陈旧缓存依然有效。 UPDATING命中的缓存内容陈旧但正在更新缓存。 BYPASS响应结果是从原始服务器获取的。
“ PS这个和之前的不同之前的都是参数项这个是一个Nginx内置变量。 http{ # 设置缓存的目录并且内存中缓存区名为hot_cache大小为128m # 三天未被访问过的缓存自动清楚磁盘中缓存的最大容量为2GB。proxy_cache_path /soft/nginx/cache levels1:2 keys_zonehot_cache:128m inactive3d max_size2g; server{ location / { # 使用名为nginx_cache的缓存空间 proxy_cache hot_cache; # 对于200、206、304、301、302状态码的数据缓存1天 proxy_cache_valid 200 206 304 301 302 1d; # 对于其他状态的数据缓存30分钟 proxy_cache_valid any 30m; # 定义生成缓存键的规则请求的url参数作为key proxy_cache_key $host$uri$is_args$args; # 资源至少被重复访问三次后再加入缓存 proxy_cache_min_uses 3; # 出现重复请求时只让一个去后端读数据其他的从缓存中读取 proxy_cache_lock on; # 上面的锁超时时间为3s超过3s未获取数据其他请求直接去后端 proxy_cache_lock_timeout 3s; # 对于请求参数或cookie中声明了不缓存的数据不再加入缓存 proxy_no_cache $cookie_nocache $arg_nocache $arg_comment; # 在响应头中添加一个缓存是否命中的状态便于调试 add_header Cache-status $upstream_cache_status; } }
}第一次访问时因为还没有请求过资源所以缓存中没有数据因此没有命中缓存。第二、三次依旧没有命中缓存直至第四次时才显示命中这是为什么呢因为在前面的缓存配置中我们配置了加入缓存的最低条件为「「资源至少要被请求三次以上才会加入缓存。」」 这样可以避免很多无效缓存占用空间。
缓存清理
当缓存过多时如果不及时清理会导致磁盘空间被“吃光”因此我们需要一套完善的缓存清理机制去删除缓存在之前的proxy_cache_path参数中有purger相关的选项开启后可以帮我们自动清理缓存但遗憾的是**purger系列参数只有商业版的NginxPlus才能使用因此需要付费才可使用。**
不过天无绝人之路我们可以通过强大的第三方模块ngx_cache_purge来替代先来安装一下该插件①首先去到Nginx的安装目录下创建一个cache_purge目录
[rootlocalhost]# mkdir cache_purge cd cache_purge ②通过wget指令从github上拉取安装包的压缩文件并解压
[rootlocalhost]# wget https://github.com/FRiCKLE/ngx_cache_purge/archive/2.3.tar.gz
[rootlocalhost]# tar -xvzf 2.3.tar.gz ③再次去到之前Nginx的解压目录下
[rootlocalhost]# cd /soft/nginx/nginx1.21.6 ④重新构建一次Nginx通过--add-module的指令添加刚刚的第三方模块
[rootlocalhost]# ./configure --prefix/soft/nginx/ --add-module/soft/nginx/cache_purge/ngx_cache_purge-2.3/ ⑤重新根据刚刚构建的Nginx再次编译一下「但切记不要make install」
[rootlocalhost]# make ⑥删除之前Nginx的启动文件不放心的也可以移动到其他位置
[rootlocalhost]# rm -rf /soft/nginx/sbin/nginx ⑦从生成的objs目录中重新复制一个Nginx的启动文件到原来的位置
[rootlocalhost]# cp objs/nginx /soft/nginx/sbin/nginx 至此第三方缓存清除模块ngx_cache_purge就安装完成了接下来稍微修改一下nginx.conf配置再添加一条location规则
location ~ /purge(/.*) { # 配置可以执行清除操作的IP线上可以配置成内网机器 # allow 127.0.0.1; # 代表本机 allow all; # 代表允许任意IP清除缓存 proxy_cache_purge $host$1$is_args$args;
} 然后再重启Nginx接下来即可通过http://xxx/purge/xx的方式清除缓存。
七、Nginx实现IP黑白名单
有时候往往有些需求可能某些接口只能开放给对应的合作商或者购买/接入API的合作伙伴那么此时就需要实现类似于IP白名单的功能。而有时候有些恶意攻击者或爬虫程序被识别后需要禁止其再次访问网站因此也需要实现IP黑名单。那么这些功能无需交由后端实现可直接在Nginx中处理。
Nginx做黑白名单机制主要是通过allow、deny配置项来实现
allow xxx.xxx.xxx.xxx; # 允许指定的IP访问可以用于实现白名单。
deny xxx.xxx.xxx.xxx; # 禁止指定的IP访问可以用于实现黑名单。 要同时屏蔽/开放多个IP访问时如果所有IP全部写在nginx.conf文件中定然是不显示的这种方式比较冗余那么可以新建两个文件BlocksIP.conf、WhiteIP.conf
# --------黑名单BlocksIP.conf---------
deny 192.177.12.222; # 屏蔽192.177.12.222访问
deny 192.177.44.201; # 屏蔽192.177.44.201访问
deny 127.0.0.0/8; # 屏蔽127.0.0.1到127.255.255.254网段中的所有IP访问 # --------白名单WhiteIP.conf---------
allow 192.177.12.222; # 允许192.177.12.222访问
allow 192.177.44.201; # 允许192.177.44.201访问
allow 127.45.0.0/16; # 允许127.45.0.1到127.45.255.254网段中的所有IP访问
deny all; # 除开上述IP外其他IP全部禁止访问 分别将要禁止/开放的IP添加到对应的文件后可以再将这两个文件在nginx.conf中导入
http{ # 屏蔽该文件中的所有IP include /soft/nginx/IP/BlocksIP.conf; server{ location xxx { # 某一系列接口只开放给白名单中的IP include /soft/nginx/IP/blockip.conf; } }
}对于文件具体在哪儿导入这个也并非随意的如果要整站屏蔽/开放就在http中导入如果只需要一个域名下屏蔽/开放就在sever中导入如果只需要针对于某一系列接口屏蔽/开放IP那么就在location中导入。
“ 当然上述只是最简单的IP黑/白名单实现方式同时也可以通过ngx_http_geo_module、ngx_http_geo_module第三方库去实现这种方式可以按地区、国家进行屏蔽并且提供了IP库。 八、Nginx跨域配置
跨域问题在之前的单体架构开发中其实是比较少见的问题除非是需要接入第三方SDK时才需要处理此问题。但随着现在前后端分离、分布式架构的流行跨域问题也成为了每个Java开发必须要懂得解决的一个问题。
跨域问题产生的原因
产生跨域问题的主要原因就在于 「同源策略」 为了保证用户信息安全防止恶意网站窃取数据同源策略是必须的否则cookie可以共享。由于http无状态协议通常会借助cookie来实现有状态的信息记录例如用户的身份/密码等因此一旦cookie被共享那么会导致用户的身份信息被盗取。
同源策略主要是指三点相同「「协议域名端口」」 相同的两个请求则可以被看做是同源的但如果其中任意一点存在不同则代表是两个不同源的请求同源策略会限制了不同源之间的资源交互。
Nginx解决跨域问题
弄明白了跨域问题的产生原因接下来看看Nginx中又该如何解决跨域呢其实比较简单在nginx.conf中稍微添加一点配置即可
location / { # 允许跨域的请求可以自定义变量$http_origin*表示所有 add_header Access-Control-Allow-Origin *; # 允许携带cookie请求 add_header Access-Control-Allow-Credentials true; # 允许跨域请求的方法GET,POST,OPTIONS,PUT add_header Access-Control-Allow-Methods GET,POST,OPTIONS,PUT; # 允许请求时携带的头部信息*表示所有 add_header Access-Control-Allow-Headers *; # 允许发送按段获取资源的请求 add_header Access-Control-Expose-Headers Content-Length,Content-Range; # 一定要有否则Post请求无法进行跨域# 在发送Post跨域请求前会以Options方式发送预检请求服务器接受时才会正式请求 if ($request_method OPTIONS) { add_header Access-Control-Max-Age 1728000; add_header Content-Type text/plain; charsetutf-8; add_header Content-Length 0; # 对于Options方式的请求返回204表示接受跨域请求 return 204; }
}在nginx.conf文件加上如上配置后跨域请求即可生效了。
“ 但如果后端是采用分布式架构开发的有时候RPC调用也需要解决跨域问题不然也同样会出现无法跨域请求的异常因此可以在你的后端项目中通过继承HandlerInterceptorAdapter类、实现WebMvcConfigurer接口、添加CrossOrgin注解的方式实现接口之间的跨域配置。 九、Nginx防盗链设计
首先了解一下何谓盗链「「盗链即是指外部网站引入当前网站的资源对外展示」」 来举个简单的例子理解
“ 好比壁纸网站X站、Y站X站是一点点去购买版权、签约作者的方式从而积累了海量的壁纸素材但Y站由于资金等各方面的原因就直接通过img srcX站/xxx.jpg /这种方式照搬了X站的所有壁纸资源继而提供给用户下载。 那么如果我们自己是这个X站的Boss心中必然不爽那么此时又该如何屏蔽这类问题呢那么接下来要叙说的「「防盗链」」 登场了
Nginx的防盗链机制实现跟一个头部字段Referer有关该字段主要描述了当前请求是从哪儿发出的那么在Nginx中就可获取该值然后判断是否为本站的资源引用请求如果不是则不允许访问。Nginx中存在一个配置项为valid_referers正好可以满足前面的需求语法如下
valid_referers none | blocked | server_names | string ...;none表示接受没有Referer字段的HTTP请求访问。 blocked表示允许http://或https//以外的请求访问。 server_names资源的白名单这里可以指定允许访问的域名。 string可自定义字符串支配通配符、正则表达式写法。
简单了解语法后接下来的实现如下
# 在动静分离的location中开启防盗链机制
location ~ .*\.(html|htm|gif|jpg|jpeg|bmp|png|ico|txt|js|css){ # 最后面的值在上线前可配置为允许的域名地址 valid_referers blocked 192.168.12.129; if ($invalid_referer) { # 可以配置成返回一张禁止盗取的图片 # rewrite ^/ http://xx.xx.com/NO.jpg; # 也可直接返回403 return 403; } root /soft/nginx/static_resources; expires 7d;
}根据上述中的内容配置后就已经通过Nginx实现了最基本的防盗链机制最后只需要额外重启一下就好啦当然对于防盗链机制实现这块也有专门的第三方模块ngx_http_accesskey_module实现了更为完善的设计感兴趣的小伙伴可以自行去看看。
“ PS防盗链机制也无法解决爬虫伪造referers信息的这种方式抓取数据。 十、Nginx大文件传输配置
在某些业务场景中需要传输一些大文件但大文件传输时往往都会会出现一些Bug比如文件超出限制、文件传输过程中请求超时等那么此时就可以在Nginx稍微做一些配置先来了解一些关于大文件传输时可能会用的配置项 在传输大文件时client_max_body_size、client_header_timeout、proxy_read_timeout、proxy_send_timeout这四个参数值都可以根据自己项目的实际情况来配置。
上述配置仅是作为代理层需要配置的因为最终客户端传输文件还是直接与后端进行交互这里只是把作为网关层的Nginx配置调高一点调到能够“容纳大文件”传输的程度。当然Nginx中也可以作为文件服务器使用但需要用到一个专门的第三方模块nginx-upload-module如果项目中文件上传的作用处不多那么建议可以通过Nginx搭建毕竟可以节省一台文件服务器资源。但如若文件上传/下载较为频繁那么还是建议额外搭建文件服务器并将上传/下载功能交由后端处理。
十一、Nginx配置SLL证书
随着越来越多的网站接入HTTPS因此Nginx中仅配置HTTP还不够往往还需要监听443端口的请求HTTPS为了确保通信安全所以服务端需配置对应的数字证书当项目使用Nginx作为网关时那么证书在Nginx中也需要配置
安装SSL模块
要在nginx中配置https就必须安装ssl模块也就是: http_ssl_module。
进入到nginx的解压目录/home/software/nginx-1.16.1
新增ssl模块(原来的那些模块需要保留)
./configure \
--prefix/usr/local/nginx \
--pid-path/var/run/nginx/nginx.pid \
--lock-path/var/lock/nginx.lock \
--error-log-path/var/log/nginx/error.log \
--http-log-path/var/log/nginx/access.log \
--with-http_gzip_static_module \
--http-client-body-temp-path/var/temp/nginx/client \
--http-proxy-temp-path/var/temp/nginx/proxy \
--http-fastcgi-temp-path/var/temp/nginx/fastcgi \
--http-uwsgi-temp-path/var/temp/nginx/uwsgi \
--http-scgi-temp-path/var/temp/nginx/scgi \
--with-http_ssl_module编译和安装
makemake install
把ssl证书 *.crt 和 私钥 *.key 拷贝到/usr/local/nginx/conf目录中。
新增 server 监听 443 端口
server {listen 443;server_name www.imoocdsp.com;# 开启sslssl on;# 配置ssl证书ssl_certificate 1_www.imoocdsp.com_bundle.crt;# 配置证书秘钥ssl_certificate_key 2_www.imoocdsp.com.key;# ssl会话cachessl_session_cache shared:SSL:1m;# ssl会话超时时间ssl_session_timeout 5m;# 配置加密套件写法遵循 openssl 标准ssl_protocols TLSv1 TLSv1.1 TLSv1.2;ssl_ciphers ECDHE-RSA-AES128-GCM-SHA256:HIGH:!aNULL:!MD5:!RC4:!DHE;ssl_prefer_server_ciphers on;location / {proxy_pass http://tomcats/;index index.html index.htm;}
}
接下来简单聊一下关于SSL证书配置过程
①先去CA机构或从云控制台中申请对应的SSL证书审核通过后下载Nginx版本的证书。
②下载数字证书后完整的文件总共有三个.crt、.key、.pem .crt数字证书文件.crt是.pem的拓展文件因此有些人下载后可能没有。 .key服务器的私钥文件及非对称加密的私钥用于解密公钥传输的数据。 .pemBase64-encoded编码格式的源证书文本文件可自行根需求修改拓展名。
③在Nginx目录下新建certificate目录并将下载好的证书/私钥等文件上传至该目录。
④最后修改一下nginx.conf文件即可如下
# ----------HTTPS配置-----------
server { # 监听HTTPS默认的443端口 listen 443; # 配置自己项目的域名 server_name www.xxx.com; # 打开SSL加密传输 ssl on; # 输入域名后首页文件所在的目录 root html; # 配置首页的文件名 index index.html index.htm index.jsp index.ftl; # 配置自己下载的数字证书 ssl_certificate certificate/xxx.pem; # 配置自己下载的服务器私钥 ssl_certificate_key certificate/xxx.key; # 停止通信时加密会话的有效期在该时间段内不需要重新交换密钥 ssl_session_timeout 5m; # TLS握手时服务器采用的密码套件 ssl_ciphers ECDHE-RSA-AES128-GCM-SHA256:ECDHE:ECDH:AES:HIGH:!NULL:!aNULL:!MD5:!ADH:!RC4; # 服务器支持的TLS版本 ssl_protocols TLSv1 TLSv1.1 TLSv1.2; # 开启由服务器决定采用的密码套件 ssl_prefer_server_ciphers on; location / { .... }
} # ---------HTTP请求转HTTPS-------------
server { # 监听HTTP默认的80端口 listen 80; # 如果80端口出现访问该域名的请求 server_name www.xxx.com; # 将请求改写为HTTPS这里写你配置了HTTPS的域名 rewrite ^(.*)$ https://www.xxx.com;
}OK~根据如上配置了Nginx后你的网站即可通过https://的方式访问并且当客户端使用http://的方式访问时会自动将其改写为HTTPS请求。
十二、Nginx的高可用
线上如果采用单个节点的方式部署Nginx难免会出现天灾人祸比如系统异常、程序宕机、服务器断电、机房爆炸、地球毁灭....哈哈哈夸张了。但实际生产环境中确实存在隐患问题由于Nginx作为整个系统的网关层接入外部流量所以一旦Nginx宕机最终就会导致整个系统不可用这无疑对于用户的体验感是极差的因此也得保障Nginx高可用的特性。
“ 接下来则会通过keepalived的VIP机制实现Nginx的高可用。VIP并不是只会员的意思而是指Virtual IP即虚拟IP。 keepalived在之前单体架构开发时是一个用的较为频繁的高可用技术比如MySQL、Redis、MQ、Proxy、Tomcat等各处都会通过keepalived提供的VIP机制实现单节点应用的高可用。
Keepalived重启脚本双机热备搭建
①首先创建一个对应的目录并下载keepalived到Linux中并解压
[rootlocalhost]# mkdir /soft/keepalived cd /soft/keepalived
[rootlocalhost]# wget https://www.keepalived.org/software/keepalived-2.2.4.tar.gz
[rootlocalhost]# tar -zxvf keepalived-2.2.4.tar.gz ②进入解压后的keepalived目录并构建安装环境然后编译并安装
[rootlocalhost]# cd keepalived-2.2.4
[rootlocalhost]# ./configure --prefix/soft/keepalived/
[rootlocalhost]# make make install ③进入安装目录的/soft/keepalived/etc/keepalived/并编辑配置文件
[rootlocalhost]# cd /soft/keepalived/etc/keepalived/
[rootlocalhost]# vi keepalived.conf ④编辑主机的keepalived.conf核心配置文件如下
global_defs { # 自带的邮件提醒服务建议用独立的监控或第三方SMTP也可选择配置邮件发送。notification_email { rootlocalhost } notification_email_from rootlocalhost smtp_server localhost smtp_connect_timeout 30 # 高可用集群主机身份标识(集群中主机身份标识名称不能重复建议配置成本机IP) router_id 192.168.12.129
} # 定时运行的脚本文件配置
vrrp_script check_nginx_pid_restart { # 之前编写的nginx重启脚本的所在位置 script /soft/scripts/keepalived/check_nginx_pid_restart.sh # 每间隔3秒执行一次 interval 3 # 如果脚本中的条件成立重启一次则权重-20 weight -20
} # 定义虚拟路由VI_1为虚拟路由的标示符可自定义名称
vrrp_instance VI_1 { # 当前节点的身份标识用来决定主从MASTER为主机BACKUP为从机 state MASTER # 绑定虚拟IP的网络接口根据自己的机器的网卡配置 interface ens33 # 虚拟路由的ID号主从两个节点设置必须一样 virtual_router_id 121 # 填写本机IP mcast_src_ip 192.168.12.129 # 节点权重优先级主节点要比从节点优先级高 priority 100 # 优先级高的设置nopreempt解决异常恢复后再次抢占造成的脑裂问题 nopreempt # 组播信息发送间隔两个节点设置必须一样默认1s类似于心跳检测 advert_int 1 authentication { auth_type PASS auth_pass 1111 } # 将track_script块加入instance配置块 track_script { # 执行Nginx监控的脚本 check_nginx_pid_restart } virtual_ipaddress { # 虚拟IP(VIP)也可扩展可配置多个。192.168.12.111 }
}⑤克隆一台之前的虚拟机作为从备机编辑从机的keepalived.conf文件如下
global_defs { # 自带的邮件提醒服务建议用独立的监控或第三方SMTP也可选择配置邮件发送。notification_email { rootlocalhost } notification_email_from rootlocalhost smtp_server localhost smtp_connect_timeout 30 # 高可用集群主机身份标识(集群中主机身份标识名称不能重复建议配置成本机IP) router_id 192.168.12.130
} # 定时运行的脚本文件配置
vrrp_script check_nginx_pid_restart { # 之前编写的nginx重启脚本的所在位置 script /soft/scripts/keepalived/check_nginx_pid_restart.sh # 每间隔3秒执行一次 interval 3 # 如果脚本中的条件成立重启一次则权重-20 weight -20
} # 定义虚拟路由VI_1为虚拟路由的标示符可自定义名称
vrrp_instance VI_1 { # 当前节点的身份标识用来决定主从MASTER为主机BACKUP为从机 state BACKUP # 绑定虚拟IP的网络接口根据自己的机器的网卡配置 interface ens33 # 虚拟路由的ID号主从两个节点设置必须一样 virtual_router_id 121 # 填写本机IP mcast_src_ip 192.168.12.130 # 节点权重优先级主节点要比从节点优先级高 priority 90 # 优先级高的设置nopreempt解决异常恢复后再次抢占造成的脑裂问题 nopreempt # 组播信息发送间隔两个节点设置必须一样默认1s类似于心跳检测 advert_int 1 authentication { auth_type PASS auth_pass 1111 } # 将track_script块加入instance配置块 track_script { # 执行Nginx监控的脚本 check_nginx_pid_restart } virtual_ipaddress { # 虚拟IP(VIP)也可扩展可配置多个。192.168.12.111 }
}⑥新建scripts目录并编写Nginx的重启脚本check_nginx_pid_restart.sh
[rootlocalhost]# mkdir /soft/scripts /soft/scripts/keepalived
[rootlocalhost]# touch /soft/scripts/keepalived/check_nginx_pid_restart.sh
[rootlocalhost]# vi /soft/scripts/keepalived/check_nginx_pid_restart.sh #!/bin/sh
# 通过ps指令查询后台的nginx进程数并将其保存在变量nginx_number中
nginx_numberps -C nginx --no-header | wc -l
# 判断后台是否还有Nginx进程在运行
if [ $nginx_number -eq 0 ];then # 如果后台查询不到Nginx进程存在则执行重启指令 /soft/nginx/sbin/nginx -c /soft/nginx/conf/nginx.conf # 重启后等待1s后再次查询后台进程数 sleep 1 # 如果重启后依旧无法查询到nginx进程 if [ ps -C nginx --no-header | wc -l -eq 0 ];then # 将keepalived主机下线将虚拟IP漂移给从机从机上线接管Nginx服务 systemctl stop keepalived.service fi
fi ⑦编写的脚本文件需要更改编码格式并赋予执行权限否则可能执行失败
[rootlocalhost]# vi /soft/scripts/keepalived/check_nginx_pid_restart.sh :set fileformatunix # 在vi命令里面执行修改编码格式
:set ff # 查看修改后的编码格式 [rootlocalhost]# chmod x /soft/scripts/keepalived/check_nginx_pid_restart.sh ⑧由于安装keepalived时是自定义的安装位置因此需要拷贝一些文件到系统目录中
[rootlocalhost]# mkdir /etc/keepalived/
[rootlocalhost]# cp /soft/keepalived/etc/keepalived/keepalived.conf /etc/keepalived/
[rootlocalhost]# cp /soft/keepalived/keepalived-2.2.4/keepalived/etc/init.d/keepalived /etc/init.d/
[rootlocalhost]# cp /soft/keepalived/etc/sysconfig/keepalived /etc/sysconfig/ ⑨将keepalived加入系统服务并设置开启自启动然后测试启动是否正常
[rootlocalhost]# chkconfig keepalived on
[rootlocalhost]# systemctl daemon-reload
[rootlocalhost]# systemctl enable keepalived.service
[rootlocalhost]# systemctl start keepalived.service 其他命令
systemctl disable keepalived.service # 禁止开机自动启动
systemctl restart keepalived.service # 重启keepalived
systemctl stop keepalived.service # 停止keepalived
tail -f /var/log/messages # 查看keepalived运行时日志 ⑩最后测试一下VIP是否生效通过查看本机是否成功挂载虚拟IP
[rootlocalhost]# ip addr “ 从上图中可以明显看见虚拟IP已经成功挂载但另外一台机器192.168.12.130并不会挂载这个虚拟IP只有当主机下线后作为从机的192.168.12.130才会上线接替VIP。最后测试一下外网是否可以正常与VIP通信即在Windows中直接ping VIP 外部通过VIP通信时也可以正常Ping通代表虚拟IP配置成功。
Nginx高可用性测试
经过上述步骤后keepalived的VIP机制已经搭建成功在上个阶段中主要做了几件事 一、为部署Nginx的机器挂载了VIP。 二、通过keepalived搭建了主从双机热备。 三、通过keepalived实现了Nginx宕机重启。
由于前面没有域名的原因因此最初server_name配置的是当前机器的IP所以需稍微更改一下nginx.conf的配置
sever{ listen 80; # 这里从机器的本地IP改为虚拟IP server_name 192.168.12.111; # 如果这里配置的是域名那么则将域名的映射配置改为虚拟IP
}最后来实验一下效果 “ 在上述过程中首先分别启动了keepalived、nginx服务然后通过手动停止nginx的方式模拟了Nginx宕机情况过了片刻后再次查询后台进程我们会发现nginx依旧存活。 从这个过程中不难发现keepalived已经为我们实现了Nginx宕机后自动重启的功能那么接着再模拟一下服务器出现故障时的情况 “ 在上述过程中我们通过手动关闭keepalived服务模拟了机器断电、硬件损坏等情况因为机器断电等情况主机中的keepalived进程消失然后再次查询了一下本机的IP信息很明显会看到VIP消失了 现在再切换到另外一台机器192.168.12.130来看看情况 “ 此刻我们会发现在主机192.168.12.129宕机后VIP自动从主机飘移到了从机192.168.12.130上而此时客户端的请求就最终会来到130这台机器的Nginx上。 「「最终利用Keepalived对Nginx做了主从热备之后无论是遇到线上宕机还是机房断电等各类故障时都能够确保应用系统能够为用户提供7x24小时服务。」」
十三、限流与熔断
限流通过对并发/请求进行限速来保护系统防止系统过载瘫痪而不能提供服务为了更好控制整个系统的负载情况即使阻止了某些请求系统继续提供服务。
http_limit_conn单个IP同时允许的连接限制
http {# 连接限流定义# - $binary_remote_addr限制对象(客户端)# - zone限制自定义名称# - 10内存中用10兆空间存储连接记录limit_conn_zone $binary_remote_addr zone{limits-name}:10m;server {location /search/ {# 单个IP同时允许建立多少连接并发限制limit_conn {limits-name} 1;}}
}
http_limit_req单个IP请求频率的限制次/每秒
http {# 请求限流定义# - $binary_remote_addr限制对象(客户端)# - zone定义限制(策略)名称# - 10m用十兆空间记录访问次数# - rate每秒10次的请求处理速率limit_req_zone $binary_remote_addr zone{limits-name}:10m rate1r/s;# 请求限流定义# - $server_name限制对象对指定服务器请求的限制limit_req_zone $server_name zone{limits-name}:10m rate10r/s;server {location /search/ {# 引用以上定义的限流策略做以下设定漏桶方式# - burst最多接收5个排队用户IP处于等待处理状态容量# - nodelay超出排队之外的更多请求拒绝并返回503溢出limit_req zone{limits-name} [burst5] [nodelay];}}
}
http_limit_rate向客户端传输响应的速率限制字节/每秒/每连接0不限制
http { server {location /download/ {# 带宽限制limit_rate_after 5m; # 初始限速5mlimit_rate 500k; # 超出后限速500k}}
}
熔断当后端服务发生指定频率错误后Nginx触发熔断措施不再请求此后端服务直接返回默认内容到用户端。
upstream http_backend {# 10s内出现3次错误该服务器将被视为不可用(熔断)server 192.168.1.101:8080 max_fails3 fail_timeout10s;server 192.168.1.102:8080 max_fails3 fail_timeout10s;
} 当然也有容错机制Nginx 默认自动转向其它服务再请求相关配置proxy_next_upstream 十四、其他优化 优化一打开长连接配置
通常Nginx作为代理服务负责分发客户端的请求那么建议开启HTTP长连接用户减少握手的次数降低服务器损耗具体如下
upstream xxx { # 长连接数 keepalive 32; # 每个长连接提供的最大请求数 keepalived_requests 100; # 每个长连接没有新的请求时保持的最长时间 keepalive_timeout 60s;
} 优化二、开启零拷贝技术
零拷贝这个概念在大多数性能较为不错的中间件中都有出现例如Kafka、Netty等而Nginx中也可以配置数据零拷贝技术如下
sendfile on; # 开启零拷贝机制 零拷贝读取机制与传统资源读取机制的区别 「传统方式」 硬件--内核--用户空间--程序空间--程序内核空间--网络套接字 「零拷贝方式」 硬件--内核--程序内核空间--网络套接字
从上述这个过程对比很轻易就能看出两者之间的性能区别。
优化三、开启无延迟或多包共发机制
在Nginx中有两个较为关键的性能参数即tcp_nodelay、tcp_nopush开启方式如下
tcp_nodelay on;
tcp_nopush on; TCP/IP协议中默认是采用了Nagle算法的即在网络数据传输过程中每个数据报文并不会立马发送出去而是会等待一段时间将后面的几个数据包一起组合成一个数据报文发送但这个算法虽然提高了网络吞吐量但是实时性却降低了。
“ 因此你的项目属于交互性很强的应用那么可以手动开启tcp_nodelay配置让应用程序向内核递交的每个数据包都会立即发送出去。但这样会产生大量的TCP报文头增加很大的网络开销。 相反有些项目的业务对数据的实时性要求并不高追求的则是更高的吞吐那么则可以开启tcp_nopush配置项这个配置就类似于“塞子”的意思首先将连接塞住使得数据先不发出去等到拔去塞子后再发出去。设置该选项后内核会尽量把小数据包拼接成一个大的数据包一个MTU再发送出去.
“ 当然若一定时间后一般为200ms内核仍然没有积累到一个MTU的量时也必须发送现有的数据否则会一直阻塞。 tcp_nodelay、tcp_nopush两个参数是“互斥”的如果追求响应速度的应用推荐开启tcp_nodelay参数如IM、金融等类型的项目。如果追求吞吐量的应用则建议开启tcp_nopush参数如调度系统、报表系统等。
“ 注意①tcp_nodelay一般要建立在开启了长连接模式的情况下使用。②tcp_nopush参数是必须要开启sendfile参数才可使用的。 优化四、调整Worker工作进程
Nginx启动后默认只会开启一个Worker工作进程处理客户端请求而我们可以根据机器的CPU核数开启对应数量的工作进程以此来提升整体的并发量支持如下
# 自动根据CPU核心数调整Worker进程数量
worker_processes auto; “ 工作进程的数量最高开到8个就OK了8个之后就不会有再大的性能提升。 同时也可以稍微调整一下每个工作进程能够打开的文件句柄数
# 每个Worker能打开的文件描述符最少调整至1W以上负荷较高建议2-3W
worker_rlimit_nofile 20000; “ 操作系统内核kernel都是利用文件描述符来访问文件无论是打开、新建、读取、写入文件时都需要使用文件描述符来指定待操作的文件因此该值越大代表一个进程能够操作的文件越多但不能超出内核限制最多建议3.8W左右为上限。 优化五、开启CPU亲和机制
对于并发编程较为熟悉的伙伴都知道因为进程/线程数往往都会远超出系统CPU的核心数因为操作系统执行的原理本质上是采用时间片切换机制也就是一个CPU核心会在多个进程之间不断频繁切换造成很大的性能损耗。
而CPU亲和机制则是指将每个Nginx的工作进程绑定在固定的CPU核心上从而减小CPU切换带来的时间开销和资源损耗开启方式如下
worker_cpu_affinity auto; 优化六、开启epoll模型及调整并发连接数
在最开始就提到过Nginx、Redis都是基于多路复用模型去实现的程序但最初版的多路复用模型select/poll最大只能监听1024个连接而epoll则属于select/poll接口的增强版因此采用该模型能够大程度上提升单个Worker的性能如下
events { # 使用epoll网络模型 use epoll; # 调整每个Worker能够处理的连接数上限 worker_connections 10240;
} “ 这里对于select/poll/epoll模型就不展开细说了后面的IO模型文章中会详细剖析。 推荐一个免费的pdf转换网站包含pdf转word、pdf拆分等功能。
PDF转换网站编辑http://test.aipaca-cbec.com/index
