nginx+lua构建高性能web服务器
nginx+lua构建高性能web服务器
夜魅三角湾-牛魔王 发表于9个月前
nginx+lua构建高性能web服务器
  • 发表于 9个月前
  • 阅读 163
  • 收藏 1
  • 点赞 0
  • 评论 1

腾讯云 学生专属云服务套餐 10元起购>>>   

摘要: 利用lua构建高可用web服务器,接入层构建高可用应用,解决网络并发请求问题,实现在接入层的流量劫持、ip访问,漏洞限制等,实现在服务端的分流。充分利用lua发挥最大特性

最近由于工作需要,对服务端进行研究细化学习,解决web服务器的痛点,经过提示最终确定用openresty来构建web服务器,利用lua本身的一些特性、轻量级。易扩展,解决网络阻塞,其实它本身就是一个web服务器,在这个基础上可以做很多定制需求,做反向代理、负载均衡,利用本身的第三方服务器解决一些性能的缺陷,提高网络的吞吐量,废话不多说,开始。

介绍:

OpenResty ™ 是一个基于 Nginx 与 Lua(让子弹飞,飞一样的感觉) 的高性能 Web 平台,其内部集成了大量精良的 Lua 库、第三方模块以及大多数的依赖项。用于方便地搭建能够处理超高并发、扩展性极高的动态 Web 应用、Web 服务和动态网关。

OpenResty 通过汇聚各种设计精良的 Nginx 模块(主要由 OpenResty 团队自主开发),从而将 Nginx 有效地变成一个强大的通用 Web 应用平台。这样,Web 开发人员和系统工程师可以使用 Lua 脚本语言调动 Nginx 支持的各种 C 以及 Lua 模块,快速构造出足以胜任 10K 乃至 1000K 以上单机并发连接的高性能 Web 应用系统。

目标是让你的Web服务直接跑在 Nginx 服务内部,充分利用 Nginx 的非阻塞 I/O 模型,不仅仅对 HTTP 客户端请求,甚至于对远程后端诸如 MySQL、PostgreSQL、Memcached 以及 Redis 等都进行一致的高性能响应。

支持组件:

 lua-resty-memcached

 lua-resty-mysql

 lua-resty-redis

 lua-resty-dns

 lua-resty-limit-traffic

 lua-resty-template

还有很多,有兴趣可以到官网了解更多的组件。

openresty前提安装nginx和相关的服务:

(1、nginx 必须安装 

其中依赖包有:pcre gcc  openssl 必须安装,这些组件必须完全安装完以后才能安装openrestry即可。

注意:pcre 和openssl需要到官网下载自行编译安装 ./configure make && make install,后期可能会用到lua的组件安装方式。

 

(2.zlib安装安装 

也可以用自行的安装方法进行:sudo apt-get install nginx 安装完成以后 ,查看ps -ef|grep nginx 查看服务是否启动。 完成安装

(3、lua安装扩展: sudo apt-get install libreadline6 libreadline6-dev  build-essential 注意如果安装5.1选择安装libreadline5即可

apt-get install libreadline-dev libncurses5-dev libpcre3-dev  libssl-dev perl make build-essential

(4lua安装。确认已经安装和少年宫

特点:

nginx衍生版本,支持多组件支持,纯C编写

解决网络阻塞、跨平台调用

支持mysql、redis连接池应用

并发网络请求数据处理

根据需求自身服务架构定制自身需求,扩展lua组件开发

 

扩展组件安装,由于后续编译openresy需要用相关模块,不然会出现编译失败的问题,根据需要自行安装:
libreadline-dev libncurses5-dev libpcre3-dev libssl-dev perl build-essential  gcc  openssl

 

安装lua扩展组件,调用后端服务会用到lua模块:

curl -R -O http://www.lua.org/ftp/lua-5.1.0.tar.gz
tar zxf lua-5.3.0.tar.gz
cd lua-5.3.0
make linux test
make install

这里推荐用5.1,官方的版本也是用5.1做,低版本或高版本可能会引起不必要的编译问题导致安装出问题。

 

luajit安装:

wget http://luajit.org/download/LuaJIT-2.0.4.tar.gz
tar zxvf LuaJIT-2.0.4.tar.gz
cd LuaJIT-2.0.4
make && sudo make install

重点说明下:lua和luajit都是openresry需要编译运行lua环境的重要组件,缺一不可,后续会在配置nginx.conf中用到此模块,所以需要保证这两个模块正常安装上。nginx编译:

由于利用openresry需要用到ngx_devel_kit和lua-nginx-module的相关模块,此模块会在加载nginx同时load进去,所以需要自行下载安装重新编译:

wget https://github.com/simpl/ngx_devel_kit/archive/v0.3.0.tar.gz

wget  https://github.com/openresty/lua-nginx-module/archive/v0.10.7.tar.gz

下载完成以后,找到一个需要放置的目录的,我的目录在:/usr/local下.

由于上面的是nginx的扩展lua支持的组件,需要重新编译nginx,可以根据需要重新编译nginx.

nginx -V查看nginx的扩展模块,没有的话就把这两个编译进去,加到扩展模块中,运行下面的命令:

./configure --prefix=/opt/openresty/nginx \    #nginx的安装路径 

--add-module=/path/to/ngx_devel_kit \   #ngx_devel_kit 的源码路径 
--add-module=/path/to/lua-nginx-module  #nginx_lua_module 的源码路径

 

安装oepnresty:

wget https://openresty.org/download/openresty-1.11.2.1.tar.gz

tar -xzvf openresty-1.11.2.1.tar.gz
cd openresty-1.11.2.1.tar.gz
./configure --prefix=/opt/openresty \ ###指定安装openrestry的路径
            --with-luajit \ ##安装的同事指定luajit扩展
            --without-http_redis2_module \ 默认没有开启http_redis服务
            --with-http_iconv_module \ #开启http_iconv组件服务
            --with-http_postgres_module #开启post接受数据服务

此时openrestry安装完成,重启openrestry对应的nginx服务:

/opt/openresty/nginx/sbin/nginx -c /opt/openresty/nginx/conf/nginx.conf

查看nginx进程:

ps -aux|grep nginx 

为了后期持续方便启动(修改lua配置会重复服务),建立软连接:
ln -s /opt/openresty/nginx/sbin/nginx  /usr/sbin/nginx

=============================================================================[编辑]

本次主要涉及对nginx的截流说明,通过openrestry服务复用nginx改写req_limit模块和conn_limit模块。其中,openresty封装了luajit插件集成了limit_req和limit_conn的应用,我们可以很方便进行调用和规则重写机制,针对特定的请求做连接请求数限制和流量限制数。

两者的区别,针对限流需要用到的组件:

limit_req:通过令牌桶原理来限制 用户的连接频率,提供请求的速率限制和调整的基础上的“漏桶”的方法。(这个模块允许你去限制单个地址 指定会话或特殊需要 的请求数 )

conn_limit: 功能是限制一个客户端的并发连接数。(这个模块可以限制单个地址 的指定会话 或者特殊情况的并发连接数),常用来做限制客户端并发连接数量。

limit.traffic:提供一个聚合器将多个实例的resty.limit.req或resty.limit.conn类,组合limit_req和conn_limit联合使用。


一个是限制并发连接,一个是限制连接频率,功能都能实现截流,在实现和表现方式上略有不同。

关于,连接和请求这里面有一个比较完整的解释,可以看下:

http://www.myhack58.com/Article/60/63/2014/50072.htm

应用过程中遇到的一个坑,就是每次nginx加载lua-resty-limit-traffic组件(此服务包含了req和conn的实现)会直接报500错误,经过排查知道官方的提供的对limit模块的加载扩展路径不正确,需要自行下载此插件或修改路径:

加载过程中默认的是:restry.limit.req,注意防止的路径:./oprestry/lualib/restry/limit这样才能加载进去,不会nginx会报错。

解决nginx加载req 500错误的方法:

将下载下来得lua-resty-limit-traffic解压。

tar -zxvf lua-resty-limit-traffic-xx.tar.gz 

mv ./lua-resty-limit-traffic-xx/?/limit/* /opt/openresty/lualib 保持和openresty放在同一目录,加载lua框架会用到。

解决:上述nginx服务500的错误。 

说明:

local limit_req = require "resty.limit.req" 对应引用restry中的限流模块中req服务.对应会找 ====》 /opt/openresty/lualib/resty/limit/req.lua

 

nginx.conf加载对应lualib扩展:

lua_package_path "/opt/openresty/lualib/?.lua;;"; 
lua_package_cpath "/opt/openresty/lualib/ ?.so;;";

加上以后重启nginx,如果没有报错验证加载成功,可以继续对当前服务做扩展。

nginx.conf加载截流配置

1.速率限制策略:

location /{
    access_lua_block{
        local limit_req = require "resty.limit.req"
    -- 限制请求速率为200 req/sec,并且允许100 req/sec的突发请求
    -- 就是说我们会把200以上300一下的请求请求给延迟
    -- 超过300的请求将会被拒绝
    local lim, err = limit_req.new("my_limit_req_store", 1, 1)
    if not lim then --申请limit_req对象失败
    ngx.log(ngx.ERR,
           "failed to instantiate a resty.limit.req object: ", err)
        return ngx.exit(500)
       end
    -- 下面代码针对每一个单独的请求
    -- 使用ip地址作为限流的key
    local key = ngx.var.binary_remote_addr
    local delay, err = lim:incoming(key, true)
    if not delay then
        if err == "rejected" then
            return ngx.exit(503)
        end
    ngx.log(ngx.ERR, "failed to limit req: ", err)
        return ngx.exit(500)
    end
    if delay >= 0.001 then
            local excess = err
                  ngx.sleep(delay)
    end
    }
}

2.锁限制访问频率:

ocal locks = require "resty.lock" --lock模块
local limit = 3 --限流大小,申请限流的大小
local function acquire()
if limit <= 0 then
return 0
end
local lock = locks:new("locks")
local elapsed, err = lock:lock("limit_key") --互斥锁
local limit_counter = ngx.shared.limit_counter #限流计数器
local key = "ip" .. os.time()
local current = limit_counter:get(key) #申请当前访问的key作为限流的根据去做验证
if current ~= nil and current + 1 > limit then #一旦如果超出限流大小
    lock:unlock()
    return 0
end
if current == nil then
    limit_counter:set(key, 1, 1) --第一次需要设置过期时间,设置key的值为1,过期时间为1秒
else
    limit_counter:incr(key, 1) --第二次开始递增加1
end
lock:unlock()
return 1
end

local rev = acquire()
ngx.log(ngx.ERR, rev)
if rev ~= 1 then
ngx.say("限流了")
else
ngx.say("访问成功")
en

这里是利用lua的扩展对nginx做的限流配置,此外lua还可以做很多高并发、阻塞、json应用,有兴趣的可以自己尝试体验下,可以在实际应用中解决在远程后端诸如 MySQL、PostgreSQL、Memcached 以及 Redis的扩展开发,提高系统的并发量。

 

共有 人打赏支持
粉丝 4
博文 4
码字总数 5806
评论 (1)
夜魅三角湾-牛魔王
欢迎大家吐槽
×
夜魅三角湾-牛魔王
如果觉得我的文章对您有用,请随意打赏。您的支持将鼓励我继续创作!
* 金额(元)
¥1 ¥5 ¥10 ¥20 其他金额
打赏人
留言
* 支付类型
微信扫码支付
打赏金额:
已支付成功
打赏金额: