文档章节

nginx+lua构建高性能web服务器

夜魅三角湾-牛魔王
 夜魅三角湾-牛魔王
发布于 2017/02/16 17:09
字数 2354
阅读 281
收藏 1

最近由于工作需要,对服务端进行研究细化学习,解决web服务器的痛点,经过提示最终确定用openresty来构建web服务器,利用lua本身的一些特性、轻量级。易扩展,解决网络阻塞,其实它本身就是一个web服务器,在这个基础上可以做很多定制需求,做反向代理、负载均衡,利用本身的第三方服务器解决一些性能的缺陷,提高网络的吞吐量,废话不多说,开始。

介绍:

OpenResty ™ 是一个基于 Nginx 与 Lua(让子弹飞,飞一样的感觉) 的高性能 Web 平台,其内部集成了大量精良的 Lua 库、第三方模块以及大多数的依赖项。用于方便地搭建能够处理超高并发、扩展性极高的动态 Web 应用、Web 服务和动态网关。

OpenResty 通过汇聚各种设计精良的 Nginx 模块(主要由 OpenResty 团队自主开发),从而将 Nginx 有效地变成一个强大的通用 Web 应用平台。这样,Web 开发人员和系统工程师可以使用 Lua 脚本语言调动 Nginx 支持的各种 C 以及 Lua 模块,快速构造出足以胜任 10K 乃至 1000K 以上单机并发连接的高性能 Web 应用系统。

目标是让你的Web服务直接跑在 Nginx 服务内部,充分利用 Nginx 的非阻塞 I/O 模型,不仅仅对 HTTP 客户端请求,甚至于对远程后端诸如 MySQL、PostgreSQL、Memcached 以及 Redis 等都进行一致的高性能响应。

支持组件:

 lua-resty-memcached

 lua-resty-mysql

 lua-resty-redis

 lua-resty-dns

 lua-resty-limit-traffic

 lua-resty-template

还有很多,有兴趣可以到官网了解更多的组件。

openresty前提安装nginx和相关的服务:

(1、nginx 必须安装 

其中依赖包有:pcre gcc  openssl 必须安装,这些组件必须完全安装完以后才能安装openrestry即可。

注意:pcre 和openssl需要到官网下载自行编译安装 ./configure make && make install,后期可能会用到lua的组件安装方式。

 

(2.zlib安装安装 

也可以用自行的安装方法进行:sudo apt-get install nginx 安装完成以后 ,查看ps -ef|grep nginx 查看服务是否启动。 完成安装

(3、lua安装扩展: sudo apt-get install libreadline6 libreadline6-dev  build-essential 注意如果安装5.1选择安装libreadline5即可

apt-get install libreadline-dev libncurses5-dev libpcre3-dev  libssl-dev perl make build-essential

(4lua安装。确认已经安装和少年宫

特点:

nginx衍生版本,支持多组件支持,纯C编写

解决网络阻塞、跨平台调用

支持mysql、redis连接池应用

并发网络请求数据处理

根据需求自身服务架构定制自身需求,扩展lua组件开发

 

扩展组件安装,由于后续编译openresy需要用相关模块,不然会出现编译失败的问题,根据需要自行安装:
libreadline-dev libncurses5-dev libpcre3-dev libssl-dev perl build-essential  gcc  openssl

 

安装lua扩展组件,调用后端服务会用到lua模块:

curl -R -O http://www.lua.org/ftp/lua-5.1.0.tar.gz
tar zxf lua-5.3.0.tar.gz
cd lua-5.3.0
make linux test
make install

这里推荐用5.1,官方的版本也是用5.1做,低版本或高版本可能会引起不必要的编译问题导致安装出问题。

 

luajit安装:

wget http://luajit.org/download/LuaJIT-2.0.4.tar.gz
tar zxvf LuaJIT-2.0.4.tar.gz
cd LuaJIT-2.0.4
make && sudo make install

重点说明下:lua和luajit都是openresry需要编译运行lua环境的重要组件,缺一不可,后续会在配置nginx.conf中用到此模块,所以需要保证这两个模块正常安装上。nginx编译:

由于利用openresry需要用到ngx_devel_kit和lua-nginx-module的相关模块,此模块会在加载nginx同时load进去,所以需要自行下载安装重新编译:

wget https://github.com/simpl/ngx_devel_kit/archive/v0.3.0.tar.gz

wget  https://github.com/openresty/lua-nginx-module/archive/v0.10.7.tar.gz

下载完成以后,找到一个需要放置的目录的,我的目录在:/usr/local下.

由于上面的是nginx的扩展lua支持的组件,需要重新编译nginx,可以根据需要重新编译nginx.

nginx -V查看nginx的扩展模块,没有的话就把这两个编译进去,加到扩展模块中,运行下面的命令:

./configure --prefix=/opt/openresty/nginx \    #nginx的安装路径 

--add-module=/path/to/ngx_devel_kit \   #ngx_devel_kit 的源码路径 
--add-module=/path/to/lua-nginx-module  #nginx_lua_module 的源码路径

 

安装oepnresty:

wget https://openresty.org/download/openresty-1.11.2.1.tar.gz

tar -xzvf openresty-1.11.2.1.tar.gz
cd openresty-1.11.2.1.tar.gz
./configure --prefix=/opt/openresty \ ###指定安装openrestry的路径
            --with-luajit \ ##安装的同事指定luajit扩展
            --without-http_redis2_module \ 默认没有开启http_redis服务
            --with-http_iconv_module \ #开启http_iconv组件服务
            --with-http_postgres_module #开启post接受数据服务

此时openrestry安装完成,重启openrestry对应的nginx服务:

/opt/openresty/nginx/sbin/nginx -c /opt/openresty/nginx/conf/nginx.conf

查看nginx进程:

ps -aux|grep nginx 

为了后期持续方便启动(修改lua配置会重复服务),建立软连接:
ln -s /opt/openresty/nginx/sbin/nginx  /usr/sbin/nginx

=============================================================================[编辑]

本次主要涉及对nginx的截流说明,通过openrestry服务复用nginx改写req_limit模块和conn_limit模块。其中,openresty封装了luajit插件集成了limit_req和limit_conn的应用,我们可以很方便进行调用和规则重写机制,针对特定的请求做连接请求数限制和流量限制数。

两者的区别,针对限流需要用到的组件:

limit_req:通过令牌桶原理来限制 用户的连接频率,提供请求的速率限制和调整的基础上的“漏桶”的方法。(这个模块允许你去限制单个地址 指定会话或特殊需要 的请求数 )

conn_limit: 功能是限制一个客户端的并发连接数。(这个模块可以限制单个地址 的指定会话 或者特殊情况的并发连接数),常用来做限制客户端并发连接数量。

limit.traffic:提供一个聚合器将多个实例的resty.limit.req或resty.limit.conn类,组合limit_req和conn_limit联合使用。


一个是限制并发连接,一个是限制连接频率,功能都能实现截流,在实现和表现方式上略有不同。

关于,连接和请求这里面有一个比较完整的解释,可以看下:

http://www.myhack58.com/Article/60/63/2014/50072.htm

应用过程中遇到的一个坑,就是每次nginx加载lua-resty-limit-traffic组件(此服务包含了req和conn的实现)会直接报500错误,经过排查知道官方的提供的对limit模块的加载扩展路径不正确,需要自行下载此插件或修改路径:

加载过程中默认的是:restry.limit.req,注意防止的路径:./oprestry/lualib/restry/limit这样才能加载进去,不会nginx会报错。

解决nginx加载req 500错误的方法:

将下载下来得lua-resty-limit-traffic解压。

tar -zxvf lua-resty-limit-traffic-xx.tar.gz 

mv ./lua-resty-limit-traffic-xx/?/limit/* /opt/openresty/lualib 保持和openresty放在同一目录,加载lua框架会用到。

解决:上述nginx服务500的错误。 

说明:

local limit_req = require "resty.limit.req" 对应引用restry中的限流模块中req服务.对应会找 ====》 /opt/openresty/lualib/resty/limit/req.lua

 

nginx.conf加载对应lualib扩展:

lua_package_path "/opt/openresty/lualib/?.lua;;"; 
lua_package_cpath "/opt/openresty/lualib/ ?.so;;";

加上以后重启nginx,如果没有报错验证加载成功,可以继续对当前服务做扩展。

nginx.conf加载截流配置

1.速率限制策略:

location /{
    access_lua_block{
        local limit_req = require "resty.limit.req"
    -- 限制请求速率为200 req/sec,并且允许100 req/sec的突发请求
    -- 就是说我们会把200以上300一下的请求请求给延迟
    -- 超过300的请求将会被拒绝
    local lim, err = limit_req.new("my_limit_req_store", 1, 1)
    if not lim then --申请limit_req对象失败
    ngx.log(ngx.ERR,
           "failed to instantiate a resty.limit.req object: ", err)
        return ngx.exit(500)
       end
    -- 下面代码针对每一个单独的请求
    -- 使用ip地址作为限流的key
    local key = ngx.var.binary_remote_addr
    local delay, err = lim:incoming(key, true)
    if not delay then
        if err == "rejected" then
            return ngx.exit(503)
        end
    ngx.log(ngx.ERR, "failed to limit req: ", err)
        return ngx.exit(500)
    end
    if delay >= 0.001 then
            local excess = err
                  ngx.sleep(delay)
    end
    }
}

2.锁限制访问频率:

ocal locks = require "resty.lock" --lock模块
local limit = 3 --限流大小,申请限流的大小
local function acquire()
if limit <= 0 then
return 0
end
local lock = locks:new("locks")
local elapsed, err = lock:lock("limit_key") --互斥锁
local limit_counter = ngx.shared.limit_counter #限流计数器
local key = "ip" .. os.time()
local current = limit_counter:get(key) #申请当前访问的key作为限流的根据去做验证
if current ~= nil and current + 1 > limit then #一旦如果超出限流大小
    lock:unlock()
    return 0
end
if current == nil then
    limit_counter:set(key, 1, 1) --第一次需要设置过期时间,设置key的值为1,过期时间为1秒
else
    limit_counter:incr(key, 1) --第二次开始递增加1
end
lock:unlock()
return 1
end

local rev = acquire()
ngx.log(ngx.ERR, rev)
if rev ~= 1 then
ngx.say("限流了")
else
ngx.say("访问成功")
en

这里是利用lua的扩展对nginx做的限流配置,此外lua还可以做很多高并发、阻塞、json应用,有兴趣的可以自己尝试体验下,可以在实际应用中解决在远程后端诸如 MySQL、PostgreSQL、Memcached 以及 Redis的扩展开发,提高系统的并发量。

 

© 著作权归作者所有

共有 人打赏支持
夜魅三角湾-牛魔王
粉丝 3
博文 4
码字总数 5806
作品 0
朝阳
高级程序员
私信 提问
加载中

评论(1)

夜魅三角湾-牛魔王
夜魅三角湾-牛魔王
欢迎大家吐槽
三流程序员与一流程序员之间的区别,看看你是属于哪一类?

源码系列 手写spring mvc框架 基于Spring JDBC手写ORM框架 实现自己的MyBatis Spring AOP实战之源码分析 Spring IOC高级特性应用分析 ORM框架底层实现原理剖析 手写Spring MVC框架实现 手把手...

茶轴的青春
04/17
0
0
使用Nginx+Lua进行Web开发

Nginx ("engine x") 是一个高性能的HTTP和反向代理服务器,也是一个IMAP/POP3/SMTP服务器。因它的稳定性、丰富的功能集、示例配置文件和低系统资源的消耗而闻名。Lua由标准C编写而成,几乎在...

醉人的笑容你有没有
2016/04/17
613
0
51CTO专访清无:Nginx_lua的应用及性能对比

51CTO专访清无:Nginxlua的应用及性能对比 2012-07-13 10:57 小林 51CTO.com 字号:T | T 对于Web高性能服务器上的选择,这个是很多人头痛的问题。对于Apache、lighttpd、Nginx都用他们优点,...

epiclight
2015/06/01
0
0
使用Nginx+Lua(OpenResty)开发高性能Web应用

Nginx+Lua(OpenResty)开发高性能Web应用 使用Nginx+Lua(OpenResty)开发高性能Web应用 在互联网公司,Nginx可以说是标配组件,但是主要场景还是负载均衡、反向代理、代理缓存、限流等场景;而...

oldgril
2017/02/27
0
0
使用Nginx+Lua(OpenResty)开发高性能Web应用

使用Nginx+Lua(OpenResty)开发高性能Web应用 博客分类: 跟我学Nginx+Lua开发 架构 ngxluaopenresty 在互联网公司,Nginx可以说是标配组件,但是主要场景还是负载均衡、反向代理、代理缓存、...

fdhay
2016/08/31
45
0

没有更多内容

加载失败,请刷新页面

加载更多

Integer使用双等号比较会发生什么

话不多说,根据以下程序运行,打印的结果为什么不同? Integer a = 100;Integer b = 100;System.out.println(a == b);//print : trueInteger a = 200;Integer b = 200;System.out.pr...

兜兜毛毛
昨天
5
0
CockroachDB

百度云上的CockroachDB 云数据库 帮助文档 > 产品文档 > CockroachDB 云数据库 > 产品描述 开源NewSQL – CockroachDB在百度内部的应用与实践 嘉宾演讲视频及PPT回顾:http://suo.im/5bnORh ...

miaojiangmin
昨天
2
0
I2C EEPROM驱动实例分析

上篇分析了Linux Kernel中的I2C驱动框架,本篇举一个具体的I2C设备驱动(eeprom)来对I2C设备驱动有个实际的认识。 s3c24xx系列集成了一个基于I2C的eeprom设备at24cxx系列。at24cxx系列芯片包...

yepanl
昨天
3
0
设计模式之工厂模式

本篇博文主要翻译这篇文章: https://www.journaldev.com/1392/factory-design-pattern-in-java 由于翻译水平有限,自认为许多地方翻译不恰当,欢迎各位给出宝贵的建议,建议大家去阅读原文。...

firepation
昨天
11
0

中国龙-扬科
昨天
6
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部