文档章节

nginx+lua构建高性能web服务器

夜魅三角湾-牛魔王
 夜魅三角湾-牛魔王
发布于 2017/02/16 17:09
字数 2354
阅读 206
收藏 1
点赞 0
评论 1

最近由于工作需要,对服务端进行研究细化学习,解决web服务器的痛点,经过提示最终确定用openresty来构建web服务器,利用lua本身的一些特性、轻量级。易扩展,解决网络阻塞,其实它本身就是一个web服务器,在这个基础上可以做很多定制需求,做反向代理、负载均衡,利用本身的第三方服务器解决一些性能的缺陷,提高网络的吞吐量,废话不多说,开始。

介绍:

OpenResty ™ 是一个基于 Nginx 与 Lua(让子弹飞,飞一样的感觉) 的高性能 Web 平台,其内部集成了大量精良的 Lua 库、第三方模块以及大多数的依赖项。用于方便地搭建能够处理超高并发、扩展性极高的动态 Web 应用、Web 服务和动态网关。

OpenResty 通过汇聚各种设计精良的 Nginx 模块(主要由 OpenResty 团队自主开发),从而将 Nginx 有效地变成一个强大的通用 Web 应用平台。这样,Web 开发人员和系统工程师可以使用 Lua 脚本语言调动 Nginx 支持的各种 C 以及 Lua 模块,快速构造出足以胜任 10K 乃至 1000K 以上单机并发连接的高性能 Web 应用系统。

目标是让你的Web服务直接跑在 Nginx 服务内部,充分利用 Nginx 的非阻塞 I/O 模型,不仅仅对 HTTP 客户端请求,甚至于对远程后端诸如 MySQL、PostgreSQL、Memcached 以及 Redis 等都进行一致的高性能响应。

支持组件:

 lua-resty-memcached

 lua-resty-mysql

 lua-resty-redis

 lua-resty-dns

 lua-resty-limit-traffic

 lua-resty-template

还有很多,有兴趣可以到官网了解更多的组件。

openresty前提安装nginx和相关的服务:

(1、nginx 必须安装 

其中依赖包有:pcre gcc  openssl 必须安装,这些组件必须完全安装完以后才能安装openrestry即可。

注意:pcre 和openssl需要到官网下载自行编译安装 ./configure make && make install,后期可能会用到lua的组件安装方式。

 

(2.zlib安装安装 

也可以用自行的安装方法进行:sudo apt-get install nginx 安装完成以后 ,查看ps -ef|grep nginx 查看服务是否启动。 完成安装

(3、lua安装扩展: sudo apt-get install libreadline6 libreadline6-dev  build-essential 注意如果安装5.1选择安装libreadline5即可

apt-get install libreadline-dev libncurses5-dev libpcre3-dev  libssl-dev perl make build-essential

(4lua安装。确认已经安装和少年宫

特点:

nginx衍生版本,支持多组件支持,纯C编写

解决网络阻塞、跨平台调用

支持mysql、redis连接池应用

并发网络请求数据处理

根据需求自身服务架构定制自身需求,扩展lua组件开发

 

扩展组件安装,由于后续编译openresy需要用相关模块,不然会出现编译失败的问题,根据需要自行安装:
libreadline-dev libncurses5-dev libpcre3-dev libssl-dev perl build-essential  gcc  openssl

 

安装lua扩展组件,调用后端服务会用到lua模块:

curl -R -O http://www.lua.org/ftp/lua-5.1.0.tar.gz
tar zxf lua-5.3.0.tar.gz
cd lua-5.3.0
make linux test
make install

这里推荐用5.1,官方的版本也是用5.1做,低版本或高版本可能会引起不必要的编译问题导致安装出问题。

 

luajit安装:

wget http://luajit.org/download/LuaJIT-2.0.4.tar.gz
tar zxvf LuaJIT-2.0.4.tar.gz
cd LuaJIT-2.0.4
make && sudo make install

重点说明下:lua和luajit都是openresry需要编译运行lua环境的重要组件,缺一不可,后续会在配置nginx.conf中用到此模块,所以需要保证这两个模块正常安装上。nginx编译:

由于利用openresry需要用到ngx_devel_kit和lua-nginx-module的相关模块,此模块会在加载nginx同时load进去,所以需要自行下载安装重新编译:

wget https://github.com/simpl/ngx_devel_kit/archive/v0.3.0.tar.gz

wget  https://github.com/openresty/lua-nginx-module/archive/v0.10.7.tar.gz

下载完成以后,找到一个需要放置的目录的,我的目录在:/usr/local下.

由于上面的是nginx的扩展lua支持的组件,需要重新编译nginx,可以根据需要重新编译nginx.

nginx -V查看nginx的扩展模块,没有的话就把这两个编译进去,加到扩展模块中,运行下面的命令:

./configure --prefix=/opt/openresty/nginx \    #nginx的安装路径 

--add-module=/path/to/ngx_devel_kit \   #ngx_devel_kit 的源码路径 
--add-module=/path/to/lua-nginx-module  #nginx_lua_module 的源码路径

 

安装oepnresty:

wget https://openresty.org/download/openresty-1.11.2.1.tar.gz

tar -xzvf openresty-1.11.2.1.tar.gz
cd openresty-1.11.2.1.tar.gz
./configure --prefix=/opt/openresty \ ###指定安装openrestry的路径
            --with-luajit \ ##安装的同事指定luajit扩展
            --without-http_redis2_module \ 默认没有开启http_redis服务
            --with-http_iconv_module \ #开启http_iconv组件服务
            --with-http_postgres_module #开启post接受数据服务

此时openrestry安装完成,重启openrestry对应的nginx服务:

/opt/openresty/nginx/sbin/nginx -c /opt/openresty/nginx/conf/nginx.conf

查看nginx进程:

ps -aux|grep nginx 

为了后期持续方便启动(修改lua配置会重复服务),建立软连接:
ln -s /opt/openresty/nginx/sbin/nginx  /usr/sbin/nginx

=============================================================================[编辑]

本次主要涉及对nginx的截流说明,通过openrestry服务复用nginx改写req_limit模块和conn_limit模块。其中,openresty封装了luajit插件集成了limit_req和limit_conn的应用,我们可以很方便进行调用和规则重写机制,针对特定的请求做连接请求数限制和流量限制数。

两者的区别,针对限流需要用到的组件:

limit_req:通过令牌桶原理来限制 用户的连接频率,提供请求的速率限制和调整的基础上的“漏桶”的方法。(这个模块允许你去限制单个地址 指定会话或特殊需要 的请求数 )

conn_limit: 功能是限制一个客户端的并发连接数。(这个模块可以限制单个地址 的指定会话 或者特殊情况的并发连接数),常用来做限制客户端并发连接数量。

limit.traffic:提供一个聚合器将多个实例的resty.limit.req或resty.limit.conn类,组合limit_req和conn_limit联合使用。


一个是限制并发连接,一个是限制连接频率,功能都能实现截流,在实现和表现方式上略有不同。

关于,连接和请求这里面有一个比较完整的解释,可以看下:

http://www.myhack58.com/Article/60/63/2014/50072.htm

应用过程中遇到的一个坑,就是每次nginx加载lua-resty-limit-traffic组件(此服务包含了req和conn的实现)会直接报500错误,经过排查知道官方的提供的对limit模块的加载扩展路径不正确,需要自行下载此插件或修改路径:

加载过程中默认的是:restry.limit.req,注意防止的路径:./oprestry/lualib/restry/limit这样才能加载进去,不会nginx会报错。

解决nginx加载req 500错误的方法:

将下载下来得lua-resty-limit-traffic解压。

tar -zxvf lua-resty-limit-traffic-xx.tar.gz 

mv ./lua-resty-limit-traffic-xx/?/limit/* /opt/openresty/lualib 保持和openresty放在同一目录,加载lua框架会用到。

解决:上述nginx服务500的错误。 

说明:

local limit_req = require "resty.limit.req" 对应引用restry中的限流模块中req服务.对应会找 ====》 /opt/openresty/lualib/resty/limit/req.lua

 

nginx.conf加载对应lualib扩展:

lua_package_path "/opt/openresty/lualib/?.lua;;"; 
lua_package_cpath "/opt/openresty/lualib/ ?.so;;";

加上以后重启nginx,如果没有报错验证加载成功,可以继续对当前服务做扩展。

nginx.conf加载截流配置

1.速率限制策略:

location /{
    access_lua_block{
        local limit_req = require "resty.limit.req"
    -- 限制请求速率为200 req/sec,并且允许100 req/sec的突发请求
    -- 就是说我们会把200以上300一下的请求请求给延迟
    -- 超过300的请求将会被拒绝
    local lim, err = limit_req.new("my_limit_req_store", 1, 1)
    if not lim then --申请limit_req对象失败
    ngx.log(ngx.ERR,
           "failed to instantiate a resty.limit.req object: ", err)
        return ngx.exit(500)
       end
    -- 下面代码针对每一个单独的请求
    -- 使用ip地址作为限流的key
    local key = ngx.var.binary_remote_addr
    local delay, err = lim:incoming(key, true)
    if not delay then
        if err == "rejected" then
            return ngx.exit(503)
        end
    ngx.log(ngx.ERR, "failed to limit req: ", err)
        return ngx.exit(500)
    end
    if delay >= 0.001 then
            local excess = err
                  ngx.sleep(delay)
    end
    }
}

2.锁限制访问频率:

ocal locks = require "resty.lock" --lock模块
local limit = 3 --限流大小,申请限流的大小
local function acquire()
if limit <= 0 then
return 0
end
local lock = locks:new("locks")
local elapsed, err = lock:lock("limit_key") --互斥锁
local limit_counter = ngx.shared.limit_counter #限流计数器
local key = "ip" .. os.time()
local current = limit_counter:get(key) #申请当前访问的key作为限流的根据去做验证
if current ~= nil and current + 1 > limit then #一旦如果超出限流大小
    lock:unlock()
    return 0
end
if current == nil then
    limit_counter:set(key, 1, 1) --第一次需要设置过期时间,设置key的值为1,过期时间为1秒
else
    limit_counter:incr(key, 1) --第二次开始递增加1
end
lock:unlock()
return 1
end

local rev = acquire()
ngx.log(ngx.ERR, rev)
if rev ~= 1 then
ngx.say("限流了")
else
ngx.say("访问成功")
en

这里是利用lua的扩展对nginx做的限流配置,此外lua还可以做很多高并发、阻塞、json应用,有兴趣的可以自己尝试体验下,可以在实际应用中解决在远程后端诸如 MySQL、PostgreSQL、Memcached 以及 Redis的扩展开发,提高系统的并发量。

 

© 著作权归作者所有

共有 人打赏支持
夜魅三角湾-牛魔王
粉丝 3
博文 4
码字总数 5806
作品 0
朝阳
高级程序员
加载中

评论(1)

夜魅三角湾-牛魔王
夜魅三角湾-牛魔王
欢迎大家吐槽
三流程序员与一流程序员之间的区别,看看你是属于哪一类?

源码系列 手写spring mvc框架 基于Spring JDBC手写ORM框架 实现自己的MyBatis Spring AOP实战之源码分析 Spring IOC高级特性应用分析 ORM框架底层实现原理剖析 手写Spring MVC框架实现 手把手...

茶轴的青春 ⋅ 04/17 ⋅ 0

使用Nginx+Lua进行Web开发

Nginx ("engine x") 是一个高性能的HTTP和反向代理服务器,也是一个IMAP/POP3/SMTP服务器。因它的稳定性、丰富的功能集、示例配置文件和低系统资源的消耗而闻名。Lua由标准C编写而成,几乎在...

醉人的笑容你有没有 ⋅ 2016/04/17 ⋅ 0

使用Nginx+Lua(OpenResty)开发高性能Web应用

Nginx+Lua(OpenResty)开发高性能Web应用 使用Nginx+Lua(OpenResty)开发高性能Web应用 在互联网公司,Nginx可以说是标配组件,但是主要场景还是负载均衡、反向代理、代理缓存、限流等场景;而...

oldgril ⋅ 2017/02/27 ⋅ 0

51CTO专访清无:Nginx_lua的应用及性能对比

51CTO专访清无:Nginxlua的应用及性能对比 2012-07-13 10:57 小林 51CTO.com 字号:T | T 对于Web高性能服务器上的选择,这个是很多人头痛的问题。对于Apache、lighttpd、Nginx都用他们优点,...

epiclight ⋅ 2015/06/01 ⋅ 0

使用Nginx+Lua(OpenResty)开发高性能Web应用

使用Nginx+Lua(OpenResty)开发高性能Web应用 博客分类: 跟我学Nginx+Lua开发 架构 ngxluaopenresty 在互联网公司,Nginx可以说是标配组件,但是主要场景还是负载均衡、反向代理、代理缓存、...

fdhay ⋅ 2016/08/31 ⋅ 0

Java开发者不会这些永远都只能是三流程序员,细数一下你是不是?

源码系列 手写spring mvc框架 基于Spring JDBC手写ORM框架 实现自己的MyBatis Spring AOP实战之源码分析 Spring IOC高级特性应用分析 ORM框架底层实现原理剖析 手写Spring MVC框架实现 手把手...

美的让人心动 ⋅ 04/16 ⋅ 0

用Nginx+Lua(OpenResty)开发高性能Web应用

在互联网公司,Nginx可以说是标配组件,但是主要场景还是负载均衡、反向代理、代理缓存、限流等场景;而把Nginx作为一个Web容器使用的还不是那么广泛。Nginx的高性能是大家公认的,而Nginx开...

长征2号 ⋅ 2017/08/30 ⋅ 0

使用Nginx+Lua(OpenResty)开发高性能Web应用

一、ngx_lua简介 1 、Nginx 优点 Nginx设计为一个主进程多个工作进程的工作模式,每个进程是单线程来处理多个连接,而且每个工作进程采用了非阻塞I/O来处理多个连接,从而减少了线程上下文切...

DB_Terrill ⋅ 2016/10/26 ⋅ 0

用 Nginx + Lua(OpenResty) 开发高性能 Web 应用

原文出处:张开涛 在互联网公司,Nginx可以说是标配组件,但是主要场景还是负载均衡、反向代理、代理缓存、限流等场景;而把Nginx作为一个Web容器使用的还不是那么广泛。Nginx的高性能是大家...

张开涛 ⋅ 2016/08/18 ⋅ 0

《亿级流量网站架构核心技术》目录一览

举报   在2011年年底的时候笔者就曾规划写一本Spring的书,但是因为是Spring入门类型的书,框架的内容更新太快,觉得还是写博客好一些,因此就把写完的书稿放到了博客(jinnianshilongnia...

jinjiang2009 ⋅ 2017/03/14 ⋅ 0

没有更多内容

加载失败,请刷新页面

加载更多

下一页

Spring发展历程总结

转自与 https://www.cnblogs.com/RunForLove/p/4641672.html 目前很多公司的架构,从Struts2迁移到了SpringMVC。你有想过为什么不使用Servlet+JSP来构建Java web项目,而是采用SpringMVC呢?...

onedotdot ⋅ 17分钟前 ⋅ 0

Python模块/包/库安装(6种方法)

Python模块/包/库安装(6种方法) 冰颖机器人 2016-11-29 21:33:26 一、方法1: 单文件模块 直接把文件拷贝到 $python_dir/Lib 二、方法2: 多文件模块,带setup.py 下载模块包(压缩文件zip...

cswangyx ⋅ 37分钟前 ⋅ 0

零基础学习大数据人工智能,学习路线篇!系统规划大数据之路?

大数据处理技术怎么学习呢?首先我们要学习Python语言和Linux操作系统,这两个是学习大数据的基础,学习的顺序不分前后。 Python:Python 的排名从去年开始就借助人工智能持续上升,现在它已经...

董黎明 ⋅ 45分钟前 ⋅ 0

openJdk和sun jdk的区别

使用过LINUX的人都应该知道,在大多数LINUX发行版本里,内置或者通过软件源安装JDK的话,都是安装的OpenJDK, 那么到底什么是OpenJDK,它与SUN JDK有什么关系和区别呢? 历史上的原因是,Ope...

jason_kiss ⋅ 54分钟前 ⋅ 0

梳理

Redux 是 JavaScript 状态容器,提供可预测化的状态管理。 它是JS的状态容器,是一种解决问题的方式,所以即可以用于 react 也可以用于 vue。 需要理解其思想及实现方式。 应用中所有的 stat...

分秒 ⋅ 今天 ⋅ 0

Java 后台判断是否为ajax请求

/** * 是否是Ajax请求 * @param request * @return */public static boolean isAjax(ServletRequest request){return "XMLHttpRequest".equalsIgnoreCase(((HttpServletReques......

JavaSon712 ⋅ 今天 ⋅ 0

Redis 单线程 为何却需要事务处理并发问题

Redis是单线程处理,也就是命令会顺序执行。那么为什么会存在并发问题呢? 个人理解是,虽然redis是单线程,但是可以同时有多个客户端访问,每个客户端会有 一个线程。客户端访问之间存在竞争...

码代码的小司机 ⋅ 今天 ⋅ 0

到底会改名吗?微软GVFS 改名之争

微软去年透露了 Git Virtual File System(GVFS)项目,GVFS 是 Git 版本控制系统的一个开源插件,允许 Git 处理 TB 规模的代码库,比如 270 GB 的 Windows 代码库。该项目公布之初就引发了争...

linux-tao ⋅ 今天 ⋅ 0

笔试题之Java基础部分【简】【二】

1.静态变量和实例变量的区别 在语法定义上的区别:静态变量前要加static关键字,而实例变量前则不加。在程序运行时的区别:实例变量属于某个对象的属性,必须创建了实例对象,其中的实例变...

anlve ⋅ 今天 ⋅ 0

Lombok简单介绍及使用

官网 通过简单注解来精简代码达到消除冗长代码的目的 优点 提高编程效率 使代码更简洁 消除冗长代码 避免修改字段名字时忘记修改方法名 4.idea中安装lombnok pom.xml引入 <dependency> <grou...

to_ln ⋅ 今天 ⋅ 0

没有更多内容

加载失败,请刷新页面

加载更多

下一页

返回顶部
顶部