文档章节

tomcat nodejs nginx 对比分析

 严健龙
发布于 2014/11/04 14:29
字数 1558
阅读 380
收藏 3

    在互联网项目迅速膨胀的背景下,我们公司,一个传统的金融公司,也开始风风火火地开展互联网项目,最近被派到一个手机APP的项目做后台架构支持。首先面临一个问题就是如何选择一个合适的WEB中间件产品来满足高并发的场景,也就是要构建一个IO密集型的应用,而且还要面向手机客户端(低带宽)。

    在网上搜罗了一下相关的产品,主要就是tomcat,nodejs,nginx三种产品,但是对这三个产品从原理上对比分析的文章巨少无比,都是泛泛地做一个压力测试。

    先说一下我们公司的技术背景,我们公司技术都以JAVA为主,所以在选择WEB中间件的时候,我会以不改变公司基础技术为前提做选择,nodejs来佐证。

    首先我们有一个很关键的诉求,客户端是手机,而手机往往是低带宽的,我们需要先编程测试代码,模拟低带宽的场景,下面是我写的模拟低带宽的测试代码

package http.client;
 
import java.io.InputStream;
import java.io.PrintWriter;
import java.net.Socket;

public class BIOHttpClient {
	int taskAccount=1;
	static BIOHttpClient inst=new BIOHttpClient();
	public static void main(String args[]) { 
		inst.doTasksTest();
	}
	private void doTasksTest(){
		for(int i=0;i<taskAccount;i++ ){
			new RequestTask().start();
		}
	}
}

class RequestTask extends Thread{
	String host="localhost";
	int port=8080;
	public void run() { 
		this.doRequest(); 
	} 
	
	private void doRequest(){
		try {
			Socket socket=createNewSocket();  
			this.sendMsg(socket);
			//Thread.currentThread().sleep(10*1000);
			this.getResponseMsg(socket);
			socket.close(); // 关闭Socket 
		}catch (Exception e) { 
			throw new RuntimeException(e);
		}
	}
	
	private Socket createNewSocket()throws Exception{
		Socket socket= new Socket(host,port );// 向本机的端口发出客户请求
		socket.setReceiveBufferSize(1);//似乎不起作用。
		socket.setSendBufferSize(1);//似乎不起作用。
		System.out.println(this+"::客户端连接服务端成功!"  );
		return socket;
	}
	
	private void sendMsg(Socket socket)throws Exception{
		String postStr = "account=abc&password=123456789";
		int postStrLen = postStr.length();
		StringBuffer post = new StringBuffer("POST /test/test HTTP/1.1\r\n");
		post.append("Host: 127.0.0.1:8080\r\n");
		post.append("Accept: text/html\r\n");
		post.append("Connection: Close\r\n");
		post.append("Content-Length: " + postStrLen + "\r\n");
		post.append("Content-Type: application/x-www-form-urlencoded\r\n");
		post.append("\r\n");
		post.append(postStr);
		PrintWriter os = new PrintWriter(socket.getOutputStream());// 由Socket对象得到输出流,并构造PrintWriter对象
		os.println(post); 
		os.flush();// 刷新输出流,使Server马上收到该字符串
		System.out.println(this+"::send msg to server:" + post+"::"+System.currentTimeMillis() ); 
	}
	
	private void getResponseMsg(Socket socket)throws Exception{ 
		StringBuilder sb=new StringBuilder(); 
		InputStream reader = socket.getInputStream() ; // 由Socket对象得到输入流,并构造相应的BufferedReader对象
		int size=1;//通常是8K~64K,如果设置为1,则明显可以模拟低带宽。
		byte[] bs=new byte[size];//通过改变size来模拟低带宽读写。当size=1,且服务端数据量足够大(100万个字符以上),这样可以明显看到对BIOServer是有write阻塞的,但对NIOServer就不会阻塞。
		String tmp=null;
		while ( (reader.read(bs)) != -1) {//读完后会阻塞
			tmp=new String(bs).trim();
			if( tmp.lastIndexOf("#endflag#")>0 ){//为防止读完后,跳到循环阻塞住导致不退出循环,要求服务端必须返回特定字符作为双方结束通信的协议。
				break;
			}else{
				//Thread.currentThread().sleep(10);
				//System.out.println(tmp);
				sb.append(tmp); 
			} 
		}    
		System.out.println(this+"::get response msg from server,数据长度:"+sb.length()+"::"+System.currentTimeMillis() );  
	}
}

        通过控制读取的byte数组的长度来模拟低带宽,先通过这个测试代码来测试一下tomcat6,tomcat6默认配置采用的bio的模式来处理请求的,下面是服务端代码

package example;

import java.io.IOException;
import java.io.InputStream;

import javax.servlet.ServletException;
import javax.servlet.http.HttpServlet;
import javax.servlet.http.HttpServletRequest;
import javax.servlet.http.HttpServletResponse;

import org.apache.commons.io.IOUtils;

public class TestServlet extends HttpServlet {
	
	private byte[] data;
	
	public TestServlet(){
		try {
			InputStream in = this.getClass().getClassLoader().getResourceAsStream("data.txt");
			data = IOUtils.toByteArray(in);
			System.out.println("数据读取完毕");
		} catch (IOException e) {
			e.printStackTrace();
		}
	}

	@Override
	public void service(HttpServletRequest req, HttpServletResponse resp)
			throws ServletException, IOException {
		long start = System.currentTimeMillis();
		resp.getOutputStream().write(data);
		resp.getOutputStream().flush();
		System.out.println(Thread.currentThread() + "写数据结束 ,回写的数据长度为:" + data.length);
		System.out.println("use time : " + (System.currentTimeMillis() - start));
	}
	
}

    在byte数组长度设置为1的时候,服务端回写数据(数据大小为5M)耗时为7944毫秒,当byte数组长度设置为1024的时候,耗时为167毫秒,也就是说,tomcat在bio模式下,处理客户端为低带宽的场景的能力是非常糟糕的!tomcat的bio模式是传统中间件的一类代表,正由于这类阻塞式的IO模式的设计,导致这类中间件无法满足互联网高并发请求的需求。在高并发场景需求的驱动下,java nio 诞生了,对于java nio封装实现较好的产品有netty和mina两个产品,但是很遗憾,这两个产品不算一个完整WEB中间件,所以这里我就不做详细讨论了。通过寻找tomcat的官方文档,发现tomcat6以后,可以通过修改connector的协议配置,能支持nio模式。发现新大陆,麻烦修改配置测试之!修改配置如下。

     <Connector port="8080" protocol="org.apache.coyote.http11.Http11NioProtocol" 
               executor="tomcatThreadPool"
               connectionTimeout="20000" 
               redirectPort="8443" 
               />

    非常遗憾,测试结果是byte数组长度为1时耗时为8413毫秒,长度为1024时,耗时为2190。what!不是nio了么?继续查看tomcat官方文档以及源码,发现这个tomcat6的nio是伪nio,因为它在读写io的时候仍然采用的blocking的方式的,下面附上tomcat官网上的对比说明图。

        继续寻找,发现真正实现异步IO的产品有三个,tomcat6.x/tomcat7.x+nginx,tomcat8.x(servlet3.1),nodejs。针对这三个产品做测试,测试数据如下


tomcat6 bio(tomcat6不支持 nio技术) tomcat6 bio + nginx Nodejs tomcat8 nio
低带宽场景 7944毫秒 147毫秒 111毫秒 78毫秒
正常带宽场景 167毫秒 141毫秒 118毫秒 32毫秒

    从测试数据就可以看到,在低带宽场景下,传统的中间件的处理能力是远远小于其它三个产品。这组测试数据只是想证明后面三个产品是真正实现异步IO的。对于产品的选择,个人意见是如果你们的技术平台已经背负了沉重的java的历史包袱,那就选择在已有的WEB中间件前增加代理服务器nginx,如果是新的项目,则采用tomcat8的servlet3.1来实现。仅仅在处理异步IO上,三个产品都差不多,没有哪个最好,只有哪个更适合。

© 著作权归作者所有

粉丝 2
博文 1
码字总数 1558
作品 0
深圳
私信 提问
tomcat、netty以及nodejs的helloworld性能对比

最近闲来无事,对tomcat、netty以及nodejs的性能对比比较有兴趣,于是自行测试了一下。 测试环境: 测试工具:Apache JMeter2.9 测试代码: tomcat下的jsp: <%@page language="java" conten...

longrmlife
2013/04/05
0
20
Nginx怎么挂两个不同的应用服务器?

原来跑的是Tomcat,现在要把项目渐渐迁移到Nodejs上来,Tomcat暂时留着慢慢替换掉。 所以准备用Nginx做服务器,然后反向代理Tomcat和Nodejs(用Express),因为原来的Web服务是挂在Tomcat上,...

jun4rui
2015/05/04
708
3
Deno 兼容浏览器具体指的是什么?

Deno 里面有一句描述:"Aims to be browser compatible",可以看到 Deno 的目标是兼容浏览器。那么这里的兼容浏览器到底如何是什么意思呢? 我简单谈谈我的理解吧。 首先这里的兼容性肯定不是...

justjavac
2018/07/03
0
0
巨头终极对决,Apache、Nginx 与 Node.js 之争

巨头之间的终极对决:崛起的新星 Node.js 能否战胜巨人 Apache 和 Nginx?WordPress 与 Ghost 的性能大对决! 我和你一样,都阅读过大量散布在互联网各处的意见或事实,其中有一些我认为是可...

局长
2016/12/02
9.8K
37
5个提高Node.js应用性能的技巧

“如果你的 node 服务器前面没有 nginx, 那么你可能做错了。”— Bryan Hughes Node.js 是使用 最流行的语言— JavaScript 构建服务器端应用的领先工具 。由于可以同时提供 web 服务器和应用...

力谱宿云
2016/04/14
350
0

没有更多内容

加载失败,请刷新页面

加载更多

Jenkins系列_插件安装及报错处理

进入Jenkins之后我们可以进行插件的安装,插件管理位于以下模块: 发现上面报了一堆错误,是因为插件的依赖没有安装好,那么这一节,就先把这些错误解决掉吧。解决完成后,也就基本会使用插件...

shzwork
今天
2
0
mysql mysql的所有查询语句和聚合函数(整理一下,忘记了可以随时看看)

查询所有字段 select * from 表名; 查询自定字段 select 字段名 from 表名; 查询指定数据 select * from 表名 where 条件; 带关键字IN的查询 select * from 表名 where 条件 [not] in(元素...

edison_kwok
昨天
8
0
多线程同时加载缓存实现

import com.google.common.cache.Cache;import com.google.common.cache.CacheBuilder;import java.util.concurrent.ExecutionException;import java.util.concurrent.ExecutorServi......

暗中观察
昨天
2
0
利用VisualVM 内存查看

准备工作,建几个测试类。等下就是要查看这几个类里面的属性 package visualvm;public class MultiObject { private String str; private int i; MultiObject(String str...

冷基
昨天
2
0
组装一台工作游戏两用机

一、配置清单如下: 分类 项目 价格(元) 主板 华硕(ASUS)TUF Z370-PLUS GAMING II 电竞特工 Z370二代 支持9代CPU 1049 CPU 英特尔(Intel) i7 8700K 酷睿六核 盒装CPU处理器 2640 风扇 九...

mbzhong
昨天
4
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部