文档章节

t-io 和 Voovan 并发性能测试

愚民日记
 愚民日记
发布于 2017/06/29 12:04
字数 1507
阅读 1628
收藏 5

前段时间写了有篇有关并发框架的文章《Netty、t-io、Voovan 框架浅谈》得到了大家不少的关注, 与此同时《Netty与Voovan并发性能对比》的留言中有位朋友希望将 Voovan 和 t-io 进行一个性能测试:

    @spyv23提到希望我做一个 t-io 和 Voovan 的并发性能测试的比对,应这位朋友的要求我决定这次就来测一把。

    有些同学可能也更好奇 Voovan 和 Netty 的性能对比可以参考《Netty与Voovan并发性能对比》这篇文章。

=============================2017-07-20 最新测试结果===========================

测试环境为发生任何变更依旧是那台陪我战斗过无数的 MacBook Pro.

主要优化了并发情况下的锁处理的机制,以及在服务端Accept 时的性能优化.

这次测试结果实在预热5次后的数据,可以对比6月28日测试结果中 5-10次的记录数据:

测试效果截图如下:

=============================2017-06-28 测试结果===========================

一、主机环境

    首先老规矩说明一下测试的主机:

我的 MacBookPro, 测试时关闭的所有无关的其他软件。

 

二、测试方法描述:

    场景选择: 模拟 HTTP 服务

    为什么选择这种测试场景:

          首先 HTTP 服务是大家比较常见的服务场景,其次基于 WEB 的性能测试工具也比较多,而且成熟,由测试工具对于测试结果带来的影响也相对较少。

    为避免自己编码的压测工具带来各种风险,同时也为了使测试结果更加公平、真实、可信。测试方法如下:

          1. 使用 ab (Apache bench)进行压力测试 

         2. Voovan 和 t-io 两个框架分别模拟 Http 服务,在接受到 HTTP 请求后不进行解析,直接返回相同的 Http 响应后关闭连接。

         3. 每次响应都关闭连接,保证不会因 HTTP 的 KeepAlive 头带来的长连接影响测试结果的准确性。

 

三、测试代码

    由于代码我都同步到了 Git@OSC,这里我就放上代码连接。

    Tio:

        TioServer.java                             主类并包含了业务处理类

    Voovan:

        AioServerSocketBenchTest.java     主类

        StringFilter.java                            将 Bytebuffer转换成

        LineMessageSplitter.java               用于判断报文结束,通过换行

        ServerBenchHandlerTest.java         业务处理类,返回请求报文

启动服务命令并未增加任何参数调优,使用 java 启动时均使用的是 jvm 的默认参数设置。

 

四、测试脚本

    ab -c 50 -n 2000 http://127.0.0.1:28080/test/ |grep "Requests per second"

    在测试过程中发现对 t-io 调整参数到 -c 100 的时候会出现这个问题

    

    经过测试发现 Voovan 和 Netty 在调整参数到 -c 100 都能够正常响应,所以最终将参数设定为 -c 50 

    具体以原因并未深究,不知道在其他操作系统是否也会出现类似的问题。

 

五、结果分析   

    下面我们来看一下测试结果:

    首先来一个线条图方便大家更直观的观察结果:

        

    接下来我们来看看统计数据:

        

从上面的统计结果看经过15次,在第9次的时候 t-io 出现了一次 full GC 导致了较明显的 GC 停顿。

推测具体原因在之前的分析文章中提到过,极有可能是因为 Voovan 使用了对外内存有效的延缓了 full GC出现的时间,那么在有限的时间里总体来看减少了 full GC 的次数。

  • 另外在性能上我们也看到 累计15次下来

            Voovan 合计QPS 量为 9.0w

            t-io 合计 QPS 量为7.3w.

  • 统计15次测试结果后的数据平均下来:

            Voovan 的 QPS 为: 6013,

            t-io 的 QPS 量为 4925.

  • 同时也考虑导去除 GC 导致的停顿的记录的统计结果,也就是去除第9次的结果后:

            Voovan 的 QPS 为: 6132

            t-io 的 QPS 量为 5270.

  • 总的请求量为: 15*2000 = 30000

            Voovan 累计用时: 11s 

            t-io 累计用时: 34s

  • 去除 GC 导致的停顿的记录,也就是去除第9次的结果后,总请求量: 14*2000 = 28000

            Voovan 累计用时: 11s 

            t-io 累计用时: 14s

 

六、内存使用情况对比

有很多个朋友更关注 Voovan 和 t-io 对内存使用的情况:

为了不等待第一次 GC 的发生,因为 GC 会严重干扰内存使用情况的评估,所以必须在一次 full gc 前取得数据,我们采用连续5次执行。

     ab -c 50 -n 2000 http://127.0.0.1:28080/test/ |grep "Requests per second" 共计发起 1w 个请求

下面我们来通过 jvm-mon来观察堆内存的使用情况:

下图是 Voovan 的堆内存消耗情况:

下图是 t-io 的堆内存消耗情况:

可以看到:

  • Voovan 在响应1w 个请求后堆内存的消耗为12.7m,申请的最大堆内存为129m,为 jvm 默认分配的数值。
  • t-io 在响应1w 个请求后堆内存的消耗为42.3m, 申请的最大堆内存为163.1m。说明曾经在运行过程突破过 jvm 阀值,JVM 增加了堆内存的分配到163.1m。

     综合来看我认为 Voovan 在内存管理上相比较还是比较理想的。

=============================本次测试结果仅共各位参考===========================

多说一点点...点...点.....

由于 t-io 是长连接场景,所以可能优化的方向不同,导致了一个这样的测试结果。

关于 t-io 的长连接场景的测试,相关的博客 https://my.oschina.net/u/2369298/blog/915435

下面附上一些我个人之前相关的性能测试文章:

        《Voovan 参照 Jetty 的性能测试》

        《Netty与Voovan并发性能对比》

        《Netty、t-io、Voovan 框架浅谈》

© 著作权归作者所有

共有 人打赏支持
愚民日记
粉丝 69
博文 9
码字总数 14581
作品 4
乌鲁木齐
后端工程师
私信 提问
加载中

评论(1)

蒲池幸子
蒲池幸子
好。正在使用这个框架。
Voovan v2.0.2,高性能异步通信框架和工具库

VOOVAN 开源项目介绍 Voovan 是一个高性能异步网络框架和 HTTP 服务器框架,同时支持 HTTP 采集、动态编译支持、数据库访问封装以及 DateTime、String、Log、反射、对象工具、流操作、文件操...

愚民日记
2017/06/30
1K
12
Voovan 参照 Jetty 的性能测试,中国框架一样很优秀

Voovan是一个综合框架,当然也有他的主打内容,今天,对就是今天,在这里给各位看官汇报一下他的并发测试能力. 测试对象:Voovan WebServer / Jetty9 测试工具: Apache bench (ab) Voovan WebSer...

愚民日记
2017/01/04
1K
2
t-io 1.7.1 发布:不仅仅是百万级 TCP 长连接框架

t-io 目标提升 不仅仅是百万级TCP长连接框架,这是t-io的第三个目标了,前两个都已实现。 目标先定下来,逐步实现,当年吹过的牛,大都含着泪完成了 要往短连接方面扩展 支持更多的传输层协议...

talent-tan
2017/07/03
6.6K
67
Voovan V1.0-alpah-2 发布,并发性能大幅度提升

Voovan V1.0-alpah-2 发布l了,本次版本以Socket 异步通信的性能优化为主,经过1个多月的分析\优化\调试等工作,目前基于 Voovan 异步通信框架的 HTTP 服务的并发能力已经达到了 Jetty 并发的水...

愚民日记
2016/07/01
1K
4
Voovan V1.0-RC-1 发布,持续优化性能和稳定性

经过近两个月的不泄努力,Voovan 终于到达了 RC 版本,距离正式版本的发布已经很近了。 本次更新带来47项优化、bug 修复、新增等内容。 本次更新主要对异常进行了修复,并且重点优化了 JSON 和 ...

愚民日记
2017/02/08
717
1

没有更多内容

加载失败,请刷新页面

加载更多

[springBoot系列]--springBoot注解大全

一、注解(annotations)列表 @SpringBootApplication:包含了@ComponentScan、@Configuration和@EnableAutoConfiguration注解。其中@ComponentScan让spring Boot扫描到Configuration类并把它加......

Jack088
14分钟前
0
0
tomcat编译超过64k大小的jsp文件报错原因

  今天遇到一个问题,首先是在tomcat中间件上跑的web项目,一个jsp文件,因为代码行数实在是太多了,更新了几个版本之后编译报错了,页面打开都是报500的错误,500的报错,知道http协议返回...

SEOwhywhy
36分钟前
4
0
flutter http 请求客户端

1、pubspec文件管理Flutter应用程序的assets(资源,如图片、package等)。 在pubspec.yaml中,通过网址“https://pub.dartlang.org/packages/http#-installing-tab-”确认版本号后,将http(0...

渣渣曦
36分钟前
1
0
Django基本命令及moduls举例

一、Django基本命令 1.创建项目 django-admin.py startproject mysite 创建后的项目结构:- mysite - mysite #对整个程序进行配置 - init #导入包专用- settings ...

枫叶云
51分钟前
7
0
zabbix安装

rpm -ivh http://repo.webtatic.com/yum/el6/latest.rpm 安装jdk rpm -ivh (自行在网上下载rpm包) 安装php并修改相应参数 yum -y install php56w php56w-gd php56w-mysqlnd php56w-bcmath......

muoushi
52分钟前
4
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部