文档章节

t-io 和 Voovan 并发性能测试

愚民日记
 愚民日记
发布于 2017/06/29 12:04
字数 1507
阅读 1318
收藏 5
点赞 2
评论 1

前段时间写了有篇有关并发框架的文章《Netty、t-io、Voovan 框架浅谈》得到了大家不少的关注, 与此同时《Netty与Voovan并发性能对比》的留言中有位朋友希望将 Voovan 和 t-io 进行一个性能测试:

    @spyv23提到希望我做一个 t-io 和 Voovan 的并发性能测试的比对,应这位朋友的要求我决定这次就来测一把。

    有些同学可能也更好奇 Voovan 和 Netty 的性能对比可以参考《Netty与Voovan并发性能对比》这篇文章。

=============================2017-07-20 最新测试结果===========================

测试环境为发生任何变更依旧是那台陪我战斗过无数的 MacBook Pro.

主要优化了并发情况下的锁处理的机制,以及在服务端Accept 时的性能优化.

这次测试结果实在预热5次后的数据,可以对比6月28日测试结果中 5-10次的记录数据:

测试效果截图如下:

=============================2017-06-28 测试结果===========================

一、主机环境

    首先老规矩说明一下测试的主机:

我的 MacBookPro, 测试时关闭的所有无关的其他软件。

 

二、测试方法描述:

    场景选择: 模拟 HTTP 服务

    为什么选择这种测试场景:

          首先 HTTP 服务是大家比较常见的服务场景,其次基于 WEB 的性能测试工具也比较多,而且成熟,由测试工具对于测试结果带来的影响也相对较少。

    为避免自己编码的压测工具带来各种风险,同时也为了使测试结果更加公平、真实、可信。测试方法如下:

          1. 使用 ab (Apache bench)进行压力测试 

         2. Voovan 和 t-io 两个框架分别模拟 Http 服务,在接受到 HTTP 请求后不进行解析,直接返回相同的 Http 响应后关闭连接。

         3. 每次响应都关闭连接,保证不会因 HTTP 的 KeepAlive 头带来的长连接影响测试结果的准确性。

 

三、测试代码

    由于代码我都同步到了 Git@OSC,这里我就放上代码连接。

    Tio:

        TioServer.java                             主类并包含了业务处理类

    Voovan:

        AioServerSocketBenchTest.java     主类

        StringFilter.java                            将 Bytebuffer转换成

        LineMessageSplitter.java               用于判断报文结束,通过换行

        ServerBenchHandlerTest.java         业务处理类,返回请求报文

启动服务命令并未增加任何参数调优,使用 java 启动时均使用的是 jvm 的默认参数设置。

 

四、测试脚本

    ab -c 50 -n 2000 http://127.0.0.1:28080/test/ |grep "Requests per second"

    在测试过程中发现对 t-io 调整参数到 -c 100 的时候会出现这个问题

    

    经过测试发现 Voovan 和 Netty 在调整参数到 -c 100 都能够正常响应,所以最终将参数设定为 -c 50 

    具体以原因并未深究,不知道在其他操作系统是否也会出现类似的问题。

 

五、结果分析   

    下面我们来看一下测试结果:

    首先来一个线条图方便大家更直观的观察结果:

        

    接下来我们来看看统计数据:

        

从上面的统计结果看经过15次,在第9次的时候 t-io 出现了一次 full GC 导致了较明显的 GC 停顿。

推测具体原因在之前的分析文章中提到过,极有可能是因为 Voovan 使用了对外内存有效的延缓了 full GC出现的时间,那么在有限的时间里总体来看减少了 full GC 的次数。

  • 另外在性能上我们也看到 累计15次下来

            Voovan 合计QPS 量为 9.0w

            t-io 合计 QPS 量为7.3w.

  • 统计15次测试结果后的数据平均下来:

            Voovan 的 QPS 为: 6013,

            t-io 的 QPS 量为 4925.

  • 同时也考虑导去除 GC 导致的停顿的记录的统计结果,也就是去除第9次的结果后:

            Voovan 的 QPS 为: 6132

            t-io 的 QPS 量为 5270.

  • 总的请求量为: 15*2000 = 30000

            Voovan 累计用时: 11s 

            t-io 累计用时: 34s

  • 去除 GC 导致的停顿的记录,也就是去除第9次的结果后,总请求量: 14*2000 = 28000

            Voovan 累计用时: 11s 

            t-io 累计用时: 14s

 

六、内存使用情况对比

有很多个朋友更关注 Voovan 和 t-io 对内存使用的情况:

为了不等待第一次 GC 的发生,因为 GC 会严重干扰内存使用情况的评估,所以必须在一次 full gc 前取得数据,我们采用连续5次执行。

     ab -c 50 -n 2000 http://127.0.0.1:28080/test/ |grep "Requests per second" 共计发起 1w 个请求

下面我们来通过 jvm-mon来观察堆内存的使用情况:

下图是 Voovan 的堆内存消耗情况:

下图是 t-io 的堆内存消耗情况:

可以看到:

  • Voovan 在响应1w 个请求后堆内存的消耗为12.7m,申请的最大堆内存为129m,为 jvm 默认分配的数值。
  • t-io 在响应1w 个请求后堆内存的消耗为42.3m, 申请的最大堆内存为163.1m。说明曾经在运行过程突破过 jvm 阀值,JVM 增加了堆内存的分配到163.1m。

     综合来看我认为 Voovan 在内存管理上相比较还是比较理想的。

=============================本次测试结果仅共各位参考===========================

多说一点点...点...点.....

由于 t-io 是长连接场景,所以可能优化的方向不同,导致了一个这样的测试结果。

关于 t-io 的长连接场景的测试,相关的博客 https://my.oschina.net/u/2369298/blog/915435

下面附上一些我个人之前相关的性能测试文章:

        《Voovan 参照 Jetty 的性能测试》

        《Netty与Voovan并发性能对比》

        《Netty、t-io、Voovan 框架浅谈》

© 著作权归作者所有

共有 人打赏支持
愚民日记
粉丝 63
博文 9
码字总数 14581
作品 4
乌鲁木齐
后端工程师
加载中

评论(1)

蒲池幸子
蒲池幸子
好。正在使用这个框架。
Voovan v2.0.2,高性能异步通信框架和工具库

VOOVAN 开源项目介绍 Voovan 是一个高性能异步网络框架和 HTTP 服务器框架,同时支持 HTTP 采集、动态编译支持、数据库访问封装以及 DateTime、String、Log、反射、对象工具、流操作、文件操...

愚民日记 ⋅ 2017/06/30 ⋅ 11

Voovan 参照 Jetty 的性能测试,中国框架一样很优秀

Voovan是一个综合框架,当然也有他的主打内容,今天,对就是今天,在这里给各位看官汇报一下他的并发测试能力. 测试对象:Voovan WebServer / Jetty9 测试工具: Apache bench (ab) Voovan WebSer...

愚民日记 ⋅ 2017/01/04 ⋅ 2

t-io 1.7.1 发布:不仅仅是百万级 TCP 长连接框架

t-io 目标提升 不仅仅是百万级TCP长连接框架,这是t-io的第三个目标了,前两个都已实现。 目标先定下来,逐步实现,当年吹过的牛,大都含着泪完成了 要往短连接方面扩展 支持更多的传输层协议...

talent-tan ⋅ 2017/07/03 ⋅ 67

Voovan V1.0-alpah-2 发布,并发性能大幅度提升

Voovan V1.0-alpah-2 发布l了,本次版本以Socket 异步通信的性能优化为主,经过1个多月的分析优化调试等工作,目前基于 Voovan 异步通信框架的 HTTP 服务的并发能力已经达到了 Jetty 并发的水平...

愚民日记 ⋅ 2016/07/01 ⋅ 4

Voovan V1.0-RC-1 发布,持续优化性能和稳定性

经过近两个月的不泄努力,Voovan 终于到达了 RC 版本,距离正式版本的发布已经很近了。 本次更新带来47项优化、bug 修复、新增等内容。 本次更新主要对异常进行了修复,并且重点优化了 JSON 和 ...

愚民日记 ⋅ 2017/02/08 ⋅ 1

Voovan v1.0.beta.1 文档丰富/性能优异

Voovan 开源框架V1.0.beta.1发布 Voovan 框架和 Netty 以及 Mina 框架类似,同样是提供了异步通信的支持,但相比的不同是 Voovan 框架采用 Aio 和 Nio 模型,框架内部解决了日常开发一些常遇...

愚民日记 ⋅ 2016/09/07 ⋅ 0

Voovan v1.5 发布,高效堆外内存管理,性能不打折扣

经过不泄努力和无数轮对性能稳定性和功能的测试,Voovan 为您带来了全新的1.5版本.这是 Voovan 具有里程碑意义的版本,经过完成测试,并且已经在多个实际项目中大量的使用,其稳定性和高性能特...

愚民日记 ⋅ 2017/04/17 ⋅ 12

Voovan v2.0 发布,无依赖的AIO/NIO异步通信框架

Voovan 迎来了 2.0 新版本,此版本应广大使用者朋友们的要求将 Voovan 拆分成多个模块: Common模块: 集各种Java工具类于一身,提供JSON,运行时编译,反射,日志对象池,非堆缓冲通道,文件,字符串,...

愚民日记 ⋅ 2017/06/12 ⋅ 6

Voovan V1.5.3 发布,高性能异步通信框架和工具集

Voovan是一个高性能异步框架和工具集,提供基于 AIO/NIO 的高性能异步通信的支持,为您开发高并发的应用提供基石. Voovan 也附带一个精心设计和调优的 Web 服务器,最后 Voovan也包含众多的工具...

愚民日记 ⋅ 2017/06/01 ⋅ 8

系统吞吐量、TPS(QPS)、用户并发量、性能测试概念和公式

PS:下面是性能测试的主要概念和计算公式,记录下: 一.系统吞度量要素: 一个系统的吞度量(承压能力)与request对CPU的消耗、外部接口、IO等等紧密关联。单个reqeust 对CPU消耗越高,外部...

Q317075064 ⋅ 2016/11/08 ⋅ 0

没有更多内容

加载失败,请刷新页面

加载更多

下一页

PHP语言系统ZBLOG或许无法重现月光博客的闪耀历史[图]

最近在写博客,希望通过自己努力打造一个优秀的教育类主题博客,名动江湖,但是问题来了,现在写博客还有前途吗?面对强大的自媒体站点围剿,还有信心和可能型吗? 至于程序部分,我选择了P...

原创小博客 ⋅ 9分钟前 ⋅ 0

IntelliJ IDEA 2018.1新特性

工欲善其事必先利其器,如果有一款IDE可以让你更高效地专注于开发以及源码阅读,为什么不试一试? 本文转载自:netty技术内幕 3月27日,jetbrains正式发布期待已久的IntelliJ IDEA 2018.1,再...

Romane ⋅ 34分钟前 ⋅ 0

浅谈设计模式之工厂模式

工厂模式(Factory Pattern)是 Java 中最常用的设计模式之一。这种类型的设计模式属于创建型模式,它提供了一种创建对象的最佳方式。 在工厂模式中,我们在创建对象时不会对客户端暴露创建逻...

佛系程序猿灬 ⋅ 今天 ⋅ 0

Dockerfile基础命令总结

FROM 指定使用的基础base image FROM scratch # 制作base image ,不使用任何基础imageFROM centos # 使用base imageFROM ubuntu:14.04 尽量使用官方的base image,为了安全 LABEL 描述作...

ExtreU ⋅ 昨天 ⋅ 0

存储,对比私有云和公有云的不同

导读 说起公共存储,很难不与后网络公司时代的选择性外包联系起来,但尽管如此,它还是具备着简单和固有的可用性。公共存储的名字听起来也缺乏专有性,很像是把东西直接堆放在那里而不会得到...

问题终结者 ⋅ 昨天 ⋅ 0

C++难点解析之const修饰符

C++难点解析之const修饰符 c++ 相比于其他编程语言,可能是最为难掌握,概念最为复杂的。结合自己平时的C++使用经验,这里将会列举出一些常见的难点并给出相应的解释。 const修饰符 const在c...

jackie8tao ⋅ 昨天 ⋅ 0

聊聊spring cloud netflix的HystrixCommands

序 本文主要研究一下spring cloud netflix的HystrixCommands。 maven <dependency> <groupId>org.springframework.cloud</groupId> <artifactId>spring-clo......

go4it ⋅ 昨天 ⋅ 0

Confluence 6 从其他备份中恢复数据

一般来说,Confluence 数据库可以从 Administration Console 或者 Confluence Setup Wizard 中进行恢复。 如果你在恢复压缩的 XML 备份的时候遇到了问题,你还是可以对整个站点进行恢复的,如...

honeymose ⋅ 昨天 ⋅ 0

myeclipse10 快速搭建spring boot开发环境(入门)

1.创建一个maven的web项目 注意上面标红的部分记得选上 2.创建的maven目录结构,有缺失的目录可以自己建立目录补充 补充后 这时候一个maven的web项目创建完成 3.配置pom.xml配置文件 <proje...

小海bug ⋅ 昨天 ⋅ 0

nginx.conf

=========================================================================== nginx.conf =========================================================================== user nobody; #......

A__17 ⋅ 昨天 ⋅ 0

没有更多内容

加载失败,请刷新页面

加载更多

下一页

返回顶部
顶部