文档章节

大型网站压力测试及优化方案

Elvis_gz
 Elvis_gz
发布于 2017/05/06 11:29
字数 3454
阅读 5
收藏 0

木桶理论应用在系统优化中

木桶理论又称短板理论,其核心思想是一只木桶盛水多少,并不取决于最高的木板,而取决于最短的那块木板。

木桶原理应用在系统分析中,即系统的最终性能取决于系统中性能表现最差的组件,为了提升系统整体性能,对系统中表现最差的组件进行优化可以得到最好的效果。

木桶理论应用在系统优化中

木桶理论又称短板理论,其核心思想是一只木桶盛水多少,并不取决于最高的木板,而取决于最短的那块木板。

木桶原理应用在系统分析中,即系统的最终性能取决于系统中性能表现最差的组件,为了提升系统整体性能,对系统中表现最差的组件进行优化可以得到最好的效果。

在网站系统中,用户的访问请求到达服务器,然后服务器返回数据并展示给用户,这个过程要经过很多处理,每一个过程的低效都会影响系统整体表现出来的性能。

按照木桶理论,如果一台服务器性能非常强大,拥有充足的内存资源和CPU资源,但是磁盘I/O性能不足,那么系统的总体性能是取决于当前最慢的磁盘I/O速度,而不是当前最优越的CPU或者内存,此时,磁盘I/O就是系统的性能瓶颈。

典型的比如使用Redis进行存储的系统,由于Redis本身性能非常优秀,通常情况下存储并不会制约系统的性能,在海量请求的情况下,Redis的吞吐量会非常大,这时候制约系统的性能瓶颈就变成网络带宽。

压力测试如何实施

性能测试在大型网站系统的设计和开发中非常重要,通常会和容量预估等工作结合在一起,穿插在系统开发的不同方案。

性能测试可以帮助我们及时发现系统的性能短板,评估系统的能力,在这个基础在上再进行针对性的性能优化。

同时,压力测试还可以帮助我们验证系统的稳定性和可靠性。

 

一个完整的性能测试方案通常包括以下几个方面: 

1.压力测试及生成性能报告

压力测试一个重点是如何产生压力,通常可以通过自己编写脚本模拟请求,或者使用成熟的压测工具进行。

压力测试很重要的一点是如何使得模拟压测的数据尽量真实,越接近真实用户越好。

2.根据性能报告定位系统瓶颈,进行针对性优化,测试和优化的工作可以和日常开发并行

压力测试完成以后,我们会拿到一个压测报告,这个报告通常会告诉我们系统的QPS、TPS、响应时延等数据,

这些数据可以让我们对服务器的性能有个整体的了解,发现存在的问题,但是不能帮助我们定位问题。

这个时候我们可以从系统的各个组件入手,关注系统的CPU、内存、IO、网络,对比这些环节对整体性能的影响,确定性能问题是系统哪一部分造成的,然后针对性的在系统中逐个优化。

3.估算容量承载能力,合理规划系统资源

进行压力测试的一个重要目的是让现有的服务器资源发挥最大的价值,经过前期的测试和分析,这时候我们对系统整体的性能有了一个认识,对服务器的承载能力有了预估,

这个时候我们就可以结合业务规模配置服务器数量,CDN资源等,让最少的资源产生最大的价值。

 

常用压力测试工具选型

压力测试很关键的一点是如何产生压力,选择哪款测试工具很重要,大的互联网公司如百度/腾讯等,都有专门的测试开发团队,开发公司内部应用的测试工具,以便更好的适应公司的业务,作为SAAS服务的重要部分,几个云服务提供商也纷纷开放了压测及性能监控服务。

大多数公司还是会选择自己完成测试工作,这里关注一下常用的压力测试工具。 

1.几款流行的压力测试工具

(1)JMeter

Apache JMeter是Apache组织开发的基于Java的压力测试工具,用于对软件做压力测试,它最初被设计用于Web应用测试但后来扩展到其他测试领域。 它可以用于测试静态和动态资源例如静态文件、Java小服务程序、CGI脚本、Java 对象、数据库, FTP服务器, 等等。

JMeter 可以用于对服务器、网络或对象模拟巨大的负载,来在不同压力类别下测试它们的强度和分析整体性能。

另外,JMeter能够对应用程序做功能回归测试,通过创建带有断言的脚本来验证你的程序是否返回了期望的结果。

为了最大限度的灵活性,JMeter允许使用正则表达式创建断言。

(2)LoadRunner

LoadRunner是惠普旗下一款自动负载测试工具,它能预测系统行为,优化性能。LoadRunner强调的是整个企业的系统,它通过模拟实际用户的操作行为和实行实时性能监测,来帮助更快的确认和查找问题。此外,LoadRunner 能支持最宽范的协议和技术,量身定做地提供解决方案。

(3)其他测试工具

  • Siege是一款开源的压力测试工具,可以根据配置对一个WEB站点进行多用户的并发访问,

记录每个用户所有请求过程的相应时间,并在一定数量的并发访问下重复进行。

  • TCPCopy是一种请求复制(所有基于tcp的packets)工具,可以把在线请求导入到测试系统中去。

TCPCopy的特点是可以拷贝线上真实流量,模拟用户数据。

 

2.性能测试工具的横向对比

这里对比主流的 JMeter和LoadRunner,一般来说,除了自研测试工具的公司,互联网公司使用JMeter作为测试工具的较多。

  JMeter LoadRunner
开发语言 纯Java开发 使用C语言开发
支持应用 对Java为主的系统支持较好 支持比较全面
是否收费 开源免费 商业软件
学习成本 应用简单,上手快,Java自定义测试计划 功能复杂,学习成本高
协议支持 支持常见的HTTP/FTP/SMP等 支持较全面
自定义测试 支持使用Java编写Sample 使用完善的组件进行定制化测试
组件功能 Thread Group, Samplers, Listeners, Pre & Post processors 一套完整的测试组件,比如VU Generator, Controller, Analyzer, Load generator, Load calculator 和protocol advisor.

 

如何监控系统资源,定位性能瓶颈

压力测试可以暴露系统性能问题,如高并发下访问缓慢,服务宕机等,但是通过压测不能具体到哪里存在瓶颈,必须要在压测同时配合适当的资源监控,帮助我们定位问题。

1.配置合理的资源监控方案

(1)使用nmon监控系统性能

nmon是Linux上广泛使用的监控与分析工具,相对于其它一些系统资源监控工具来说,nmon所记录的信息是比较全面的,它能在系统运行过程中实时地捕捉系统资源的使用情况,并且能输出结果到文件中,然后通过nmon_analyzer工具产生数据文件与图形化结果。

nmon所记录的数据包含以下一些方面:

  ● cpu占用率

  ● 内存使用情况

  ● 磁盘I/O速度、传输和读写比率

  ● 文件系统的使用率

  ● 网络I/O速度、传输和读写比率、错误统计率与传输包的大小

  ● 消耗资源最多的进程

  ● 计算机详细信息和资源

  ● 页面空间和页面I/O速度

  ● 用户自定义的磁盘组

       ● 网络文件系统

(2)使用rpc.rstatd监控系统性能

rpc.rstatd通常配合LoadRunner一起使用,注意与系统服务rpc.statd进行区分。

rstatd后台程序可以从系统核心中获取系统性能统计的相关信息,将结果返回给调用程序。

进行压力测试时,LoadRunner客户端通过给服务器上的 rstatd 后台程序发送请求,来收集应用或数据库服务器的性能数据。 

(3)针对不同的服务合理配置资源监控方案

以Java服务为例,在压测同时可以对JVM虚拟机进行性能监控,这方面常用的有Jvisualvm、jps、jstack等。

下面是Jvisualvm的应用界面,可以监控本地和远程的JVM实例运行状态。

针对测试报告进行针对性优化

在压力测试发现问题以后,就要进行有针对性的优化。对于不同的系统,这个过程的策略并不是确定的,但是大概可以划分为以下几个步骤: 

1.定位性能瓶颈,找出系统存在的问题 

不同系统的特点不同,在性能瓶颈上也有不同的表现,一般来说,下面的几个方面通常存在比较大的优化空间:

(1)磁盘I/O及文件操作

由于磁盘I/O读写的速度要比内存慢很多,程序在运行过程中,如果需要等待磁盘I/O完成,那么低效的I/O操作会拖累整个系统。

(2)网络操作

对网络数据进行读写的情况与磁盘I/O类似。由于网络环境的不确定性,尤其是对互联网上数据的读写,网络操作的速度可能比本地磁盘I/O更慢。

(3)CPU

对计算资源要求较高的应用,由于其长时间、不间断地大量占用CPU资源,那么对CPU的争夺将导致性能问题。如科学计算、3D渲染等对CPU需求旺盛的应用。

(4)高并发下的上下文切换及锁竞争等

高并发程序如果没有做好优化,存在大量的锁竞争,激烈得锁竞争将会明显增加线程上下文切换的开销,对性能造成极大的影响

(5)数据库

大部分应用程序都离不开数据库,而海量数据的读写操作可能是相当费时的。而应用程序可能需要等待数据库操作完成或者返回请求的结果集,那么缓慢的同步操作将成为系统瓶颈。

2.确定调整目标,提出解决方案

找到系统的性能问题以后,需要作出对应的解决方案。

典型的影响性能的问题,比如:

(1)系统对高并发的场景响应不足,如数据库连接池过低,服务器连接数超过上限,数据库锁控制考虑不足等

(2)内存泄露,如在长时间运行下,内存没有正常释放,发生宕机等

(3)数据库优化不足,业务日益增长,关联表众多,SQL不够优化等

定位到上述问题,接下来就是提出合理的调整目标,

比如服务器资源有限,可以通过配置更多的机器,服务上云等进行优化;

如果对高并发支持不好,就可以在代码层面优化,提高并发支持;

数据库性能问题,如慢查询等问题,就可以进行 SQL语句优化等。

3.实施解决方案,进行迭代开发

上一步的分析给出了一个初步的性能优化方案,接下来就是针对方案中提到的内容进行针对性的改进。

这个过程可以应用敏捷的思想进行迭代,在开发完成后,为了对比优化结果,可以对调优后的系统进行小范围测试。

4.进行基准测试并分析调优结果

数据说明一切,性能优化的结果不能简单的通过 “感觉系统变快了”来衡量,最好是通过对比优化前后的测试结果,用图表的方式直观的把优化结果展示出来。基准测试是指通过设计科学的测试工具和方式方法,实现对一类测试对象的某项性能指标进行定量的和可对比的测试。对比测试结果,结合容量评估等工作,可以让系统发挥最大的效用。

一个阶段的优化工作完成以后,最好是总结反思一下,比如本次优化是否达到了目标?系统的整体性能是否得到了改善?用户体验是否得到了提升?以及如何在接下来的开发工作中做的更好。

本文转载自:https://yq.aliyun.com/articles/66589

Elvis_gz
粉丝 0
博文 17
码字总数 46878
作品 0
广州
QA/测试工程师
私信 提问
PHP如何解决网站大流量与高并发

首先,确认服务器硬件是否足够支持当前的流量。 普通的P4服务器一般最多能支持每天10万独立IP,如果访问量比这个还要大, 那么必须首先配置一台更高性能的专用服务器才能解决问题 ,否则怎么...

_xiaotudou
2013/03/18
6.6K
0
北京腾讯旗下康盛创想招php,国内领先Discuz!技术!前途无量!

PHP高级工程师 部门:生活服务研发组 职责:负责互联网在线产品的设计,开发及改进; 参与系统的需求分析、设计、评审、编码等开发和运营工作。确保相关系统稳定可靠运行。 要求:计算机或相...

Ken.yuan
2011/11/16
719
8
网站加速常用办法

大型web项目解决方案 之 网站加速 网站加速方案 1、squid代理缓存技术 反向缓存,动静分离。 基本原理:客户请通过代理服务器请求总服务器,代理服务器把把总服务器的静态数据放入squid的缓存...

罗文浩
2016/02/15
23
0
【上海外企高薪招聘】ihush俏物悄语PHP系统架构师、程序经理、产品设计经理、软件开发工程师等(最高20K/月)

ihush俏物悄语(上海伯络商贸有限公司) 我们是源自欧洲的电子商务网站 www.ihush.com ,一个提供中高端时尚品牌高品质的快速消化库存的网上平台。于2008年年底成立,每个品牌的网上特卖会都限...

keith-hr
2011/07/08
560
0
细说五层网站架构

目前网站架构一般分为网页缓存层、负载均衡层、Web层和数据库层、文件服务器层。我们可以依次用这五层对网站架构进行讨论,为了增强说服力,我将用如下三个并发较大的生产环境来说明。 q 电子...

Bgxuliangwei
2015/12/21
0
0

没有更多内容

加载失败,请刷新页面

加载更多

黑客之道-40本书籍助你快速入门黑客技术免费下载

场景 黑客是一个中文词语,皆源自英文hacker,随着灰鸽子的出现,灰鸽子成为了很多假借黑客名义控制他人电脑的黑客技术,于是出现了“骇客”与"黑客"分家。2012年电影频道节目中心出品的电影...

badaoliumang
7分钟前
1
0
很遗憾,没有一篇文章能讲清楚线程的生命周期!

(手机横屏看源码更方便) 注:java源码分析部分如无特殊说明均基于 java8 版本。 简介 大家都知道线程是有生命周期,但是彤哥可以认真负责地告诉你网上几乎没有一篇文章讲得是完全正确的。 ...

彤哥读源码
34分钟前
2
0
jquery--DOM操作基础

本文转载于:专业的前端网站➭jquery--DOM操作基础 元素的访问 元素属性操作 获取:attr(name);$("#my").attr("src"); 设置:attr(name,value);$("#myImg").attr("src","images/1.jpg"); ......

前端老手
今天
4
0
Django的ChoiceField和MultipleChoiceField错误提示,选择一个有效的选项

在表单验证时提示错误:选择一个有效的选项 例如有这样一个表单: class ProductForm(Form): category = fields.MultipleChoiceField( widget=widgets.SelectMultiple(), ...

编程老陆
今天
5
0
Vue核心概念及特性 (一)

Vue (读音 /vjuː/,类似于 view) 是一套用于构建用户界面的渐进式框架。 > 特点: 易用,灵活,高效,渐进式框架。 > 可以随意组合需要用到的模块 vue + components + vue-router + vuex + v...

前端优选
今天
11
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部