文档章节

企业网站架构之Nginx+tomcat+memcached集群

Andy-xu
 Andy-xu
发布于 2014/08/11 14:39
字数 1490
阅读 1887
收藏 24

nginx+tomcat+memcached应用

系统环境:RHEL6.4  x64   iptables -F   and selinux is disabled

主机角色:node1 :192.168.0.24 :lnmp环境 tomcat memcached

         node2 :192.168.0.99 : tomcat memcached

软件下载:lnmp环境上测试tomcat,使用nginx简单发布jsp

 jdk-6u32-linux-x64.bin apache-tomcat-7.0.37.tar.gz

https://code.google.com/memcached-session-manager        memcachedsession管理


   Nginx(lnmp)

  /         \

<T1>       <T2>

;    \    /      ;

;      \/        ;      

;      /\        ;

;    /    \      ;

<M1>       <M2>

Tomcat1session存储在memcacted2.tomcatMemcached使用交叉存储,只有当M2不可用时T1才将数据存储在M1(M1T1failoverNode),使用这种方式可以避免单点故障.从而实现应用的高可用性.


注意:两台node上的tomcat应用完全一致


1.在两台node主机上配置tomcat环境

#sh jdk-6u32-linux-x64.bin

# mv jdk1.6.0_32/ /usr/local/lnmp/jdk

这个不是必须的,看自己的习惯哦

#vim /etc/profile              编写环境变量

export JAVA_HOME=/usr/local/lnmp/jdk

export CLASSPATH=.:$JAVA_HOME/lib:$JAVA_HOME/jre/lib

export PATH=$PATH:$JAVA_HOME/bin

#source /etc/profile

#which javac


#which java

#vim test.java

public class test{

public static void main(String[] args)

{System.out.println("Hello!");  }

}

#javac test.java          编译

#java test                   执行后出现Hello!说名java环境配置好


安装tomcat服务器

#tar zxf apache-tomcat-7.0.37.tar.gz      解压就能用,不需要编译

#mv apache-tomcat-7.0.37 tomcat

#/root/tomcat/webapps/ROOT                          tomcat的默认发布目录

#/root/tomcat/bin/startup.sh(shutdown.sh)       tomcat默认的启动和关闭脚本


tomcat默认开启8080端口,

测试http://192.168.0.24:8080   访问到tomcat默认的测试页


#cd tomcat/webapps/ROOT            自写测试页

#vim test.jsp

this time is: <%=new java.util.Date()%>

测试访问;http://192.168.0.24:8080   显示当前时间

tomcat访问每次得8080端口,使用nginx反向代理一下。


使用nginx发布jsp动态网页:

修改nginx配置文件:vim /usr/local/lnmp/nginx/conf/nginx.conf

location ~ \.jsp$ {

proxy_pass http://127.0.0.1:8080;

}

nginx -t && nginx -s reload

访问:http://192.168.0.24/test.jsp




同步两台tomcat的内容

#scp tomcat/ jdk/ 192.168.0.99:

修改java环境变量/etc/profile

启动tomcat服务,并且编写可以识别的脚本

测试:http//192.168.0.998080/test.jsp

两台node(tomcat)准备好了


2.node1上的nginx环境中发布网页

使用nginx的负载均衡功能,

http块中加

upstream linux {

server 192.168.0.24:8080;

server 192.168.0.99:8080;

}

location ~ \.jsp$ {

proxy_pass http://linux;

}

nginx -t && nginx -s reload  


测试:http//lnmp.xxb.com/test.jsp      实现两台主机的负载均衡

lnmp.xxb.com对应的是nginx(24)主机

问题:在后台实现了nginx的负载均衡,但是当一个用户刷新数据时,数据总是变化的,试想,在动态页面,如果用户提交数据刷新后会换成另外一个空面,这样会造成一定的损失

解决:nginx增加一个sticky模块.(需要重新编译nginx)


重新在nginx在进行模块化编译:

download:nginx-sticky-modules.tar.gz(解压就行)

#cd nginx-1.4.2/

# ./configure --prefix=/usr/local/lnmp/nginx --with-http_ssl_module --with-http_stub_status_module --add-module=/root/nginx-sticky-module-1.0


#make && make install

vim nginx.conf

upstream linux {

sticky;

装了nginx-sticky后的功能

server 192.168.0.99:8080 ;

server 192.168.0.24:8080 ;

}

测试:http://lnmp.xxb.com/test.jsp 后发现刷新不会来回负载(每个用户看到的其实不是一个tomcat上的数据,但是对用户是透明的)



3.nginx负载tomcatjsp,需要解决session共享:

使用memcache进行缓存(用户)后端数据,但是又要想到解决单点故障问题,因而可以采用两台memcache作为后端负载.


memcached 11211 后端使用交叉试存储(tomcat会将session同步,session自动寻找存储的memcached,但是默认是交叉存储,m坏掉,tomcat都会存到存活的m)

只要tomcat不会宕掉,一切数据都还ok

但是当memcached宕掉,tomcat会向存活的mem上存取

session 的序列化方案官方推荐的有 4 :

1. java serialization

2. msm-kryo-serializer

3. msm-javolution-serializer

4. msm-xstream-serializer

其中性能最好的数Kryo,我们使用kryo来做session


mecached服务器node1 and node2

#yum install memcached -y

#/etc/init.d/memcached restart

memcached默认开启11211端口


测试访问:telnet localhost 11211

stats                   查看状态

set user 0 0 3    存储新值(add replace)

get user             获取值



配置两台memcached服务器(tomcat),下载jar(必须支持相关的java程序)

kryo-1.03.jar

kryo-serializers-0.8.jar

memcached-2.5.jar

memcached-session-manager-1.5.1.jar

memcached-session-manager-tc7-1.5.1.jar

minlog-1.2.jar

msm-kryo-serializer-1.5.1.jar

reflectasm-0.9.jar


node1 and node2 同步的内容哦

#cd tomcat/lib/


#mget jar/*    下载tomcatsession共享管理

#cd tomcat/conf/

# vim context.xml

<Manager className="de.javakaffee.web.msm.MemcachedBackupSessionManager"

memcachedNodes="n1:192.168.0.24:11211,n2:192.168.0.99:11211"

failoverNodes="n1"       失败时存到n1,正常时交互存储;tomcat2需要变n2

requestUriIgnorePattern=".*\.(ico|png|gif|jpg|css|js)$" transcoderFactoryClass="de.javakaffee.web.msm.serializer.kryo.KryoTranscoderFactory"

/>


#tomcat/bin/.sthudown.sh 关闭tomcat后重启,以识别memcached-session-manager

# tail -f logs/catalina.out    默认日志

INFO: MemcachedSessionService finished initialization, sticky true, operation timeout 1000, with node ids [n2] and failover node ids [n1]

正常启动




编辑测试文件:

(动态效果的jsp网页)

# vim tomcat/webapps/ROOT/test.jsp             提交用户信息的测试页

<%@ page contentType="text/html; charset=GBK" %>

<%@ page import="java.util.*" %>

<html><head><title>Cluster App Test</title></head>

<body>

Server Info:

<%

out.println(request.getLocalAddr() + " : " + request.getLocalPort()+"<br>");%>

<%

out.println("<br> ID " + session.getId()+"<br>");

String dataName = request.getParameter("dataName");

if (dataName != null && dataName.length() > 0) {

String dataValue = request.getParameter("dataValue");

session.setAttribute(dataName, dataValue);

}

out.print("<b>Session list</b>");

Enumeration e = session.getAttributeNames();

while (e.hasMoreElements()) {

String name = (String)e.nextElement();

String value = session.getAttribute(name).toString();

out.println( name + " = " + value+"<br>");

System.out.println( name + " = " + value);

}

%>

<form action="test.jsp" method="POST">

name:<input type=text size=20 name="dataName">

<br>

key:<input type=text size=20 name="dataValue">

<br>

<input type=submit>

</form>

</body>

</html>


session共享完成:两台tomcatmemcached机子做相同的配置(jdk,memcache,tomcat)


测试:

http://lnmp.xxb.com/test.jsp     使用一台tomcat和另外一台的memcached进行session共享

当任何一台tomcat或者memcached挂了都无所谓

session会记录并且保持用户的数据信息

图1:

访问node1数据默认存在node2memcached,但是node1上能看见数据

图2

可以看见,当访问node1的时候默认放数据是在node2上的

图3:










                                                                                                                                                                                                 

                                                                                         http://my.oschina.net/xxbAndy/blog

                                                                                                        weichuangxxb@sina.cn


© 著作权归作者所有

共有 人打赏支持
Andy-xu
粉丝 108
博文 95
码字总数 179246
作品 0
大兴
运维
nginx+tomcat+memcached集群后请问若是使用了application还会全局共享吗

nginx+tomcat+memcached集群后请问若是使用了application还会全局共享吗?session通过memcached可以共享了,但是memcached呢,处于不同的tomcat中...

杨某某
2013/01/14
1K
2
关于nginx+tomcat+memcached集群中session的问题

在解决nginx+tomcat+memcached集群session的问题中,我在本机(Windows)测试,nginx+2个tomcat,将memcached添加到系统服务中并启动,分别添加memcached的jar包到tomcat的lib中,配置两个tom...

IceRainYWC
2012/09/05
7.4K
11
Nginx+Tomcat+Memcached实现会话保持

会话保持的三种方式 Session sticky会话绑定:通过在前端调度器的配置中实现统一session发送至同一后发端服务器 Session cluster会话集群:通过配置Tomcat保持所有Tomcat的session的信息一致...

甩锅侠
2017/11/18
0
0
OSC 第 116 期高手问答 -- Web 集群实战

OSCHINA 本期高手问答(4月12日- 4月20日)我们请来了@老男孩oldboy为大家解答关于Web集群实战方面的问题。 @老男孩oldboy ,老男孩,北京老男孩IT教育创始人,拥有十多年一线大规模网站集群运...

催呀催呀
2016/04/12
5.4K
42
Linux下nginx+tomcat+memcached集群

集群分为横向集群和纵向集群(纵向意思就是在一台服务器上 横向就是多台服务器 就这么个意思) 一、软件版本 nginx-0.7.65 apache-tomcat-6.0.26 jdk-6u20-linux-i586-rpm.bin memcached-1....

sjfengOS
2013/04/24
0
1

没有更多内容

加载失败,请刷新页面

加载更多

SSO单点登录PHP简单版

  前面做了一个新项目,需要用户资源可以需要共享。由于之前没有做过这样的东西,回家之后,立马网站百度“单点登录”。帖子很多,甄别之后,这里列几篇认为比较有营养。   http://blog...

slagga
27分钟前
1
0
Java 泛型详解-绝对是对泛型方法讲解最详细的,没有之一

对java的泛型特性的了解仅限于表面的浅浅一层,直到在学习设计模式时发现有不了解的用法,才想起详细的记录一下。 本文参考java 泛型详解、Java中的泛型方法、 java泛型详解 1 概述 泛型在j...

hensemlee
31分钟前
1
0
Annotation注解详细介绍

目录介绍 1.Annotation库的简单介绍 2.@Nullable和@NonNull 3.资源类型注释 4.类型定义注释 5.线程注释 6.RGB颜色纸注释 7.值范围注释 8.权限注释 9.重写函数注释 10.返回值注释 11.@Keep注释...

潇湘剑雨
33分钟前
1
0
一步步编写自己的PHP爬取代理IP项目(二)

这一章节我们正式开展我们的爬虫项目,首先我们先要知道哪个网站能获取到免费代理IP,目前比较火的有西刺代理,快代理等,这里我们拿西刺代理作为例子。 这里就是一个个免费的IP地址以及各自...

NateHuang
52分钟前
2
0
11-利用思维导图梳理JavaSE-Java的反射机制

11-利用思维导图梳理JavaSE-Java的反射机制 主要内容 1.反射与Class类 1.1.反射概念 1.2.Class类 1.3.实例化Class类 1.4.反射的作用 1.5.Class对象的作用 2.反射的深入应用 2.1.调用无参的成...

飞鱼说编程
58分钟前
3
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部