文档章节

Redis集群搭建

骑猪赛大象
 骑猪赛大象
发布于 2017/08/04 15:27
字数 1604
阅读 6
收藏 0

介绍安装环境与版本

用两台虚拟机模拟6个节点,一台机器3个节点,创建出3 master、3 salve 环境。

redis 采用 redis-3.2.8 版本。

两台虚拟机都是 CentOS ,一台 CentOS6.5 (IP:192.168.1.221),一台 CentOS7(IP:192.168.1.222) 。

安装过程

1.    下载并解压

cd /root/software

wget http://download.redis.io/releases/redis-3.2.4.tar.gz

tar -zxvf redis-3.2.4.tar.gz 

2.    编译安装

cd redis-3.2.4

make && make install

3.    拷贝集群启动文件

将 redis-trib.rb 复制到 /usr/local/redis/bin 目录下

cd src

cp redis-trib.rb /usr/local/redis/bin/  

4.    创建 Redis 节点

首先在 192.168.1.221 机器上 /usr/local/ 目录下创建 redis_cluster 目录;

mkdir redis_cluster  

在 redis_cluster 目录下,创建名为6000、6001、6002的目录,并将 redis.conf 拷贝到这三个目录中

mkdir 6000 6001 6002

cp redis.conf redis_cluster/6000

cp redis.conf redis_cluster/6001

cp redis.conf redis_cluster/6002  

分别修改这三个配置文件,修改如下内容

port  6000  //端口6000,6001,6002       

bind 本机ip  //默认ip为127.0.0.1 需要改为其他节点机器可访问的ip 否则创建集群时无法访问对应的端口,无法创建集群

daemonize    yes           //redis后台运行

pidfile  /var/run/redis_6000.pid   //pidfile文件对应6000,6001,6002

cluster-enabled  yes                //开启集群  把注释#去掉

cluster-config-file  nodes_6000.conf  //集群的配置  配置文件首次启动自动生成 6000,6001,6002

cluster-node-timeout  15000       //请求超时  默认15秒,可自行设置

appendonly  yes    //aof日志开启  有需要就开启,它会每次写操作都记录一条日志

cluster-require-full-coverage no //若该节点的配置文件(redis.conf)指定cluster-require-full-coverage为no的话, 其他节点挂了, 仍可以查询当前节点所负责slots中的数据

 

接着在另外一台机器上(192.168.1.222),的操作重复以上三步,只是把目录改为6003、6004、6005,对应的配置文件也按照这个规则修改即可

 

 

5.    启动各个节点

第一台机器上执行

redis-server /usr/local/redis_cluster/6000/redis.conf

redis-server /usr/local/redis_cluster/6001/redis.conf

redis-server /usr/local/redis_cluster/6002/redis.conf

另外一台机器上执行

redis-server /usr/local/redis_cluster/6003/redis.conf

redis-server /usr/local/redis_cluster/6004/redis.conf

redis-server /usr/local/redis_cluster/6005/redis.conf

6.    检查 redis 启动情况

7.    创建集群

Redis 官方提供了 redis-trib.rb 这个工具,就在解压目录的 src 目录中,第三步中已将它复制到 /usr/local/redis/bin 目录中,可以直接在命令行中使用了。使用下面这个命令即可完成安装。

redis-trib.rb create --replicas 1 192.168.1.221:6000 192.168.1.221:6001 192.168.1.221:6002 192.168.1.222:6003 192.168.1.222:6004 192.168.1.222:6005

其中,前三个 ip:port 为第一台机器的节点,剩下三个为第二台机器。

 

如果出错了。这个工具是用 ruby 实现的,所以每台都需要安装 ruby。安装命令如下:

yum -y install ruby ruby-devel rubygems rpm-build

gem install redis

之后再运行 redis-trib.rb 命令,会出现如下提示:

输入 yes 即可,然后出现如下内容,说明安装成功。

  

8.    集群验证

在第一台机器上连接集群的6002端口的节点,在另外一台连接6005节点,连接方式为 redis-cli -h 192.168.1.221 -c -p 6002  ,加参数 -C 可连接到集群,因为上面 redis.conf 将 bind 改为了ip地址,所以 -h 参数不可以省略 (–a password)。

redis-cli -c -h 192.168.1.221 -p 6000 -a cjq123456

Cluster info 集群信息

cluster nodes 查看集群节点状态(三主三从)

停掉其中一台master,对应的slave将提升为master,测试停掉6004

可以看到,6004已经宕掉,6002提升为master了

将6004那台redis启动后将自动变为slave

 

 

 

如果redis配置了登录密码,那么要修改/usr/lib/ruby/gems/1.8/gems/redis-3.3.3/lib/redis/client.rb配置文件,每台机器都需要添加密码

 

并且每个redis配置文件里要添加masterauth的密码,不然主从无法同步

 

原理

1.    简单说一下原理

redis cluster在设计的时候,就考虑到了去中心化,去中间件,也就是说,集群中的每个节点都是平等的关系,都是对等的,每个节点都保存各自的数据和整个集群的状态。每个节点都和其他所有节点连接,而且这些连接保持活跃,这样就保证了我们只需要连接集群中的任意一个节点,就可以获取到其他节点的数据。

Redis 集群没有并使用传统的一致性哈希来分配数据,而是采用另外一种叫做哈希槽 (hash slot)的方式来分配的。redis cluster 默认分配了 16384 个slot,当我们set一个key 时,会用CRC16算法来取模得到所属的slot,然后将这个key 分到哈希槽区间的节点上,具体算法就是:CRC16(key) % 16384。所以我们在测试的时候看到set 和 get 的时候,直接跳转到了6000端口的节点。

Redis 集群会把数据存在一个 master 节点,然后在这个 master 和其对应的salve 之间进行数据同步。当读取数据时,也根据一致性哈希算法到对应的 master 节点获取数据。只有当一个master 挂掉之后,才会启动一个对应的 salve 节点,充当 master 。

需要注意的是:必须要3个或以上的主节点,否则在创建集群时会失败,并且当存活的主节点数小于总节点数的一半时,整个集群就无法提供服务了。

 

测试

1. 集群数据测试:

         在项目中的配置:

spring.redis.cluster.nodes=192.168.1.221:6000,192.168.1.221:6001,192.168.1.221:6002,192.168.1.222:6003,192.168.1.222:6004,192.168.1.222:6005

 

spring.redis.cluster.max-redirects=6

 

只需要配置两项内容.

如果有密码 加上

spring.redis.password=cjq123456

 

项目中的 测试类 RedisClusterTest 有对redis存储和简单查询的测试.

 

2. 遇到的问题:

在随机进行存储测试的时候, 如果我要存储的那台master 宕机了, 在一个时间段内(cluster-node-timeout时间段) 所有命中到这台机器上的值, 都无法正常存储. 也就是说, 这段时间的数据可能会丢失.当slave 被选举为master 之后, 才能够正常进行存储和查询. 在实际测试中. 如果一直有数据存储命中了宕机的master 上. 那么他的slave 被选举为master 的时间将更短.

 

这里要说一点就是 redis 的slot, 默认有16384 个slot, 三台master 的话, 他们会平均分布在每一台上. (0-5460 5461-10922 10923-16383), 并且只能使用 0库.

 

三主三从存储数据示例:

© 著作权归作者所有

骑猪赛大象
粉丝 3
博文 11
码字总数 3503
作品 0
东城
运维
私信 提问

暂无文章

C# 视频多人脸识别的实现过程

整个项目是用虹软技术完成开发 上一篇内容的调整,提交到git了,https://github.com/catzhou2002/ArcFaceDemo 基本思路如下: 一、识别线程 1.获取当前图片 2.识别当前图片的人脸位置,并将结...

是哇兴哥棒棒哒
1分钟前
0
0
Spring Cloud Eureka 你还在让它裸奔吗??

前些天栈长在微信公众号Java技术栈分享了 Spring Cloud Eureka 最新版 实现注册中心的实战教程:Spring Cloud Eureka 注册中心集群搭建,Greenwich 最新版!,成功进入 Eureka 控制台页面。 ...

Java技术栈
17分钟前
1
0
linux gyp ERR! stack Error: EACCES: permission denied, mkdir ‘xxx’

在使用linux npm install的出现这个错误了,百度了下,没有权限加个参数即可 npm install --unsafe-perm

朝如青丝暮成雪
18分钟前
0
0
使用kubeadm 搭建K8s集群

1. 参考官网 https://kubernetes.io/docs/setup/independent/install-kubeadm/

whhbb
46分钟前
2
0
Dubbo 3.0 !提升不止一点点!

Dubbo 自 2011 年 10 月 27 日开源后,已被许多非阿里系的公司使用,其中既有当当网、网易考拉等互联网公司,也不乏中国人寿、青岛海尔等大型传统企业。 自去年 12 月开始,Dubbo 3.0 便已正...

编程SHA
47分钟前
3
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部