文档章节

MongoDB高可用集群搭建

Leedy
 Leedy
发布于 2017/05/27 15:27
字数 1522
阅读 25
收藏 3

方案选项

Mongodb的三种集群方式的搭建:Replica Set / Sharding / Master-Slaver。

  1. Replica Set(副本集)

    其实简单来说就是集群当中包含了多份数据,保证主节点挂掉了,备节点能继续提供数据服务,提供的前提就是数据需要和主节点一致。

    Mongodb(M)表示主节点,Mongodb(S)表示备节点,Mongodb(A)表示仲裁节点。主备节点存储数据,仲裁节点不存储数据。客户端同时连接主节点与备节点,不连接仲裁节点。

    默认设置下,主节点提供所有增删查改服务,备节点不提供任何服务。但是可以通过设置使备节点提供查询服务,这样就可以减少主节点的压力,当客户端进行数据查询时,请求自动转到备节点上。这个设置叫做Read Preference Modes,同时Java客户端提供了简单的配置方式,可以不必直接对数据库进行操作。

    仲裁节点是一种特殊的节点,它本身并不存储数据,主要的作用是决定哪一个备节点在主节点挂掉之后提升为主节点,所以客户端不需要连接此节点。这里虽然只有一个备节点,但是仍然需要一个仲裁节点来提升备节点级别。我开始也不相信必须要有仲裁节点,但是自己也试过没仲裁节点的话,主节点挂了备节点还是备节点,所以咱们还是需要它的。

  2. Sharding

    和Replica Set类似,都需要一个仲裁节点,但是Sharding还需要配置节点和路由节点。就三种集群搭建方式来说,这种是最复杂的。部署图如下:

  3. Master-Slaver

    这个是最简答的集群搭建,不过准确说也不能算是集群,只能说是主备。并且官方已经不推荐这种方式。

  4. 综述

    • Master-Slaver官方已经不推荐这种方式了。不采用!
    • Sharding过于复杂,考虑项目情况,也不采用!
    • Replica Set集群、高可用,部署也简单,采用这种情况,下面介绍这种情况的部署!

基于Replica Set的方式进行部署

  1. 准备

    由于是在本机虚拟机部署,所以只采用一台机器(10.211.55.10),开启4个端口(master:27017,slaver:27018、27019,arbiter:27020)

  2. 配置文件(mongodb配置文件具体属性解释请参考附录1)

    • master

        # master.conf
        dbpath=/opt/mongodb/data/master
        logpath=/opt/mongodb/logs/master.log
        pidfilepath=/opt/mongodb/logs/master.pid
        directoryperdb=true
        logappend=true
        replSet=ynzw
        bind_ip=10.211.55.10
        port=27017
        oplogSize=10000
        fork=true
        noprealloc=true
      
    • slaver1

        # slaver1.conf
        dbpath=/opt/mongodb/data/slaver1
        logpath=/opt/mongodb/logs/slaver1.log
        pidfilepath=/opt/mongodb/logs/slaver1.pid
        directoryperdb=true
        logappend=true
        replSet=ynzw
        bind_ip=10.211.55.10
        port=27018
        oplogSize=10000
        fork=true
        noprealloc=true
      
    • slaver2

        # slaver2.conf
        dbpath=/opt/mongodb/data/slaver2
        logpath=/opt/mongodb/logs/slaver2.log
        pidfilepath=/opt/mongodb/logs/slaver2.pid
        directoryperdb=true
        logappend=true
        replSet=ynzw
        bind_ip=10.211.55.10
        port=27019
        oplogSize=10000
        fork=true
        noprealloc=true
      
    • arbiter

        # arbiter.conf
        dbpath=/opt/mongodb/data/arbiter
        logpath=/opt/mongodb/logs/arbiter.log
        pidfilepath=/opt/mongodb/logs/arbiter.pid
        directoryperdb=true
        logappend=true
        replSet=ynzw
        bind_ip=10.211.55.10
        port=27020
        oplogSize=10000
        fork=true
        noprealloc=true
      
  3. 启动4个节点

     /opt/mongodb/bin/mongod -f /opt/mongodb/conf/master.conf
     /opt/mongodb/bin/mongod -f /opt/mongodb/conf/slaver1.conf
     /opt/mongodb/bin/mongod -f /opt/mongodb/conf/slaver2.conf
     /opt/mongodb/bin/mongod -f /opt/mongodb/conf/arbiter.conf
    
  4. 配置主,备,仲裁节点

    • 客户端连接master、slaver中任意一个节点mongodb

        /opt/mongodb/bin/mongo 10.211.55.10:27017
      
    • 开始配置

        > use admin
        > cfg = {
          _id: "ynzw",
          members: [
            {
              _id: 0,
              host: '10.211.55.10:27017',
              priority: 3
            },
            {
              _id: 1,
              host: '10.211.55.10:27018',
              priority: 2
            },
            {
              _id: 2,
              host: '10.211.55.10:27019',
              priority: 1
            },
            {
              _id: 3,
              host: '10.211.55.10:27020',
              arbiterOnly: true
            }
          ]
        };
        > rs.initiate(cfg)
      

      cfg是可以任意的名字,当然最好不要是mongodb的关键字,conf,config都可以。最外层的_id表示replica set的名字,members里包含的是所有节点的地址以及优先级。优先级最高的即成为主节点,即这里的10.211.55.10:27017。特别注意的是,对于仲裁节点,需要有个特别的配置——arbiterOnly:true。这个千万不能少了,不然主备模式就不能生效。

    • 检验

      配置的生效时间根据不同的机器配置会有长有短,配置不错的话基本上十几秒内就能生效,有的配置需要一两分钟。如果生效了,执行rs.status()命令会看到如下信息:

        ynzw:SECONDARY> rs.status()
        {
                "set" : "ynzw",
                "date" : ISODate("2017-05-26T06:47:32.069Z"),
                "myState" : 1,
                "term" : NumberLong(8),
                "heartbeatIntervalMillis" : NumberLong(2000),
                "members" : [
                        {
                                "_id" : 0,
                                "name" : "10.211.55.10:27017",
                                "health" : 1,
                                "state" : 1,
                                "stateStr" : "PRIMARY",
                                "uptime" : 24,
                                "optime" : {
                                        "ts" : Timestamp(1495781239, 2),
                                        "t" : NumberLong(8)
                                },
                                "optimeDate" : ISODate("2017-05-26T06:47:19Z"),
                                "electionTime" : Timestamp(1495781239, 1),
                                "electionDate" : ISODate("2017-05-26T06:47:19Z"),
                                "configVersion" : 1,
                                "self" : true
                        },
                        {
                                "_id" : 1,
                                "name" : "10.211.55.10:27018",
                                "health" : 1,
                                "state" : 2,
                                "stateStr" : "SECONDARY",
                                "uptime" : 18,
                                "optime" : {
                                        "ts" : Timestamp(1495781239, 2),
                                        "t" : NumberLong(8)
                                },
                                "optimeDate" : ISODate("2017-05-26T06:47:19Z"),
                                "lastHeartbeat" : ISODate("2017-05-26T06:47:31.424Z"),
                                "lastHeartbeatRecv" : ISODate("2017-05-26T06:47:31.247Z"),
                                "pingMs" : NumberLong(0),
                                "syncingTo" : "10.211.55.10:27017",
                                "configVersion" : 1
                        },
                        {
                                "_id" : 2,
                                "name" : "10.211.55.10:27019",
                                "health" : 1,
                                "state" : 2,
                                "stateStr" : "SECONDARY",
                                "uptime" : 18,
                                "optime" : {
                                        "ts" : Timestamp(1495781239, 2),
                                        "t" : NumberLong(8)
                                },
                                "optimeDate" : ISODate("2017-05-26T06:47:19Z"),
                                "lastHeartbeat" : ISODate("2017-05-26T06:47:31.424Z"),
                                "lastHeartbeatRecv" : ISODate("2017-05-26T06:47:31.734Z"),
                                "pingMs" : NumberLong(0),
                                "syncingTo" : "10.211.55.10:27018",
                                "configVersion" : 1
                        },
                        {
                                "_id" : 3,
                                "name" : "10.211.55.10:27020",
                                "health" : 1,
                                "state" : 7,
                                "stateStr" : "ARBITER",
                                "uptime" : 18,
                                "lastHeartbeat" : ISODate("2017-05-26T06:47:31.424Z"),
                                "lastHeartbeatRecv" : ISODate("2017-05-26T06:47:30.437Z"),
                                "pingMs" : NumberLong(0),
                                "configVersion" : 1
                        }
                ],
                "ok" : 1
        }
        ynzw:PRIMARY> 
      

      如果配置正在生效,其中会包含如下信息:"stateStr" : "RECOVERING"

客户端连接

  1. 使用spring-data-mongodb+mongo-java-driver操作mongodb
  2. 10.211.55.10:2701710.211.55.10:2701810.211.55.10:27019是主从节点,由于仲裁节点不存储数据,所以不需要连接
  3. 代码

     List<ServerAddress> servers = new ArrayList<>(addresses.size());
     for (String address : addresses) {
         String host = address.split(":")[0];
         Integer port = Integer.valueOf(address.split(":")[1]);
    
         servers.add(new ServerAddress(host, port));
     }
    
     MongoClient client = new MongoClient(servers);
     MongoDatabase db = client.getDatabase(mongoName);
    

附录

  1. mongodb配置文件具体属性解释

     dbpath:数据存放目录
     logpath:日志存放路径
     pidfilepath:进程文件,方便停止mongodb
     directoryperdb:为每一个数据库按照数据库名建立文件夹存放
     logappend:以追加的方式记录日志
     replSet:replica set的名字
     bind_ip:mongodb所绑定的ip地址
     port:mongodb进程所使用的端口号,默认为27017
     oplogSize:mongodb操作日志文件的最大大小。单位为Mb,默认为硬盘剩余空间的5%
     fork:以后台方式运行进程
     noprealloc:不预先分配存储

本文转载自:https://my.oschina.net/sunhaojava/blog/909608

Leedy
粉丝 0
博文 10
码字总数 0
作品 0
朝阳
高级程序员
私信 提问
zanePerfor前端性能监控系统高可用之Mongodb副本集读写分离架构

HI!,你好,我是zane,zanePerfor是一款最近我开发的一个前端性能监控平台,现在支持web浏览器端和微信小程序段。 我定义为一款完整,高性能,高可用的前端性能监控系统,这是未来会达到的目...

2018/11/14
0
0
MongoDB集群部署 - 带访问控制的分片副本集

1. 前言   Ceilometer将meter、event等数据保存在MongoDB中,之前将MongoDB部署在控制节点上,使用三副本模式,时间长了发现meter数据爆炸式增长,区区2T的磁盘捉襟见肘,而想删除旧数据,...

Sai18
2018/08/16
0
0
搭建高可用mongodb集群(一)——配置mongodb

在大数据的时代,传统的关系型数据库要能更高的服务必须要解决高并发读写、海量数据高效存储、高可扩展性和高可用性这些难题。不过就是因为这些问题Nosql诞生了。 NOSQL有这些优势: 大数据量...

观澜而索源
2013/11/18
286
0
#搭建高可用mongodb集群(一)——配置mongodb

本博客已迁移至 [www.0x520.com][1] [1]:http://www.0x520.com 搭建高可用mongodb集群(一)——配置mongodb 在大数据的时代,传统的关系型数据库要能更高的服务必须要解决高并发读写、海量数...

小小霸王枪
2013/12/26
1K
5
《阿里巴巴MongoDB4.0高级实战:基于Java Spring Boot 2.0》运维、监控、聚合、集群、监控等高级面试题

《阿里巴巴MongoDB4.0高级实战》阿里巴巴技术大牛 资深专家P9叶翔、专家徐雷. NoSQL排名第一!最流行的NoSQL数据库;谷歌、阿里巴巴、蚂蚁金服、腾讯、百度等一线互联网公司必备技能。 本系列...

徐雷frank
2018/11/01
0
0

没有更多内容

加载失败,请刷新页面

加载更多

分布式协调服务zookeeper

ps.本文为《从Paxos到Zookeeper 分布式一致性原理与实践》笔记之一 ZooKeeper ZooKeeper曾是Apache Hadoop的一个子项目,是一个典型的分布式数据一致性的解决方案,分布式应用程序可以基于它...

ls_cherish
今天
4
0
redis 学习2

网站 启动 服务端 启动redis 服务端 在redis 安装目录下 src 里面 ./redis-server & 可以指定 配置文件或者端口 客户端 在 redis 的安装目录里面的 src 里面 ./redis-cli 可以指定 指定 连接...

之渊
昨天
2
0
Spring boot 静态资源访问

0. 两个配置 spring.mvc.static-path-patternspring.resources.static-locations 1. application中需要先行的两个配置项 1.1 spring.mvc.static-path-pattern 这个配置项是告诉springboo......

moon888
昨天
4
0
hash slot(虚拟桶)

在分布式集群中,如何保证相同请求落到相同的机器上,并且后面的集群机器可以尽可能的均分请求,并且当扩容或down机的情况下能对原有集群影响最小。 round robin算法:是把数据mod后直接映射...

李朝强
昨天
4
0
Kafka 原理和实战

本文首发于 vivo互联网技术 微信公众号 https://mp.weixin.qq.com/s/bV8AhqAjQp4a_iXRfobkCQ 作者简介:郑志彬,毕业于华南理工大学计算机科学与技术(双语班)。先后从事过电子商务、开放平...

vivo互联网技术
昨天
24
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部