kafka集群扩容后的数据均衡

原创
2019/12/05 10:33
阅读数 170

点击上方蓝字“极客运维”一起运筹帷幄


生产环境的kafka集群扩容,是一个比较常见的需求和操作。然而kafka在新增节点后并不会像elasticsearch那样感知到新节点加入后,自动将数据reblance到整个新集群中,因此这个过程需要我们手动分配。

分区重分配方案

扩容后的数据均衡,其本质就是对topic进行分区重分配,数据迁移的过程。在执行分区重分配的过程中,对集群的影响主要有两点:

  1. 分区重分配主要是对 topic数据进行 Broker间的迁移,因此会占用集群的带宽资源;
  2. 分区重分配会改变分区 Leader所在的 Broker,因此会影响客户端。

针对以上两点,第一点可以在晚间业务低峰时操作,必要时还可以和业务沟通,临时缩短数据保存时间,加快迁移,减少带宽影响时间。针对第二点,有两个方案:

  1. 整个分配方案分成两个步骤:1)手动生成分配方案,原有分区 Leader位置不改变,只对副本进行分区重分配;2)等待数据迁移完成后,再手动更改分区分配方案,目的是均衡 Leader
  2. 直接用 Kafka官方提供的分区重新分配工具生成分区重分配方案,直接执行分区重分配。

重分配方案分析

方案一

方案一理论对客户端影响最小,把整个分配方案分成了两个步骤,也就是将对集群的带宽资源与客户端的影响分开了,对过程可控性很高。

但问题是,如果集群中的某些topic,比如有 64 个分区,3 副本,共 192 个副本,就需要在保持原有分区Leader位置不变的情况下,手动均衡其余副本,这个人工步骤过度繁杂,稍微有一点偏差,就会造成副本不均衡。

方案二

针对方案二我特意去看了分区重分配的源码,并对其过程进一步分析。发现分区重分配的步骤是,将分区原有的副本与新分配的副本合并成一个新的副本集合,新分配的副本努力追上Leaderoffset,最终加入ISR。待全部副本都加入ISR之后,就会进行分区Leader选举,选举完后删除原有副本。

这里注意,由于是最后选举完成才删除原副本,所以重分配的过程中,日志存储量是会大幅增加的。具体细节我后续单独写一篇文章叙述。

根据以上分析,意味着在数据进行重分配过程中,Leader并没有发生变动,所以客户端不会阻塞,数据迁移完成后进行Leader选举时发生变更,生产者会及时拉取最新的元数据,并重新进行消息发送,影响并不大。

重分配步骤

其实官方文档关于集群扩容讲解很详细:Expanding your cluster ,整个过程分为三个步骤:获取 kafka 给出的建议分配方案、按照给出的分配方案执行分配、查看分配的进度以及状态。这三个步骤对应了 kafka 脚本提供的三个partition reassigment工具。

--generate: 在此模式下,给定一个 topic 列表和一个 broker 列表,该工具会生成一个候选重新分配,以将指定的 topic 的所有分区移动到新的broker。此选项仅提供了一种便捷的方式,可以根据 tpoc 和目标 broker 列表生成分区重新分配计划。
--execute: 在此模式下,该工具基于用户提供的重新分配计划启动分区重新分配。(使用--reassignment-json-file选项)。这可以是由管理员制作的自定义重新分配计划,也可以是使用--generate选项提供的自定义重新分配计划。
--verify: 在此模式下,该工具将验证最近用 --execute 模式执行间的所有分区的重新分配状态。状态可以是成功完成,失败或正在进行。
  1. 生成需要执行分区重分配的topic列表 json 文件:

    > cat topics-to-move.json
    {"topics": [{"topic": "foo1"},
    {"topic": "foo2"}],
    "version":1
    }
  2. 使用kafka-reassign-partitions.sh脚本获取分配方案:

    > bin/kafka-reassign-partitions.sh --zookeeper localhost:2181 --topics-to-move-json-file topics-to-move.json --broker-list "5,6" --generate
    当前分区副本分配
    {"version":1,
    "partitions":[{"topic":"foo1","partition":2,"replicas":[1,2]},
    {"topic":"foo1","partition":0,"replicas":[3,4]},
    {"topic":"foo2","partition":2,"replicas":[1,2]},
    {"topic":"foo2","partition":0,"replicas":[3,4]},
    {"topic":"foo1","partition":1,"replicas":[2,3]},
    {"topic":"foo2","partition":1,"replicas":[2,3]}]
    }

    建议的分区重新分配配置
    {"version":1,
    "partitions":[{"topic":"foo1","partition":2,"replicas":[5,6]},
    {"topic":"foo1","partition":0,"replicas":[5,6]},
    {"topic":"foo2","partition":2,"replicas":[5,6]},
    {"topic":"foo2","partition":0,"replicas":[5,6]},
    {"topic":"foo1","partition":1,"replicas":[5,6]},
    {"topic":"foo2","partition":1,"replicas":[5,6]}]
    }

    保存当前分区副本分配情况,用作回滚操作用。保存建议的分区重新分配配置到expand-cluster-reassignment.json用于执行迁移。

  3. 执行重分配,并验证。

    > bin/kafka-reassign-partitions.sh --zookeeper localhost:2181 --reassignment-json-file expand-cluster-reassignment.json --execute

    > bin/kafka-reassign-partitions.sh --zookeeper localhost:2181 --reassignment-json-file expand-cluster-reassignment.json --verify
    Status of partition reassignment:
    Reassignment of partition [foo1,0] completed successfully
    Reassignment of partition [foo1,1] is in progress
    Reassignment of partition [foo1,2] is in progress
    Reassignment of partition [foo2,0] completed successfully
    Reassignment of partition [foo2,1] completed successfully
    Reassignment of partition [foo2,2] completed successfully

    is still in progress表示还在处理中,全部迁移成功后每个partition都会显示completed successfully。注意如果topic数据量大,这个过程可能会很长,在此期间不要进行敏感操作,可能会导致数据不一致。

自定义重分配

分区重新分配工具还可以将分区的副本移动到指定的一组broker。只需自定义修改分配配置文件,后续步骤同上。

例如,以下示例将topic foo1的分区 0 移到broker5,6 中和将topic foo2的分区 1 移到broker2,3 中:

> cat custom-reassignment.json
{
"version": 1,
"partitions": [
{
"topic": "foo1",
"partition": 0,
"replicas": [
5,
6
]
},
{
"topic": "foo2",
"partition": 1,
"replicas": [
2,
3
]
}
]
}



相关推荐:

戳原文,更有料!

本文分享自微信公众号 - 极客运维(hypernetworker)。
如有侵权,请联系 support@oschina.cn 删除。
本文参与“OSC源创计划”,欢迎正在阅读的你也加入,一起分享。

展开阅读全文
打赏
0
0 收藏
分享
加载中
更多评论
打赏
0 评论
0 收藏
0
分享
返回顶部
顶部