文档章节

RedHat6.5安装kafka集群

四叶草666
 四叶草666
发布于 2017/07/20 09:15
字数 2249
阅读 7
收藏 0

版本号:

Redhat6.5    JDK1.8     zookeeper-3.4.6   kafka_2.11-0.8.2.1

1、软件环境

1、3台RedHat机器,master、slave1、slave2

机器IP与名称对应关系如下:

192.168.168.200       master

192.168.168.201       slave1

192.168.168.202       slave2

2、已经搭建好的zookeeper集群:RedHat6.5安装zookeeper集群

3、软件版本kafka_2.11-0.8.2.1.tgz

官网下载地址:https://mirrors.tuna.tsinghua.edu.cn/apache/kafka/0.8.2.1/kafka_2.11-0.8.2.1.tgz

百度云盘下载地址:链接:http://pan.baidu.com/s/1gfmXnNX 密码:wt1w

2、创建目录并上传kafka压缩包

 
  1. #创建目录 
  2. mkdir /usr/local/kafka
  3. #创建kafka消息目录,主要存放kafka消息
  4. mkdir /usr/local/kafka/kafka-logs​

把下载好的kafka_2.11-0.8.2.1.tgz压缩包上传到/usr/local/kafka目录下,并执行以下解压命令:

tar -zvxf  /usr/local/kafka/kafka_2.11-0.8.2.1.tgz

如图:

3、修改配置文件

3.1修改config/server.properties

进入到config目录

cd /usr/local/kafka/kafka_2.11-0.8.2.1/config

ls

如图:

主要关注:server.properties 这个文件即可,我们可以发现在目录下:

有很多文件,这里可以发现有Zookeeper文件,我们可以根据Kafka内带的zk集群来启动,但是建议使用独立的zk集群

 server.properties,参数的解释:

 
  1. broker.id=0  #当前机器在kafka机器里唯一标识,与zookeeper的myid一个意思,由于我使用独立zookeeper这里可以注释掉
  2. port=9092 #这个参数默认是关闭的,当前kafka对外提供服务的端口默认是9092
  3. #host.name=localhost #broker绑定的IP
  4. num.network.threads=3 #这个是broker进行网络处理的线程数
  5. num.io.threads=8 #这个是broker进行I/O处理的线程数 
  6. log.dirs=/tmp/kafka-logs #消息存放的目录,这个目录可以配置为“,”逗号分割的表达式,上面的num.io##3.threads要大于这个目录的个数这个目录,如果配置多个目录,新创建的topic他把消息持久化的地方是,当前以逗号分割的目录中,那个分区数最少就放那一个 
  7. socket.send.buffer.bytes=102400 #发送缓冲区buffer大小,数据不是一下子就发送的,先回存储到缓冲区了到达一定的大小后在发送,能提高性能
  8. socket.receive.buffer.bytes=102400 #kafka接收缓冲区大小,当数据到达一定大小后在序列化到磁盘
  9. socket.request.max.bytes=104857600 #这个参数是向kafka请求消息或者向kafka发送消息的请请求的最大数,这个值不能超过java的堆栈大小
  10. num.partitions=1 #默认的分区数,一个topic默认1个分区数
  11. log.retention.hours=168 #默认消息的最大持久化时间,168小时,7天 message.max.byte=5242880  #消息保存的最大值5M
  12. default.replication.factor=2  #kafka保存消息的副本数,如果一个副本失效了,另一个还可以继续提供服务
  13. replica.fetch.max.bytes=5242880  #取消息的最大直接数 log.segment.bytes=1073741824 #这个参数是:因为kafka的消息是以追加的形式落地到文件,当超过这个值的时候,kafka会新起一个文件
  14. log.retention.check.interval.ms=300000 #每隔300000毫秒去检查上面配置的log失效时间(log.retention.hours=168 ),到目录查看是否有过期的消息如果有,删除
  15. log.cleaner.enable=false #是否启用log压缩,一般不用启用,启用的话可以提高性能
  16. zookeeper.connect=localhost:2181 #设置zookeeper的连接端口

上面是参数的解释,master机器实际的修改项为: 

 
  1. broker.id=200
  2. port=9092 
  3. host.name=192.168.168.200 #master实际的IP地址
  4. #log.dirs=/tmp/kafka-logs 修改消息存放的目录
  5. log.dirs=/usr/local/kafka/kafka-logs
  6. #在log.retention.hours=168 下面新增下面三项
  7. message.max.byte=5242880
  8. default.replication.factor=2
  9. replica.fetch.max.bytes=5242880
  10. #设置zookeeper的连接端口
  11. zookeeper.connect=192.168.168.200:2181,192.168.168.201:2181,192.168.168.202:2181

修改之后的完整的server.properties内容为:

 
  1. # Licensed to the Apache Software Foundation (ASF) under one or more
  2. # contributor license agreements.  See the NOTICE file distributed with
  3. # this work for additional information regarding copyright ownership.
  4. # The ASF licenses this file to You under the Apache License, Version 2.0
  5. # (the "License"); you may not use this file except in compliance with
  6. # the License.  You may obtain a copy of the License at
  7. #    http://www.apache.org/licenses/LICENSE-2.0
  8. # Unless required by applicable law or agreed to in writing, software
  9. # distributed under the License is distributed on an "AS IS" BASIS,
  10. # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  11. # See the License for the specific language governing permissions and
  12. # limitations under the License.
  13. # see kafka.server.KafkaConfig for additional details and defaults
  14.  
  15. ############################# Server Basics #############################
  16.  
  17. # The id of the broker. This must be set to a unique integer for each broker.
  18. broker.id=200
  19.  
  20. ############################# Socket Server Settings #############################
  21.  
  22. # The port the socket server listens on
  23. port=9092
  24.  
  25. # Hostname the broker will bind to. If not set, the server will bind to all interfaces
  26. host.name=192.168.168.200
  27.  
  28. # Hostname the broker will advertise to producers and consumers. If not set, it uses the
  29. # value for "host.name" if configured.  Otherwise, it will use the value returned from
  30. # java.net.InetAddress.getCanonicalHostName().
  31. #advertised.host.name=<hostname routable by clients>
  32.  
  33. # The port to publish to ZooKeeper for clients to use. If this is not set,
  34. # it will publish the same port that the broker binds to.
  35. #advertised.port=<port accessible by clients>
  36.  
  37. # The number of threads handling network requests
  38. num.network.threads=3
  39.  
  40. # The number of threads doing disk I/O
  41. num.io.threads=8
  42.  
  43. # The send buffer (SO_SNDBUF) used by the socket server
  44. socket.send.buffer.bytes=102400
  45.  
  46. # The receive buffer (SO_RCVBUF) used by the socket server
  47. socket.receive.buffer.bytes=102400
  48.  
  49. # The maximum size of a request that the socket server will accept (protection against OOM)
  50. socket.request.max.bytes=104857600
  51.  
  52.  
  53. ############################# Log Basics #############################
  54.  
  55. # A comma seperated list of directories under which to store log files
  56. log.dirs=/usr/local/kafka/kafka-logs
  57.  
  58. # The default number of log partitions per topic. More partitions allow greater
  59. # parallelism for consumption, but this will also result in more files across
  60. # the brokers.
  61. num.partitions=1
  62.  
  63. # The number of threads per data directory to be used for log recovery at startup and flushing at shutdown.
  64. # This value is recommended to be increased for installations with data dirs located in RAID array.
  65. num.recovery.threads.per.data.dir=1
  66.  
  67. ############################# Log Flush Policy #############################
  68.  
  69. # Messages are immediately written to the filesystem but by default we only fsync() to sync
  70. # the OS cache lazily. The following configurations control the flush of data to disk. 
  71. # There are a few important trade-offs here:
  72. #    1. Durability: Unflushed data may be lost if you are not using replication.
  73. #    2. Latency: Very large flush intervals may lead to latency spikes when the flush does occur as there will be a lot of data to flush.
  74. #    3. Throughput: The flush is generally the most expensive operation, and a small flush interval may lead to exceessive seeks. 
  75. # The settings below allow one to configure the flush policy to flush data after a period of time or
  76. # every N messages (or both). This can be done globally and overridden on a per-topic basis.
  77.  
  78. # The number of messages to accept before forcing a flush of data to disk
  79. #log.flush.interval.messages=10000
  80.  
  81. # The maximum amount of time a message can sit in a log before we force a flush
  82. #log.flush.interval.ms=1000
  83.  
  84. ############################# Log Retention Policy #############################
  85.  
  86. # The following configurations control the disposal of log segments. The policy can
  87. # be set to delete segments after a period of time, or after a given size has accumulated.
  88. # A segment will be deleted whenever *either* of these criteria are met. Deletion always happens
  89. # from the end of the log.
  90.  
  91. # The minimum age of a log file to be eligible for deletion
  92. log.retention.hours=168
  93. message.max.byte=5242880
  94. default.replication.factor=2
  95. replica.fetch.max.bytes=5242880
  96.  
  97. # A size-based retention policy for logs. Segments are pruned from the log as long as the remaining
  98. # segments don't drop below log.retention.bytes.
  99. #log.retention.bytes=1073741824
  100.  
  101. # The maximum size of a log segment file. When this size is reached a new log segment will be created.
  102. log.segment.bytes=1073741824
  103.  
  104. # The interval at which log segments are checked to see if they can be deleted according 
  105. # to the retention policies
  106. log.retention.check.interval.ms=300000
  107.  
  108. # By default the log cleaner is disabled and the log retention policy will default to just delete segments after their retention expires.
  109. # If log.cleaner.enable=true is set the cleaner will be enabled and individual logs can then be marked for log compaction.
  110. log.cleaner.enable=false
  111.  
  112. ############################# Zookeeper #############################
  113.  
  114. # Zookeeper connection string (see zookeeper docs for details).
  115. # This is a comma separated host:port pairs, each corresponding to a zk
  116. # server. e.g. "127.0.0.1:3000,127.0.0.1:3001,127.0.0.1:3002".
  117. # You can also append an optional chroot string to the urls to specify the
  118. # root directory for all kafka znodes.
  119. zookeeper.connect=192.168.168.200:2181,192.168.168.201:2181,192.168.168.202:2181
  120.  
  121. # Timeout in ms for connecting to zookeeper
  122. zookeeper.connection.timeout.ms=6000

 将master机器上的kafka目录复制到slave1、slave2机器上,执行命令:

scp -r /usr/local/kafka root@slave1:/usr/local

scp -r /usr/local/kafka root@slave2:/usr/local

修改slave1机器上server.properties配置,主要两个参数:

 
  1. broker.id=201
  2. host.name=192.168.168.201

 修改slave2机器上server.properties配置,主要两个参数:

 
  1. broker.id=202
  2. host.name=192.168.168.202

3.2配置/etc/profile

sudo gedit /etc/profile

添加如下配置:

 
  1. #set kafka environment
  2. export KAFKA_HOME=/usr/local/kafka/kafka_2.11-0.8.2.1
  3. export PATH=$KAFKA_HOME/bin:$PATH

source /etc/profile

master、slave1、slave2三台机器都要配置。

4、启动Kafka集群并测试

4.1启动zookeeper集群服务

 
  1. [root@master]# /usr/local/zookeeper/zookeeper-3.4.6/bin/zkServer.sh start
  2. [root@slave1]# /usr/local/zookeeper/zookeeper-3.4.6/bin/zkServer.sh start
  3. [root@slave2]# /usr/local/zookeeper/zookeeper-3.4.6/bin/zkServer.sh start​

4.2启动Kafka集群服务

从后台启动Kafka集群(3台都需要启动)

--------------master-------------- 

 
  1. #进入到kafka的bin目录
  2. cd /usr/local/kafka/kafka_2.11-0.8.2.1   
  3. #启动kafka
  4. bin/kafka-server-start.sh config/server.properties &​

 

 
  1. [root@master kafka_2.11-0.8.2.1]# jps
  2. 3335 QuorumPeerMain
  3. 3384 Kafka
  4. 3467 Jps

 --------------slave1-------------- 

 
  1. #进入到kafka的bin目录
  2. cd /usr/local/kafka/kafka_2.11-0.8.2.1
  3. #启动kafka
  4. bin/kafka-server-start.sh config/server.properties &
 
  1. [root@slave1 kafka_2.11-0.8.2.1]# jps
  2. 3270 Kafka
  3. 3209 QuorumPeerMain
  4. 3343 Jps

 --------------slave2-------------- 

 
  1. #进入到kafka的bin目录
  2. cd /usr/local/kafka/kafka_2.11-0.8.2.1
  3. #启动kafka
  4. bin/kafka-server-start.sh config/server.properties &
 
  1. [root@slave2 kafka_2.11-0.9.0.0]# jps
  2. 3447 Jps
  3. 3272 QuorumPeerMain
  4. 3384 Kafka

4.3 创建一个Topic实例

4.3.1 在master机器上创建一个主题test

kafka-topics.sh --create --zookeeper 192.168.168.200:2181 --replication-factor 3 --partitions 1 --topic test

 
  1. [root@master 桌面]# kafka-topics.sh --create --zookeeper 192.168.168.200:2181 --replication-factor 3 --partitions 1 --topic test
  2. Created topic "test".

4.3.2 在slave1机器上创建一个发布者

kafka-console-producer.sh --broker-list 192.168.168.201:9092 --topic test

此时控制台会捕获键盘值,当有换行键被按下表示一条消息被发送出去

 
  1. [root@slave1 桌面]# kafka-console-producer.sh --broker-list 192.168.168.201:9092 --topic test
  2. [2017-07-11 21:16:26,841] WARN Property topic is not valid (kafka.utils.VerifiableProperties)
  3. test 
  4. success
  5. 666

 WARN Property topic is not valid (kafka.utils.VerifiableProperties),该警告对程序无影响,可忽略。

4.3.3 在slave2机器上创建一个订阅者

kafka-console-consumer.sh --zookeeper 192.168.168.202:2181 --topic test  --from-beginning

此时控制台会处于接收状态, 在slave1上输入信息回车之后,slave2上会同步出现发送过来的消息。

 
  1. [root@slave2 桌面]# kafka-console-consumer.sh --zookeeper 192.168.168.202:2181 --topic test  --from-beginning
  2. test 
  3. success
  4. 666

5关闭kafka集群命令

[root@master bin]# kafka-server-stop.sh

[root@slave1 bin]#  kafka-server-stop.sh

[root@slave2 bin]#  kafka-server-stop.sh

搭建完毕!!!

 

参考自:http://blog.csdn.net/sand_clock/article/details/67633433

© 著作权归作者所有

共有 人打赏支持
四叶草666
粉丝 0
博文 51
码字总数 50778
作品 0
深圳
程序员
kafka-manager安装与使用

kafka-manager安装与使用 www.blogways.net2018-01-071 阅读 安装kafka 目 录 1 kafka manager简介 2 kafka manager安装 3 kafka manager使用 一、kafka manager简介 为了简化开发者和服务工...

www.blogways.net
01/07
0
0
Linux系统Kafka集群搭建与简单测试

Kafka安装 Zookeeper集群搭建,可参考Linux系统Zookeeper集群配置 上传kafka安装包并解压 编辑配置文件 这个是server.properties文件内容 增加集群的配置文件server1.properties 修改配置 增...

Listen_ing
2016/06/02
603
0
Linux的企业-Hadoop的多节点配置

一.配置环境 redhat6.5 server1 172.25.29.1 hadoop master nfs server2 172.25.29.2 nfs server3 172.25.29.3 nfs server4 172.25.29.4 nfs server5 172.25.29.5 高可用备机 nfs 使用 nfs ......

一百个小排
2017/10/25
0
0
架构设计:系统间通信(28)——Kafka及场景应用(中1)

(接上文《架构设计:系统间通信(27)——其他消息中间件及场景应用(上)》) 在本月初的写作计划中,我本来只打算粗略介绍一下Kafka(同样是因为进度原因)。但是,最近有很多朋友要求我详...

yinwenjie
2016/05/02
0
0
Kafka+Storm+HDFS整合实践

在基于Hadoop平台的很多应用场景中,我们需要对数据进行离线和实时分析,离线分析可以很容易地借助于Hive来实现统计分析,但是对于实时的需求Hive就不合适了。实时应用场景可以使用Storm,它...

HI曲奇饼干
2016/06/04
90
1

没有更多内容

加载失败,请刷新页面

加载更多

Mac OS X下Maven的安装与配置

Mac OS X 安装Maven: 下载 Maven, 并解压到某个目录。例如/Users/robbie/apache-maven-3.3.3 打开Terminal,输入以下命令,设置Maven classpath $ vi ~/.bash_profile 添加下列两行代码,之后...

TonyStarkSir
今天
3
0
关于编程,你的练习是不是有效的?

最近由于工作及Solution项目的影响,我在重新学习DDD和领域建模的一些知识。然后,我突然就想到了这个问题,以及我是怎么做的? 对于我来说,提升技能的项目会有四种: 纯兴趣驱动的项目。即...

问题终结者
今天
3
0
打开eclipse出现an error has occurred see the log file

解决方法: 1,打开eclipse安装目录下的eclipse.ini文件; 2,打开的文本文件最后添加一行 --add-modules=ALL-SYSTEM 3,保存重新打开Eclipse。...

任梁荣
昨天
4
0
搞定Northwind示例数据库,无论哪个版本的SQLServer都受用

Northwind数据库 从这里可以找到突破口: http://social.msdn.microsoft.com/Forums/zh-CN/Vsexpressvb/thread/8490a1c6-9018-40c9-aafb-df9f79d29cde 下面是MSDN: http://msdn2.microsoft......

QQZZFT
昨天
1
0
mysql主从同步,安装配置操作

准备 两台mysql服务,我这里准备了如下: 主库:192.168.176.128 从库:192.168.176.131 如何在Linux上安装mysql服务,请看https://blog.csdn.net/qq_18860653/article/details/80250499 操作...

小致dad
昨天
5
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部