文档章节

Kafka fetching topic metadata failed

卓尔不
 卓尔不
发布于 2015/10/21 11:27
字数 450
阅读 153
收藏 0

###问题重现

[2015-10-20 17:03:43][INFO] [Connected to 127.0.0.1:1092 for producing] [kafka.utils.Logging$class.info(Logging.scala:68)] [group1_byd0030-1445331791972-ce151558-leader-finder-thread]
[2015-10-20 17:03:43][INFO] [Disconnecting from 127.0.0.1:1092] [kafka.utils.Logging$class.info(Logging.scala:68)] [group1_byd0030-1445331791972-ce151558-leader-finder-thread]
[2015-10-20 17:03:43][WARN] [Fetching topic metadata with correlation id 0 for topics [Set(bitmap_topic)] from broker [id:0,host:127.0.0.1,port:1092] failed] [kafka.utils.Logging$class.warn(Logging.scala:89)] [group1_byd0030-1445331791972-ce151558-leader-finder-thread]
java.nio.channels.ClosedChannelException
    at kafka.network.BlockingChannel.send(BlockingChannel.scala:100)
    at kafka.producer.SyncProducer.liftedTree1$1(SyncProducer.scala:73)
    at kafka.producer.SyncProducer.kafka$producer$SyncProducer$$doSend(SyncProducer.scala:72)
    at kafka.producer.SyncProducer.send(SyncProducer.scala:113)
    at kafka.client.ClientUtils$.fetchTopicMetadata(ClientUtils.scala:58)
    at kafka.client.ClientUtils$.fetchTopicMetadata(ClientUtils.scala:93)
    at kafka.consumer.ConsumerFetcherManager$LeaderFinderThread.doWork(ConsumerFetcherManager.scala:66)
    at kafka.utils.ShutdownableThread.run(ShutdownableThread.scala:60)

启动comsumer的时候报上面的错误,从上面错误我们可以看出客户端已经成功连接到kafka,但是后来有断开了,没有说明断开的原因.
###解决办法 其实我们可以用kakfa自带的测试脚本kafka-console-consumer.sh,这个脚本报错比较明显

[jinsx@byd0030 bin]$ ./kafka-console-consumer.sh  --consumer.config ../config/consumer.properties --zookeeper 127.0.0.1:1081 --topic bitmap_topic 
[2015-10-21 11:12:33,186] ERROR Error processing message, stopping consumer:  (kafka.tools.ConsoleConsumer$)
kafka.common.MessageSizeTooLargeException: Found a message larger than the maximum fetch size of this consumer on topic bitmap_topic partition 2 at fetch offset 0. Increase the fetch size, or decrease the maximum message size the broker will allow.
	at kafka.consumer.ConsumerIterator.makeNext(ConsumerIterator.scala:90)
	at kafka.consumer.ConsumerIterator.makeNext(ConsumerIterator.scala:33)
	at kafka.utils.IteratorTemplate.maybeComputeNext(IteratorTemplate.scala:66)
	at kafka.utils.IteratorTemplate.hasNext(IteratorTemplate.scala:58)
	at scala.collection.Iterator$class.foreach(Iterator.scala:727)
	at kafka.utils.IteratorTemplate.foreach(IteratorTemplate.scala:32)
	at scala.collection.IterableLike$class.foreach(IterableLike.scala:72)
	at kafka.consumer.KafkaStream.foreach(KafkaStream.scala:25)
	at kafka.tools.ConsoleConsumer$.main(ConsoleConsumer.scala:166)
	at kafka.tools.ConsoleConsumer.main(ConsoleConsumer.scala)

这里给我报的错误是消息体过大,叫我增大fetch size,就是是consumer配置里面的"fetch.message.max.bytes",或者减小broker配置文件里面的maximum message size,也就是server.properties中的"message.max.bytes"配置项.

###结论 出现这种错误一般是配置文件的问题,在Kafka官方配置文档里面列举了各个配置项,好好对照broker,consumer,producer各个配置项,再结合kafka-console-consumer.sh,kafka-console-producer.sh等脚本可以轻松查出错误.

© 著作权归作者所有

共有 人打赏支持
卓尔不
粉丝 6
博文 31
码字总数 8179
作品 0
杭州
程序员
kafka运行异常 ERROR Failed to collate messages by topic, partition due to: f

ERROR Failed to collate messages by topic, partition due to: fetching topic metadata for topics [Set(test)] from broker [ArrayBuffer(id:0,host:localhost,port:9092)] failed (kafk......

sca7
2016/08/22
1K
0
kafka集群搭建

版本和集群环境 kafka版本:2.11 集群环境:两台虚拟机(我这里是一台当producer,一台当consumer) 官网:http://kafka.apache.org/ 官方文档:http://kafka.apache.org/documentation.htm...

张欢19933
2016/01/22
586
5
kafka集群发送消息报错

因为logstash采集的日志要发往kafka做一个队列机制,搭建完kafka集群后发送消息出现问题 ERROR fetching topic metadata for topics [Set(order)] from broker [ArrayBuffer(id:0,host:slave...

冰公子
2016/06/07
245
0
求kafka大牛指导鄙人在学习中遇到的一些问题!!!

Linux服务器(172.16.126.78)安装环境如下: kafka Version:kafka_2.11-0.10.1.0 java version "1.8.0_131" 分别正常启动Zookeeper、Kafka的服务,然后在我本地电脑的eclipse上面也按照网上...

johnsen
2017/05/25
175
0
33.5. Apache Kafka is a distributed publish-subscribe messaging system

如果你是开发或测试环境使用,可以使用内置 zookeeper cd /usr/local/srcwget http://apache.communilink.net/kafka/0.10.2.0/kafka_2.12-0.10.2.0.tgztar zxvf kafka_2.12-0.10.2.0.tgzmv k......

玄学酱
2017/12/27
0
0

没有更多内容

加载失败,请刷新页面

加载更多

下一页

设计模式:简单工厂模式(静态共产方法模式)

简单工厂的构成包括三个角色: 1)抽象产品类 2)具体产品类(继承抽闲产品类) 3)工厂类(生产具体产品) 具体代码实现 1、抽象产品类 /** * 抽象类 */public abstract class Car ...

京一
7分钟前
0
0
Lombok使用

1 介绍 Lombok是一个简单的Java库,改工具可以通过注解自动地提供一些方法,简化开发。比如编写POJO时需要为每个属性提供getter()方法和setter()方法,这就可以使用Lombok实现。 2 配置 Lomb...

SuperHeroes
15分钟前
0
0
Confluence 6 删除垃圾内容

属性(profile)垃圾 属性垃圾的定义为,一个垃圾用户在 Confluence 创建了用户,但是这个用户在自己的属性页面中添加了垃圾 URL。 如果你有很多垃圾用户在你的系统中创建了属性,你可以使用...

honeymose
17分钟前
0
0
java虚拟机之内存模型

1. 概述 对于从事 C、C++ 程序开发的人员来说,在内存管理领域,他们既是拥有最高权力的「皇帝」又是从事基础工作的「劳动人民」 --- 既拥有每个对象的「所有权」,又担负着每一个对象生命开...

firepation
19分钟前
0
0
解决linux的-bash: ./xx: Permission denied

解决linux的-bash: ./xx: Permission denied 在linux下执行sh文件时提示下面信息: -bash: ./xx.sh: Permission denied解决:chmod 777 xx.sh 1 2 3 4 Linux chmod +755和chmod +777 ......

DemonsI
30分钟前
0
0

没有更多内容

加载失败,请刷新页面

加载更多

下一页

返回顶部
顶部