文档章节

Kafka fetching topic metadata failed

橙卓
 橙卓
发布于 2015/10/21 11:27
字数 450
阅读 135
收藏 0
点赞 0
评论 0

###问题重现

[2015-10-20 17:03:43][INFO] [Connected to 127.0.0.1:1092 for producing] [kafka.utils.Logging$class.info(Logging.scala:68)] [group1_byd0030-1445331791972-ce151558-leader-finder-thread]
[2015-10-20 17:03:43][INFO] [Disconnecting from 127.0.0.1:1092] [kafka.utils.Logging$class.info(Logging.scala:68)] [group1_byd0030-1445331791972-ce151558-leader-finder-thread]
[2015-10-20 17:03:43][WARN] [Fetching topic metadata with correlation id 0 for topics [Set(bitmap_topic)] from broker [id:0,host:127.0.0.1,port:1092] failed] [kafka.utils.Logging$class.warn(Logging.scala:89)] [group1_byd0030-1445331791972-ce151558-leader-finder-thread]
java.nio.channels.ClosedChannelException
    at kafka.network.BlockingChannel.send(BlockingChannel.scala:100)
    at kafka.producer.SyncProducer.liftedTree1$1(SyncProducer.scala:73)
    at kafka.producer.SyncProducer.kafka$producer$SyncProducer$$doSend(SyncProducer.scala:72)
    at kafka.producer.SyncProducer.send(SyncProducer.scala:113)
    at kafka.client.ClientUtils$.fetchTopicMetadata(ClientUtils.scala:58)
    at kafka.client.ClientUtils$.fetchTopicMetadata(ClientUtils.scala:93)
    at kafka.consumer.ConsumerFetcherManager$LeaderFinderThread.doWork(ConsumerFetcherManager.scala:66)
    at kafka.utils.ShutdownableThread.run(ShutdownableThread.scala:60)

启动comsumer的时候报上面的错误,从上面错误我们可以看出客户端已经成功连接到kafka,但是后来有断开了,没有说明断开的原因.
###解决办法 其实我们可以用kakfa自带的测试脚本kafka-console-consumer.sh,这个脚本报错比较明显

[jinsx@byd0030 bin]$ ./kafka-console-consumer.sh  --consumer.config ../config/consumer.properties --zookeeper 127.0.0.1:1081 --topic bitmap_topic 
[2015-10-21 11:12:33,186] ERROR Error processing message, stopping consumer:  (kafka.tools.ConsoleConsumer$)
kafka.common.MessageSizeTooLargeException: Found a message larger than the maximum fetch size of this consumer on topic bitmap_topic partition 2 at fetch offset 0. Increase the fetch size, or decrease the maximum message size the broker will allow.
	at kafka.consumer.ConsumerIterator.makeNext(ConsumerIterator.scala:90)
	at kafka.consumer.ConsumerIterator.makeNext(ConsumerIterator.scala:33)
	at kafka.utils.IteratorTemplate.maybeComputeNext(IteratorTemplate.scala:66)
	at kafka.utils.IteratorTemplate.hasNext(IteratorTemplate.scala:58)
	at scala.collection.Iterator$class.foreach(Iterator.scala:727)
	at kafka.utils.IteratorTemplate.foreach(IteratorTemplate.scala:32)
	at scala.collection.IterableLike$class.foreach(IterableLike.scala:72)
	at kafka.consumer.KafkaStream.foreach(KafkaStream.scala:25)
	at kafka.tools.ConsoleConsumer$.main(ConsoleConsumer.scala:166)
	at kafka.tools.ConsoleConsumer.main(ConsoleConsumer.scala)

这里给我报的错误是消息体过大,叫我增大fetch size,就是是consumer配置里面的"fetch.message.max.bytes",或者减小broker配置文件里面的maximum message size,也就是server.properties中的"message.max.bytes"配置项.

###结论 出现这种错误一般是配置文件的问题,在Kafka官方配置文档里面列举了各个配置项,好好对照broker,consumer,producer各个配置项,再结合kafka-console-consumer.sh,kafka-console-producer.sh等脚本可以轻松查出错误.

© 著作权归作者所有

共有 人打赏支持
橙卓
粉丝 6
博文 30
码字总数 8179
作品 0
杭州
程序员
kafka运行异常 ERROR Failed to collate messages by topic, partition due to: f

ERROR Failed to collate messages by topic, partition due to: fetching topic metadata for topics [Set(test)] from broker [ArrayBuffer(id:0,host:localhost,port:9092)] failed (kafk......

sca7 ⋅ 2016/08/22 ⋅ 0

kafka集群搭建

版本和集群环境 kafka版本:2.11 集群环境:两台虚拟机(我这里是一台当producer,一台当consumer) 官网:http://kafka.apache.org/ 官方文档:http://kafka.apache.org/documentation.htm...

张欢19933 ⋅ 2016/01/22 ⋅ 5

kafka集群发送消息报错

因为logstash采集的日志要发往kafka做一个队列机制,搭建完kafka集群后发送消息出现问题 ERROR fetching topic metadata for topics [Set(order)] from broker [ArrayBuffer(id:0,host:slave...

冰公子 ⋅ 2016/06/07 ⋅ 0

求kafka大牛指导鄙人在学习中遇到的一些问题!!!

Linux服务器(172.16.126.78)安装环境如下: kafka Version:kafka_2.11-0.10.1.0 java version "1.8.0_131" 分别正常启动Zookeeper、Kafka的服务,然后在我本地电脑的eclipse上面也按照网上...

johnsen ⋅ 2017/05/25 ⋅ 0

33.5. Apache Kafka is a distributed publish-subscribe messaging system

如果你是开发或测试环境使用,可以使用内置 zookeeper cd /usr/local/srcwget http://apache.communilink.net/kafka/0.10.2.0/kafka_2.12-0.10.2.0.tgztar zxvf kafka_2.12-0.10.2.0.tgzmv k......

玄学酱 ⋅ 2017/12/27 ⋅ 0

142.5. Apache Kafka is a distributed publish-subscribe messaging system

如果你是开发或测试环境使用,可以使用内置 zookeeper cd /usr/local/srcwget http://apache.communilink.net/kafka/0.10.2.0/kafka_2.12-0.10.2.0.tgztar zxvf kafka_2.12-0.10.2.0.tgzmv k......

玄学酱 ⋅ 2017/12/14 ⋅ 0

kafka-console测试消息发送不成功,进程关闭失败

各位好!我在搭建完成kafka环境之后,运行console进行消息发送和消费,但是发送的时候报错: ERROR Error when sending message to topic testaatopic with key: null, value: 6 bytes with ...

fgod ⋅ 2017/09/26 ⋅ 0

kafka分区leader切换

kafka+storm构架 kafka 版本kafka_2.10-0.8.2.1,topic 副本数为2。zk版本3.4.6,storm版本apache-storm-0.9.4 近期storm消费总发现下面这样的报错:storm.kafka.FailedFetchException: Err...

heistt ⋅ 2015/09/01 ⋅ 2

kafka_2.11-0.10.1.1 无法发送消息和消费消息

异常现象如下: [2017-02-07 15:23:54,323] ERROR Error when sending message to topic test with key: null, value: 5 bytes with error: (org.apache.kafka.clients.producer.internals.E......

youarepp ⋅ 2017/02/07 ⋅ 4

kafka中 FailedToSendMessageException解决

这两天在学kafka,把官网上的demo部署到自己的虚拟机上运行,正常; 然后部署到公司的研发线主机上,发现producer一直无法发送消息; 部分错误日志如下: [2014-11-13 09:58:09,660] WARN Error wh...

JerryYux ⋅ 2014/11/13 ⋅ 4

没有更多内容

加载失败,请刷新页面

加载更多

下一页

Gitee 生成并部署SSH key

1.如何生成ssh公钥 你可以按如下命令来生成 sshkey: ssh-keygen -t rsa -C "xxxxx@xxxxx.com" # Generating public/private rsa key pair...# 三次回车即可生成 ssh key 查看你的 ...

晨猫 ⋅ 37分钟前 ⋅ 0

zblog2.3版本的asp系统是否可以超越卢松松博客的流量[图]

最近访问zblog官网,发现zlbog-asp2.3版本已经进入测试阶段了,虽然正式版还没有发布,想必也不久了。那么作为aps纵横江湖十多年的今天,blog2.2版本应该已经成熟了,为什么还要发布这个2.3...

原创小博客 ⋅ 今天 ⋅ 0

聊聊spring cloud的HystrixCircuitBreakerConfiguration

序 本文主要研究一下spring cloud的HystrixCircuitBreakerConfiguration HystrixCircuitBreakerConfiguration spring-cloud-netflix-core-2.0.0.RELEASE-sources.jar!/org/springframework/......

go4it ⋅ 今天 ⋅ 0

二分查找

二分查找,也称折半查找、二分搜索,是一种在有序数组中查找某一特定元素的搜索算法。搜素过程从数组的中间元素开始,如果中间元素正好是要查找的元素,则搜素过程结束;如果某一特定元素大于...

人觉非常君 ⋅ 今天 ⋅ 0

VS中使用X64汇编

需要注意的是,在X86项目中,可以使用__asm{}来嵌入汇编代码,但是在X64项目中,再也不能使用__asm{}来编写嵌入式汇编程序了,必须使用专门的.asm汇编文件来编写相应的汇编代码,然后在其它地...

simpower ⋅ 今天 ⋅ 0

ThreadPoolExecutor

ThreadPoolExecutor public ThreadPoolExecutor(int corePoolSize, int maximumPoolSize, long keepAliveTime, ......

4rnold ⋅ 昨天 ⋅ 0

Java正无穷大、负无穷大以及NaN

问题来源:用Java代码写了一个计算公式,包含除法和对数和取反,在页面上出现了-infinity,不知道这是什么问题,网上找答案才明白意思是负的无穷大。 思考:为什么会出现这种情况呢?这是哪里...

young_chen ⋅ 昨天 ⋅ 0

前台对中文编码,后台解码

前台:encodeURI(sbzt) 后台:String param = URLDecoder.decode(sbzt,"UTF-8");

west_coast ⋅ 昨天 ⋅ 0

实验楼—MySQL基础课程-挑战3实验报告

按照文档要求创建数据库 sudo sercice mysql startwget http://labfile.oss.aliyuncs.com/courses/9/createdb2.sqlvim /home/shiyanlou/createdb2.sql#查看下数据库代码 代码创建了grade......

zhangjin7 ⋅ 昨天 ⋅ 0

一起读书《深入浅出nodejs》-node模块机制

node 模块机制 前言 说到node,就不免得提到JavaScript。JavaScript自诞生以来,经历了工具类库、组件库、前端框架、前端应用的变迁。通过无数开发人员的努力,JavaScript不断被类聚和抽象,...

小草先森 ⋅ 昨天 ⋅ 0

没有更多内容

加载失败,请刷新页面

加载更多

下一页

返回顶部
顶部