Storm 中 Fields作用

原创
2014/08/01 21:18
阅读数 439

之前一直没搞清楚Fields的作用,今天再看一个例子的时候突然脑洞大开,想通了!看得例子如下。

TransactionalTopologyBuilder builder =
        new TransactionalTopologyBuilder("test", "spout", new TweetsTransactionalSpout());
        
builder.setBolt("users-splitter", new UserSplitterBolt(), 4).shuffleGrouping("spout");

builder.setBolt("hashtag-splitter",
        new HashtagSplitterBolt(), 4).shuffleGrouping("spout");
        
builder.setBolt("user-hashtag-merger", new UserHashtagJoinBolt(), 4)
        .fieldsGrouping("users-splitter","users", new Fields("tweet_id"))
        .fieldsGrouping("hashtag-splitter", "hashtags", new Fields("tweet_id"));

这里有两个bolt在向user-hashtag-merger发送数据,两个bolt在 emit的时候可能发送了不同的tuple比如:

users-splitter中emit(new Values(a, b, c)); declarer.declare(new Fields("id", "name", "tweet_id"));

hashtag-splitter中则emit(new Values(a, b)); declarer.declare(new Fields("id", "tweet_id"));

比如user-hashtag-merger中需要的是users-splitter中的c,hashtag-splitter 中的b,而在user-hashtag-merger

中接收数据的时候无法知道数据是哪个bolt发来的(或者就算知道,发来的数据格式不一样也不是一个好的设计)所以这边设定了一个

Fields,这样在发送数据的时候只发送指定Fields的数据,比如这边user-hashtag-merger不管前面bolt emit的时候

发送了什么,最后收到的只有一个,方便处理。

builder.setBolt("redis-committer", new RedisCommiterCommiterBolt())
        .globalGrouping("users-splitter","users")
        .globalGrouping("hashtag-splitter", "hashtags")
        .globalGrouping("user-hashtag-merger");


展开阅读全文
打赏
1
0 收藏
分享

作者的其它热门文章

加载中
更多评论
打赏
0 评论
0 收藏
1
分享
返回顶部
顶部