Twitter 新一代流处理利器——Heron 论文笔记之Storm Limitations,


Twitter 新一代流处理利器——Heron 论文笔记之Storm Limitations

标签(空格分隔): Streaming-Processing


Storm Problems

scalability, debug-ability, manageability, and efficient sharing of cluster resources with other data services。

Storm Worker Architecture: Limitations

Issues with the Storm Nimbus

Storm的NImbus任务很多很艰巨,包括调度,监听,分发JAR等等,topology多的时候,Nimbus将变成瓶颈。

Lack of Backpressure

Storm没有backpressure机制,如果下游接收数据的component没有及时处理数据的话,发送者就会drop message。这是一种fail-fast机制,也很简单,但是有以下缺点:

Efficiency

  • Suboptimal replays
  • Long Garbage Collection cycles
  • Queue contention

未完待续,下次讲述Twitter的新利器——Heron的架构以及是如何解决上述Storm存在的问题的。

Reference

相关内容