Apache Storm.pdf
需积分: 10 4 浏览量
2020-06-06
14:30:28
上传
评论
收藏 601KB PDF 举报
Apachestorm是一个分布式的实时大数据处理系统。用于在容错和水平可拓展方法中处理大量数据。
它是一个流数据框架，具有很高的摄取率，无状态。通过zk管理分布式环境和集群状态，并行地对实时数
据执行各种操作。
storm易于设置和操作，并且它保证每个消息将通过拓扑至少处理一次。
基本上Hadoop和Storm框架用于分析大数据。两者互补，在某些方面有所不同。ApacheStorm执行除持
久性之外的所有操作，而Hadoop在所有方面都很好，但滞后于实时计算。下表比较了Storm和Hadoop的
属性。
Storm Hadoop
实时流处理 批量处理
无状态 有状态
主/从架构与基于ZooKeeper的协调。主节点称为nimbus，从属
节点是主管。
具有/不具有基于ZooKeeper的协调的主从结构。主节点是
业跟踪器，从节点是任务跟踪器。
Storm流过程在集群上每秒可以访问数万条消息。 Hadoop分布式文件系统（HDFS）使用MapReduce框架来处理大
量的数据，需要几分钟或几小时。
Storm拓扑运行直到用户关闭或意外的不可恢复故障。 MapReduce作业按顺序执行并最终完成。
两者都是分布式和容错的
如果nimbus/supervisor死机，重新启动使它从它停止的地
方继续，因此没有什么受到影响。
如果JobTracker死机，所有正在运行的作业都会丢失。
ApacheStorm优势：
1.Storm是开源的，强大的，用户友好的。它可以用于小公司和大公司。
2.Storm是容错的，灵活的，可靠的，并且支持任何编程语言。
3.允许实时流处理。
4.Storm是令人难以置信的快，因为它具有巨大的处理数据的力量。
5.Storm可以通过线性增加资源来保持性能，即使在负载增加的情况下。它是高度可扩展的。
6.Storm在几秒钟或几分钟内执行数据刷新和端到端传送响应取决于问题。它具有非常低的延
迟。
7.Storm有操作智能。
8.Storm提供保证的数据处理，即使群集中的任何连接的节点死或消息丢失。
Apachestorm从一端读取 实时数据的原始流，将其传递通过一系列小处理单元，并在另一端输出处
理/有用的信息
资源评论
