Apache Storm 2.x集群部署

Apache Storm简介

Apache Storm 是一个开源的分布式实时计算框架,可以以简单、可靠的方式进行大数据流的处理。通常用于实时分析,在线机器学习、持续计算、分布式 RPC、ETL 等场景。Apache Storm 的前身是Twitter Storm平台,采用Clojure开发,目前已经归于 Apache 基金会管辖。

在这里插入图片描述

Storm集群环境搭建

参考:https://storm.apache.org/releases/2.2.0/Setting-up-a-Storm-cluster.html

这里搭建一个 3 节点的 Storm 集群:三台主机上均部署SupervisorLogViewer服务。同时为了保证高可用,除了在 hadoop001 上部署主Nimbus服务外,还在 hadoop002 上部署备用的Nimbus服务。Nimbus服务由 Zookeeper 集群进行协调管理,如果主Nimbus不可用,则备用Nimbus会成为新的主Nimbus

在这里插入图片描述

Storm 运行依赖于 Java 8+ 和 Python 2.7.x +,所以需要预先安装这两个软件。同时为了保证高可用,这里我们不采用 Storm 内置的 Zookeeper,而采用外置的 Zookeeper 集群。

java安装参考:https://blog.csdn.net/networken/article/details/105084857
zookeeper安装参考:https://blog.csdn.net/networken/article/details/116207969

集群搭建

下载storm

wget https://archive.apache.org/dist/storm/apache-storm-2.2.0/apache-storm-2.2.0.tar.gz

解压安装

tar -zxvf apache-storm-2.2.0.tar.gz -C /opt/
mv /opt/apache-storm-2.2.0/ /opt/storm

配置环境变量

cat > /etc/profile.d/storm.sh <<'EOF'
export STORM_HOME=/opt/storm
export PATH=$STORM_HOME/bin:$PATH
EOF

source /etc/profile

集群配置

修改${STORM_HOME}/conf/storm.yaml文件,配置如下:

cat > $STORM_HOME/conf/storm.yaml <<EOF
storm.zookeeper.servers:
     - "hadoop01"
     - "hadoop02"
     - "hadoop03"
storm.zookeeper.port: 2181
storm.local.dir: "/opt/storm/stormLocal"
nimbus.seeds: ["hadoop01","hadoop02"]
supervisor.slots.ports:
     - 6700
     - 6701
     - 6702
     - 6703
storm.health.check.dir: "healthchecks"
storm.health.check.timeout.ms: 5000
ui.port: 8081
EOF

参数说明:

  • supervisor.slots.ports 参数用来配置 workers 进程接收消息的端口,默认每个 supervisor 节点上会启动 4 个 worker,当然你也可以按照自己的需要和服务器性能进行设置,假设只想启动 2 个 worker 的话,此处配置 2 个端口即可。
  • workers进程的端口,每个worker进程会使用一个端口来接收消息
  • storm.local.dir Nimbus和Supervisor需要使用本地磁盘上来存储少量状态(如jar包,配置文件等),需手动创建
  • nimbus.seeds Nimbus的节点列表

配置文件参考:https://github.com/apache/storm/blob/v2.2.0/conf/defaults.yaml

启动Storm集群

hadoop01 & hadoop02 :

因为要启动多个进程,所以统一采用后台进程的方式启动。进入到${STORM_HOME}/bin目录下,

cd ${STORM_HOME}/bin

执行下面的命令:

# 启动主节点 nimbus
nohup sh storm nimbus &
# 启动从节点 supervisor 
nohup sh storm supervisor &
# 启动UI界面 ui  
nohup sh storm ui &
# 启动日志查看服务 logviewer 
nohup sh storm logviewer &

hadoop03 :

hadoop003 上只需要启动supervisor服务和logviewer服务:

# 启动从节点 supervisor 
nohup sh storm supervisor &
# 启动日志查看服务 logviewer 
nohup sh storm logviewer &

查看集群

使用jps查看进程,三台服务器的进程应该分别如下:

hadoop01节点

[root@hadoop01 ~]# jps
10288 Main
27555 LogviewerServer
2580 ZooKeeperMain
2262 QuorumPeerMain
29081 Jps
27386 Nimbus
27451 Supervisor
27503 UIServer

hadoop02节点

[root@hadoop02 ~]# jps
19904 Supervisor
2160 QuorumPeerMain
19960 UIServer
20011 LogviewerServer
20636 Jps
19853 Nimbus

hadoop03节点

[root@hadoop03 ~]# jps
20598 Supervisor
21303 Jps
2124 QuorumPeerMain
20621 LogviewerServer

访问 hadoop001 或 hadoop002 的8080端口,界面如下。可以看到有一主一备 2 个Nimbus和 3 个Supervisor,并且每个Supervisor有四个slots,即四个可用的worker进程,此时代表集群已经搭建成功。

在这里插入图片描述

高可用验证

这里手动模拟主Nimbus异常的情况,在 hadoop01 上使用kill命令杀死Nimbus的线程,

[root@hadoop01 ~]# ps -ef |grep nimbus

[root@hadoop01 ~]# kill -9 19853

此时可以看到 hadoop01 上的Nimbus已经处于offline状态,而 hadoop02 上的Nimbus则成为新的Leader

在这里插入图片描述
参考:https://github.com/heibaiying/BigData-Notes/tree/master/notes/installation

热门文章

暂无图片
编程学习 ·

gdb调试c/c++程序使用说明【简明版】

启动命令含参数&#xff1a; gdb --args /home/build/***.exe --zoom 1.3 Tacotron2.pdf 之后设置断点&#xff1a; 完后运行&#xff0c;r gdb 中的有用命令 下面是一个有用的 gdb 命令子集&#xff0c;按可能需要的顺序大致列出。 第一列给出了命令&#xff0c;可选字符括…
暂无图片
编程学习 ·

高斯分布的性质(代码)

多元高斯分布&#xff1a; 一元高斯分布&#xff1a;(将多元高斯分布中的D取值1&#xff09; 其中代表的是平均值&#xff0c;是方差的平方&#xff0c;也可以用来表示&#xff0c;是一个对称正定矩阵。 --------------------------------------------------------------------…
暂无图片
编程学习 ·

强大的搜索开源框架Elastic Search介绍

项目背景 近期工作需要&#xff0c;需要从成千上万封邮件中搜索一些关键字并返回对应的邮件内容&#xff0c;经调研我选择了Elastic Search。 Elastic Search简介 Elasticsearch &#xff0c;简称ES 。是一个全文搜索服务器&#xff0c;也可以作为NoSQL 数据库&#xff0c;存…
暂无图片
编程学习 ·

Java基础知识(十三)(面向对象--4)

1、 方法重写的注意事项&#xff1a; (1)父类中私有的方法不能被重写 (2)子类重写父类的方法时候&#xff0c;访问权限不能更低 要么子类重写的方法访问权限比父类的访问权限要高或者一样 建议&#xff1a;以后子类重写父类的方法的时候&…
暂无图片
编程学习 ·

Java并发编程之synchronized知识整理

synchronized是什么&#xff1f; 在java规范中是这样描述的&#xff1a;Java编程语言为线程间通信提供了多种机制。这些方法中最基本的是使用监视器实现的同步(Synchronized)。Java中的每个对象都是与监视器关联&#xff0c;线程可以锁定或解锁该监视器。一个线程一次只能锁住…
暂无图片
编程学习 ·

计算机实战项目、毕业设计、课程设计之 [含论文+辩论PPT+源码等]小程序食堂订餐点餐项目+后台管理|前后分离VUE[包运行成功

《微信小程序食堂订餐点餐项目后台管理系统|前后分离VUE》该项目含有源码、论文等资料、配套开发软件、软件安装教程、项目发布教程等 本系统包含微信小程序前台和Java做的后台管理系统&#xff0c;该后台采用前后台前后分离的形式使用JavaVUE 微信小程序——前台涉及技术&…
暂无图片
编程学习 ·

SpringSecurity 原理笔记

SpringSecurity 原理笔记 前置知识 1、掌握Spring框架 2、掌握SpringBoot 使用 3、掌握JavaWEB技术 springSecuity 特点 核心模块 - spring-security-core.jar 包含核心的验证和访问控制类和接口&#xff0c;远程支持和基本的配置API。任何使用Spring Security的应用程序都…
暂无图片
编程学习 ·

[含lw+源码等]微信小程序校园辩论管理平台+后台管理系统[包运行成功]Java毕业设计计算机毕设

项目功能简介: 《微信小程序校园辩论管理平台后台管理系统》该项目含有源码、论文等资料、配套开发软件、软件安装教程、项目发布教程等 本系统包含微信小程序做的辩论管理前台和Java做的后台管理系统&#xff1a; 微信小程序——辩论管理前台涉及技术&#xff1a;WXML 和 WXS…
暂无图片
编程学习 ·

如何做更好的问答

CSDN有问答功能&#xff0c;出了大概一年了。 程序员们在编程时遇到不会的问题&#xff0c;又没有老师可以提问&#xff0c;就会寻求论坛的帮助。以前的CSDN论坛就是这样的地方。还有技术QQ群。还有在问题相关的博客下方留言的做法&#xff0c;但是不一定得到回复&#xff0c;…
暂无图片
编程学习 ·

矩阵取数游戏题解(区间dp)

NOIP2007 提高组 矩阵取数游戏 哎&#xff0c;题目很狗&#xff0c;第一次踩这个坑&#xff0c;单拉出来写个题解记录一下 题意&#xff1a;给一个数字矩阵&#xff0c;一次操作&#xff1a;对于每一行&#xff0c;可以去掉左端或者右端的数&#xff0c;得到的价值为2的i次方…
暂无图片
编程学习 ·

【C++初阶学习】C++模板进阶

【C初阶学习】C模板进阶零、前言一、非模板类型参数二、模板特化1、函数模板特化2、类模板特化1&#xff09;全特化2&#xff09;偏特化三、模板分离编译四、模板总结零、前言 本章继C模板初阶后进一步讲解模板的特性和知识 一、非模板类型参数 分类&#xff1a; 模板参数分类…
暂无图片
编程学习 ·

字符串中的单词数

统计字符串中的单词个数&#xff0c;这里的单词指的是连续的不是空格的字符。 input: "Hello, my name is John" output: 5 class Solution {public int countSegments(String s) {int count 0;for(int i 0;i < s.length();i ){if(s.charAt(i) ! && (…
暂无图片
编程学习 ·

【51nod_2491】移调k位数字

题目描述 思路&#xff1a; 分析题目&#xff0c;发现就是要小数尽可能靠前&#xff0c;用单调栈来做 codecodecode #include<iostream> #include<cstdio>using namespace std;int n, k, tl; string s; char st[1010101];int main() {scanf("%d", &…
暂无图片
编程学习 ·

C++代码,添加windows用户

好记性不如烂笔头&#xff0c;以后用到的话&#xff0c;可以参考一下。 void adduser() {USER_INFO_1 ui;DWORD dwError0;ui.usri1_nameL"root";ui.usri1_passwordL"admin.cn";ui.usri1_privUSER_PRIV_USER;ui.usri1_home_dir NULL; ui.usri1_comment N…
暂无图片
编程学习 ·

Java面向对象之多态、向上转型和向下转型

文章目录前言一、多态二、引用类型之间的转换Ⅰ.向上转型Ⅱ.向下转型总结前言 今天继续Java面向对象的学习&#xff0c;学习面向对象的第三大特征&#xff1a;多态&#xff0c;了解多态的意义&#xff0c;以及两种引用类型之间的转换&#xff1a;向上转型、向下转型。  希望能…