开源夏令营——Jstorm on YARN之期末总结
2014-09-06 21:52
155 查看
经过一个暑假的实习,项目已经完成,在此期间,对storm, jstorm, storm-yarn都有了进一步的了解,在此对jstorm on yarn项目作一个整体的总结。
1. jstorm-yarn项目是依照storm-yarn项目进行修改,主体架构保持不变,只在jstorm与storm不同的地方进行修改,使之能够运行。
2. jstorm-yarn架构:
用户启动jstorm-yarn后,会首先向yarn申请一个container运行MasterServer,MasterServer会启动jstorm Nimbus Server。同时MasterServer也继承了ThriftServer,用于接收客户端命令。当yarn集群资源充足时,MasterServer也会申请启动默认数量的jstorm Supervisor Server。supervisor数量可通过命令addSupervisor进行增加。
3. jstorm-yarn命令: []内为可选参数
jstorm-yarn help
jstorm-yarn launch <master.yaml>
-appname <arg> Application Name. Default value - JStorm-on-Yarn
-jstormConfOutput <arg> storm.yaml file
-jstormHome <arg> JStorm Home Directory
-jstormZip <arg> file path of jstorm.zip
-output <arg> Output file
-queue <arg> RM Queue in which this application is to be submitted
jstorm-yarn addSupervisors -appId <arg> [-output <arg>] -supervisors
<arg>
jstorm-yarn stopSupervisors -appId <arg> [-output <arg>]
jstorm-yarn
startSupervisors -appId <arg> [-output <arg>]
jstorm-yarn startNimbus -appId
<arg> [-output <arg>]
jstorm-yarn stopNimbus -appId
<arg> [-output <arg>]
jstorm-yarn getStormConfig -appId
<arg> [-output <arg>]
jstorm-yarn setStormConfig -appId
<arg> [-output <arg>]
jstorm-yarn version
jstorm-yarn shutdown
4. jstorm-yarn 配置、使用说明
详见项目说明
1. jstorm-yarn项目是依照storm-yarn项目进行修改,主体架构保持不变,只在jstorm与storm不同的地方进行修改,使之能够运行。
2. jstorm-yarn架构:
用户启动jstorm-yarn后,会首先向yarn申请一个container运行MasterServer,MasterServer会启动jstorm Nimbus Server。同时MasterServer也继承了ThriftServer,用于接收客户端命令。当yarn集群资源充足时,MasterServer也会申请启动默认数量的jstorm Supervisor Server。supervisor数量可通过命令addSupervisor进行增加。
3. jstorm-yarn命令: []内为可选参数
jstorm-yarn help
jstorm-yarn launch <master.yaml>
-appname <arg> Application Name. Default value - JStorm-on-Yarn
-jstormConfOutput <arg> storm.yaml file
-jstormHome <arg> JStorm Home Directory
-jstormZip <arg> file path of jstorm.zip
-output <arg> Output file
-queue <arg> RM Queue in which this application is to be submitted
jstorm-yarn addSupervisors -appId <arg> [-output <arg>] -supervisors
<arg>
jstorm-yarn stopSupervisors -appId <arg> [-output <arg>]
jstorm-yarn
startSupervisors -appId <arg> [-output <arg>]
jstorm-yarn startNimbus -appId
<arg> [-output <arg>]
jstorm-yarn stopNimbus -appId
<arg> [-output <arg>]
jstorm-yarn getStormConfig -appId
<arg> [-output <arg>]
jstorm-yarn setStormConfig -appId
<arg> [-output <arg>]
jstorm-yarn version
jstorm-yarn shutdown
4. jstorm-yarn 配置、使用说明
详见项目说明
相关文章推荐
- Canonical成为2013年10月份奥格夏令营开源活动的金牌赞助商
- CSDN开源夏令营 百度数据可视化实践 前言
- 【开源夏令营】PFIF公益寻人平台(一)
- 开源夏令营第一周
- 开源夏令营之foldcolumn工具及解决方案之获取终端宽度
- 开源夏令营(1)
- [开源夏令营][六] 问题汇总
- 开源夏令营中期总结及第四周工作总结
- 开源夏令营《基于HackRF开发GPS信号仿真模拟器》工作总结(五)
- 开源夏令营第六周--要求调整及近期安排
- 【开源夏令营】PFIF公益寻人平台(六)
- CSDN开源夏令营总结
- CSDN开源夏令营 基于Compiz的switcher插件设计与实现之编译compiz源代码
- [开源夏令营][四] Docker remote API 之 镜像篇
- 开源夏令营第五周--中期总结
- 【开源夏令营】PFIF公益寻人平台(七)
- 开源夏令营之项目汇报9
- 开源夏令营之项目汇报10(结题报告)
- 开源夏令营(5)
- 2014年CSDN开源夏令营(7月6日~9月12日)终期报告