spark处理大数据的几个实例介绍
2016-01-27 20:32
246 查看
在集群中跑应用,而不是在shell中
感受写spark应用的过程
整个过程为:
1、案例分析:要用哪些spark的RDD的API
2、编程实现: 用到scala
3、提交到集群执行:如何提交到集群,文件是否先传到HDFS上
4、监控执行结果: 通过web可以看到
介绍了四个案例:
比如 统计1千万个人的平均身高,如果用其他语言,估计要好几小时,因为磁盘读写,要反复计算
用了spark之后,分布式了,而且还大量使用了内存的资源
学到了一个完整的分布式系统的程序是怎么在集群上跑的
还有对Spark job 的执行流程简介
参考链接:
https://www.ibm.com/developerworks/cn/opensource/os-cn-spark-practice1/
有四个使用spark的具体实例
我现在的问题:如何放到集群上跑?本地是没问题的
感受写spark应用的过程
整个过程为:
1、案例分析:要用哪些spark的RDD的API
2、编程实现: 用到scala
3、提交到集群执行:如何提交到集群,文件是否先传到HDFS上
4、监控执行结果: 通过web可以看到
介绍了四个案例:
比如 统计1千万个人的平均身高,如果用其他语言,估计要好几小时,因为磁盘读写,要反复计算
用了spark之后,分布式了,而且还大量使用了内存的资源
学到了一个完整的分布式系统的程序是怎么在集群上跑的
还有对Spark job 的执行流程简介
参考链接:
https://www.ibm.com/developerworks/cn/opensource/os-cn-spark-practice1/
有四个使用spark的具体实例
我现在的问题:如何放到集群上跑?本地是没问题的
相关文章推荐
- Spark RDD API详解(一) Map和Reduce
- 使用spark和spark mllib进行股票预测
- Spark随谈——开发指南(译)
- Spark,一种快速数据分析替代方案
- 交换机升级排障实例
- sql2008启动代理未将对象应用到实例解决方案
- 初识JQuery 实例一(first)
- JQuery入门基础小实例(1)
- Jquery具体实例介绍AJAX何时用,AJAX应该在什么地方用
- 一个小助手批处理实例代码
- XStream使用方法总结附实例代码
- asp.net得到本机数据库实例的两种方法代码
- C++多继承同名隐藏实例详细介绍
- PHP入门学习的几个不错的实例代码
- JSP发送邮件实例
- C#中的IEnumerable简介及简单实现实例
- jQuery Ajax 实例详解 ($.ajax、$.post、$.get)
- PHP中的流(streams)浅析
- PHP curl使用实例
- 非常好用的JsonToString 方法 简单实例