sprak 环境搭建的坑
2016-04-21 21:44
225 查看
1,/etc/hosts下的ip master/slave 的对照
/etc/sysconfig/network 配置:
NETWORKING=yes
HOSTNAME=master
以及spark/conf/spark-env.sh 及 slave文件的相关配置
如果不bind ip和master名字,那就直接--master spark://ip:port来指定master
2, 最大的坑是一定要scala一定要配置为2.10.版本,之前配置为2.11.各种出错,心累啊啊啊啊
3,IDEA上spark搭建,用于本地调试:http://zhidao.baidu.com/link?url=1BZPWt5SrrtN38El2gFoE0oam5Drk5uepCMna2RmKiiSK0o49z3WofU7o7hGMJoWzHfD36bfJsUXbyIi9Zu7TtsFY3O-XhADK-UWSBo60Ja
http://debugo.com/idea-spark/
4,至于其他的,看牛人博客 http://www.cnblogs.com/shishanyuan/p/4700615.html
5,其他坑:http://greemranqq.iteye.com/blog/2241277
6,spark学习干货:(坚持都看完)
理解RDD:http://itindex.net/detail/51871-spark-rdd-模型
pyspark: http://blog.jobbole.com/86232/
/etc/sysconfig/network 配置:
NETWORKING=yes
HOSTNAME=master
以及spark/conf/spark-env.sh 及 slave文件的相关配置
如果不bind ip和master名字,那就直接--master spark://ip:port来指定master
2, 最大的坑是一定要scala一定要配置为2.10.版本,之前配置为2.11.各种出错,心累啊啊啊啊
3,IDEA上spark搭建,用于本地调试:http://zhidao.baidu.com/link?url=1BZPWt5SrrtN38El2gFoE0oam5Drk5uepCMna2RmKiiSK0o49z3WofU7o7hGMJoWzHfD36bfJsUXbyIi9Zu7TtsFY3O-XhADK-UWSBo60Ja
http://debugo.com/idea-spark/
4,至于其他的,看牛人博客 http://www.cnblogs.com/shishanyuan/p/4700615.html
5,其他坑:http://greemranqq.iteye.com/blog/2241277
6,spark学习干货:(坚持都看完)
理解RDD:http://itindex.net/detail/51871-spark-rdd-模型
pyspark: http://blog.jobbole.com/86232/
from
pyspark
import
SparkContext
相关文章推荐
- 关于MVC的一些思考
- 南京理工大学第八届程序设计大赛(校外镜像) J sequence
- STL string
- 堆排序
- mysql安装
- Mat代码操作
- 团队作业---软件制作2
- 欢迎使用CSDN-markdown编辑器
- binder学习笔记(二)
- LintCode : Binary Search Tree Iterator
- Java中的线程状态之终止
- 第九周周总结
- ftp服务器、 Samba服务器、NFS服务器的区别
- 1034. Head of a Gang (30)
- 冲刺第二天
- Xcode7 IOS 项目协作开发遇到apple push notification 提示开发者权限enrolled需求提示
- java IM基础(一):建立tcp连接
- 汇编指令实现计算2的4次方
- arm9+linux fl2440 GPRS SIM卡 模块 ppp拨号上网
- 反思