孙其功陪你学之——基于IDEA使用Spark API开放Spark程序(2)
2015-01-16 14:03
393 查看
《Spark亚太研究院系列丛书——Spark实战高手之路 从零开始》本书通过Spark的shell测试Spark的工作;使用Spark的cache机制观察一下效率的提升构建Spark的IDE开发环境;通过Spark的IDE搭建Spark开发环境;测试Spark IDE开发环境等等。本节为大家介绍基于IDEA使用Spark API开放Spark程序。
2.基于IDEA使用Spark API开放Spark程序(2)
下面修改Libraries:
因为要开发Spark程序,所以需要把Spark的开发需要的jar包导进来:
加入后:
导入包完成后,在工程的scala下面创建一个package:
创建一个Object对象:
完成初始类的创建:
首先构建Spark Driver的模板代码:
该程序是对前面的搜狗日志的处理代码,只不过这个时候在IDEA中编写而已。
接下来进行打包,使用Project Structure的Artifacts:
使用From modules with dependencies:
选择Main Class:
点击“OK”:
2.基于IDEA使用Spark API开放Spark程序(2)
下面修改Libraries:
因为要开发Spark程序,所以需要把Spark的开发需要的jar包导进来:
加入后:
导入包完成后,在工程的scala下面创建一个package:
创建一个Object对象:
完成初始类的创建:
首先构建Spark Driver的模板代码:
该程序是对前面的搜狗日志的处理代码,只不过这个时候在IDEA中编写而已。
接下来进行打包,使用Project Structure的Artifacts:
使用From modules with dependencies:
选择Main Class:
点击“OK”:
相关文章推荐
- 孙其功陪你学之——基于IDEA使用Spark API开放Spark程序(1)
- 孙其功陪你学之——基于IDEA使用Spark API开放Spark程序(3)
- Spark API编程动手实战-08-基于IDEA使用Spark API开发Spark程序-01
- Spark API编程动手实战-08-基于IDEA使用Spark API开发Spark程序-02
- Spark API编程动手实战-08-基于IDEA使用Spark API开发Spark程序-02
- Spark API编程动手实战-08-基于IDEA使用Spark API开发Spark程序-01
- 基于IDEA使用Spark API开发Spark程序
- 使用IDEA编写基于Scala的spark程序中的常见问题
- 使用IDEA运行Spark程序
- 使用idea编辑sparkSql的程序运行出现java.lang.IllegalArgumentException: java.net.URISyntaxException
- 使用Idea提交Spark程序
- Spark一千篇旅游日记0002 之 使用idea开发spark程序
- 使用IDEA进行Spark开发(二)-第一个scala程序
- 使用IDEA运行Spark程序
- 启动Spark Shell,在Spark Shell中编写WordCount程序,在IDEA中编写WordCount的Maven程序,spark-submit使用spark的jar来做单词统计
- 使用IDEA开发spark程序
- Learning Spark笔记13-基于分区工作、通过管道使用外部程序、数字RDD操作
- Learning Spark——使用Intellij Idea开发基于Maven的Spark程序
- intelliji idea 基于maven运行spark程序
- 使用IDEA运行Spark程序