您的位置:首页 > 其它

孙其功陪你学之——基于IDEA使用Spark API开放Spark程序(2)

2015-01-16 14:03 393 查看
《Spark亚太研究院系列丛书——Spark实战高手之路 从零开始》本书通过Spark的shell测试Spark的工作;使用Spark的cache机制观察一下效率的提升构建Spark的IDE开发环境;通过Spark的IDE搭建Spark开发环境;测试Spark IDE开发环境等等。本节为大家介绍基于IDEA使用Spark API开放Spark程序。

2.基于IDEA使用Spark API开放Spark程序(2)

下面修改Libraries:





因为要开发Spark程序,所以需要把Spark的开发需要的jar包导进来:





加入后:





导入包完成后,在工程的scala下面创建一个package:





创建一个Object对象:





完成初始类的创建:





首先构建Spark Driver的模板代码:





该程序是对前面的搜狗日志的处理代码,只不过这个时候在IDEA中编写而已。

接下来进行打包,使用Project Structure的Artifacts:





使用From modules with dependencies:





选择Main Class:









点击“OK”:



内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签: