spark 1.6 idea本地运行错误
2016-03-10 00:37
330 查看
将spark maven更新至1.6,运行原有程序,发现以下错误:
解决方案:修改运行配置,在VM中增加下述参数:
java.lang.IllegalArgumentException: System memory 259522560 must be at least 4.718592E8. Please use a larger heap size. at org.apache.spark.memory.UnifiedMemoryManager$.getMaxMemory(UnifiedMemoryManager.scala:193) at org.apache.spark.memory.UnifiedMemoryManager$.apply(UnifiedMemoryManager.scala:175) at org.apache.spark.SparkEnv$.create(SparkEnv.scala:354) at org.apache.spark.SparkEnv$.createDriverEnv(SparkEnv.scala:193) at org.apache.spark.SparkContext.createSparkEnv(SparkContext.scala:288) at org.apache.spark.SparkContext.<init>(SparkContext.scala:457) at org.apache.spark.api.java.JavaSparkContext.<init>(JavaSparkContext.scala:59) at final_paper_time.main(final_paper_time.java:153) at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method) at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:57) at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43) at java.lang.reflect.Method.invoke(Method.java:601) at com.intellij.rt.execution.application.AppMain.main(AppMain.java:144) 16/03/10 00:35:36 INFO SparkContext: Successfully stopped SparkContext
解决方案:修改运行配置,在VM中增加下述参数:
-Xms128m-Xmx512m-XX:MaxPermSize=300m-ea
相关文章推荐
- swift数据持久化--归档
- 一个简单的远程溢出漏洞分析
- 安卓第十一天笔记-Intent与inter-filter配置
- 通过js实时检测文本框内容
- java序列化
- 文章标题
- 【文件】一开始学的就不好
- 数据质量分析
- CentOS中配置VNC Server
- 1007-六角填数
- Spring4.1新特性——静态资源处理增强
- python 笔记学习(第一天)
- clang: error: linker command failed with exit code 1 (use -v to see invocation)问题
- mysql-bin.000 二进制文件
- 版本控制系统Git
- 多线程断点续传实现
- UITextField - 输入框
- lightOJ 1082 Array Queries
- 关于C#对AutoCad2007二次开发插件工作总结
- AudioPolicyService 的分析之一