MapReduce 程序运行报错 java.lang.ClassNotFoundException解决方法
2016-11-05 10:58
363 查看
在创建自定义的Mapper时候,编译正确,但上传到集群执行时出现错误:
程序开发的步骤是 在Windows的eclipse下开发,然后倒出JAR包,将JAR包放在集群上运行。
eclipse的jdk的版本不能高于hadoop里面配置的jdk的版本,否则会报错。(具体是什么类型的错误,记不到了)
问题原因及解决办法如下:
因为使用的是0.20以上的Hadoop版本,在调用jar中的自定义mapper时,需要设置setJarByClass方法,设置方法如下:
job.setJarByClass(MyJob.class);
其实,在输出日志中也有提示信息:
11/16/05 22:53:03 WARN mapred.JobClient: No job jar file set. User classes may not be found. See JobConf(Class) or JobConf#setJar(String).
job.setJarByClass(MyJob.class);
11/16/05 22:53:16 INFO mapred.JobClient: Task Id : attempt_201111301626_0015_m_000000_0, Status : FAILED java.lang.RuntimeException: java.lang.ClassNotFoundException: actiondemo.MyJob$MapClass at org.apache.Hadoop.conf.Configuration.getClass(Configuration.java:866) at org.apache.hadoop.mapreduce.JobContext.getMapperClass(JobContext.java:199) at org.apache.hadoop.mapred.MapTask.runNewMapper(MapTask.java:719) at org.apache.hadoop.mapred.MapTask.run(MapTask.java:370) at org.apache.hadoop.mapred.Child$4.run(Child.java:255) at java.security.AccessController.doPrivileged(Native Method) at javax.security.auth.Subject.doAs(Subject.java:396) at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1059) at org.apache.hadoop.mapred.Child.main(Child.java:249) Caused by: java.lang.ClassNotFoundException: actiondemo.MyJob$MapClass at java.net.URLClassLoader$1.run(URLClassLoader.java:202) at java.security.AccessController.doPrivileged(Native Method) at java.net.URLClassLoader.findClass(URLClassLoader.java:190) at java.lang.ClassLoader.loadClass(ClassLoader.java:306) at sun.misc.Launcher$AppClassLoader.loadClass(Launcher.java:301) at java.lang.ClassLoader.loadClass(ClassLoader.java:247) at java.lang.Class.forName0(Native Method) at java.lang.Class.forName(Class.java:247) at org.apache.hadoop.conf.Configuration.getClassByName(Configuration.java:819) at org.apache.hadoop.conf.Configuration.getClass(Configuration.java:864) ... 8 more
程序开发的步骤是 在Windows的eclipse下开发,然后倒出JAR包,将JAR包放在集群上运行。
eclipse的jdk的版本不能高于hadoop里面配置的jdk的版本,否则会报错。(具体是什么类型的错误,记不到了)
问题原因及解决办法如下:
因为使用的是0.20以上的Hadoop版本,在调用jar中的自定义mapper时,需要设置setJarByClass方法,设置方法如下:
job.setJarByClass(MyJob.class);
其实,在输出日志中也有提示信息:
11/16/05 22:53:03 WARN mapred.JobClient: No job jar file set. User classes may not be found. See JobConf(Class) or JobConf#setJar(String).
job.setJarByClass(MyJob.class);
相关文章推荐
- Mac系统下执行hadoop jar 运行在某包内的程序 提示java.lang.ClassNotFoundException的解决方法
- hadoop运行报错: java.lang.ClassNotFoundException解决方法
- hadoop运行报错: java.lang.ClassNotFoundException解决方法
- android studio运行程序找不到class,java.lang.ClassNotFoundException: Didn't find class,完美解决!
- Android最新的开发环境运行原来环境开发的程序报java.lang.ClassNotFoundException错误解决
- java.lang.ClassNotFoundException: org.apache.commons.collections.map.ListOrderedMap解决方法
- 关于在开发板上运行程序显示“-bin/sh:/XXX not found”的解决方法
- 在eclipse下用java.lang.ClassNotFoundException: org.apache.commons.dbcp.BasicDataSource定义data-source Tomcat无法启动的解决方法
- java.lang.ClassNotFoundException: com.mysql.jdbc.Driver 解决方法
- Rational Rose 2003 启动提示 java.lang.ClassNotFoundException 的解决方法
- class not found exception:com.mysql.jdbc.Driver解决方法
- ClassNotFoundException: org.hibernate.hql.ast.HqlToken 解决方法与原因
- java.lang.ClassNotFoundException: com.mysql.jdbc.Driver 解决方法
- 关于Servlet中连接mysql抛出ClassNotFoundException这个异常的解决方法
- ClassNotFoundException: org.apache.catalina.loader.DevLoader 问题解决方法一
- 解决Eclipse中运行WordCount出现 java.lang.ClassNotFoundException: org.apache.hadoop.examples.WordCount$TokenizerMapper问题【转】
- POI操作excel2007 出现异常 java.lang.ClassNotFoundException: org.apache.xmlbeans.XmlOptions 解决方法
- Android应用程序启动时发生AndroidRuntime : ClassNotFoundException for Activity class的解决方法
- Android应用程序启动时发生AndroidRuntime : ClassNotFoundException for Activity class的解决方法
- java.io.FileNotFoundException: class path resource [beans.xml] cannot be opened because it does not exist 解决方法