javaAPI操作hdfs文件系统环境准备
2017-08-01 08:17
405 查看
解决javaAPI操作hdfs文件系统问题
解决正常运行hadoop hdfs javaAPIjava.lang.NullPointerException
at java.lang.ProcessBuilder.start(ProcessBuilder.java:1012)
at org.apache.hadoop.util.Shell.runCommand(Shell.java:482)
at org.apache.hadoop.util.Shell.run(Shell.java:455)at org.apache.hadoop.util.Shell$ShellCommandExecutor.execute(Shell.java:715)
at org.apache.hadoop.util.Shell.execCommand(Shell.java:808)
at org.apache.hadoop.util.Shell.execCommand(Shell.java:791)
at org.apache.hadoop.fs.RawLocalFileSystem.setPermission(RawLocalFileSystem.java:659)
at org.apache.hadoop.fs.FilterFileSystem.setPermission(FilterFileSystem.java:490)
at org.apache.hadoop.fs.ChecksumFileSystem.create(ChecksumFileSystem.java:462)
at org.apache.hadoop.fs.ChecksumFileSystem.create(ChecksumFileSystem.java:428)
at org.apache.hadoop.fs.FileSystem.create(FileSystem.java:908)
at org.apache.hadoop.fs.FileSystem.create(FileSystem.java:889)
at org.apache.hadoop.fs.FileSystem.create(FileSystem.java:786)
at org.apache.hadoop.fs.FileUtil.copy(FileUtil.java:365)
at org.apache.hadoop.fs.FileUtil.copy(FileUtil.java:338)
at org.apache.hadoop.fs.FileUtil.copy(FileUtil.java:289)
at org.apache.hadoop.fs.LocalFileSystem.copyFromLocalFile(LocalFileSystem.java:82)
at org.apache.hadoop.fs.FileSystem.copyFromLocalFile(FileSystem.java:1838)
at cn.yzx.bigdata.hdfs.HdfsClientDemo.testUpload(HdfsClientDemo.java:23)
at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:62)
at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
at java.lang.reflect.Method.invoke(Method.java:497)
at org.junit.runners.model.FrameworkMethod$1.runReflectiveCall(FrameworkMethod.java:47)
at org.junit.internal.runners.model.ReflectiveCallable.run(ReflectiveCallable.java:12)
at org.junit.runners.model.FrameworkMethod.invokeExplosively(FrameworkMethod.java:44)
at org.junit.internal.runners.statements.InvokeMethod.evaluate(InvokeMethod.java:17)
at org.junit.internal.runners.statements.RunBefores.evaluate(RunBefores.java:26)
at org.junit.runners.ParentRunner.runLeaf(ParentRunner.java:271)
at org.junit.runners.BlockJUnit4ClassRunner.runChild(BlockJUnit4ClassRunner.java:70)
at org.junit.runners.BlockJUnit4ClassRunner.runChild(BlockJUnit4ClassRunner.java:50)
at org.junit.runners.ParentRunner$3.run(ParentRunner.java:238)
at org.junit.runners.ParentRunner$1.schedule(ParentRunner.java:63)
at org.junit.runners.ParentRunner.runChildren(ParentRunner.java:236)
at org.junit.runners.ParentRunner.access$000(ParentRunner.java:53)
at org.junit.runners.ParentRunner$2.evaluate(ParentRunner.java:229)
at org.junit.runners.ParentRunner.run(ParentRunner.java:309)
at org.eclipse.jdt.internal.junit4.runner.JUnit4TestReference.run(JUnit4TestReference.java:86)
at org.eclipse.jdt.internal.junit.runner.TestExecution.run(TestExecution.java:38)
at org.eclipse.jdt.internal.junit.runner.RemoteTestRunner.runTests(RemoteTestRunner.java:459)
at org.eclipse.jdt.internal.junit.runner.RemoteTestRunner.runTests(RemoteTestRunner.java:678)
at org.eclipse.jdt.internal.junit.runner.RemoteTestRunner.run(RemoteTestRunner.java:382)
at org.eclipse.jdt.internal.junit.runner.RemoteTestRunner.main(RemoteTestRunner.java:192)
1.材料
hadoop-2.6.5-centos-6.7.tar.gz无jar版windows平台hadoop-2.6.1.zip
2.new Java Project
3.hdfsjar
解压hadoop-2.6.5-centos-6.7.tar.gzhadoop-2.6.5\share\hadoop\hdfs 下把hadoop-hdfs-2.6.5.jar 和当前目录lib下所有都导入hdfsjar
hadoop-2.6.5\share\hadoop\common 下把hadoop-common-2.6.5.jar 和当前目录lib下所有都导入hdfsjar
4. 代码
5.跑代码发现问题
6配置环境变量
7重启eclipse再跑代码
8.发现并没有成功
1.执行成功,但没有上传到hadoop hdfs文件下
解决方案:配置Hadoop的文件系统地址
添加代码
2.权限问题:用户名不能是Administrator
解决方案:设置hadoop用户名
设置hadoop名称
点 run Configuration
以上问题解决,就可以正常运行hadoop
hdfs javaAPI了!!!
相关文章推荐
- 使用JavaAPI操作HDFS系统中的文件及文件夹
- Hadoop学习<二>--HDFS文件系统操作方式
- 从零开始构建一个centos+jdk7+tomcat7的镜像文件 centos7系统下docker运行环境的搭建 准备centos基础镜像 docker pull centos 或者直接下载我准备
- Greenplum(4.3.8.2)使用GPHDFS协议创建外部表访问CDH5.7.0环境的HDFS文件系统
- 通过javaAPI上传文件到HDFS文件系统
- HDFS文件系统的基本操作 Hadoop权威指南
- java操作hdfs文件系统上的文件
- Linux环境下,db2 restore操作对文件系统的预分配
- 使用HDFS API实现hadoop HDFS文件系统的基本操作
- hadoop fs --hdfs文件系统操作
- 【HDFS】hdfs文件系统的删除操作
- Hadoop (HDFS)分布式文件系统基本操作 推荐
- hadoop-3.0.0-beta1运维手册(008):hdfs3.0.0基本操作-查看HDFS文件系统、查看文本文件、使用帮助
- java操作HDFS文件系统
- HDFS文件系统操作命令
- curl操作hadoop hdfs文件系统
- HDFS文件系统的操作
- hdfs文件系统中相互复制的java操作
- hadoop基础----hadoop实战(二)-----hadoop操作hdfs---hdfs文件系统常用命令
- HDFS的java接口——简化HDFS文件系统操作