Hadoop学习--通过API上传文件--day04
2017-01-03 14:53
267 查看
import java.io.BufferedInputStream;
import java.io.BufferedOutputStream;
import java.io.ByteArrayOutputStream;
import java.io.FileInputStream;
import java.io.InputStream;
import java.net.URL;
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FSDataInputStream;
import org.apache.hadoop.fs.FSDataOutputStream;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.FsUrlStreamHandlerFactory;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.IOUtils;
import org.junit.Test;
/**
* 通过API实现文件上传
* @author Administrator
*
*/
public class putfile {
/**
* 通过API上传数据
*
* @author Administrator
*
* [hadoop@hadoop01 ~]$ hdfs dfs -chmod -R a+w /user/hadoop
* [hadoop@hadoop01 ~]$ hdfs dfs -ls -R /
*
*
*/
@Test
public void putFile() throws Exception {
//创建configuration对象,有个默认的加载顺序,先从core-default.xml,再到src目录中的文件,这里
//我们给定了
Configuration conf = new Configuration();
//通过conf的configuration对象创建了该分布式文件系统fs,默认如果不指定文件的话为本地文件系统
FileSystem fs = FileSystem.get(conf);
//定义一个URL的字符串,上传文件的目录
String file = "hdfs://hadoop01:9000/user/hadoop/data2/shengfenzhao.jpg";
//通过一个URL的字符串构建一个path对象
Path path = new Path(file);
FSDataOutputStream out = fs.create(path);
IOUtils.copyBytes(new FileInputStream("E:/zhaopian.jpg"), out, 1024);
//其他方法一
// byte[] bys = new byte[1024];
// int len = 0;
// while((len = (new FileInputStream("E:/zhaopian.jpg")).read(bys)) !=-1) {
// out.write(bys, 0, len);
// }
//其他方法二
// BufferedInputStream bis = new BufferedInputStream(new FileInputStream("E:/zhaopian.jpg"));
// BufferedOutputStream bos = new BufferedOutputStream(out);
// int len =0;
// while((len=bis.read())!=-1){
// bos.write(len);
// }
}
}
import java.io.BufferedOutputStream;
import java.io.ByteArrayOutputStream;
import java.io.FileInputStream;
import java.io.InputStream;
import java.net.URL;
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FSDataInputStream;
import org.apache.hadoop.fs.FSDataOutputStream;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.FsUrlStreamHandlerFactory;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.IOUtils;
import org.junit.Test;
/**
* 通过API实现文件上传
* @author Administrator
*
*/
public class putfile {
/**
* 通过API上传数据
*
* @author Administrator
*
* [hadoop@hadoop01 ~]$ hdfs dfs -chmod -R a+w /user/hadoop
* [hadoop@hadoop01 ~]$ hdfs dfs -ls -R /
*
*
*/
@Test
public void putFile() throws Exception {
//创建configuration对象,有个默认的加载顺序,先从core-default.xml,再到src目录中的文件,这里
//我们给定了
Configuration conf = new Configuration();
//通过conf的configuration对象创建了该分布式文件系统fs,默认如果不指定文件的话为本地文件系统
FileSystem fs = FileSystem.get(conf);
//定义一个URL的字符串,上传文件的目录
String file = "hdfs://hadoop01:9000/user/hadoop/data2/shengfenzhao.jpg";
//通过一个URL的字符串构建一个path对象
Path path = new Path(file);
FSDataOutputStream out = fs.create(path);
IOUtils.copyBytes(new FileInputStream("E:/zhaopian.jpg"), out, 1024);
//其他方法一
// byte[] bys = new byte[1024];
// int len = 0;
// while((len = (new FileInputStream("E:/zhaopian.jpg")).read(bys)) !=-1) {
// out.write(bys, 0, len);
// }
//其他方法二
// BufferedInputStream bis = new BufferedInputStream(new FileInputStream("E:/zhaopian.jpg"));
// BufferedOutputStream bos = new BufferedOutputStream(out);
// int len =0;
// while((len=bis.read())!=-1){
// bos.write(len);
// }
}
}
相关文章推荐
- Hadoop学习--通过API得到文件系统状态--day04
- Hadoop学习--通过API访问本地文件系统--day04
- Hadoop学习--通过配置文件修改文件副本数块大小--day04
- (4)通过调用hadoop的java api实现本地文件上传到hadoop文件系统上
- Hadoop学习笔记一(通过Java API 操作HDFS,文件上传、下载)
- (4)通过调用hadoop的java api实现本地文件上传到hadoop文件系统上
- Hadoop学习--上传文件指定复制因子--day04
- Hadoop学习--fsimage镜像文件--day04
- Hadoop HDFS文件系统通过java FileSystem 实现上传下载等
- 通过java实现上传文件到hadoop
- 利用Java API通过路径过滤上传多文件至HDFS
- Hadoop HDFS编程 API入门系列之路径过滤上传多个文件到HDFS(二)
- File Upload using jQuery AJAX in ASP.NET Web API or Http handler (AJAX上传文件通过Web API或 http handler)
- hadoop学习;hdfs操作;运行抛出权限异常: Permission denied;api查看源码方法;源码不停的向里循环;抽象类通过debug查找源码
- Hadoop学习--设置配置文件参数列出目录结构--day04
- Node.JS入门--通过构建一个上传文件的服务器来学习Node.JS
- Hadoop HDFS编程 API入门系列之从本地上传文件到HDFS(一)
- JSP学习笔记:通过UUID为解决中文文件上传后的命名问题
- 安装、进程-云计算学习笔记---hadoop的简介,以及安装,用命令实现对hdfs系统进行文件的上传下载-by小雨
- hadoop学习笔记之hdfs的文件上传下载