您的位置:首页 > 运维架构

Hadoop学习--通过API上传文件--day04

2017-01-03 14:53 267 查看
import java.io.BufferedInputStream;
import java.io.BufferedOutputStream;
import java.io.ByteArrayOutputStream;
import java.io.FileInputStream;
import java.io.InputStream;
import java.net.URL;

import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FSDataInputStream;
import org.apache.hadoop.fs.FSDataOutputStream;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.FsUrlStreamHandlerFactory;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.IOUtils;
import org.junit.Test;

/**
* 通过API实现文件上传
* @author Administrator
*
*/
public class putfile {

/**
* 通过API上传数据
*
* @author Administrator
*
* [hadoop@hadoop01 ~]$ hdfs dfs -chmod -R a+w /user/hadoop
* [hadoop@hadoop01 ~]$ hdfs dfs -ls -R /
*
*
*/
@Test
public void putFile() throws Exception {
//创建configuration对象,有个默认的加载顺序,先从core-default.xml,再到src目录中的文件,这里
//我们给定了
Configuration conf = new Configuration();
//通过conf的configuration对象创建了该分布式文件系统fs,默认如果不指定文件的话为本地文件系统
FileSystem fs = FileSystem.get(conf);
//定义一个URL的字符串,上传文件的目录
String file = "hdfs://hadoop01:9000/user/hadoop/data2/shengfenzhao.jpg";
//通过一个URL的字符串构建一个path对象
Path path = new Path(file);
FSDataOutputStream out = fs.create(path);
IOUtils.copyBytes(new FileInputStream("E:/zhaopian.jpg"), out, 1024);
//其他方法一
// byte[] bys = new byte[1024];
// int len = 0;
// while((len = (new FileInputStream("E:/zhaopian.jpg")).read(bys)) !=-1) {
// out.write(bys, 0, len);
// }
//其他方法二
// BufferedInputStream bis = new BufferedInputStream(new FileInputStream("E:/zhaopian.jpg"));
// BufferedOutputStream bos = new BufferedOutputStream(out);
// int len =0;
// while((len=bis.read())!=-1){
// bos.write(len);
// }
}
}
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签:  API 上传文件 hadoop
相关文章推荐