您的位置:首页 > 其它

MR中使用sequnceFIle输入文件

2015-09-14 18:47 204 查看
http://www.cnblogs.com/chengxin1982/p/3956920.html


MR中使用sequnceFIle输入文件

转换原始数据为块压缩的SequenceFIle

MR处理压缩后的sequenceFile

测试结果
文件大小 544M(未使用任何压缩)

耗时:73805
使用 seqencefile(block使用lzo压缩, 中间结果使用snappy压缩)
44207s

分类: hadoop
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签: