文件写入HDFS的整个流程
2015-12-14 00:30
423 查看
假设HDFS客户端为node11,用户A想要将文件apache.log写到HDFS上,该文件大小为100MB,假设用户配置的文件block大小为64MB,请结合你的理解,描述该文件写入HDFS的整个流程(请用步骤1,步骤2,……,描述)
使用HDFS提供的客户端(client),向远程的namenode发起RPC请求;
namenode会检查要创建的文件apache.log是否已经存在,创建者是否有权限进行操作,成功则会为文件创建一个记录,否则会让客户端抛出异常;
默认block大小为64MB,因此100MB被切分为两个block,客户端会依次写入每个block,client不会把整个block直接写入,而是会将文件切分成多个packets,并在内部以队列的形式管理这些packets,并向namenode申请新的blocks,获取用来存储replicas的合适的datanodes列表,列表的大小根据在namenode中对replication的设置而定。
开始以pipeline(管道)的形式将packet写入所有的replicas中。开发库把packet以流的方式写入第一个datanode,该datanode把该packet存储之后,再将其传递给在此pipeline中的下一个datanode,直到最后一个datanode,这种写数据的方式呈流水线的形式,
最后一个datanode成功存储之后会返回一个ack packet,在pipeline里传递至客户端,在客户端的开发库内部维护着"ack queue",成功收到datanode返回的ack
packet后会从"ack queue"移除相应的packet。
如果传输过程中,有某个datanode出现了故障,那么当前的pipeline会被关闭,出现故障的datanode会从当前的pipeline中移除,剩余的block会继续剩下的datanode中继续以pipeline的形式传输,同时Namenode会分配一个新的datanode,保持replicas设定的数量。
使用HDFS提供的客户端(client),向远程的namenode发起RPC请求;
namenode会检查要创建的文件apache.log是否已经存在,创建者是否有权限进行操作,成功则会为文件创建一个记录,否则会让客户端抛出异常;
默认block大小为64MB,因此100MB被切分为两个block,客户端会依次写入每个block,client不会把整个block直接写入,而是会将文件切分成多个packets,并在内部以队列的形式管理这些packets,并向namenode申请新的blocks,获取用来存储replicas的合适的datanodes列表,列表的大小根据在namenode中对replication的设置而定。
开始以pipeline(管道)的形式将packet写入所有的replicas中。开发库把packet以流的方式写入第一个datanode,该datanode把该packet存储之后,再将其传递给在此pipeline中的下一个datanode,直到最后一个datanode,这种写数据的方式呈流水线的形式,
最后一个datanode成功存储之后会返回一个ack packet,在pipeline里传递至客户端,在客户端的开发库内部维护着"ack queue",成功收到datanode返回的ack
packet后会从"ack queue"移除相应的packet。
如果传输过程中,有某个datanode出现了故障,那么当前的pipeline会被关闭,出现故障的datanode会从当前的pipeline中移除,剩余的block会继续剩下的datanode中继续以pipeline的形式传输,同时Namenode会分配一个新的datanode,保持replicas设定的数量。
相关文章推荐
- 多个Flume合并一个channel上传文件到Hdfs
- 老李分享:大数据测试中java和hadoop关系
- 老李分享:大数据测试之HDFS文件系统
- 大数据测试之hadoop系统生态
- HDFS目录(文件 )权限管理
- 大数据测试之Hadoop的基本概念
- HDFS的运行原理
- 分区表无法查询手动put进hdfs的数据问题
- 使用FUSE挂载HDFS流程及错误集锦
- HBase HDFS目录树
- 大数据测试之初识Hadoop2
- 大数据测试之初识Hadoop1
- HDFS(3)
- HDFS追本溯源:HDFS操作的逻辑流程与源码解析
- HDFS 断点续传,写文件功能
- HDFS(2)
- 从HDFS读入图片并处理
- 整合storm-hdfs过程中源码学习
- 上传本地文件到hdfs
- hdfs的常用命令