HDFS Rolling Upgrade

HDFS Rolling Upgrade

Introduction

HDFS 滚动升级允许单独升级每一个HDFS进程。例如，DataNode可以独立于NameNode升级。一个NameNode可以独立于其他的NameNode升级。NameNode可以独立于DataNode和JournalNode升级。

Upgrade

在Hadoop V2中，HDFS支持NameNode服务的HA和前后兼容。这两个能力使在线升级HDFS成为可能。为了在线升级一个HDFS集群，集群必须以HA安装。

Upgrade without Downtime

在HA的集群中，有两个或者更多的NameNode，很多DataNode，几个JournalNode和几个ZookeeperNode。JNs是相对稳定的，在大多数情况下，升级HDFS不需要升级JNs。这里描述滚动升级的过程，只考虑NameNode和DataNode，不考虑JNs和ZKNs。升级JNs和ZKNs可能会引起停机时间。

Upgrading Non-Federated Clusters

假设有两个NameNode NN1和NN2，NN1和NN2分别处在Active和Standby状态。下面是升级一个HA集群的步骤：

1. 准备滚动升级

1. 运行命令“hdfs
dfsadmin-rollingUpgrade prepare”，为滚动创建一个FsImage。

2. 运行命令“hdfsdfsadmin
-rollingUpgrade query”，检查滚动Image的状态。等一会接着重新运行这个命令直到“Proceed with rolling upgrade”消息出现。

2 .升级Active和Standby NNs

1. 关闭NN2，然后升级NN2

2. 用“-rollingUpgrade
started”选项，启动NN2作为StandbyNameNode。

3. 从NN1故障转移到NN2，以使NN2处于Active，NN1处于Standby。

4. 关闭NN1，然后升级NN1。

5. 用"rollingUpgrade
started”选项，启动NN1作为Standby“。

3 . 升级DNs

1. 选择一小部分DataNode（所有的DataNode都在一个特定的机架上）。

1. 运行命令“hdfsdfsadmin
-shutdownDatanode <DATANODE_HOST:IPC_PORT> upgrade”，关闭选中的DataNode

2. 运行命令“hdfsdfsadmin
-getDatanodeInfo <DATANODE_HOST:IPC_PORT>”检查等待DataNode关闭

3. 升级和重新启动DataNode

4. 在所有选中的机器上运行上边的步骤，一次选中的DataNode可以并行操作。

2. 重新运行上边的步骤直到集群中的所有DataNode被升级。

4 . 结束滚动升级

1. 运行“hdfsdfsadmin
-rollingUpgrade finalize”结束滚动操作。

Upgrade Federated Clusters

在联邦的集群中，有多个命名空间，每一个命名空间都有一对NN，一个Active，一个Standby。升级一个联邦的集群和升级一个非联邦的集群除了步骤1和步骤4需要运行在每一个命名空间，步骤2运行在每一个NNs对之外，其余是相同的。

1. 准备每一个命名空间的滚动升级

2. 升级每一个命名空间的Active和Standby NN。

3. 升级DNs。

4. 结束每一个命名空间的滚动升级。

Upgrade with Downtime

对于非HA的集群，没有停机时间升级HDFS是不可能的，因为升级需要重新启动NameNode。但是，DataNode仍然可以以滚动的方式升级。

Upgrading Non-HA Clusters

在一个非HA的集群中，只有一个NN，一个SNN和多个DN。升级一个非HA集群与升级一个HA的集群类似，除了步骤2，升级Active和Standby NN被改为下面这样：

u 升级一个NN和SNN

1. 关闭SNN

2. 关闭和升级NN

3. 用“-rollingUpgrade
started”选项启动NN

4. 升级和重启SNN

Downgrade and Rollback

当升级后的版本不尽人意或者，在一些看似不太可能的情况下，升级失败（因为新版本的bug），管理员可能选择降级HDFS到之前的版本，或者回滚HDFS到升级之前的版本和升级之前的状态。不管是降级还是回滚都需要集群停机时间，不能以滚动的方式完成。

注意降级和滚回操作只能发生在滚动升级开始之后，升级结束之前。一次升级过程可被finalize或者downgrade或者rollback结束。因此，在finalize或者downgrade之后运行rollback是不可能的，在finalize之后执行downgrade也是不可能的。

Downgrade

Downgrade将软件恢复到升级之前的版本同时保存用户数据。假设时间T是滚动升级的开始时间，升级被Downgrade结束。然后，在T之前或之后创建的文件在HDFS中都可用。在T之前或之后删除的文件，就保持删除。

如果NameNode的版本和DataNode的版本在两个HDFS版本中没有没改，一个新版本可以降级到升级之前的版本。下面是降级的步骤：

u 降级HDFS

1. 关闭所有的NN和DN

2. 在所有的机器上恢复到升级之前的版本。

3. 用“-rollingUpgrade
rollback”选项启动NN

4. 正常启动DN

RollBack

Rollback恢复HDFS的状态到升级之前的版本，但是会将用户数据重置会升级之前的状态。假设时间T是滚动升级的开始时间，升级被Rollback结束。在T之前创建的文件被保存，在T之后创建的文件将变得不可用。在T之前删除的文件保持删除，在T之后删除的文件会被恢复。

从一个新版本回滚回升级之前的状态总是被支持的。下面是回滚的步骤：

u Rollback HDFS

1. 关闭所有的NN和DN

2. 恢复所有机器上升级之前的HDFS版本

3. 用-rollingUpgrade
rollback选项启动NN

4. 正常启动DN

Commands and Startup Options forRolling Upgrade

DFSAdmin Commands

dfsadmin-rollingUpgrade

hdfs dfsadmin-rollingUpgrade <query|start|finalize>

执行滚动升级操作

u 选项

query	Query the current rolling upgrade status.
prepare	Prepare a new rolling upgrade.
finalize	Finalize the current rolling upgrade.

dfsadmin –getDatanodeInfo

hdfs dfsadmin -getDatanodeInfo <DATANODE_HOST:IPC_PORT>

获取指定DataNode的信息。这个命令可被用来检出一个DataNode是否是alive，类似于Unix的ping命令。

dfsadmin-shutdownDatanode

hdfs dfsadmin -shutdownDatanode <DATANODE_HOST:IPC_PORT> [upgrade]

向给定的DataNode提交一个关机请求，如果，可选参数upgrade被指定。访问DataNode的客户端将被建议等待直到DataNode重启同时开启快速启动模式。当重启没有及时的发生，客户端超时，然后忽视这个DataNode。在这种情况下，快速启动模式将被禁止。

注意：命令不能等到DataNode关闭来完成。如果DataNode关闭没有完成，命令“dfsadmin
-getDatanodeInfo”可被用来检查DataNode状态。

NameNode Startup Options

namenode-rollingUpgrade

hdfs namenode -rollingUpgrade <downgrade|rollback|started>

当滚动升级正在进行中时，启动选项-rollingUpgrade用来指定不同的滚动升级：

downgrade	Restores the namenode back to the pre-upgrade release and preserves the user data.
rollback	Restores the namenode back to the pre-upgrade release but also reverts the user data back to the pre-upgrade state.
started	Specifies a rolling upgrade already started so that the namenode should allow image directories with different layout versions during startup.