您的位置:首页 > 运维架构

Hadoop程序,出现 Filesystem closed 异常

2014-09-29 11:19 411 查看
一个多线程的程序。FileSystem.get(getConf())返回的可能是一个cache中的结果,它并不是每次都创建一个新的实例。这就意味着,如果每个线程都自己去get一个文件系统,然后使用,然后关闭,就会有问题。因为你们关闭的可能是同一个对象。而别人还在用它!

所以最好是在main函数中就创建好filesystem对象然后在不同函数之间来回传递吧。在main函数用用try…finally关闭它。

多线程程序中,如果你确保在你的get和close之间不会有别人调用get,也没问题

或者关闭cache

通过修改配置文件core-site.xml:

<property>

<name>fs.hdfs.impl.disable.cache</name>

<value>true</value>

</property>

程序仍然出现上述问题。

在程序中,加上这条语句:JobConf jobConf.set("fs.hdfs.impl.disable.cache", "true");

程序运行成功。
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签: 
相关文章推荐