HBase Bulk Loading时遇到的两个问题
2014-06-13 11:58
681 查看
我采用了先ImportTsv后completebulkload的方式,并且completebulkload时采用了LoadIncrementalHFiles。
1. ImportTsv命令中,需将所有的-D参数顺序排列。
如果在<tablename>和<inputdir>之间加入-Dimporttsv.bulk.output参数,例如:sudo -u hbase hbase org.apache.hadoop.hbase.mapreduce.ImportTsv -Dimporttsv.columns=HBASE_ROW_KEY,f1:q1 tab1 -Dimporttsv.bulk.output=/tmp/output /tmp/testdata
会报告如下错误:
虽然不会报错,但是实际不能生成HFile。
正确用法应该如:sudo -u hbase hbase org.apache.hadoop.hbase.mapreduce.ImportTsv -Dimporttsv.columns=HBASE_ROW_KEY,f1:q1 -Dimporttsv.bulk.output=/tmp/output tab1 /tmp/testdata
2.执行时,卡死在提示“INFO mapreduce.LoadIncrementalHFiles: Trying to load hfile=hdfs”处
例如执行:hbase org.apache.hadoop.hbase.mapreduce.LoadIncrementalHFiles /tmp/output tab1,出现上述卡死现象。查看Region Server日志时,发现提示权限拒绝之类的异常。所以修改命令为:sudo -u hbase hbase org.apache.hadoop.hbase.mapreduce.LoadIncrementalHFiles /tmp/output tab1 即可解决此问题。
1. ImportTsv命令中,需将所有的-D参数顺序排列。
如果在<tablename>和<inputdir>之间加入-Dimporttsv.bulk.output参数,例如:sudo -u hbase hbase org.apache.hadoop.hbase.mapreduce.ImportTsv -Dimporttsv.columns=HBASE_ROW_KEY,f1:q1 tab1 -Dimporttsv.bulk.output=/tmp/output /tmp/testdata
会报告如下错误:
WARN security.UserGroupInformation: PriviledgedActionException as:hbase (auth:SIMPLE) cause:org.apache.hadoop.mapreduce.lib.input.InvalidInputException: Input path does not exist: hdfs://****:8020/user/hbase/-D Exception in thread "main" org.apache.hadoop.mapreduce.lib.input.InvalidInputException: Input path does not exist: hdfs://****:8020/user/hbase/-D如果将-Dimporttsv.bulk.output放在最后,例如:sudo -u hbase hbase org.apache.hadoop.hbase.mapreduce.ImportTsv -Dimporttsv.columns=HBASE_ROW_KEY,f1:q1 tab1 /tmp/testdata -Dimporttsv.bulk.output=/tmp/output
虽然不会报错,但是实际不能生成HFile。
正确用法应该如:sudo -u hbase hbase org.apache.hadoop.hbase.mapreduce.ImportTsv -Dimporttsv.columns=HBASE_ROW_KEY,f1:q1 -Dimporttsv.bulk.output=/tmp/output tab1 /tmp/testdata
2.执行时,卡死在提示“INFO mapreduce.LoadIncrementalHFiles: Trying to load hfile=hdfs”处
例如执行:hbase org.apache.hadoop.hbase.mapreduce.LoadIncrementalHFiles /tmp/output tab1,出现上述卡死现象。查看Region Server日志时,发现提示权限拒绝之类的异常。所以修改命令为:sudo -u hbase hbase org.apache.hadoop.hbase.mapreduce.LoadIncrementalHFiles /tmp/output tab1 即可解决此问题。
相关文章推荐
- 使用HBase自带的import工具导入数据遇到的两个问题
- Hbase bulkLoad 批量入库遇到的问题及解决方法
- 在VS.NET 2003中建立项目时遇到的两个问题及解决方法 (转贴)
- 安装PetShop 3.0遇到的两个问题
- ObjectARX中使用非模态对话框遇到的两个问题及解决办法
- 今天遇到两个问题:Can't connect to MySQL server 与 Access denied for user !
- 又遇到的两个小问题
- 在VS.NET 2003中建立项目时遇到的两个问题及解决方法
- 删除Oracle程序,重装后遇到的两个小问题
- 两个对话框类相互包含头文件遇到的问题
- 使用Dom4j时遇到的两个问题
- 今天遇到了两个问题~~~
- JavaScript调试中遇到的两个问题
- 解决Debian下安装thunderbird遇到“error while loading shared libraries: libstdc++.so.5”的问题
- 开发第一个Struts程序遇到两个问题
- Liferay遇到的两个问题
- 在VS.NET 2003中建立项目时遇到的两个问题及解决方法 (转)
- 今天遇到两个问题:Can't connect to MySQL server 与 Access denied for user !
- asp.net ajax应用中遇到的两个问题及解决方法
- 今天遇到两个问题:Can't connect to MySQL server 与 Access denied for user !