Pydoop在AWS的Ubuntu上Segmentation fault 错误处理
2017-07-14 09:50
337 查看
问题描述
平台用Python开发,使用pydoop对HDFS文件进行操作,当迁移到AWS时,出现Segmentation Fault,通过排查,确定问题是因为调用了Pydoop对hdfs的初始化过程中出现的问题。
相关代码如下:
from pydoop.hdfs import fs; print fs.hdfs()
通过gdb调试,错误信息如下:
问题原因
通过查阅资料,初步判断是由于堆栈溢出导致的异常,通过查看native_core_hdfs源码,发现该代码会从LIBHDFS_OPTS读取JVM配置信息,但是环境中缺少该变量的定义.通过添加该变量,问题得到解决解决方案
1,在环境中增加下列变量的配置export LIBHDFS_OPTS="-server -Xss2m -Xms2000m -Xmx2000m -Xmn800m -XX:PermSize=64m -XX:MaxPermSize=256m"
2,因为Spark中也有相关操作,所以还需要在spark/conf/spark-env.sh中增加该变量的配置:
export LIBHDFS_OPTS="-server -Xss2m -Xms2000m -Xmx2000m -Xmn800m -XX:PermSize=64m -XX:MaxPermSize=256m"
相关文章推荐
- linux Ubuntu(Segmentation fault)段错误出现原因及调试方法
- apt-get "Segmentation faultsts ... x%":升级Ubuntu9.04到10.04中的错误
- yum Segmentation fault 错误处理
- 关于linux的段错误(Segmentation fault)
- Linxu下段错误(segmentation fault)的调试
- (ubuntu 9.04) sudo apt-get update 错误处理
- 再谈Segmentation fault (core dumped)问题 -查找段错误原因
- Ubuntu启动错误Checking Battery State的处理
- Ubuntu 下调试Qt4.5 -lfreetype -lXrender -lgthread-2.0等错误的处理
- ubuntu下安装eclipse出现Could not load SWT library错误处理方式
- Linux环境下段错误(Segmentation fault)的产生原因及调试方法小结
- Windows Azure Storage 之 Retry Policy (用来处理短暂性错误-Transient Fault)
- ubuntu下android开发环境搭建(及错误异常处理)
- ubuntu 11.04上oracle 11g r2的TNS-12541:TNS-12560:TNS-00511错误处理
- ubuntu KVM 错误处理
- adb install 中 Segmentation fault pm install /data.. 错误
- 关于linux的段错误(Segmentation fault)
- Ubuntu 10.10 wubi安装错误处理
- [转载]利用GDB调试segmentation fault (core dumped)错误
- linux C++ 莫名奇妙的段错误(segmentation fault),无法调用其它函数