您的位置:首页 > 编程语言 > Java开发

Spark PCA 特征时 java.lang.OutOfMemoryError: Java heap space

2018-03-10 12:56 661 查看
1、背景:样本量在2W左右,特征数在1W左右;利用spark 的pca 特征时,总报错 java.lang.OutOfMemoryError: Java heap space;
2、解决方法:
spark.driver.maxResultSize", "40g"  产生的结果大于默认的1024M,需要的话设置大点;

 --driver-memory 100g (大点)
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签: