Spark性能优化----troubleshooting之解决各种序列化导致的报错
2018-03-05 14:54
435 查看
你会看到什么样的序列化导致的报错?
用client模式去提交spark作业,观察本地打印出来的log。如果出现了类似于Serializable、Serialize等等字眼,报错的log,那么恭喜大家,就碰到了序列化问题导致的报错。
虽然是报错,但是序列化报错,应该是属于比较简单的了,很好处理。
序列化报错要注意的三个点:
studentsRDD.foreach(newVoidFunction() {
public void call(Row row)throws Exception {
String teacherName = teacher.getName();
....
}
});
public class Teacherimplements Serializable {
}
JavaPairRDD<Integer,Student> studentRDD
studentRDD.join(teacherRDD)
public class Teacherimplements Serializable {
}
public class Studentimplements Serializable {
}
studentsRDD.foreach(newVoidFunction() {
public void call(Row row)throws Exception {
conn.....
}
});
Connection是不支持序列化的
用client模式去提交spark作业,观察本地打印出来的log。如果出现了类似于Serializable、Serialize等等字眼,报错的log,那么恭喜大家,就碰到了序列化问题导致的报错。
虽然是报错,但是序列化报错,应该是属于比较简单的了,很好处理。
序列化报错要注意的三个点:
1、你的算子函数里面,如果使用到了外部的自定义类型的变量,那么此时,就要求你的自定义类型,必须是可序列化的。
final Teacher teacher =new Teacher("leo");studentsRDD.foreach(newVoidFunction() {
public void call(Row row)throws Exception {
String teacherName = teacher.getName();
....
}
});
public class Teacherimplements Serializable {
}
2、如果要将自定义的类型,作为RDD的元素类型,那么自定义的类型也必须是可以序列化的
JavaPairRDD<Integer,Teacher> teacherRDDJavaPairRDD<Integer,Student> studentRDD
studentRDD.join(teacherRDD)
public class Teacherimplements Serializable {
}
public class Studentimplements Serializable {
}
3、不能在上述两种情况下,去使用一些第三方的,不支持序列化的类型
Connection conn =studentsRDD.foreach(newVoidFunction() {
public void call(Row row)throws Exception {
conn.....
}
});
Connection是不支持序列化的
相关文章推荐
- spark troubleshooting--解决各种序列化导致的错误
- Spark性能优化-------troubleshooting之解决算子函数返回NULL导致的问题
- Spark优化-troubleshooting-解决各种序列化导致的错误
- Spark性能优化之道——解决Spark数据倾斜
- troubleshooting之解决JVM GC导致的shuffle文件拉取失败
- Spark性能优化之道——解决Spark数据倾斜(Data Skew)的N种姿势
- spark troubleshooting--解决yarn-cluster模式的JVM栈内存溢出问题
- Spark性能优化之道——解决Spark数据倾斜(Data Skew)的N种姿势
- Spark性能优化第四季-序列化
- Spark 性能优化问题与解决思路
- spark troubleshooting--算子函数返回NULL导致问题
- Spark性能优化之道——解决Spark数据倾斜(Data Skew)的N种姿势
- Spark性能优化之道——解决Spark数据倾斜(Data Skew)的N种姿势
- Spark--性能优化之解决数据倾斜
- spark troubleshooting--YARN队列资源不足导致的application直接失败
- Spark性能优化第四季-序列化
- Spark性能优化之道——解决Spark数据倾斜(Data Skew)的N种姿势
- Spark性能优化——解决Spark数据倾斜(Data Skew)的N种姿势
- Spark性能优化之道——解决Spark数据倾斜(Data Skew)的N种姿势
- Spark性能优化之道——解决Spark数据倾斜(Data Skew)的N种姿势