第22课:RDD的依赖关系彻底解密
2016-03-15 06:00
281 查看
1.窄依赖是指每个父RDD的一个Partion最多被子RDD的一个Partion所使用,例如map、filter、union等都会产生窄依赖;
2,宽依赖是指一个父RDD的Partion会被多个子RDD的partion所使用,例如groupByKey、reduceByKey、sortByKey等操作都会产生宽依赖
总结如果父RDD的一个Partion被子RDD的Partion所使用就是窄依赖,否则的话就是宽依赖。
如果子RDD中的Partition对父RDD的Partition依赖的数量不会随着RDD数据规模的改变而改变的话,就是窄依赖,否则的话就是宽依赖。
特别说明:对join操作有两种情况,如果说join操作的使用每个partition仅仅和已知的Partition进行join,这次是join操作就是窄依赖;其它情况的join操作就是宽依赖;
因为是确定的partition数量的依赖关系,所有就是窄依赖,得出一个推论,窄依赖不仅包含一对一的窄依赖,还包含一对固定个数的窄依赖(也就是说对父RDD的依赖的Partition的数量不会随着RDD数据规模的改变而改变)
思考:RDD基于依赖关系构成了不同的Stage,到底能不能把所有的RDD放到一个任务中运行?
如果所有的RDD放在一个Stage中,任务需要一个一个执行,会产生大量的中间数据,为啥要产生中间数据?中间数据需要存储起来,才能进行下一步计算
相关文章推荐
- EditText 输入值限定最小值和最大值
- jsp页面获取后台数据
- C#
- 在OpenWRT上部署DNS服务器以方便访问谷歌
- 图像相似度计算之哈希值方法OpenCV实现
- 基于CUDA的粒子系统的实现
- 10.13 编程练习
- *循环单链表[不带头结点]
- 关于多人合作的经验
- composer安装过程超时的问题以及解决方案
- JAVA深复制(深克隆)与浅复制(浅克隆)
- 大话说github for windows的分支开发与合并(2n1)
- C语言实现单链表
- 用GCD线程组与GCD信号量将异步线程转换为同步线程
- 模糊数学课件(清晰易懂)
- [Getting and Cleaning data] Week 3
- [RxJS] Error Handling in RxJS
- Swift基础3.3——便利构造函数
- Swift基础3.2——重载构造函数
- Swift基础3.1——构造函数