spark--transform算子--join
2017-07-18 21:38
323 查看
import org.apache.spark.{SparkConf, SparkContext} /** * Created by liupeng on 2017/6/16. */ object T_join { System.setProperty("hadoop.home.dir","F:\\hadoop-2.6.5") def main(args: Array[String]): Unit = { val conf = new SparkConf().setAppName("join_test").setMaster("local") val sc = new SparkContext(conf) val rdd = sc.parallelize(List(("A",1), ("B", 2), ("C", 3))) val rdd1 = sc.parallelize(List(("A", 4))) val rdd2 = sc.parallelize(List(("A", 4), ("A", 5))) //join方法为(K,V)和(K,W)的数据集调用,返回相同的K所组成的数据集 val sum = rdd.join(rdd1) .foreach(println) val sum1 = rdd.join(rdd2) .foreach(println) } }
运行结果:
(A,(1,4))
(A,(1,4))
(A,(1,5))
相关文章推荐
- spark--transform算子--cogroup
- Spark算子:RDD键值转换操作(4)–cogroup/join
- spark--transform算子--filter
- spark--transform算子--flatMap
- 【Spark篇】---SparkStreaming算子操作transform和updateStateByKey
- Spark算子:RDD键值转换操作(5)–leftOuterJoin、rightOuterJoin、subtractByKey
- Spark算子:RDD键值转换操作(5)–leftOuterJoin、rightOuterJoin、subtractByKey
- spark算子join讲解
- spark--transform算子--groupByKey
- Spark算子:RDD键值转换操作(4)–cogroup、join
- Spark join与cogroup算子
- Spark算子:RDD键值转换操作(4)–cogroup、join
- Spark算子--join
- Spark算子:RDD键值转换操作(5)–leftOuterJoin、rightOuterJoin、subtractByKey
- spark--transform算子--reduceByKey
- Spark算子[12]:groupByKey、cogroup、join、lookup 源码实例详解
- spark--transform算子--intersection
- Spark算子--leftOuterJoin和rightOuterJoin
- spark--transform算子--map
- spark--transform算子--repartition