您的位置:首页 > 其它

spark--transform算子--join

2017-07-18 21:38 323 查看
import org.apache.spark.{SparkConf, SparkContext}

/**
* Created by liupeng on 2017/6/16.
*/
object T_join {
System.setProperty("hadoop.home.dir","F:\\hadoop-2.6.5")

def main(args: Array[String]): Unit = {
val conf = new SparkConf().setAppName("join_test").setMaster("local")
val sc = new SparkContext(conf)

val rdd = sc.parallelize(List(("A",1), ("B", 2), ("C", 3)))
val rdd1 = sc.parallelize(List(("A", 4)))
val rdd2 = sc.parallelize(List(("A", 4), ("A", 5)))
//join方法为(K,V)和(K,W)的数据集调用,返回相同的K所组成的数据集
val sum = rdd.join(rdd1)
.foreach(println)
val sum1 = rdd.join(rdd2)
.foreach(println)
}
}

运行结果:
(A,(1,4))

(A,(1,4))

(A,(1,5))
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签:  spark join