您的位置:首页 > 运维架构 > Apache

value toDF is not a member of org.apache.spark.rdd.RDD[People]

2016-11-28 16:07 751 查看
编译如下代码时,出现value toDF is not a member of org.apache.spark.rdd.RDD[People]  错误

val rdd : RDD[People]= sparkSession.sparkContext.textFile(hdfsFile,2).map(line => line.split(",")).map(arr => People(arr(0),arr(1).trim.toInt))

rdd.toDF

参考http://stackoverflow.com/questions/33704831/value-todf-is-not-a-member-of-org-apache-spark-rdd-rdd,针对此错误有人提出需要做到以下两点

1. import sqlContext.implicits._ 语句需要放在获取sqlContext对象的语句之后

2. case class People(name : String, age : Int) 的定义需要放在方法的作用域之外(即java的成员变量位置)

实际上只需要做到第二点即可解决错误
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签:  spark scala
相关文章推荐