72
社区成员
发帖
与我相关
我的任务
分享什么是RDD是今天的主要内容
import org.apache.spark.rdd.RDD
import org.apache.spark.{SparkConf, SparkContext}
object Rdd {
def main(args: Array[String]): Unit = {
val sparkConf = new SparkConf().setMaster("local[*]").setAppName("spark")
val sparkContext = new SparkContext(sparkConf)
val fileRDD = sparkContext.textFile("src/main/java/test.txt")
fileRDD.collect().foreach(println)
sparkContext.stop()
}
}
语法是能看明白了,但是还是在测试的过程中没有注释还是得拆分理解,较慢。其他的没问题。
内存中创建RDD
外部创建RDD
其它RDD创建
直接创建RDD
四种创建RDD的方法
难度不大,给的文章简介的也是非常的细致。
收获很多,谢谢活动的工作人员与讲师的新老。