5小时推开spark的大门|打卡第五天、RDD

红目香薰
新星创作者: 人工智能技术领域
优质创作者: 大数据技术领域
领域专家: 后端开发技术领域
2022-01-28 12:20:32

今天学习的主要内容是:

什么是RDD是今天的主要内容

在学习过程中遇到的问题是:

import org.apache.spark.rdd.RDD
import org.apache.spark.{SparkConf, SparkContext}

object Rdd {
  def main(args: Array[String]): Unit = {
    val sparkConf = new SparkConf().setMaster("local[*]").setAppName("spark")
    val sparkContext = new SparkContext(sparkConf)
    val fileRDD = sparkContext.textFile("src/main/java/test.txt")
    fileRDD.collect().foreach(println)
    sparkContext.stop()
  }
}

语法是能看明白了,但是还是在测试的过程中没有注释还是得拆分理解,较慢。其他的没问题。

今天的收获是:

内存中创建RDD

外部创建RDD

其它RDD创建

直接创建RDD

四种创建RDD的方法

难度不大,给的文章简介的也是非常的细致。

收获很多,谢谢活动的工作人员与讲师的新老。

...全文
146 1 打赏 收藏 转发到动态 举报
写回复
用AI写文章
1 条回复
切换为时间正序
请发表友善的回复…
发表回复
CSDN-Ada助手 2023-01-13
  • 打赏
  • 举报
回复
您可以前往 CSDN问答-大数据 发布问题, 以便更快地解决您的疑问

72

社区成员

发帖
与我相关
我的任务
社区描述
大数据
其他 其他
社区管理员
  • 大数据小助手
  • 一条coding
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧