重庆分公司,新征程启航

为企业提供网站建设、域名注册、服务器等服务

Spark提供了哪些RDD

这篇文章主要介绍“Spark提供了哪些RDD”,在日常操作中,相信很多人在Spark提供了哪些RDD问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”Spark提供了哪些RDD”的疑惑有所帮助!接下来,请跟着小编一起来学习吧!

土默特右旗网站制作公司哪家好,找创新互联建站!从网页设计、网站建设、微信开发、APP开发、成都响应式网站建设公司等网站项目制作,到程序开发,运营维护。创新互联建站于2013年成立到现在10年的时间,我们拥有了丰富的建站经验和运维经验,来保证我们的工作的顺利进行。专注于网站建设就选创新互联建站

深入RDD

RDD本身是一个抽象类,具有很多具体的实现子类:

Spark提供了哪些RDD

RDD都会基于Partition进行计算:

Spark提供了哪些RDD

默认的Partitioner如下所示:

Spark提供了哪些RDD

其中HashPartitioner的文档说明如下:

Spark提供了哪些RDD

另外一种常用的Partitioner是RangePartitioner:

Spark提供了哪些RDD

RDD在持久化的需要考虑内存策略:

Spark提供了哪些RDD

Spark提供很多StorageLevel可供选择:

Spark提供了哪些RDD

于此同时Spark提供了unpersistRDD:

Spark提供了哪些RDD

对RDD本身还有一个非常重要的CheckPoint操作:

Spark提供了哪些RDD

其中doCheckpoint的细节如下:

Spark提供了哪些RDD

以NewHadoopRDD为例,其内部的信息如下所示:

Spark提供了哪些RDD

以WholeTextFileRDD为例,其内部的信息如下所示:

Spark提供了哪些RDD

RDD在产生作业调用的时候,经典的过程如下所示:

Spark提供了哪些RDD

到此,关于“Spark提供了哪些RDD”的学习就结束了,希望能够解决大家的疑惑。理论与实践的搭配能更好的帮助大家学习,快去试试吧!若想继续学习更多相关知识,请继续关注创新互联网站,小编会继续努力为大家带来更多实用的文章!


分享名称:Spark提供了哪些RDD
网页网址:http://cqcxhl.com/article/ijgdes.html

其他资讯

在线咨询
服务热线
服务热线:028-86922220
TOP