1. 创建键值对RDD ( Pair RDD)
RDD中可以包含任何类型的对象。其中,键值对是一种比较常见的RDD元素类型,在分组和聚合中经常会用到。
首先在本地创建一个word.txt,然后上传到hadoop目录中。
方法a:从文件中加载,来创建键值对RDD
pyspark --queue 队列名 [进入spark]
lines = sc.textFile("hadoop地址/word.txt") [加载文件到rdd中]
作者:Macroholica
链接:https://www.jianshu.com/p/a18fd1e5e8e4
点击查看更多内容
为 TA 点赞
评论
共同学习,写下你的评论
评论加载中...
作者其他优质文章
正在加载中
感谢您的支持,我会继续努力的~
扫码打赏,你说多少就多少
赞赏金额会直接到老师账户
支付方式
打开微信扫一扫,即可进行扫码打赏哦