为了账号安全,请及时绑定邮箱和手机立即绑定

如何把Spark RDD中的内容按行打印出来?

如何把Spark RDD中的内容按行打印出来?

牧羊人nacy 2018-10-12 15:31:21
请问我想把最后wordcounts里的内容按行打印出来要怎样编写代码?,向下面这样:means 1under 2this 3...Hadoop 流行的一个通用的数据流模式是 MapReduce。Spark 能很容易地实现 MapReduce:scala> val wordCounts = textFile.flatMap(line => line.split(" ")).map(word => (word, 1)).reduceByKey((a, b) => a + b) wordCounts: spark.RDD[(String, Int)] = spark.ShuffledAggregatedRDD@71f027b8这里,我们结合 flatMap, map 和 reduceByKey 来计算文件里每个单词出现的数量,它的结果是包含一组(String, Int) 键值对的 RDD。我们可以使用 [collect] 操作在我们的 shell 中收集单词的数量:scala> wordCounts.collect() res6: Array[(String, Int)] = Array((means,1), (under,2), (this,3), (Because,1), (Python,2), (agree,1), (cluster.,1), ...)请问我想把最后wordcounts里的内容按行打印出来要怎样编写代码?,向下面这样:means 1under 2this 3...
查看完整描述

1 回答

?
噜噜哒

TA贡献1784条经验 获得超7个赞

可以写个函数,我用python,你可以类比。

output = wordCounts.collect()
def output(output):
    for key, value in output:        
    print key, value


查看完整回答
反对 回复 2018-10-27
  • 1 回答
  • 0 关注
  • 2897 浏览
慕课专栏
更多

添加回答

举报

0/150
提交
取消
意见反馈 帮助中心 APP下载
官方微信