快上网专注成都网站设计 成都网站制作 成都网站建设
成都网站建设公司服务热线:028-86922220

网站建设知识

十年网站开发经验 + 多家企业客户 + 靠谱的建站团队

量身定制 + 运营维护+专业推广+无忧售后,网站问题一站解决

怎么实现SparkStreaming初试

本篇文章为大家展示了怎么实现Spark Streaming初试,内容简明扼要并且容易理解,绝对能使你眼前一亮,通过这篇文章的详细介绍希望你能有所收获。

创新互联建站-专业网站定制、快速模板网站建设、高性价比肥东网站开发、企业建站全套包干低至880元,成熟完善的模板库,直接使用。一站式肥东网站制作公司更省心,省钱,快速模板网站建设找我们,业务覆盖肥东地区。费用合理售后完善,10年实体公司更值得信赖。

Spark Streaming初试

yum install nc.x86_64

./bin/spark-shell --total-executor-cores 34 

敲入下面程序:

import org.apache.spark.SparkConf

import org.apache.spark.streaming.{Seconds, StreamingContext}

import org.apache.spark.storage.StorageLevel

    val ssc = new StreamingContext(sc, Seconds(1))

    val lines = ssc.socketTextStream("hostname", 9999, StorageLevel.MEMORY_AND_DISK_SER)

    val words = lines.flatMap(_.split(" "))

    val wordCounts = words.map(x => (x, 1)).reduceByKey(_ + _)

    wordCounts.print()

    ssc.start()

    ssc.awaitTermination()

在hostname机器,安装nc后,nc -lk 9999

不断输入字符,例如hello world,会在启动spark-shell的机器不断统计每次输入数据的字符频率统计。  

上述内容就是怎么实现Spark Streaming初试,你们学到知识或技能了吗?如果还想学到更多技能或者丰富自己的知识储备,欢迎关注创新互联行业资讯频道。


文章名称:怎么实现SparkStreaming初试
分享URL:http://6mz.cn/article/ghheoh.html

其他资讯