您当前的位置: 首页 >  ar

段智华

暂无认证

  • 0浏览

    0关注

    1232博文

    0收益

  • 0浏览

    0点赞

    0打赏

    0留言

私信
关注
热门博文

第19课:Spark Streaming架构设计和运行机制大总结

段智华 发布时间:2016-06-04 10:45:34 ,浏览量:0

第19课:Spark Streaming架构设计和运行机制大总结

1 spark streaming中的架构设计和运行机制 2 spark streaming的深度思考

Rdd的模板是Dstream,但Dstream操作和RDD不是一一对应的,Dstream和DstreamGraph 不过是幻象。

Spark Streaming本质上RDD+Timer,在RDD的基础之上,Timer在时间驱动下不断循环,周而复始的接收数据处理数据。

recurringTimer

   /**  * Repeatedly call the callback every interval.  */ private def loop() {   try {     while (!stopped) {       triggerActionForNextInterval()     }     triggerActionForNextInterval()   } catch {     case e: InterruptedException =>   } }

关注
打赏
1659361485
查看更多评论
立即登录/注册

微信扫码登录

0.0472s