您当前的位置: 首页 >  ar

段智华

暂无认证

  • 0浏览

    0关注

    1232博文

    0收益

  • 0浏览

    0点赞

    0打赏

    0留言

私信
关注
热门博文

第29课:彻底解密Spark 1.6.X以前Shuffle中JVM内存使用及配置内幕详情:Spark到底能够缓存多少数据、Shuffle到底占用了多少数据、磁盘的数据远远比内存小却还是报告内存不足?

段智华 发布时间:2017-05-05 21:30:53 ,浏览量:0

第29课:彻底解密Spark 1.6.X以前Shuffle中JVM内存使用及配置内幕详情:Spark到底能够缓存多少数据、Shuffle到底占用了多少数据、磁盘的数据远远比内存小却还是报告内存不足?

本文根据家林大神系列课程编写 http://weibo.com/ilovepains

1 JVM内存使用架构剖析2 Spark集群在1.6.x以前中JVM到底可以缓存多少数据?3 spark集群在1.6.x以前中shuffle JVM到底缓存多少数据?4 spark on yarn实际计算对内存的使用案例5 spark1.6.x以前shufflejvm使用配置

1 JVM内存使用架构剖析
JVM 有很多不同的区,最开始的时候,它会通过类装载器把类加载进来,在运行期数据区中有 "本地方法栈","程序计数器","Java 栈"、"Java 堆"和"方法区"以及本地方法接口和它的本地库。从 Spark 的角度来谈代码的运行和数据的处理,主要是谈 Java 堆 (Heap) 空间的运用。 JVM的体现架构:
  • 本地方法栈:这个是在迭归的时候肯定是至关重要的;
关注
打赏
1659361485
查看更多评论
立即登录/注册

微信扫码登录

0.0504s