您当前的位置: 首页 > 

梁云亮

暂无认证

  • 4浏览

    0关注

    1211博文

    0收益

  • 0浏览

    0点赞

    0打赏

    0留言

私信
关注
热门博文

Container killed on request. Exit code is 143

梁云亮 发布时间:2020-02-11 02:16:07 ,浏览量:4

mapreduce运行中发现有任务被kill掉,多半是因为内存分配不足造成,所有需要修改内存配置。

首先在yarn-site.xml中添加下面内容:


    yarn.nodemanager.resource.memory-mb
    22528
    每个节点可用内存,单位MB

 

    yarn.scheduler.minimum-allocation-mb
    1500
    单个任务可申请最少内存,默认1024MB

 

    yarn.scheduler.maximum-allocation-mb
    16384
    单个任务可申请最大内存,默认8192MB

  • 然后在mapred-site.xml中添加下面内容:

    mapreduce.map.memory.mb
    1500
    每个Map任务的物理内存限制

 

    mapreduce.reduce.memory.mb
    3000
    每个Reduce任务的物理内存限制

 

    mapreduce.map.java.opts
    -Xmx1200m

 

    mapreduce.reduce.java.opts
    -Xmx2600m


    mapreduce.framework.name
    yarn

重启yarn再启动mapreduce任务,就可以了

关注
打赏
1665409997
查看更多评论
立即登录/注册

微信扫码登录

0.2400s