您当前的位置: 首页 >  hadoop

41 Hadoop的HA机制

杨林伟 发布时间:2019-08-08 11:51:48 ,浏览量:1

HA的运作机制

1)hadoop-HA集群运作机制介绍

  • 所谓HA,即高可用(7*24小时不中断服务)
  • 实现高可用最关键的是消除单点故障
  • hadoop-ha严格来说应该分成各个组件的HA机制——HDFS的HA、YARN的HA

2)HDFS的HA机制详解

通过双namenode消除单点故障

双namenode协调工作的要点:

  • A、元数据管理方式需要改变:

    1.内存中各自保存一份元数据

    2.Edits日志只能有一份,只有Active状态的namenode节点可以做写操作

    3.两个namenode都可以读取edits

    4.共享的edits放在一个共享存储中管理(qjournal和NFS两个主流实现)

  • B、需要一个状态管理功能模块

    1.实现了一个zkfailover,常驻在每一个namenode所在的节点

    2.每一个zkfailover负责监控自己所在namenode节点,利用zk进行状态标识

    3.当需要进行状态切换时,由zkfailover来负责切换

    4.切换时需要防止brain split现象的发生

HDFS-HA图解

在这里插入图片描述

关注
打赏
1688896170
查看更多评论

杨林伟

暂无认证

  • 1浏览

    0关注

    3183博文

    0收益

  • 0浏览

    0点赞

    0打赏

    0留言

私信
关注
热门博文
立即登录/注册

微信扫码登录

0.0794s