您当前的位置: 首页 >  Python

IT之一小佬

暂无认证

  • 0浏览

    0关注

    1192博文

    0收益

  • 0浏览

    0点赞

    0打赏

    0留言

私信
关注
热门博文

Redis数据库搭建集群(集群概念、redis集群、搭建集群(配置机器1、2、创建集群、数据操作验证)、Python与redis集群交互)

IT之一小佬 发布时间:2021-02-16 16:15:24 ,浏览量:0

1. 集群的概念

        集群是一组相互独立的、通过高速网络互联的计算机,它们构成了一个组,并以单一系统的模式加以管理。一个客户与集群相互作用时,集群像是一个独立的服务器。集群配置是用于提高可用性和可缩放性。

        当请求到来首先由负载均衡服务器处理,把请求转发到另外的一台服务器上。

2. redis集群
  • 分类
    • 软件层面
    • 硬件层面
  • 软件层面:只有一台电脑,在这一台电脑上启动了多个redis服务。

  • 硬件层面:存在多台实体的电脑,每台电脑上都启动了一个redis或者多个redis服务。

3. 搭建集群
  • 当前拥有两台主机172.16.x.12、172.16.1.13,这⾥的IP在使⽤时要改为实际值
参考阅读
  • redis集群搭建 Redis集群搭建与简单使用 - 邬兴亮 - 博客园
  • [Python]搭建redis集群 编程网_菜鸟学编程_编程培训_PHP培训_PHP程序员教程
3.1 配置机器1
  • 在演示中,192.168.X.12为当前ubuntu机器的ip
  • 在192.168.X.12上进⼊Desktop⽬录,创建conf⽬录

  • 在conf⽬录下创建⽂件7000.conf,编辑内容如下

    port 7000
    bind 192.168.X.12
    daemonize yes
    pidfile 7000.pid
    cluster-enabled yes
    cluster-config-file 7000_node.conf
    cluster-node-timeout 15000
    appendonly yes
    

  • 在conf⽬录下创建⽂件7001.conf,编辑内容如下

    port 7001
    bind 172.X.12
    daemonize yes
    pidfile 7001.pid
    cluster-enabled yes
    cluster-config-file 7001_node.conf
    cluster-node-timeout 15000
    appendonly yes
    

  • 在conf⽬录下创建⽂件7002.conf,编辑内容如下

    port 7002
    bind 172.16.X.13
    daemonize yes
    pidfile 7002.pid
    cluster-enabled yes
    cluster-config-file 7002_node.conf
    cluster-node-timeout 15000
    appendonly yes
    
  • 总结:三个⽂件的配置区别在port、pidfile、cluster-config-file三项

  • 使⽤配置⽂件启动redis服务

    redis-server 7000.conf
    redis-server 7001.conf
    redis-server 7002.conf
    

  • 查看进程如下图

3.2 配置机器2 【可以用一台虚拟机操作一下,可以不用配置机器2】
  • 在演示中,192.168.X.13为当前ubuntu机器的ip
  • 在192.168.X.13上进⼊Desktop⽬录,创建conf⽬录
  • 在conf⽬录下创建⽂件7003.conf,编辑内容如下

    port 7003
    bind 192.168.X.13
    daemonize yes
    pidfile 7003.pid
    cluster-enabled yes
    cluster-config-file 7003_node.conf
    cluster-node-timeout 15000
    appendonly yes
    
  • 在conf⽬录下创建⽂件7004.conf,编辑内容如下

    port 7004
    bind 192.168.X.13
    daemonize yes
    pidfile 7004.pid
    cluster-enabled yes
    cluster-config-file 7004_node.conf
    cluster-node-timeout 15000
    appendonly yes
    
  • 在conf⽬录下创建⽂件7005.conf,编辑内容如下

    port 7005
    bind 192.168.X.13
    daemonize yes
    pidfile 7005.pid
    cluster-enabled yes
    cluster-config-file 7005_node.conf
    cluster-node-timeout 15000
    appendonly yes
    
  • 总结:三个⽂件的配置区别在port、pidfile、cluster-config-file三项

  • 使⽤配置⽂件启动redis服务

    redis-server 7003.conf
    redis-server 7004.conf
    redis-server 7005.conf
    
  • 查看进程如下图

3.3 创建集群

文档连接

  • redis的安装包中包含了redis-trib.rb,⽤于创建集群
  • 接下来的操作在192.168.X.12机器上进⾏
  • 将命令复制,这样可以在任何⽬录下调⽤此命令

    sudo cp /usr/share/doc/redis-tools/examples/redis-trib.rb /usr/local/bin/
    

  • 安装ruby环境,因为redis-trib.rb是⽤ruby开发的

    sudo apt-get install ruby

  • 在提示信息处输⼊y,然后回⻋继续安装

  • 运⾏如下命令创建集群

    redis-trib.rb create --replicas 1 192.168.X.12:7000 192.168.X.12:7001 192.168.X.12:7002 192.168.X.13:7003 192.168.X.13:7004 192.168.X.13:7005
    

  • 执⾏上⾯这个指令在某些机器上可能会报错,主要原因是由于安装的 ruby 不是最 新版本!

  • 天朝的防⽕墙导致⽆法下载最新版本,所以需要设置 gem 的源

解决办法如下

-- 先查看⾃⼰的 gem 源是什么地址
gem source -l -- 如果是https://rubygems.org/ 就需要更换

-- 更换指令为
gem sources --add https://gems.ruby-china.com/ --remove https://rubygems.org/

-- 通过 gem 安装 redis 的相关依赖
sudo gem install redis

-- 然后重新执⾏指令

redis-trib.rb create --replicas 1 192.168.X.12:7000 192.168.X.12:7001 192.168.X.12:7002 192.168.X.13:7003 192.168.X.13:7004 192.168.X.13:7005
  • 提示如下主从信息,输⼊yes后回⻋

  • 提示完成,集群搭建成功

3.4 数据验证
  • 根据上图可以看出,当前搭建的主服务器为7000、7001、7002,对应的从服务器是7004、7005、7003
  • 在192.168.X.12机器上连接7002,加参数-c表示连接到集群

    redis-cli -h 192.168.X.12 -c -p 7002

  • 写⼊数据

    set name itheima

  • 在7005可以获取数据,如果写入数据又重定向到7000(负载均衡)

3.5 在哪个服务器上写数据:CRC16
  • redis cluster在设计的时候,就考虑到了去中⼼化,去中间件,也就是说,集群中 的每个节点都是平等的关系,都是对等的,每个节点都保存各⾃的数据和整个集 群的状态。每个节点都和其他所有节点连接,⽽且这些连接保持活跃,这样就保 证了我们只需要连接集群中的任意⼀个节点,就可以获取到其他节点的数据
  • Redis集群没有并使⽤传统的⼀致性哈希来分配数据,⽽是采⽤另外⼀种叫做哈希 槽 (hash slot)的⽅式来分配的。redis cluster 默认分配了 16384 个slot,当我们 set⼀个key 时,会⽤CRC16算法来取模得到所属的slot,然后将这个key 分到哈 希槽区间的节点上,具体算法就是:CRC16(key) % 16384。所以我们在测试的 时候看到set 和 get 的时候,直接跳转到了7000端⼝的节点
  • Redis 集群会把数据存在⼀个 master 节点,然后在这个 master 和其对应的salve 之间进⾏数据同步。当读取数据时,也根据⼀致性哈希算法到对应的 master 节 点获取数据。只有当⼀个master 挂掉之后,才会启动⼀个对应的 salve 节点,充 当 master
  • 需要注意的是:必须要3个或以上的主节点,否则在创建集群时会失败,并且当存 活的主节点数⼩于总节点数的⼀半时,整个集群就⽆法提供服务了
4. Python与redis集群交互
  • 安装包如下

    pip install redis-py-cluster

  • redis-py-cluster源码地址https://github.com/Grokzen/redis-py-cluster

  • 创建⽂件redis_cluster.py,示例码如下:

from rediscluster import RedisCluster
if __name__ == '__main__':

    try:
        # 构建所有的节点,Redis会使⽤CRC16算法,将键和值写到某个节点上
        startup_nodes = [
            {'host': '192.168.X.12', 'port': '7000'},
            {'host': '192.168.X.12', 'port': '7002'},
            {'host': '192.168.X.12', 'port': '7001'},
        ]
        # 构建StrictRedisCluster对象
        src = RedisCluster(startup_nodes=startup_nodes, decode_responses=True)
        # 设置键为name、值为abcd的数据
        result = src.set('name2', 'abcd')
        print(result)
        # 获取键为name
        name = src.get('name2')
        print(name)
    except Exception as e:
        print(e)

运行效果:

关注
打赏
1665675218
查看更多评论
立即登录/注册

微信扫码登录

0.0556s