运Codis搭建redis集群服务

一. 施用场景

redis 作为数据结构存储引擎,有着许多优点

  • 高性能
    单机引擎可以齐5-10W qps
  • 数据结构全面,支持高速支付工作
    string,list,set,sorted set, hashes

问题:

  • 囤容量受限单机最可怜容量即为单机内存最酷容量
  • 单机数据的持久化依赖aof和rdb机制,如果机器整个down掉,服务不可用

二. redis集群选型

正是出于单机redis引擎有着这样的题目,所以,基本每个互联网公司还出自己之redis集群化方案。

  • 于redis客户端lib中实现数量的分片并着力部署redis实例
    长:简单,性能损耗小
    缺点:扩容方案复杂
  • 集群化候选方案

1、NetFlix对Dynamo的开源通用实现Dynomite
Dynomite是NetFlix对亚马逊分布式存储引擎Dynamo的一个开源通用实现,使用C/C++语言编写、以代办的不二法门贯彻之Redis缓存集群方案。Dynomite不仅能用根据内存的Redis和Memcached打招分布式数据库,还支持持久化的MySQL、BerkeleyDB、LevelDB等数据库,并具有简易、高效、支持过数据主导的数据复制等优点。Dynomite的最终目标是提供数据库存储引擎不可知提供的简单、高效、跨数据基本的数据复制功能。Dynomite遵循Apache
License
2.0始源协议发布,更多关于Dynomite的信要查看NetFlix技术博客对Dynomite的牵线。
2、Twitter的Redis/Memcached代理服务Twemproxy
Twemproxy是一个施用C语言编写、以代办的方实现之、轻量级的Redis代理服务器,它经过引入一个代理层,将应用程序后端的多台Redis实例进行统一管理,使应用程序只待以Twemproxy上开展操作,而未用关爱后面具体有微只真正的Redis或Memcached实例,从而实现了根据Redis和Memcached的集群服务。当有节点宕掉时,Twemproxy可以自动将其于集群中删去,而当她过来服务经常,Twemproxy也会见自行连续。由于是代理,所以Twemproxy会有微小的属性损失。根据
Redis作者的测试结果,在大部分情形下,Twemproxy的属性相当对,同直接操作Redis相比,最多就来20%底特性损失。Twemproxy遵循Apache
License
2.0初始源协议发布,更多关于Twemproxy的消息请登录该在GitHub的主页查看。
3、豌豆荚的 Redis 集群解决方案Codis
Codis是豌豆荚使用Go和C语言开发、以代办的法门贯彻之一个Redis分布式集群解决方案,且完全配合Twemproxy。Twemproxy对于达等同叠的利用来说,
连接Codis
Proxy(Redis代理服务)和连接原生的Redis服务器并未明显的区分,上等同交汇下能够如用单机的
Redis一样对待。Codis底层会处理要的中转、不停机的多少迁移等工作,
所有根的全部处理,
对于客户端的话是晶莹的。总之,可以简单的以为后台连接的凡一个内存无限好之Redis服务。Codis遵循MIT开源协议发布,更多关于Codis的信请登录该当GitHub的主页查看。
此外,还有有非开源的缓解方案,比如新浪、百度、淘宝、腾讯等的Redis集群方案。在Redis官方正式生产可用于生产条件之集群方案前,以上三种方案是怪值得考虑在养条件下的方案。

三. 豌豆荚Codis

优点:

  • codis-proxy基被GO和C语言,并作处理能力强
  • 后端基于slot概念支持灵活,对用户透明底扩容和缩容操作,甚至一键式auto
    rebalance
  • 基于zookeeper提供了强可用的codis-proxy代理服务
  • 集群管理工具丰富:页面及下令行工具集,如:redis-port可以拿老集群(redis单机或twemproxy集群)中数量好之迁导入到Codis

一体化架构

Codis整体架构

Codis 由四有组成:

  • Codis Proxy (codis-proxy)
    codis-proxy 是客户端连接的 Redis 代理服务, codis-proxy 本身实现了
    Redis 协议, 表现得及一个原生的 Redis 没什么区别 (就比如 Twemproxy),
    对于一个业务以来, 可以安排多独 codis-proxy, codis-proxy
    本身是任状态的.
  • Codis Manager (codis-config)
    codis-config 是 Codis 的管理工具, 支持连, 添加/删除 Redis 节点,
    添加/删除 Proxy 节点, 发起数据迁移等操作. codis-config
    本身还自带了一个 http server, 会启动一个 dashboard,
    用户可直接当浏览器上观测 Codis 集群的运行状态.
  • Codis Redis (codis-server)
    codis-server 是 Codis 项目保护的一个 Redis 分支, 基于 2.8.13 开发,
    加入了 slot 的支撑和原子的数迁移指令. Codis 上层之 codis-proxy 和
    codis-config 只能和夫本子的 Redis 交互才会健康运行.
  • ZooKeeper
    Codis 依赖 ZooKeeper 来存放数据路由表和 codis-proxy 节点的头条信息,
    codis-config 发起的吩咐还见面透过 ZooKeeper 同步到各个存活的
    codis-proxy.

如果愿意发更简单的顾方式与再强之安静:可以下搭建HAProxy,但是会更加增加延迟。

安&管理集群
留神仍如下顺序部署启动集群

  1. 启动 dashboard *, 执行 ../bin/codis-config dashboard,
    该令会启动 dashboard *
  2. 初始化 slots , 执行 ../bin/codis-config slot
    init,该命令会在zookeeper上创造slot相关消息
  3. 启航 Codis Redis , 和官方的Redis Server参数一样
  4. 增长 Redis Server Group , 每一个 Server Group 作为一个 Redis
    服务器组存在, 只允许生一个 master, 可以生差不多个 slave, group id
    仅支持过等于1之平头
    $ ../bin/codis-config server -h usage:
    codis-config server list
    codis-config server add <group_id> <redis_addr>
    <role>
    codis-config server remove <group_id> <redis_addr>
    codis-config server promote <group_id>
    <redis_addr>
    codis-config server add-group <group_id>
    codis-config server remove-group <group_id>
    倘: 添加点儿单 server group, 每个 group 有星星点点独 redis
    实例,group的id分别吗1暨2, redis实例为平兆一从。
    长一个group,group的id为1, 并添加一个redis master到该group
    $ ../bin/codis-config server add 1 localhost:6379 master
    长一个redis slave到拖欠group
    $ ../bin/codis-config server add 1 localhost:6380 slave
    类似的,再添加group,group的id为2
    $ ../bin/codis-config server add 2 localhost:6479 master
    $ ../bin/codis-config server add 2 localhost:6479 slave
  5. 装 server group 服务的 slot 范围 Codis 采用 Pre-sharding
    的技巧来落实多少的分片, 默认分成 1024 独 slots (0-1023),
    对于每个key来说, 通过以下公式确定所属之 Slot Id : SlotId =
    crc32(key) % 1024 每一个 slot 都见面产生一个特定的 server group id
    来表示此 slot 的数据由谁 server group 来提供.
    $ ../bin/codis-config slot -h
    usage:
    codis-config slot init
    codis-config slot info <slot_id>
    codis-config slot set <slot_id> <group_id>
    <status>
    codis-config slot range-set <slot_from> <slot_to>
    <group_id> <status>
    codis-config slot migrate <slot_from> <slot_to>
    <group_id> [–delay=<delay_time_in_ms>]
    如:
    安编号吧[0, 511]的 slot 由 server group 1 资劳动, 编号
    [512, 1023] 的 slot 由 server group 2 提供劳动
    $ ../bin/codis-config slot range-set 0 511 1 online
    $ ../bin/codis-config slot range-set 512 1023 2 online
  6. 启动 codis-proxy
    ../bin/codis-proxy -c config.ini -L ./log/proxy.log –cpu=8
    –addr=0.0.0.0:19000 –http-addr=0.0.0.0:11000
    恰好起步之 codis-proxy 默认是高居 offline状态的, 然后安装 proxy 为
    online 状态, 只发处 online 状态的 proxy 才会对外提供劳务
    ../bin/codis-config -c config.ini proxy online <proxy_name>
    <—- proxy的id, 如 proxy_1
  7. 开辟浏览器
    http://localhost:18087/admin
    如今得当浏览器中完成各种操作了, 玩得开心

性能
8 core Xeon 2.10GHz, 多线程的 benchmark, 单 proxy 的 ops 是 12w. 而且
proxy 是可以动态水平扩展的, 理论上之习性瓶颈应该是百万级别的