安装与行使
- Redis-x64-3.2.100:服务端 +
客户端 - redis-3.2.5:源代码
- Redis Desktop Manager –
v0.8.8:客户端(基于Qt5的跨平台Redis桌面管理软件,C++编写,响应火速、质量好,但不接济数据库备份与还原)
实际使用:
- 服务端启动:将下令 redis-server.exe
redis.windows.conf 写入 .bat 文件,直接运行 StartWithConf.bat 启动服务端; -
客户端启动:直接运行 redis-cli.exe 即可;
redis.windows.conf:配置文件
redis-benchmark.exe:Redis读写质量测试工具
redis-check-aof.exe:aof修复检查日志
redis-check-dump.exe:dump检查数据库文件
redis-cli.exe:Redis客户端程序
redis-server.exe:Redis服务器程序
StartWithConf.bat:启动Redis
配备文件
redis.windows.conf
Redis服务端的运转参数全部靠配置文件贯彻,此处详细介绍Redis配置文件的多少个至关首要参数:
network
- bind 127.0.0.1:绑定地址(外网连接:0.0.0.0)
- port 6379:默许绑定本机的6379端口;
- timeout:连接超时时间(秒)
- requirepass pass:配置redis连接认证密码
general
- loglevel
debug/notice/warning/verbose:日志级别(开发测试/生产环境/只记录警告错误新闻/详细新闻) - logfile
./Logs/redis_log.txt:日志文件保留路径 - databases 16:数据库数量,默许0
snapshotting
- save TimeInterval ChangeCnt
append only mode
- appendonly yes:开启命令日志形式;
limits
- maxclients 64:最菲尼克斯接数,0为不限制
- maxmemory <bytes>:内存清理临界值
- maxmemory-policy
volatile-lru:内存清理采取的默许策略,对设置过期时间的key进行LRU算法删除
劳动命令
ping:启动服务连接情况
info:查看server/client配置信息
info commandstats + config resetstat:显示/清除名次调用统计信息
config get/set:获取/设置配信息
flushdb/flushall:删除当前所选/所有数据库中的所有key
save/bgsave:数据保存到硬盘/异步保存
lastsave: 上次成功保存到磁盘的unix时间戳
dbsize:查看所有key的数目
get/set和mget/mset:获取/设置键
incr/decr和incrby/decrby:自增/自减
exists/type key:键key是否存在/键类型
expire key secondTime:设置键的过期时间
rename oldKey newKey:重命名
ttl key:键key的剩余存活时间
select db_index:选择数据库
move key db_index:将键key移动到指定数据库
基本概念
Redis是卓越的NoSQL数据库服务器,其License是Apache
License、完全免费。首先看下内存数据库的基本概念:
内存数据库
In-Memory DataBase,以内存为第一存储介质的多寡库.
- 有着的表及索引在内存中、消除I/O瓶颈,为访问内存设计最佳访问方法和目录方式,读写速度快、质量好;
- 内存数据库的容量大小受物理内存的限制;
- 安全性难题是硬伤,匡助依据政策与磁盘数据库进行数量同步,以及数据库的可信性復苏机制;
Redis
REmote DIctionary Server(远程字典服务),远程内存数据库(Memory Database + Data Structure
Server),开源的行使ANSI-C语言编写、扶助互连网、可按照内存亦可持久化的日志型、高质量的key-value数据库,Redis不约定义且不利用表,适应高并发、海量数据存储场景。
- A persistent key-value database with built-in net interface
written in ANSI-C for Posix systems.- Redis is an open source, BSD licensed, advanced key-value cache
and store.
上边是Redis协助的5种档次数据结构的里边图解(图一):
redisObject对象是Redis内部的中坚目标,用于表示所有的key和value。
typedef struct redisObject {
unsigned type:4; // 数据类型
unsigned encoding:4; // 编码方式
unsigned lru:REDIS_LRU_BITS; /* lru time (relative to server.lruclock) */
int refcount; // 对象的引用计数
void *ptr; // 指向真正的存储结构
} robj;
其中,REDIS_LRU_BITS代表当内存超限时拔取LRU算法清除内存中的靶子。redisObject对象的创建在object.c文件中:
robj *createObject(int type, void *ptr) {
robj *o = zmalloc(sizeof(*o));
o->type = type;
o->encoding = OBJ_ENCODING_RAW;
o->ptr = ptr;
o->refcount = 1;
/* Set the LRU to the current lruclock (minutes resolution). */
o->lru = LRU_CLOCK();
return o;
}
Redis的键类型为string,值类型支持:
- 字符串:string
- 列表:list
- 集合:set
- 有序集合:zset (SortedSet)
- 散列:hash
实际内存结构示意图(图二):
参考:Redis数据库入门教程; Redis学习笔记;
特点
- 整整数目In-Momory,作为Memcached的替代者;
- key-value存储系统(Key:数据检索的唯一标识、Value:数据存储的严重性目的),支持五序列型的value(数据结构服务器);
- redis的源点是cache,缓存,高速缓存;
- 数据存储于内存中或被布署为利用虚拟内存;
- 持久化特性(Persistence):可以持久化到磁盘(周期性把创新数据写入磁盘或把修改操作追加写入记录文件);
- 主从复制特性(Master/Slave
Replication):负载均衡,扩张读品质; - 客户端分片(Client-Side
Sharding):数据划分为多少个部分,扩充写质量,线性级其余习性升高; - 辅助各样不一样方法的排序;
- 援救简单的事务(仅完成四回性执行多条命令的成效,不接济回滚);
- 辅助设置数据过期时间;
内存优化
- string和数字:Redis内部维护一个数字池,可以节约存储空间,默许 REDIS_SHARED_INTEGERS = 10000
- 复杂类型的储存优化:Redis内部选用紧凑格式存储数据(适合集合包蕴的Entry不多并且每个Entry包蕴的Value不是很长的情事),遍历复杂度下落为O(n)、但节省存储空间。以ZIPMap的数据结构为例:
其中,字段free用于冗余空间,空间换时间、一定情形下避免插入操作引起的扩容操作。
- list、set、hash选择分外规编码,优化存储空间;
- byte、bit级其余操作:getrange/setrange、getbit/setbit以及bitmap高效存储;
Redis .vs.
Memcached
- 相互均是高质量键值缓存服务器,Memcached只提供数据缓存服务,Redis提供数据缓存和持久化;
- Memcached:二十二十四线程服务器;Redis:单线程服务器,部分质量通过多线程完结;
- Memcached只帮助普通字符串键;Redis提供丰盛的数额存储结构,同时支持主数据库(Primary
Database)+ 帮衬数据库(Auxiliary Database)使用; - Memcached:预分配内存池模式,Redis:现场报名内存的形式存储数据、且能够配备虚拟内存
数据类型
string
list
双向链表、允许再度,扶助lpush/rpush和lpop/rpop;完毕信息队列等;
set
不允许再度,内部是哈希表完毕、查找/删除/插入均O(1); 集合提供SINTER、SUNION、SDIFF分别接济交集、并集、差集操作。
hash
键值对(父键+子键:值)。存储键key的多少个属性数据,完全可以用Json格式存储、直接作为string类型操作,但对品质有影响,所以Redis提出Hash类型。
一般来说,图一是一般的key/value结构,须要封装一个对象保存value的新闻;图二是Redis的Hash类型:
zset
有序键值对(父键+成员:分值),键值对实在是成员和分值(Member-Score)的炫耀关系(字符串成员member与浮点数分值score之间的不变映射,按分值大小排序),分值必须为浮点数; 既可以根据成员访问元素(同散列),又可以依照分值按序访问元素结构。
持久化
内存提供主存储辅助、硬盘作持久性存储。默许开启RDB格局,默许优先加载AOF文件。四遍性将数据加载到内存中,一回性预热。
问题:当服务器被关门时,服务器内存存储的数目将何去何从?
RDB .vs. AOF
- RDB格局二进制方式存储数据,文件较小且格式紧凑(RDB文件的储存格式和Redis数据在内存中的编码格式一致)、加载速度快;AOF格局文本文件扩展写操作命令,文件较大、音信冗余,加载速度慢,但rewrite命令会压缩aof文件;
- RDB方式按计划的save策略完毕定期批量数额存储、功效相对较高;AOF格局准实时日志记录、效能相对较低;
- 比较RDB格局,AOF格局可相信性较高、最少的多寡丢失和较高的数据復苏能力;
不重启Redis从RDB方式切换到AOF方式 :
redis-cli> config set appendonly yes:启用AOF
redis-cli> config set save "":关闭RDB
参考:Redis数据持久化; Redis小编:深度剖析Redis持久化;
RDB
半持久化格局(快照方式:File-Snap-Shotting,即时间点转储:Point-in-提姆e Dump),Redis
DataBase,将数据先存储在内存,当直接调用save/bgsave命令时或数量修改满意设置的save条件时触发bgsave操作,将内存数据三次性写入RDB文件。比较符合灾害复苏(Disaster
Recovery),若Redis分外crash,近来的数目会丢掉。
rdbcompression yes:创建快照时对数据进行压缩
dbfilename dump.rdb:快照名称
dir ./saveFile/:快照保存路径(AOF文件存放目录)
原理:Copy-on-Write(写时复制)技术
- Redis forks;
- 子进度将数据写到临时RDB文件中;
- 当子进程完结写RDB文件,用新文件替换旧文件;
该原理保险其余时候复制RDB文件都是纯属安全的。
AOF
全持久化方式(日志方式),Append-Only-File,将数据存在内存,同时调用fsync将本次写操作命令举行日志记录到aof文件,基于Redis网络交互协议的由Redis标准命令组成的可识其余纯文本文件,只允许伸张不允许改写。
写策略:默许并推举 appendfsync everysec ,速度和平安兼顾。
- appendfsync always:每提交一个改动命令调用fsync刷新到AOF文件,相当慢、但那些安全;
- appendfsync everysec:每秒调用fsync刷新到AOF文件,很快、但也许会丢掉一秒之内的多少;
- appendfsync no:依靠OS被动刷新、redis不主动刷新AOF,最快、但安全性差;
AOF最要害的配置就是有关调用fsync追加日志文件持久化数据的频率。磁盘空间满、断电等状态不会潜移默化日志的完整性和可用性。
保存:支持2种方式
-
调用flushaofbuf,把aof_buf中的命令写入aof文件,再清空aof_buf,进入下一回loop;
sds aof_buf; / AOF buffer, written before entering the event loop /
-
aof_rewrite:根据现有的数据库数据反向生成命令,然后把命令写入aof文件中;
加载
fakeClient = createFakeClient(); // 创建伪客户端
while(命令不为空) {
// 获取一条命令的参数信息 argc, argv
. . .
// 执行
fakeClient->argc = argc;
fakeClient->argv = argv;
cmd->proc(fakeClient);
}
AOF重写
bgrewriteAOF,重新生成一份AOF文件,新的AOF文件只含有对同一个值的反复操作的结尾一条记下(可以过来数据的很小指令集),进度和RDB类似(Copy-on-Write机制):
- fork一个子历程,直接遍历旧的AOF文件,将数据写入新的AOF临时文件;
- 在写新文件过程中,所有的新的写操作日志记录在内存缓冲区中、同时会写入到原始的AOF文件中;
- 做到写新文件操作后,发出信号公告父进度将内存缓冲区中的写指令一遍性追加到临时AOF文件中;
- 充实已毕,Redis将临时AOF文件作为新AOF文件替代旧AOF文件(调用原子性的rename命令用新的AOF文件替代老的AOF文件);
当同时满意以下2个原则时触发rewrite操作:
auto-aof-rewrite-percentage 100 // 当前写入日志文件的大小占到初始日志文件大小的某个百分比时触发rewrite
auto-aof-rewrite-min-size 64mb // 本次Rewrite最小的写入数据量
专注,bgrewriteaof和bgsave不可能同时实施,防止八个Redis后台进程同时对磁盘举行大量的I/O操作。
修复
Redis提供 redis-check-aof.exe 工具接济日志修复功用:
- 备份坏的AOF文件;
- 运转redis-check-aof
–fix修复坏的AOF文件; - 用diff
-u相比较五个文件的差异,确认难点点; - 重启Redis,加载修复后的AOF文件;
基本机制
master-slave,为了增长持久化机制,在持久化基础上Redis提供复制作用:将一个主服务器(master)数据自动同步到多少个从服务器(slave),落成中央同步:
- 纯粹的冗余备份
- 提高读质量
具体地:
- 开行从服务器,先向主服务器发送SYNC命令;
- 主服务器收到SYNC命令后fork子进程开始保存快照,时期所有发给主服务器的一声令下都会被缓存到内存;
-
快照保存完毕后,主服务器把快照和缓存的通令全体发送给从服务器;
-
从服务器保存收到的快照文件并加载到内存中,然后逐一执行收到的缓存命令;
在宗旨同步进度中(异步落成),从服务器不会堵塞,期间默许使用同步此前的数量继续响应客户端命令。主从机制帮衬增量同步策略,下降连接断开的回涨资本。
切切实进行使中见惯司空是:Redis+MySQL
公布订阅机制
publish-subscribe,观望者方式,订阅者(Subscriber)订阅频道(Channel),发布者(Publisher)将音讯发到指定频道(Channel),通过那种艺术将音信的发送者和接收者解耦,可以落成三个浏览器之间的音讯同步和实时更新。
- 音信的传递是多对多的;
- 支撑情势匹配;
-
运转平稳、飞速;
publish myChannel “xxx”:公布
subscribe myChannel:订阅
unsubscribe myChannel:裁撤订阅
Redis的Pub/Sub形式允许动态的Subscribe/Unsubscribe,进步系统的油滑和可扩充性。
其他
排序
问题:数据库支持排序,为啥要把排序功用放在缓存中完结?
- 排序会追加数据库的载荷,难以支撑高并发的选拔;
-
在缓存中排序不会蒙受表锁定的难点;
sort key [BY pattern] [LIMIT offset cnt] [GET pattern [GET pattern …]] [asc | desc] [ALPHA] [STORE destination]
-
by:即order by,指定排序字段,by
*->子键名; - limit:限制排序后赶回元素的数据,表示跳过前offset个元素、重回之后的接连cnt个因素,可以已毕分页成效;
- get:重回指定的字段值,get
*->子键名; - store:将排序结果存入指定地方;
事务
Transaction。
- multi:原子操作,通告Redis,接下去的若干下令属于同一业务;
- 输入若干发令,存储在指令队列中而不会被立马执行;
- exec:原子操作,布告Redis,属于同一业务的具有命令输入达成,起初推行工作;
管道
pipilining,允许Redis五回性接收八个指令、执行后五回性再次回到结果,收缩客户端与Redis服务器的通讯次数、下跌往返时延。类似事情,通过原子操作multi/exec达成。
先期级队列
blpop/brpop。
动用场景
先是,将Redis与SQL Server/MySQL等相比较一下:
- Redis的持久化是外加成效,且其flushdb、flushall命令会直接清空数据库,
SQL Server/MySQL的持久化是主导职能; - Redis全量持久数据从内存到磁盘、大数额下影响属性,SQL
Server/MySQL增量持久化被涂改的数量;
应用场景
- 在主页中显示最新的项目列表;
- 删除和过滤:lrem;
- 排行榜(Leader Board)及相关问题;
- 按照用户投票和时间排序;
- 过期项目处理:unix时间作为得分;
- 计数(Counting Stuff):INCR,DECR命令构建计数器系统;
- 特定时间内的特定项目:Redis特色特性;
- 实时分析正在发生的情况,用于数据统计与防止垃圾邮件等;
- Pub/Sub:发布订阅机制;
- 队列(Priority Queue);
- 缓存(Caching);
然后交到使用Redis中的几点注意事项:
- keys * —> scan;
- 提出使用hash;
- expire安装key的共处时间 + volatile-lru策略;
- Redis所在机器物理内存使用最好不要超越实际内存总量的3/5;
以及由此翻阅 ALCA in
Redis-land 得到的提议:
参考:Redis应用场景; Redis作者谈Redis应用场景; Redis应用提议;
Redis for C#
初识Redis时接触到的.Net-Redis组件是ServiceStack.Redis,其V3种类的最新版本是:ServiceStack.Redis.3.9.29.0。
ServiceStack.Redis
ServiceStack.Common.dll
ServiceStack.Interfaces.dll
ServiceStack.Redis.dll
ServiceStack.Text.dll
精通RedisClient类的切切实实新闻:
-
基本操作
public void Init();
public bool ContainsKey(string key);
public bool Remove(string key);
public void RemoveByPattern(string pattern);
public void RemoveByRegex(string pattern);
public IEnumerableGetKeysByPattern(string pattern);
public ListSearchKeys(string pattern);
public ListGetAllKeys(); // 数据库内的所有键(慎用)
public string GetRandomKey();
public T Get(string key);
public IRedisTypedClientAs (); // / 重要 /
public bool Add(string key, T value [, DateTime expiresAt]); // [设置过期时间]
public bool Add(string key, T value [, TimeSpan expiresIn]);
public bool Set(string key, T value [, DateTime expiresAt]); // [设置过期时间]
public bool Set(string key, T value [, 提姆eSpan expiresIn]);
public bool ExpireEntryAt(string key, Date提姆e expireAt); // 设置过期时间
public bool ExpireEntryIn(string key, 提姆eSpan expireIn);
public 提姆eSpan Get提姆eToLive(string key); // TTL时间
public long DecrementValue(string key); // 减
public long DecrementValueBy(string key, int count);
public long IncrementValue(string key); // 增
public long IncrementValueBy(string key, int count); -
string
public long GetStringCount(string key);
public string GetValue(string key);
public void SetValue(string key, string value [, TimeSpan expireIn]);
public void RenameKey(string fromName, string toName);
public int AppendToValue(string key, string value);
public string GetAndSetValue(string key, string value);
public string GetSubstring(string key, int fromIndex, int toIndex);
public ListGetValues(List keys);
public DictionaryGetValuesMap(List keys); -
List
// 基本操作
public int GetListCount(string listId);
public int RemoveItemFromList(string listId, string value);
public string RemoveStart/End/AllFromList(string listId);
public void SetItemInList(string listId, int listIndex, string value);
public void AddItemToList(string listId, string value);
public void AddRangeToList(string listId, Listvalues);
public ListGetAllItemsFromList(string listId);
public string GetItemFromList(string listId, int listIndex);
public ListGetRangeFromList(string listId, int startingFrom, int endingAt);
public ListGetRangeFromSortedList(string listId, int startingFrom, int endingAt);
public ListGetSortedItemsFromList(string listId, SortOptions sortOptions);
public ListGetValues (List keys);
public DictionaryGetValuesMap (List keys);
// List作为队列
public void EnqueueItemOnList(string listId, string value);
public string DequeueItemFromList(string listId);
// List作为栈
public void PushItemToList(string listId, string value);
public string PopItemFromList(string listId);
public string PopAndPushItemBetweenLists(string fromListId, string toListId); -
Set
public int GetSetCount(string setId);
public bool SetContainsItem(string setId, string item);
public void RemoveItemFromSet(string setId, string item);
public void AddItemToSet(string setId, string item);
public void AddRangeToSet(string setId, Listitems);
public HashSetGetAllItemsFromSet(string setId);
public string GetRandomItemFromSet(string setId);
public ListGetSortedEntryValues(string setId, int startingFrom, int endingAt);
public HashSetGetDifferencesFromSet(string fromSetId, params string[] withSetIds);
public HashSetGetIntersectFromSets(params string[] setIds);
public HashSetGetUnionFromSets(params string[] setIds);
public void StoreDifferencesFromSet(string intoSetId, string fromSetId, params string[] withSetIds);
public void StoreIntersectFromSets(string intoSetId, params string[] setIds);
public void StoreUnionFromSets(string intoSetId, params string[] setIds);
public void MoveBetweenSets(string fromSetId, string toSetId, string item);
public string PopItemFromSet(string setId); -
Hash
public int GetHashCount(string hashId);
public bool HashContainsEntry(string hashId, string key);
public bool RemoveEntryFromHash(string hashId, string key);
public bool SetEntryInHash(string hashId, string key, string value);
public ListGetHashKeys(string hashId);
public ListGetHashValues(string hashId);
public DictionaryGetAllEntriesFromHash(string hashId);
public string GetValueFromHash(string hashId, string key);
public ListGetValuesFromHash(string hashId, params string[] keys);
public T GetFromHash(object id); -
SortedSet(zset)
public int GetSortedSetCount(string setId);
public bool SortedSetContainsItem(string setId, string value);
public bool RemoveItemFromSortedSet(string setId, string value);
public bool AddItemToSortedSet(string setId, string value [, double score]);
public bool AddRangeToSortedSet(string setId, Listvalues [, double score]);
public ListGetRangeFromSortedSet(string setId, int fromRank, int toRank);
public IDictionaryGetRangeWithScoresFromSortedSet(string setId, int fromRank, int toRank);
public ListGetAllItemsFromSortedSetDesc;
public IDictionaryGetAllWithScoresFromSortedSet(string setId);
里面,方法 public IRedisTypedClient<T>
As<T>(); 搭配接口 public interface
IRedisTypedClient<T> : IEntityStore<T>{} 和
public interface IEntityStore<T>{}
中提供的情势可以成功各类操作。
在V3.0版本的底子上,其V4.0版本 ServiceStack.Redis-4.0.52 提供了越来越多的主意:
- Scan方法;
- 赢得设置配置音讯;
-
支持Lua脚本;
public RedisText Custom(params object[] cmdWithArgs); // 执行命令
public RedisClient CloneClient();
public string GetClient();
public void SetClient(string name);
public void KillClient(string address);
public void ChangeDb(long db);
public Date提姆e GetServer提姆e();
public Date提姆e ConvertToServerDate(Date提姆e expiresAt);
public List> GetClientsInfo();
public string GetConfig(string configItem);
public void SetConfig(string configItem, string value);
public void SaveConfig();
public void ResetInfoStats();
其中,Custom()方法可以实施绝半数以上的Redis命令,ServiceStack.Redis.Commands概念命令,用于Custom()方法的首先个参数:
public static class Commands{
public static readonly byte[] CommandName;
}
参考
StackExchange.Redis
是因为ServiceStack.Redis的V4.0版本商业化初叶收费,推荐使用:StackExchange.Redis。
StackExchange.Redis是专为.Net/C#的Redis客户端API,近年来被StackOverFlow使用、微软官方RedisSessionStateProvider也选拔StackExchange.Redis完结。
StackExchange.Redis的着力是ConnectionMultiplexer类(线程安全),在命名空间StackExchange.Redis中定义,封装了Redis服务的操作细节,该类的实例被全部应用程序域共享和录取。
ConnectionMultiplexer redisClient = ConnectionMultiplexer.Connect("localhost");
IDatabase db = redisClient .GetDatabase();
其基础和运用待学习…
参考
参考