Redis内存回收机制

Redis中的内存策略主要包含下列四点：

  1. 内存清除策略（Eviction Policy）：当Redis内存空间不足时，会根据特定的算法删除一些key来释放内存。其中，常用的算法有LRU（最少最近使用）、LFU（最少使用频率）和随机算法
  2. 内存淘汰策略（Expiration）：在插入或更新key的时候，可以指定key的过期时间（expire）时间。过期后，Redis会自动将key删除，释放内存
  3. 内存回收策略（Memory Reclamation）：在使用Redis时，可能会因为未正确释放内存而导致内存泄漏。Redis针对这种情况实现了自动内存回收机制来防止内存泄漏的问题
  4. 内存优化策略（Memory Optimization）：Redis提供了各种内存优化策略，例如使用压缩（压缩整数值、压缩非常短的字符串）、使用哈希对象来优化内存使用等，以最大限度地减少内存使用。Redis也使用专门的数据结构来实现某些特定的数据类型，例如基数计数器和位数组，这些也是为了优化内存使用而设计的

过期key处理

Redis之所以性能强，最主要的原因就是基于内存存储。然而单节点的Redis其内存大小不宜过大，会影响持久化或主从同步性能。当内存使用达到上限时，就无法存储更多数据了。为了解决这个问题，Redis提供了一些策略实现内存回收：Key过期策略.可以通过expire key 5命令（设置TTL为5秒）给Redis的key设置TTL（存活时间），当key的TTL到期以后，再次访问name返回的是nil，说明这个key已经不存在了，对应的内存也得到释放。

Redis如何Key是否过期

Redis本身是一个典型的key-value内存存储数据库，因此所有的key、value都保存在Dict结构中

Redis判断一个key是否过期：在其database结构体中，有两个Dict：一个用来记录key-value；另一个用来记录key-TTL

typedef struct redisDb{
    dict *dict;	/*存放所有key及value，也被称为keyspace*/
    dict *expires;	/*存放每一个key及其对应的TTL存活时间，只包含设置了TTL的key*/
    dict *blocking_keys;	/* Keys with clients waiting for data (BLPOP)*/
    dict *ready_keys;	/* Blocked keys that received a PUSH */
    dict *watched_keys;	/* WATCHED keys for MULTI/EXEC CAS */
    int id;	/* Database ID, 0~15 */
    long long avg_ttl;	/*记录平均TTL时长*/
    unsigned long expires_cursor;	/*expire检查时在dict中抽样的索引|位置*/
    list *defrag_later;	/*等待碎片整理的key列表*/
} redisDb;

TTL到期后的删除策略

惰性删除：并不是在TTL到期后就立刻删除，而是在访问一个key的时候，检查该key的存活时间，如果已经过期才执行删除。也就是在增删改查的时候才会去检查这个key去判断这个key是否有过期

//查找一个key执行写操作
robj *lookupKeyWriteWithFlags(redisDb *db, robj *key, int flags){
    // 检查key是否过期
    expirelfNeeded(db, key);
    return lookupKey(db,key,flags);
}
// 查找一个key执行读操作
robj *lookupKeyReadWithFlags(redisDb *db, robj *key, int flags) {
    robj *val;
    // 检查key是否过期
    if (expirelfNeeded(db,key) == 1) (
    // ...
    return NULL;
}
int expirelfNeeded(redisDb *db, robj *key){
    //判断是否过期，如果未过期直接结束并返回0
    if (!keylsExpired(db,key)) return O;
    // ...略
    // 删除过期key
    deleteExpiredKeyAndPropagate(db,key);
    return 1;
}

周期删除：通过一个定时任务，周期性的抽样部分过期的key，执行删除，执行周期有两种：

  1. 在Redis服务初始化函数initServer()中设置定时任务serverCron()，按照server.hz的频率来执行过期key清理，模式为SLOW
  2. 在Redis的每个事件循环前会调用beforeSleep()函数，执行过期key清理，模式为FAST

SLOW模式：

  • 执行频率受server.hz影响，默认为10，即每秒执行10次，每个执行周期100ms。
  • 执行清理耗时不超过一次执行周期的25%.默认slow模式耗时不超过25ms
  • 逐个遍历db，逐个遍历db中的bucket（可以理解为hash列表中的每个下标），抽取20个key判断是否过期
  • 如果没达到时间上限（25ms）并且过期key比例大于10%(就是过期的key和数据库中总的key进行对比)，再进行一次抽样，否则结束

FAST模式规则（过期key比例小于10%不执行）：

  • 执行频率受beforeSleep()调用频率影响，但两次FAST模式间隔不低于2ms
  • 执行清理耗时不超过1ms
  • 逐个遍历db，逐个遍历db中的bucket，抽取20个key判断是否过期，如果没达到时间上限（1ms）并且过期key比例大于10%，再进行一次抽样，否则结束

内存淘汰策略

当Redis内存使用达到设置的上限时，主动挑选部分key删除以释放更多内存的流程。Redis会在处理客户端命令的方法processCommand()中尝试做内存淘汰

int processCommand(client *c) {
    // 如果服务器设置了server.maxmemory属性，并且没有执行lua脚本
    if (server.maxmemory && !server.lua_timedout) {
        //尝试进行内存淘汰performEvictions
        int out_of_memory = (performEvictions()) == EVICT_FAIL);
        // ..
        if (out_of_memory && reject_cmd_on_oom) {
            rejectCommand(c, shared.oomerr);
            return C_OK;
        }
        // ...
    }
}

Redis支持8种不同策略来选择要删除的key：

  1. noeviction： 不淘汰任何key，但是内存满时不允许写入新数据，默认就是这种策略
  2. volatile-ttl： 对设置了TTL的key，比较key的剩余TTL值，TTL越小越先被淘汰
  3. allkeys-random：对全体key ，随机进行淘汰。也就是直接从db->dict中随机挑选
  4. volatile-random：对设置了TTL的key ，随机进行淘汰。也就是从db->expires中随机挑选
  5. allkeys-lru： 对全体key，基于LRU算法进行淘汰
  6. volatile-lru： 对设置了TTL的key，基于LRU算法进行淘汰
  7. allkeys-lfu： 对全体key，基于LFU算法进行淘汰
  8. volatile-lfu： 对设置了TTL的key，基于LFI算法进行淘汰。
  9. LRU（Least Recently Used），最少最近使用。用当前时间减去最后一次访问时间，这个值越大则淘汰优先级越高
  10. LFU（Least Frequently Used），最少频率使用。会统计每个key的访问频率，值越小淘汰优先级越高

之前记录过的RedisObject：

typedef struct redisObject{
    unsigned type: 4;	//对象类型
    unsigned encoding: 4; // 编码方式
    unsigned lru: LRU_BITS;	//LRU:以秒为单位记录最近一次访问时间，长度24bit
    //LFU：高16位以分钟为单位记录最近一次访问时间，低8位记录逻辑访问次数
    int refcount;	//引用计数，计数为0则可以回收
    void *ptr;	//数据指针，指向真实数据
} robj;

LFU的访问次数之所以叫做逻辑访问次数，是因为并不是每次key被访问都计数，而是通过运算：

  1. 生成0~1之间的随机数R
  2. 计算旧次数*lfu_log_factor+1`，记录为P
  3. 如果R<P ，则计数器+1，且最大不超过255
  4. 访问次数会随时间衰减，距离上一次访问时间每隔lfu_decay_time分钟，计数器-1

当Redis使用的内存超出maxmemory设置时，会根据指定的淘汰策略在键空间中选择要删除的键值对。在删除键值对时，Redis会先检查该键值对是否在使用中（例如，有没有客户端正在访问该键值对），然后再根据具体的淘汰策略选择一个待删除的键值对，并将其从缓存中清除。

elimination

如果把redis全部的key都拿出来进行比较再淘汰，消耗的时间就会大大的增加。所以这里就引入了一个叫eviction_pool（驱逐池）它会抽取的一些样本，将样本放到池子里，再去比较看看谁应该被淘汰，这里maxmemory_samples默认值是5，但是策略不同淘汰的方式不同，这样实现就会比较麻烦所以这里进行了统一，就是按照key其中的某一个值的升序排列，值越大的优先淘汰

例如LFU最少频率使用，使用的越少就应该越早被淘汰，但是是升序排列的，那么就用255-LFU计算，LFU越少255-LFU就越大越应该被淘汰