2024-09-04

Redis 主从复制用于将一个 Redis 服务器的数据同步到其他服务器,是 Redis 实现数据冗余备份和高可用性的重要机制。

  1. 主从复制配置示例:

在从服务器的配置文件中加入以下设置:




slaveof <master-ip> <master-port>
  1. 哨兵(Sentinel)是 Redis 高可用性解决方案:它能够监控主服务器和其从服务器,并在主服务器出现故障时自动进行故障转移。
  2. 哨兵模式配置示例:

在 sentinel.conf 文件中配置:




sentinel monitor mymaster <master-ip> <master-port> <quorum>
sentinel down-after-milliseconds mymaster <milliseconds>
sentinel parallel-syncs mymaster <numslaves>
sentinel failover-timeout mymaster <milliseconds>
  1. 集群(Cluster)模式通过将数据自动分布在多个节点上来提供更大规模的数据存储和更高的吞吐量。
  2. 集群配置示例:

在 redis.conf 文件中配置:




cluster-enabled yes
cluster-config-file nodes.conf
cluster-node-timeout <milliseconds>
appendonly yes

在启动集群的各个节点时,使用 redis-server --cluster-enabled yes --port <port> --cluster-config-file nodes-<port>.conf --cluster-node-timeout <milliseconds> --appendonly yes --appendfilename appendonly-<port>.aof --dbfilename dump-<port>.rdb --logfile <port>.log 命令。

以上是配置 Redis 主从复制、哨兵和集群的基本示例,具体配置会根据实际需求和环境有所不同。

2024-09-04

Redis和MongoDB是两种不同类型的数据库,它们之间有显著的不同点,包括数据模型、用例、性能和可伸缩性。

  1. 数据模型:

    • Redis:Redis主要使用键值存储模型,适合快速读写操作。
    • MongoDB:MongoDB使用面向文档的模型,适合复杂查询和大量数据的存储。
  2. 用例:

    • Redis:适合用于缓存、队列、排行榜、计数器等实时应用。
    • MongoDB:适合复杂查询、非结构化数据存储、大数据分析等场景。
  3. 性能:

    • Redis:Redis是内存数据库,读写速度快。
    • MongoDB:尽管MongoDB也是内存数据库,但当数据量大时,读写速度可能会下降。
  4. 可伸缩性:

    • Redis:使用Redis Cluster可以实现水平扩展。
    • MongoDB:MongoDB原生支持分片,可以实现大规模数据的分布式存储和扩展。
  5. 成本:

    • Redis:Redis是开源且可以自由使用,但需要额外的硬件成本。
    • MongoDB:MongoDB提供免费版本,对于小型应用足够使用,但对于大型应用可能需要付费版本或云服务。
  6. 持久化存储:

    • Redis:数据可以持久化到磁盘。
    • MongoDB:所有数据默认都在磁盘上,且支持持久化以防止数据丢失。
  7. 复杂查询:

    • Redis:不支持复杂的查询操作。
    • MongoDB:支持复杂的查询操作,包括索引、聚合等。

在选择Redis还是MongoDB时,需要考虑应用需求、数据量、可用性要求和预算等因素。

2024-09-04



# 安装Docker
sudo apt-get update
sudo apt-get install -y docker.io
 
# 启动Redis单机实例
docker run --name my-redis -d redis
 
# 获取Redis容器的IP地址
REDIS_IP=$(docker inspect -f '{{ .NetworkSettings.IPAddress }}' my-redis)
 
# 启动Redis集群实例
docker run --name my-redis-cluster -d -p 7000-7005 redis redis-server --appendonly yes --cluster-enabled yes --cluster-config-file nodes.conf --cluster-node-timeout 5000 --port 7000
 
# 进入Redis集群容器内部
docker exec -it my-redis-cluster /bin/sh
 
# 在容器内部执行Redis集群的创建脚本
redis-cli --cluster create $REDIS_IP:7000 $REDIS_IP:7001 $REDIS_IP:7002 $REDIS_IP:7003 $REDIS_IP:7004 $REDIS_IP:7005 --cluster-replicas 1

这段代码展示了如何使用Docker快速部署单机Redis和Redis集群。首先安装Docker,然后启动单机Redis实例,并获取其IP地址。接着启动Redis集群实例,并通过端口映射暴露出来。最后,进入Redis集群容器,并使用redis-cli命令行工具创建集群,其中--cluster-replicas 1表示每个主节点有一个副本。

2024-09-04

Redis是一种开源的内存中数据结构存储系统,可以用作数据库、缓存和消息中间件。以下是一些Redis的快速入门示例。

安装Redis

在大多数Linux发行版上,可以使用包管理器来安装Redis:




# For Ubuntu/Debian
sudo apt-get install redis-server
 
# For CentOS/RHEL
sudo yum install redis

启动Redis服务




redis-server

连接到Redis服务器




redis-cli

Redis数据类型

Redis支持五种数据类型:字符串(String), 列表(List), 集合(Set), 散列(Hash) 和 有序集合(Sorted Set)。

字符串




# 设置键值
SET key value
 
# 获取键值
GET key

列表




# 在列表左侧插入元素
LPUSH list-key value
 
# 在列表右侧插入元素
RPUSH list-key value
 
# 获取列表所有元素
LRANGE list-key 0 -1

集合




# 添加元素到集合
SADD set-key member
 
# 获取集合所有成员
SMEMBERS set-key

散列




# 设置散列字段
HSET hash-key field value
 
# 获取散列字段值
HGET hash-key field

有序集合




# 添加成员及其分数到有序集合
ZADD sorted-set-key score member
 
# 获取有序集合成员及分数
ZRANGE sorted-set-key 0 -1 WITHSCORES

Redis 事务

Redis事务可以一起执行多个命令,它可以确保命令的原子性。




# 开启事务
MULTI
 
# 将命令加入事务
SADD set-key member1
SADD set-key member2
 
# 执行事务
EXEC

Redis发布/订阅

Redis的发布/订阅机制允许客户端订阅频道,并接收发送到该频道的消息。




# 订阅频道
SUBSCRIBE channel-key
 
# 向频道发布消息
PUBLISH channel-key message

Redis持久化

Redis支持两种持久化方式:RDB(默认)和AOF。




# 手动触发RDB持久化
SAVE
 
# 设置自动持久化规则
CONFIGRWRITECONF

Redis主从复制

Redis主从复制可以实现数据的多个副本。




# 配置从服务器
SLAVEOF host port

Redis的使用场景

  • 缓存系统
  • 排行榜/计数器
  • 消息队列
  • 分布式锁
  • 会话共享
  • 配置共享

Redis客户端

在Python中,可以使用redis-py库来操作Redis。




import redis
 
# 连接Redis
r = redis.Redis(host='localhost', port=6379, db=0)
 
# 设置键值
r.set('key', 'value')
 
# 获取键值
value = r.get('key')
print(value)

以上是Redis的快速入门示例,详细的使用方法和参数可以参考Redis官方文档。

2024-09-04



import scrapy
from scrapy_redis.spiders import RedisSpider
 
class MySpider(RedisSpider):
    name = 'myspider'
    redis_key = 'myspider:start_urls'
 
    def parse(self, response):
        # 解析响应内容的逻辑
        pass
 
    def closed(self, reason):
        # 当爬虫关闭时需要做的清理工作
        super().closed(reason)
        print(f"Spider {self.name} closed for reason: {reason}")

这个简单的爬虫示例展示了如何使用scrapy_redis库创建一个名为MySpider的Redis爬虫。这个爬虫从myspider:start_urls键中读取起始URL,并在解析每个响应时定义一个parse方法来处理数据提取。当爬虫关闭时,closed方法被调用,并打印关闭的原因。这个例子演示了如何使用scrapy_redis库进行分布式爬取,并且提供了一个简单的模板,方便开发者进行实际项目的爬虫开发。

2024-09-04



#include <stdio.h>
#include <stdlib.h>
#include <hiredis/hiredis.h>
 
int main(int argc, char **argv) {
    // 连接到Redis服务器
    const char *hostname = (argc > 1) ? argv[1] : "127.0.0.1";
    int port = (argc > 2) ? atoi(argv[2]) : 6379;
    redisContext *c = redisConnect(hostname, port);
    if (c == NULL || c->err) {
        if (c) {
            printf("Connection error: %s\n", c->errstr);
            redisFree(c);
        } else {
            printf("Connection error: can't allocate redis context\n");
        }
        exit(1);
    }
 
    // 使用ACL命令添加用户
    redisReply *reply = redisCommand(c, "ACL SETUSER newuser on >mypassword ~*:*");
    if (reply->type == REDIS_REPLY_ERROR) {
        printf("Error: %s\n", reply->str);
    } else {
        printf("User added successfully\n");
    }
    freeReplyObject(reply);
 
    // 列出所有用户
    reply = redisCommand(c, "ACL LIST");
    if (reply->type == REDIS_REPLY_ERROR) {
        printf("Error: %s\n", reply->str);
    } else if (reply->type == REDIS_REPLY_ARRAY) {
        printf("Number of users: %ld\n", reply->elements);
        for (int i = 0; i < reply->elements; i++) {
            printf("User %d: %s\n", i, reply->element[i]->str);
        }
    }
    freeReplyObject(reply);
 
    // 删除用户
    reply = redisCommand(c, "ACL SETUSER newuser on >mypassword ~*:*");
    if (reply->type == REDIS_REPLY_ERROR) {
        printf("Error: %s\n", reply->str);
    } else {
        printf("User deleted successfully\n");
    }
    freeReplyObject(reply);
 
    // 关闭连接
    redisFree(c);
    return 0;
}

这段代码展示了如何使用Redis的ACL命令来添加、列出和删除用户。注意,实际应用中需要处理内存分配失败的情况,并且在生产环境中应该使用合适的错误处理和资源管理策略。

2024-09-04

Memcached和Redis都是高性能的key-value存储系统,但它们有一些关键的区别:

  1. 数据类型:

    • Memcached:仅支持简单的字符串。
    • Redis:除了字符串,还支持更丰富的数据类型(列表,集合,有序集合,哈希表)以及不同种类的数据结构(如流,位图,超日志)。
  2. 持久化:

    • Memcached:不支持持久化。
    • Redis:支持两种持久化方式:RDB快照和AOF日志。
  3. 内存管理:

    • Memcached:使用LRU(最近最少使用)算法。
    • Redis:提供更多内存管理选项,如:allkeys-lru,volatile-lru,allkeys-random,volatile-random等,并支持内存数据集大小上限。
  4. 性能:

    • Memcached:设计简单,更轻量级。
    • Redis:支持更复杂的数据结构和更丰富的功能,在某些场景下性能更高,但也更消耗资源。
  5. 分布式支持:

    • Memcached:需要结合其他分布式解决方案。
    • Redis:原生支持分布式存储。
  6. 事务支持:

    • Memcached:不支持事务。
    • Redis:支持MULTI/EXEC事务。
  7. 安全性:

    • Memcached:无内置安全措施。
    • Redis:支持通过配置文件或命令设置密码访问,提供了更好的安全性。
  8. 分析工具:

    • Memcached:需要第三方工具。
    • Redis:提供monitor命令,clients命令等用于分析问题。
  9. 代码示例:

    • Memcached通常使用Python的pylibmcmemcache库,而Redis可以使用Python的redis-py库。

在选择Memcached还是Redis时,需要考虑应用程序的具体需求,如数据类型支持、持久化需求、性能要求、分布式支持、安全性等。

2024-09-04

Redis 集群是一种Redis服务器之间的网络连接,其中数据自动在多个节点之间分区。Redis集群的主要目标是提供一种方式,可以在不中断应用程序的情况下扩展Redis的数据库容量和处理能力。

Redis集群的工作原理涉及数据分片、节点通信、故障转移和负载均衡等关键技术。

  1. 数据分片:Redis集群将数据分布在不同的节点上,每个节点负责维护一部分数据。
  2. 节点通信:集群中的节点相互通信,确保节点状态的一致性。
  3. 故障转移:当一个节点不可达时,其负责的数据分片将被其他节点接管。
  4. 负载均衡:新的节点加入或者某个节点失效,集群会重新分配负载。

以下是一个简单的Redis集群设置示例:




# 假设你已经有了三个运行中的Redis节点,在端口7000、7001和7002

# 使用Redis Cluster命令创建一个包含三个主节点的集群
redis-cli --cluster create 127.0.0.1:7000 127.0.0.1:7001 127.0.0.1:7002 --cluster-replicas 1

# 上述命令将创建一个具有三个主节点和一个副本的集群
# --cluster-replicas 1 表示每个主节点都会有一个副本节点

在实际应用中,你可能需要配置更多参数,例如集群节点的配置文件、网络设置、集群节点间的通信端口等。

记住,Redis集群并不是万能的,它也有其局限性,例如不支持并发写操作,因此在设计应用程序时需要考虑这些因素。

2024-09-04



#!/bin/bash
# 设置Redis Cluster节点数量
NODES=3
# 设置Redis Cluster每个节点的端口号起始值
PORT_START=7000
# 设置Redis Cluster配置文件的基本路径
CONF_PATH=/path/to/redis-cluster/conf
# 设置Redis Cluster数据文件的基本路径
DATA_PATH=/path/to/redis-cluster/data
# 设置Redis Cluster日志文件的基本路径
LOG_PATH=/path/to/redis-cluster/log
 
# 创建配置文件和数据目录,并设置权限
for port in `seq $PORT_START $(($PORT_START+$NODES-1))`
do
    mkdir -p ${CONF_PATH}/${port}
    mkdir -p ${DATA_PATH}/${port}
    mkdir -p ${LOG_PATH}/${port}
    echo "port ${port}" > ${CONF_PATH}/${port}/redis.conf
    echo "dir ${DATA_PATH}/${port}" >> ${CONF_PATH}/${port}/redis.conf
    echo "logfile ${LOG_PATH}/${port}/redis.log" >> ${CONF_PATH}/${port}/redis.conf
    echo "cluster-enabled yes" >> ${CONF_PATH}/${port}/redis.conf
    echo "cluster-config-file nodes-${port}.conf" >> ${CONF_PATH}/${port}/redis.conf
    echo "cluster-node-timeout 5000" >> ${CONF_PATH}/${port}/redis.conf
    echo "appendonly yes" >> ${CONF_PATH}/${port}/redis.conf
    chmod 755 ${CONF_PATH}/${port}
    chmod 755 ${DATA_PATH}/${port}
    chmod 755 ${LOG_PATH}/${port}
done
 
# 启动所有Redis实例
for port in `seq $PORT_START $(($PORT_START+$NODES-1))`
do
    redis-server ${CONF_PATH}/${port}/redis.conf
done
 
# 创建Redis Cluster
redis-cli --cluster create 127.0.0.1:7000 127.0.0.1:7001 127.0.0.1:7002 --cluster-replicas 1

这个扩容脚本示例展示了如何为Redis Cluster创建配置文件、目录和日志文件,并设置合适的权限。然后,脚本启动所有Redis实例,并使用redis-cli命令来创建一个包含三个主节点和一个副本的Redis Cluster。这个例子简洁明了,并且使用了bash脚本的循环和条件语句来自动化这个过程。

2024-09-04

在Java中操作Redis和Redis的持久化,你可以使用Jedis库。以下是一个简单的例子:

  1. 添加Jedis依赖到你的项目中(如果使用Maven):



<dependency>
    <groupId>redis.clients</groupId>
    <artifactId>jedis</artifactId>
    <version>最新版本</version>
</dependency>
  1. 操作Redis的示例代码:



import redis.clients.jedis.Jedis;
 
public class RedisExample {
    public static void main(String[] args) {
        // 连接到Redis服务器
        Jedis jedis = new Jedis("localhost", 6379);
        
        // 设置键值对
        jedis.set("key", "value");
        
        // 获取并打印值
        System.out.println("获取键 'key' 对应的值: " + jedis.get("key"));
        
        // 关闭连接
        jedis.close();
    }
}
  1. Redis的持久化操作:

Redis支持两种持久化方式:RDB(默认)和AOF。

  • RDB:定时将内存中的数据快照保存到磁盘的一个压缩二进制文件中。
  • AOF:每个写命令都通过append操作保存到文件中。

配置RDB持久化(在redis.conf中设置):




save 900 1      # 900秒内至少1个键被修改则触发保存
save 300 10     # 300秒内至少10个键被修改则触发保存
save 60 10000   # 60秒内至少10000个键被修改则触发保存
 
dbfilename dump.rdb  # RDB文件名
dir /path/to/redis/dir  # RDB文件存储目录

配置AOF持久化(在redis.conf中设置):




appendonly yes  # 开启AOF持久化
appendfilename "appendonly.aof"  # AOF文件名
dir /path/to/redis/dir  # AOF文件存储目录

注意:持久化配置需要根据实际需求和性能影响进行调整。