2024-09-04

Redis Pub/Sub 系统是一种在 Redis 内的发布者和订阅者之间通信的方法。这种模式可以用于实现实时消息传递。

以下是一个简单的 Python 示例,展示如何使用 Redis 的 Pub/Sub 系统:




import redis
 
# 连接到 Redis 服务器
r = redis.Redis(host='localhost', port=6379, db=0)
 
# 创建一个发布者
pub = r.pubsub()
 
# 订阅一个频道,这里是 'test_channel'
pub.subscribe('test_channel')
 
# 开始监听订阅的频道
for message in pub.listen():
    print(message)
 
# 在另一个会话中,创建一个订阅者并发布消息
r.publish('test_channel', 'Hello, World!')

在这个例子中,我们首先连接到 Redis 服务器,然后创建一个发布者对象。我们订阅了一个名为 'test\_channel' 的频道。然后,我们进入一个循环,以便持续监听订阅的频道。

在另一个会话中,我们发布一条消息到同一个频道。这条消息会立即被我们的订阅者捕获,并打印出来。

这个例子展示了如何使用 Redis Pub/Sub 进行简单的消息传递。它是实时系统和事件驱动应用程序的一个基本构建块。

2024-09-04

在Redis中,数据类型主要包括字符串(String), 列表(List), 集合(Set), 有序集合(Sorted Set), 哈希(Hash)等。

  1. 列表(List)

    列表是一个有序的字符串列表,你可以在列表的两端进行插入(左侧头部,右侧尾部)和删除(头部,尾部)操作。




# 在列表头部插入元素
redis.lpush('mylist', 'element')
 
# 在列表尾部插入元素
redis.rpush('mylist', 'element')
 
# 获取列表的全部元素
redis.lrange('mylist', 0, -1)
 
# 从列表头部删除元素
redis.lpop('mylist')
 
# 从列表尾部删除元素
redis.rpop('mylist')
  1. 集合(Set)

    集合是一个无序的字符串集合,你可以添加,删除,检查成员存在性等操作。




# 添加成员
redis.sadd('myset', 'member')
 
# 删除成员
redis.srem('myset', 'member')
 
# 检查成员是否存在
redis.sismember('myset', 'member')
 
# 获取集合的全部成员
redis.smembers('myset')
  1. 有序集合(Sorted Set)

    有序集合是一个无序的字符串集合,每个成员都关联着一个分数,用于排序。




# 添加成员
redis.zadd('myzset', {'member': score})
 
# 删除成员
redis.zrem('myzset', 'member')
 
# 获取全部成员
redis.zrange('myzset', 0, -1)
 
# 获取成员的分数
redis.zscore('myzset', 'member')
  1. 哈希(Hash)

    哈希是一个字符串字段和字符串值之间的映射表,适用于存储小型结构化数据。




# 设置哈希字段
redis.hset('myhash', 'field', 'value')
 
# 获取哈希字段
redis.hget('myhash', 'field')
 
# 获取全部哈希字段和值
redis.hgetall('myhash')
 
# 删除哈希字段
redis.hdel('myhash', 'field')

以上代码是使用Python的redis包进行操作的,需要先安装:




pip install redis

这些操作是Redis中最常用的数据类型操作,在实际应用中,你可以根据需要选择合适的数据类型来存储数据。

2024-09-04

Redis 主从复制用于将一个 Redis 服务器的数据同步到其他服务器,是 Redis 实现数据冗余备份和高可用性的重要机制。

  1. 主从复制配置示例:

在从服务器的配置文件中加入以下设置:




slaveof <master-ip> <master-port>
  1. 哨兵(Sentinel)是 Redis 高可用性解决方案:它能够监控主服务器和其从服务器,并在主服务器出现故障时自动进行故障转移。
  2. 哨兵模式配置示例:

在 sentinel.conf 文件中配置:




sentinel monitor mymaster <master-ip> <master-port> <quorum>
sentinel down-after-milliseconds mymaster <milliseconds>
sentinel parallel-syncs mymaster <numslaves>
sentinel failover-timeout mymaster <milliseconds>
  1. 集群(Cluster)模式通过将数据自动分布在多个节点上来提供更大规模的数据存储和更高的吞吐量。
  2. 集群配置示例:

在 redis.conf 文件中配置:




cluster-enabled yes
cluster-config-file nodes.conf
cluster-node-timeout <milliseconds>
appendonly yes

在启动集群的各个节点时,使用 redis-server --cluster-enabled yes --port <port> --cluster-config-file nodes-<port>.conf --cluster-node-timeout <milliseconds> --appendonly yes --appendfilename appendonly-<port>.aof --dbfilename dump-<port>.rdb --logfile <port>.log 命令。

以上是配置 Redis 主从复制、哨兵和集群的基本示例,具体配置会根据实际需求和环境有所不同。

2024-09-04



# 安装Docker
sudo apt-get update
sudo apt-get install -y docker.io
 
# 启动Redis单机实例
docker run --name my-redis -d redis
 
# 获取Redis容器的IP地址
REDIS_IP=$(docker inspect -f '{{ .NetworkSettings.IPAddress }}' my-redis)
 
# 启动Redis集群实例
docker run --name my-redis-cluster -d -p 7000-7005 redis redis-server --appendonly yes --cluster-enabled yes --cluster-config-file nodes.conf --cluster-node-timeout 5000 --port 7000
 
# 进入Redis集群容器内部
docker exec -it my-redis-cluster /bin/sh
 
# 在容器内部执行Redis集群的创建脚本
redis-cli --cluster create $REDIS_IP:7000 $REDIS_IP:7001 $REDIS_IP:7002 $REDIS_IP:7003 $REDIS_IP:7004 $REDIS_IP:7005 --cluster-replicas 1

这段代码展示了如何使用Docker快速部署单机Redis和Redis集群。首先安装Docker,然后启动单机Redis实例,并获取其IP地址。接着启动Redis集群实例,并通过端口映射暴露出来。最后,进入Redis集群容器,并使用redis-cli命令行工具创建集群,其中--cluster-replicas 1表示每个主节点有一个副本。

2024-09-04

Redis是一种开源的内存中数据结构存储系统,可以用作数据库、缓存和消息中间件。以下是一些Redis的快速入门示例。

安装Redis

在大多数Linux发行版上,可以使用包管理器来安装Redis:




# For Ubuntu/Debian
sudo apt-get install redis-server
 
# For CentOS/RHEL
sudo yum install redis

启动Redis服务




redis-server

连接到Redis服务器




redis-cli

Redis数据类型

Redis支持五种数据类型:字符串(String), 列表(List), 集合(Set), 散列(Hash) 和 有序集合(Sorted Set)。

字符串




# 设置键值
SET key value
 
# 获取键值
GET key

列表




# 在列表左侧插入元素
LPUSH list-key value
 
# 在列表右侧插入元素
RPUSH list-key value
 
# 获取列表所有元素
LRANGE list-key 0 -1

集合




# 添加元素到集合
SADD set-key member
 
# 获取集合所有成员
SMEMBERS set-key

散列




# 设置散列字段
HSET hash-key field value
 
# 获取散列字段值
HGET hash-key field

有序集合




# 添加成员及其分数到有序集合
ZADD sorted-set-key score member
 
# 获取有序集合成员及分数
ZRANGE sorted-set-key 0 -1 WITHSCORES

Redis 事务

Redis事务可以一起执行多个命令,它可以确保命令的原子性。




# 开启事务
MULTI
 
# 将命令加入事务
SADD set-key member1
SADD set-key member2
 
# 执行事务
EXEC

Redis发布/订阅

Redis的发布/订阅机制允许客户端订阅频道,并接收发送到该频道的消息。




# 订阅频道
SUBSCRIBE channel-key
 
# 向频道发布消息
PUBLISH channel-key message

Redis持久化

Redis支持两种持久化方式:RDB(默认)和AOF。




# 手动触发RDB持久化
SAVE
 
# 设置自动持久化规则
CONFIGRWRITECONF

Redis主从复制

Redis主从复制可以实现数据的多个副本。




# 配置从服务器
SLAVEOF host port

Redis的使用场景

  • 缓存系统
  • 排行榜/计数器
  • 消息队列
  • 分布式锁
  • 会话共享
  • 配置共享

Redis客户端

在Python中,可以使用redis-py库来操作Redis。




import redis
 
# 连接Redis
r = redis.Redis(host='localhost', port=6379, db=0)
 
# 设置键值
r.set('key', 'value')
 
# 获取键值
value = r.get('key')
print(value)

以上是Redis的快速入门示例,详细的使用方法和参数可以参考Redis官方文档。

2024-09-04



import scrapy
from scrapy_redis.spiders import RedisSpider
 
class MySpider(RedisSpider):
    name = 'myspider'
    redis_key = 'myspider:start_urls'
 
    def parse(self, response):
        # 解析响应内容的逻辑
        pass
 
    def closed(self, reason):
        # 当爬虫关闭时需要做的清理工作
        super().closed(reason)
        print(f"Spider {self.name} closed for reason: {reason}")

这个简单的爬虫示例展示了如何使用scrapy_redis库创建一个名为MySpider的Redis爬虫。这个爬虫从myspider:start_urls键中读取起始URL,并在解析每个响应时定义一个parse方法来处理数据提取。当爬虫关闭时,closed方法被调用,并打印关闭的原因。这个例子演示了如何使用scrapy_redis库进行分布式爬取,并且提供了一个简单的模板,方便开发者进行实际项目的爬虫开发。

2024-09-04



#include <stdio.h>
#include <stdlib.h>
#include <hiredis/hiredis.h>
 
int main(int argc, char **argv) {
    // 连接到Redis服务器
    const char *hostname = (argc > 1) ? argv[1] : "127.0.0.1";
    int port = (argc > 2) ? atoi(argv[2]) : 6379;
    redisContext *c = redisConnect(hostname, port);
    if (c == NULL || c->err) {
        if (c) {
            printf("Connection error: %s\n", c->errstr);
            redisFree(c);
        } else {
            printf("Connection error: can't allocate redis context\n");
        }
        exit(1);
    }
 
    // 使用ACL命令添加用户
    redisReply *reply = redisCommand(c, "ACL SETUSER newuser on >mypassword ~*:*");
    if (reply->type == REDIS_REPLY_ERROR) {
        printf("Error: %s\n", reply->str);
    } else {
        printf("User added successfully\n");
    }
    freeReplyObject(reply);
 
    // 列出所有用户
    reply = redisCommand(c, "ACL LIST");
    if (reply->type == REDIS_REPLY_ERROR) {
        printf("Error: %s\n", reply->str);
    } else if (reply->type == REDIS_REPLY_ARRAY) {
        printf("Number of users: %ld\n", reply->elements);
        for (int i = 0; i < reply->elements; i++) {
            printf("User %d: %s\n", i, reply->element[i]->str);
        }
    }
    freeReplyObject(reply);
 
    // 删除用户
    reply = redisCommand(c, "ACL SETUSER newuser on >mypassword ~*:*");
    if (reply->type == REDIS_REPLY_ERROR) {
        printf("Error: %s\n", reply->str);
    } else {
        printf("User deleted successfully\n");
    }
    freeReplyObject(reply);
 
    // 关闭连接
    redisFree(c);
    return 0;
}

这段代码展示了如何使用Redis的ACL命令来添加、列出和删除用户。注意,实际应用中需要处理内存分配失败的情况,并且在生产环境中应该使用合适的错误处理和资源管理策略。

2024-09-04

Memcached和Redis都是高性能的key-value存储系统,但它们有一些关键的区别:

  1. 数据类型:

    • Memcached:仅支持简单的字符串。
    • Redis:除了字符串,还支持更丰富的数据类型(列表,集合,有序集合,哈希表)以及不同种类的数据结构(如流,位图,超日志)。
  2. 持久化:

    • Memcached:不支持持久化。
    • Redis:支持两种持久化方式:RDB快照和AOF日志。
  3. 内存管理:

    • Memcached:使用LRU(最近最少使用)算法。
    • Redis:提供更多内存管理选项,如:allkeys-lru,volatile-lru,allkeys-random,volatile-random等,并支持内存数据集大小上限。
  4. 性能:

    • Memcached:设计简单,更轻量级。
    • Redis:支持更复杂的数据结构和更丰富的功能,在某些场景下性能更高,但也更消耗资源。
  5. 分布式支持:

    • Memcached:需要结合其他分布式解决方案。
    • Redis:原生支持分布式存储。
  6. 事务支持:

    • Memcached:不支持事务。
    • Redis:支持MULTI/EXEC事务。
  7. 安全性:

    • Memcached:无内置安全措施。
    • Redis:支持通过配置文件或命令设置密码访问,提供了更好的安全性。
  8. 分析工具:

    • Memcached:需要第三方工具。
    • Redis:提供monitor命令,clients命令等用于分析问题。
  9. 代码示例:

    • Memcached通常使用Python的pylibmcmemcache库,而Redis可以使用Python的redis-py库。

在选择Memcached还是Redis时,需要考虑应用程序的具体需求,如数据类型支持、持久化需求、性能要求、分布式支持、安全性等。

2024-09-04

Redis 集群是一种Redis服务器之间的网络连接,其中数据自动在多个节点之间分区。Redis集群的主要目标是提供一种方式,可以在不中断应用程序的情况下扩展Redis的数据库容量和处理能力。

Redis集群的工作原理涉及数据分片、节点通信、故障转移和负载均衡等关键技术。

  1. 数据分片:Redis集群将数据分布在不同的节点上,每个节点负责维护一部分数据。
  2. 节点通信:集群中的节点相互通信,确保节点状态的一致性。
  3. 故障转移:当一个节点不可达时,其负责的数据分片将被其他节点接管。
  4. 负载均衡:新的节点加入或者某个节点失效,集群会重新分配负载。

以下是一个简单的Redis集群设置示例:




# 假设你已经有了三个运行中的Redis节点,在端口7000、7001和7002

# 使用Redis Cluster命令创建一个包含三个主节点的集群
redis-cli --cluster create 127.0.0.1:7000 127.0.0.1:7001 127.0.0.1:7002 --cluster-replicas 1

# 上述命令将创建一个具有三个主节点和一个副本的集群
# --cluster-replicas 1 表示每个主节点都会有一个副本节点

在实际应用中,你可能需要配置更多参数,例如集群节点的配置文件、网络设置、集群节点间的通信端口等。

记住,Redis集群并不是万能的,它也有其局限性,例如不支持并发写操作,因此在设计应用程序时需要考虑这些因素。

2024-09-04



#!/bin/bash
# 设置Redis Cluster节点数量
NODES=3
# 设置Redis Cluster每个节点的端口号起始值
PORT_START=7000
# 设置Redis Cluster配置文件的基本路径
CONF_PATH=/path/to/redis-cluster/conf
# 设置Redis Cluster数据文件的基本路径
DATA_PATH=/path/to/redis-cluster/data
# 设置Redis Cluster日志文件的基本路径
LOG_PATH=/path/to/redis-cluster/log
 
# 创建配置文件和数据目录,并设置权限
for port in `seq $PORT_START $(($PORT_START+$NODES-1))`
do
    mkdir -p ${CONF_PATH}/${port}
    mkdir -p ${DATA_PATH}/${port}
    mkdir -p ${LOG_PATH}/${port}
    echo "port ${port}" > ${CONF_PATH}/${port}/redis.conf
    echo "dir ${DATA_PATH}/${port}" >> ${CONF_PATH}/${port}/redis.conf
    echo "logfile ${LOG_PATH}/${port}/redis.log" >> ${CONF_PATH}/${port}/redis.conf
    echo "cluster-enabled yes" >> ${CONF_PATH}/${port}/redis.conf
    echo "cluster-config-file nodes-${port}.conf" >> ${CONF_PATH}/${port}/redis.conf
    echo "cluster-node-timeout 5000" >> ${CONF_PATH}/${port}/redis.conf
    echo "appendonly yes" >> ${CONF_PATH}/${port}/redis.conf
    chmod 755 ${CONF_PATH}/${port}
    chmod 755 ${DATA_PATH}/${port}
    chmod 755 ${LOG_PATH}/${port}
done
 
# 启动所有Redis实例
for port in `seq $PORT_START $(($PORT_START+$NODES-1))`
do
    redis-server ${CONF_PATH}/${port}/redis.conf
done
 
# 创建Redis Cluster
redis-cli --cluster create 127.0.0.1:7000 127.0.0.1:7001 127.0.0.1:7002 --cluster-replicas 1

这个扩容脚本示例展示了如何为Redis Cluster创建配置文件、目录和日志文件,并设置合适的权限。然后,脚本启动所有Redis实例,并使用redis-cli命令来创建一个包含三个主节点和一个副本的Redis Cluster。这个例子简洁明了,并且使用了bash脚本的循环和条件语句来自动化这个过程。