分布式限流——Redis实现令牌桶算法

warning: 这篇文章距离上次修改已过186天,其中的内容可能已经有所变动。



import redis
import time
import random
 
# 连接Redis
r = redis.Redis(host='localhost', port=6379, db=0)
 
# 令牌桶算法实现分布式限流
class RateLimiter(object):
    def __init__(self, rate, burst=10):
        self.rate = rate
        self.burst = burst
        self.tokens_key = 'tokens'
        self.timestamp_key = 'timestamp'
        self.fill_rate = rate / burst
 
    def _get_tokens(self):
        timestamp = r.get(self.timestamp_key)
        if timestamp is None:
            r.set(self.tokens_key, self.burst)
            r.set(self.timestamp_key, time.time())
            return self.burst
        else:
            tokens = r.get(self.tokens_key)
            if tokens is None:
                r.set(self.tokens_key, self.burst)
                r.set(self.timestamp_key, time.time())
                return self.burst
            else:
                return int(tokens)
 
    def _reduce_tokens(self, cost):
        tokens = self._get_tokens()
        if tokens >= cost:
            r.decrby(self.tokens_key, cost)
            return True
        else:
            return False
 
    def _fill_token(self):
        timestamp = r.get(self.timestamp_key)
        if timestamp is not None:
            elapsed = time.time() - float(timestamp)
            if elapsed > 0:
                time_to_wait = self.fill_rate * elapsed
                time.sleep(time_to_wait)
                r.incrbyfloat(self.tokens_key, self.fill_rate * elapsed)
                r.set(self.timestamp_key, time.time())
 
    def allowed(self, cost=1):
        self._fill_token()
        return self._reduce_tokens(cost)
 
# 使用示例
limiter = RateLimiter(rate=5, burst=10)  # 每秒5个请求,初始令牌桶容量10
 
# 模拟请求
for i in range(20):
    if limiter.allowed():
        print(f"Request {i} is allowed!")
        time.sleep(random.uniform(0, 1))  # 模拟请求处理时间
    else:
        print(f"Request {i} is denied!")

这段代码实现了基于Redis的令牌桶算法分布式限流器。它首先连接到Redis,然后定义了一个RateLimiter类,用于初始化限流器并实现相关的方法。allowed方法检查是否有足够的令牌来处理请求,如果有,则处理请求并减少令牌数量;如果没有,则拒绝请求。代码还包括了令牌填充的逻辑,确保在超出 burst 限制后能够按照固定的速率进行令牌填充。最后,提供了使用限流器的模拟请求示例。

评论已关闭

推荐阅读

DDPG 模型解析,附Pytorch完整代码
2024年11月24日
DQN 模型解析,附Pytorch完整代码
2024年11月24日
AIGC实战——Transformer模型
2024年12月01日
Socket TCP 和 UDP 编程基础(Python)
2024年11月30日
python , tcp , udp
如何使用 ChatGPT 进行学术润色?你需要这些指令
2024年12月01日
AI
最新 Python 调用 OpenAi 详细教程实现问答、图像合成、图像理解、语音合成、语音识别(详细教程)
2024年11月24日
ChatGPT 和 DALL·E 2 配合生成故事绘本
2024年12月01日
omegaconf,一个超强的 Python 库!
2024年11月24日
【视觉AIGC识别】误差特征、人脸伪造检测、其他类型假图检测
2024年12月01日
[超级详细]如何在深度学习训练模型过程中使用 GPU 加速
2024年11月29日
Python 物理引擎pymunk最完整教程
2024年11月27日
MediaPipe 人体姿态与手指关键点检测教程
2024年11月27日
深入了解 Taipy:Python 打造 Web 应用的全面教程
2024年11月26日
基于Transformer的时间序列预测模型
2024年11月25日
Python在金融大数据分析中的AI应用(股价分析、量化交易)实战
2024年11月25日
AIGC Gradio系列学习教程之Components
2024年12月01日
Python3 `asyncio` — 异步 I/O,事件循环和并发工具
2024年11月30日
llama-factory SFT系列教程:大模型在自定义数据集 LoRA 训练与部署
2024年12月01日
Python 多线程和多进程用法
2024年11月24日
Python socket详解,全网最全教程
2024年11月27日