学习小记-使用Redis的令牌桶算法实现分布式限流




import redis
import time
import random
 
# 连接Redis
redis_client = redis.StrictRedis(host='localhost', port=6379, db=0)
 
# 令牌桶限流的装饰器
def token_bucket_rate_throttle(key, rate):
    # 计算时间窗口内允许的最大令牌数和时间窗口大小
    tokens_per_second = rate
    window_size = 1.0 / tokens_per_second
 
    def middleware(func):
        def inner(*args, **kwargs):
            # 生成一个唯一的key
            unique_key = key.format(**dict(args=args, kwargs=kwargs))
            # 获取当前时间和令牌桶的容量
            current_time = time.time()
            last_request_time, _ = redis_client.hmget(unique_key, 't', 'c')
            last_request_time = float(last_request_time) if last_request_time else 0
            token_bucket_capacity = max(0, (current_time - last_request_time - window_size))
 
            # 添加或更新请求记录
            redis_client.hmset(unique_key, {
                't': current_time,
                'c': token_bucket_capacity
            })
 
            # 随机产生令牌
            tokens_to_add = random.uniform(0, 1.0 / tokens_per_second)
            current_tokens = min(token_bucket_capacity + tokens_to_add, window_size)
            if current_tokens < 1:
                return "Too many requests, please try again later"
 
            # 调用原函数
            return func(*args, **kwargs)
        return inner
    return middleware
 
# 使用装饰器
@token_bucket_rate_throttle('user-{}', rate=2)  # 每秒不超过2个请求
def my_function_to_throttle(user_id):
    print(f"Function called for user {user_id}")
    return f"Success for user {user_id}"
 
# 测试函数
for i in range(10):
    response = my_function_to_throttle(user_id=1)
    print(response)
    time.sleep(0.5)

这个代码实例使用了装饰器来实现令牌桶算法,并且可以限制特定用户的请求频率。在实际使用中,你可以将my_function_to_throttle替换为你需要限流的函数,并且通过装饰器的参数来设置允许的最大请求频率。这个例子中,令牌桶的容量是固定的,但在实际应用中,可以根据需要动态调整。

评论已关闭

推荐阅读

DDPG 模型解析,附Pytorch完整代码
2024年11月24日
DQN 模型解析,附Pytorch完整代码
2024年11月24日
AIGC实战——Transformer模型
2024年12月01日
Socket TCP 和 UDP 编程基础(Python)
2024年11月30日
python , tcp , udp
如何使用 ChatGPT 进行学术润色?你需要这些指令
2024年12月01日
AI
最新 Python 调用 OpenAi 详细教程实现问答、图像合成、图像理解、语音合成、语音识别(详细教程)
2024年11月24日
ChatGPT 和 DALL·E 2 配合生成故事绘本
2024年12月01日
omegaconf,一个超强的 Python 库!
2024年11月24日
【视觉AIGC识别】误差特征、人脸伪造检测、其他类型假图检测
2024年12月01日
[超级详细]如何在深度学习训练模型过程中使用 GPU 加速
2024年11月29日
Python 物理引擎pymunk最完整教程
2024年11月27日
MediaPipe 人体姿态与手指关键点检测教程
2024年11月27日
深入了解 Taipy:Python 打造 Web 应用的全面教程
2024年11月26日
基于Transformer的时间序列预测模型
2024年11月25日
Python在金融大数据分析中的AI应用(股价分析、量化交易)实战
2024年11月25日
AIGC Gradio系列学习教程之Components
2024年12月01日
Python3 `asyncio` — 异步 I/O,事件循环和并发工具
2024年11月30日
llama-factory SFT系列教程:大模型在自定义数据集 LoRA 训练与部署
2024年12月01日
Python 多线程和多进程用法
2024年11月24日
Python socket详解,全网最全教程
2024年11月27日