elasticsearch 深度分页查询 Search_after(图文教程)

warning: 这篇文章距离上次修改已过190天,其中的内容可能已经有所变动。

在Elasticsearch中,深度分页通常不是一个好主意,因为它会对集群的性能产生负面影响。然而,如果你确实需要进行深度分页查询,可以使用search_after功能。search_after是基于前一次查询返回的最后一个文档的排序值来进行查询的,从而避免了常规分页可能产生的问题。

以下是使用search_after进行查询的基本步骤:

  1. 执行一个正常的查询,获取文档,但不指定分页参数(size)。
  2. 记录返回的文档中最后一个的sort值(排序值)。
  3. 在下一个查询中,将这个sort值作为search_after的参数。
  4. 重复步骤2和3,每次查询都会跳过前面已经看过的文档,直到获取到所需数量的文档。

下面是一个使用Python的Elasticsearch客户端进行search_after查询的示例代码:




from elasticsearch import Elasticsearch
from elasticsearch import helpers
 
# 连接到Elasticsearch
es = Elasticsearch("http://localhost:9200")
 
# 查询的索引
index_name = 'your_index'
 
# 查询的sort值,初始化为None
search_after = None
 
# 查询的大小
size = 10
 
# 查询体
query = {
    "query": {
        "match_all": {}
    },
    "sort": ["_id"]  # 假设我们根据_id排序
}
 
# 使用search_after进行分页
while True:
    # 如果这是第一次查询,initial_search_after应为None
    if search_after is None:
        initial_search_after = None
    else:
        initial_search_after = search_after
 
    # 执行搜索
    response = es.search(
        index=index_name,
        size=size,
        body=query,
        search_after=initial_search_after
    )
 
    # 获取文档
    documents = response['hits']['hits']
 
    # 检查是否已经获取了所有文档
    if len(documents) == 0:
        break
 
    # 更新search_after的值
    search_after = documents[-1]['sort']
 
    # 处理文档
    for doc in documents:
        print(doc)
 
    # 这里可以添加退出循环的条件,例如达到所需的文档数量
    # 如果满足条件则跳出循环,否则继续下一轮查询

请注意,这个例子假设你根据_id字段排序,并且每个文档的_id是唯一的。在实际应用中,你需要根据你的索引的实际情况来调整查询体中的sort字段和查询参数。

评论已关闭

推荐阅读

DDPG 模型解析,附Pytorch完整代码
2024年11月24日
DQN 模型解析,附Pytorch完整代码
2024年11月24日
AIGC实战——Transformer模型
2024年12月01日
Socket TCP 和 UDP 编程基础(Python)
2024年11月30日
python , tcp , udp
如何使用 ChatGPT 进行学术润色?你需要这些指令
2024年12月01日
AI
最新 Python 调用 OpenAi 详细教程实现问答、图像合成、图像理解、语音合成、语音识别(详细教程)
2024年11月24日
ChatGPT 和 DALL·E 2 配合生成故事绘本
2024年12月01日
omegaconf,一个超强的 Python 库!
2024年11月24日
【视觉AIGC识别】误差特征、人脸伪造检测、其他类型假图检测
2024年12月01日
[超级详细]如何在深度学习训练模型过程中使用 GPU 加速
2024年11月29日
Python 物理引擎pymunk最完整教程
2024年11月27日
MediaPipe 人体姿态与手指关键点检测教程
2024年11月27日
深入了解 Taipy:Python 打造 Web 应用的全面教程
2024年11月26日
基于Transformer的时间序列预测模型
2024年11月25日
Python在金融大数据分析中的AI应用(股价分析、量化交易)实战
2024年11月25日
AIGC Gradio系列学习教程之Components
2024年12月01日
Python3 `asyncio` — 异步 I/O,事件循环和并发工具
2024年11月30日
llama-factory SFT系列教程:大模型在自定义数据集 LoRA 训练与部署
2024年12月01日
Python 多线程和多进程用法
2024年11月24日
Python socket详解,全网最全教程
2024年11月27日