- Elasticsearch 指南其他版本
- 8.17 中的新功能
- Elasticsearch 基础
- 快速入门
- 设置 Elasticsearch
- 升级 Elasticsearch
- 索引模块
- 映射
- 文本分析
- 索引模板
- 数据流
- 摄取管道
- 别名
- 搜索您的数据
- 重新排名
- 查询 DSL
- 聚合
- 地理空间分析
- 连接器
- EQL
- ES|QL
- SQL
- 脚本
- 数据管理
- 自动缩放
- 监视集群
- 汇总或转换数据
- 设置高可用性集群
- 快照和还原
- 保护 Elastic Stack 的安全
- Watcher
- 命令行工具
- elasticsearch-certgen
- elasticsearch-certutil
- elasticsearch-create-enrollment-token
- elasticsearch-croneval
- elasticsearch-keystore
- elasticsearch-node
- elasticsearch-reconfigure-node
- elasticsearch-reset-password
- elasticsearch-saml-metadata
- elasticsearch-service-tokens
- elasticsearch-setup-passwords
- elasticsearch-shard
- elasticsearch-syskeygen
- elasticsearch-users
- 优化
- 故障排除
- 修复常见的集群问题
- 诊断未分配的分片
- 向系统中添加丢失的层
- 允许 Elasticsearch 在系统中分配数据
- 允许 Elasticsearch 分配索引
- 索引将索引分配过滤器与数据层节点角色混合,以在数据层之间移动
- 没有足够的节点来分配所有分片副本
- 单个节点上索引的分片总数已超过
- 每个节点的分片总数已达到
- 故障排除损坏
- 修复磁盘空间不足的数据节点
- 修复磁盘空间不足的主节点
- 修复磁盘空间不足的其他角色节点
- 启动索引生命周期管理
- 启动快照生命周期管理
- 从快照恢复
- 故障排除损坏的存储库
- 解决重复的快照策略失败问题
- 故障排除不稳定的集群
- 故障排除发现
- 故障排除监控
- 故障排除转换
- 故障排除 Watcher
- 故障排除搜索
- 故障排除分片容量健康问题
- 故障排除不平衡的集群
- 捕获诊断信息
- REST API
- API 约定
- 通用选项
- REST API 兼容性
- 自动缩放 API
- 行为分析 API
- 紧凑和对齐文本 (CAT) API
- 集群 API
- 跨集群复制 API
- 连接器 API
- 数据流 API
- 文档 API
- 丰富 API
- EQL API
- ES|QL API
- 功能 API
- Fleet API
- 图表探索 API
- 索引 API
- 别名是否存在
- 别名
- 分析
- 分析索引磁盘使用量
- 清除缓存
- 克隆索引
- 关闭索引
- 创建索引
- 创建或更新别名
- 创建或更新组件模板
- 创建或更新索引模板
- 创建或更新索引模板(旧版)
- 删除组件模板
- 删除悬挂索引
- 删除别名
- 删除索引
- 删除索引模板
- 删除索引模板(旧版)
- 存在
- 字段使用情况统计信息
- 刷新
- 强制合并
- 获取别名
- 获取组件模板
- 获取字段映射
- 获取索引
- 获取索引设置
- 获取索引模板
- 获取索引模板(旧版)
- 获取映射
- 导入悬挂索引
- 索引恢复
- 索引段
- 索引分片存储
- 索引统计信息
- 索引模板是否存在(旧版)
- 列出悬挂索引
- 打开索引
- 刷新
- 解析索引
- 解析集群
- 翻转
- 收缩索引
- 模拟索引
- 模拟模板
- 拆分索引
- 解冻索引
- 更新索引设置
- 更新映射
- 索引生命周期管理 API
- 推理 API
- 信息 API
- 摄取 API
- 许可 API
- Logstash API
- 机器学习 API
- 机器学习异常检测 API
- 机器学习数据帧分析 API
- 机器学习训练模型 API
- 迁移 API
- 节点生命周期 API
- 查询规则 API
- 重新加载搜索分析器 API
- 存储库计量 API
- 汇总 API
- 根 API
- 脚本 API
- 搜索 API
- 搜索应用程序 API
- 可搜索快照 API
- 安全 API
- 身份验证
- 更改密码
- 清除缓存
- 清除角色缓存
- 清除权限缓存
- 清除 API 密钥缓存
- 清除服务帐户令牌缓存
- 创建 API 密钥
- 创建或更新应用程序权限
- 创建或更新角色映射
- 创建或更新角色
- 批量创建或更新角色 API
- 批量删除角色 API
- 创建或更新用户
- 创建服务帐户令牌
- 委托 PKI 身份验证
- 删除应用程序权限
- 删除角色映射
- 删除角色
- 删除服务帐户令牌
- 删除用户
- 禁用用户
- 启用用户
- 注册 Kibana
- 注册节点
- 获取 API 密钥信息
- 获取应用程序权限
- 获取内置权限
- 获取角色映射
- 获取角色
- 查询角色
- 获取服务帐户
- 获取服务帐户凭据
- 获取安全设置
- 获取令牌
- 获取用户权限
- 获取用户
- 授予 API 密钥
- 具有权限
- 使 API 密钥失效
- 使令牌失效
- OpenID Connect 准备身份验证
- OpenID Connect 身份验证
- OpenID Connect 注销
- 查询 API 密钥信息
- 查询用户
- 更新 API 密钥
- 更新安全设置
- 批量更新 API 密钥
- SAML 准备身份验证
- SAML 身份验证
- SAML 注销
- SAML 失效
- SAML 完成注销
- SAML 服务提供商元数据
- SSL 证书
- 激活用户配置文件
- 禁用用户配置文件
- 启用用户配置文件
- 获取用户配置文件
- 建议用户配置文件
- 更新用户配置文件数据
- 具有用户配置文件权限
- 创建跨集群 API 密钥
- 更新跨集群 API 密钥
- 快照和还原 API
- 快照生命周期管理 API
- SQL API
- 同义词 API
- 文本结构 API
- 转换 API
- 使用情况 API
- Watcher API
- 定义
- 迁移指南
- 发行说明
- Elasticsearch 版本 8.17.0
- Elasticsearch 版本 8.16.1
- Elasticsearch 版本 8.16.0
- Elasticsearch 版本 8.15.5
- Elasticsearch 版本 8.15.4
- Elasticsearch 版本 8.15.3
- Elasticsearch 版本 8.15.2
- Elasticsearch 版本 8.15.1
- Elasticsearch 版本 8.15.0
- Elasticsearch 版本 8.14.3
- Elasticsearch 版本 8.14.2
- Elasticsearch 版本 8.14.1
- Elasticsearch 版本 8.14.0
- Elasticsearch 版本 8.13.4
- Elasticsearch 版本 8.13.3
- Elasticsearch 版本 8.13.2
- Elasticsearch 版本 8.13.1
- Elasticsearch 版本 8.13.0
- Elasticsearch 版本 8.12.2
- Elasticsearch 版本 8.12.1
- Elasticsearch 版本 8.12.0
- Elasticsearch 版本 8.11.4
- Elasticsearch 版本 8.11.3
- Elasticsearch 版本 8.11.2
- Elasticsearch 版本 8.11.1
- Elasticsearch 版本 8.11.0
- Elasticsearch 版本 8.10.4
- Elasticsearch 版本 8.10.3
- Elasticsearch 版本 8.10.2
- Elasticsearch 版本 8.10.1
- Elasticsearch 版本 8.10.0
- Elasticsearch 版本 8.9.2
- Elasticsearch 版本 8.9.1
- Elasticsearch 版本 8.9.0
- Elasticsearch 版本 8.8.2
- Elasticsearch 版本 8.8.1
- Elasticsearch 版本 8.8.0
- Elasticsearch 版本 8.7.1
- Elasticsearch 版本 8.7.0
- Elasticsearch 版本 8.6.2
- Elasticsearch 版本 8.6.1
- Elasticsearch 版本 8.6.0
- Elasticsearch 版本 8.5.3
- Elasticsearch 版本 8.5.2
- Elasticsearch 版本 8.5.1
- Elasticsearch 版本 8.5.0
- Elasticsearch 版本 8.4.3
- Elasticsearch 版本 8.4.2
- Elasticsearch 版本 8.4.1
- Elasticsearch 版本 8.4.0
- Elasticsearch 版本 8.3.3
- Elasticsearch 版本 8.3.2
- Elasticsearch 版本 8.3.1
- Elasticsearch 版本 8.3.0
- Elasticsearch 版本 8.2.3
- Elasticsearch 版本 8.2.2
- Elasticsearch 版本 8.2.1
- Elasticsearch 版本 8.2.0
- Elasticsearch 版本 8.1.3
- Elasticsearch 版本 8.1.2
- Elasticsearch 版本 8.1.1
- Elasticsearch 版本 8.1.0
- Elasticsearch 版本 8.0.1
- Elasticsearch 版本 8.0.0
- Elasticsearch 版本 8.0.0-rc2
- Elasticsearch 版本 8.0.0-rc1
- Elasticsearch 版本 8.0.0-beta1
- Elasticsearch 版本 8.0.0-alpha2
- Elasticsearch 版本 8.0.0-alpha1
- 依赖项和版本
搜索分片路由
编辑搜索分片路由
编辑为了防止硬件故障并提高搜索容量,Elasticsearch 可以将索引的数据副本存储在多个节点上的多个分片中。在运行搜索请求时,Elasticsearch 会选择一个包含索引数据副本的节点,并将搜索请求转发到该节点的分片。此过程称为搜索分片路由或路由。
自适应副本选择
编辑默认情况下,Elasticsearch 使用自适应副本选择来路由搜索请求。此方法使用分片分配感知和以下条件来选择符合条件的节点
- 协调节点和符合条件的节点之间先前请求的响应时间
- 符合条件的节点运行先前搜索所花费的时间
- 符合条件的节点的
search
线程池 的队列大小
自适应副本选择旨在减少搜索延迟。但是,您可以使用集群设置 API 将 cluster.routing.use_adaptive_replica_selection
设置为 false
来禁用自适应副本选择。如果禁用,Elasticsearch 将使用轮询方法路由搜索请求,这可能会导致搜索速度变慢。
设置偏好
编辑默认情况下,自适应副本选择会从所有符合条件的节点和分片中进行选择。但是,您可能只想获取本地节点的数据,或者想根据硬件将搜索路由到特定节点。或者,您可能希望将重复搜索发送到同一分片以利用缓存。
要限制符合搜索请求条件的节点和分片集,请使用搜索 API 的 preference
查询参数。
例如,以下请求使用 _local
的 preference
搜索 my-index-000001
。这将搜索限制在本地节点上的分片。如果本地节点不包含索引数据的任何分片副本,则该请求将使用自适应副本选择来回退到另一个符合条件的节点。
resp = client.search( index="my-index-000001", preference="_local", query={ "match": { "user.id": "kimchy" } }, ) print(resp)
response = client.search( index: 'my-index-000001', preference: '_local', body: { query: { match: { 'user.id' => 'kimchy' } } } ) puts response
const response = await client.search({ index: "my-index-000001", preference: "_local", query: { match: { "user.id": "kimchy", }, }, }); console.log(response);
GET /my-index-000001/_search?preference=_local { "query": { "match": { "user.id": "kimchy" } } }
您还可以使用 preference
参数,根据提供的字符串将搜索路由到特定分片。如果集群状态和所选分片没有更改,则使用相同 preference
字符串的搜索将以相同的顺序路由到相同的分片。
我们建议使用唯一的 preference
字符串,例如用户名或 Web 会话 ID。此字符串不能以 _
开头。
您可以使用此选项为频繁使用且资源密集型搜索提供缓存结果。如果分片的数据没有更改,则使用相同 preference
字符串的重复搜索将从相同的分片请求缓存中检索结果。对于时间序列用例(例如日志记录),旧索引中的数据很少更新,可以直接从此缓存中提供。
以下请求使用 my-custom-shard-string
的 preference
字符串搜索 my-index-000001
。
resp = client.search( index="my-index-000001", preference="my-custom-shard-string", query={ "match": { "user.id": "kimchy" } }, ) print(resp)
response = client.search( index: 'my-index-000001', preference: 'my-custom-shard-string', body: { query: { match: { 'user.id' => 'kimchy' } } } ) puts response
const response = await client.search({ index: "my-index-000001", preference: "my-custom-shard-string", query: { match: { "user.id": "kimchy", }, }, }); console.log(response);
GET /my-index-000001/_search?preference=my-custom-shard-string { "query": { "match": { "user.id": "kimchy" } } }
如果集群状态或所选分片发生更改,则相同的 preference
字符串可能不会以相同的顺序将搜索路由到相同的分片。这可能是由于多种原因造成的,包括分片重定位和分片故障。节点也可能拒绝搜索请求,在这种情况下,Elasticsearch 会将其重新路由到另一个节点。
使用路由值
编辑在索引文档时,您可以指定一个可选的路由值,该值将文档路由到特定分片。
例如,以下索引请求使用 my-routing-value
路由文档。
resp = client.index( index="my-index-000001", routing="my-routing-value", document={ "@timestamp": "2099-11-15T13:12:00", "message": "GET /search HTTP/1.1 200 1070000", "user": { "id": "kimchy" } }, ) print(resp)
response = client.index( index: 'my-index-000001', routing: 'my-routing-value', body: { "@timestamp": '2099-11-15T13:12:00', message: 'GET /search HTTP/1.1 200 1070000', user: { id: 'kimchy' } } ) puts response
const response = await client.index({ index: "my-index-000001", routing: "my-routing-value", document: { "@timestamp": "2099-11-15T13:12:00", message: "GET /search HTTP/1.1 200 1070000", user: { id: "kimchy", }, }, }); console.log(response);
POST /my-index-000001/_doc?routing=my-routing-value { "@timestamp": "2099-11-15T13:12:00", "message": "GET /search HTTP/1.1 200 1070000", "user": { "id": "kimchy" } }
您可以在搜索 API 的 routing
查询参数中使用相同的路由值。这确保了搜索在用于索引文档的同一分片上运行。
resp = client.search( index="my-index-000001", routing="my-routing-value", query={ "match": { "user.id": "kimchy" } }, ) print(resp)
response = client.search( index: 'my-index-000001', routing: 'my-routing-value', body: { query: { match: { 'user.id' => 'kimchy' } } } ) puts response
const response = await client.search({ index: "my-index-000001", routing: "my-routing-value", query: { match: { "user.id": "kimchy", }, }, }); console.log(response);
GET /my-index-000001/_search?routing=my-routing-value { "query": { "match": { "user.id": "kimchy" } } }
您还可以提供多个以逗号分隔的路由值
resp = client.search( index="my-index-000001", routing="my-routing-value,my-routing-value-2", query={ "match": { "user.id": "kimchy" } }, ) print(resp)
response = client.search( index: 'my-index-000001', routing: 'my-routing-value,my-routing-value-2', body: { query: { match: { 'user.id' => 'kimchy' } } } ) puts response
const response = await client.search({ index: "my-index-000001", routing: "my-routing-value,my-routing-value-2", query: { match: { "user.id": "kimchy", }, }, }); console.log(response);
GET /my-index-000001/_search?routing=my-routing-value,my-routing-value-2 { "query": { "match": { "user.id": "kimchy" } } }
搜索并发和并行
编辑默认情况下,Elasticsearch 不会根据请求命中的分片数量拒绝搜索请求。但是,命中大量分片会显著增加 CPU 和内存使用率。
有关防止具有大量分片的索引的提示,请参阅调整分片大小。
您可以使用 max_concurrent_shard_requests
查询参数来控制每个节点上的搜索请求可以命中的最大并发分片数。这可以防止单个请求使集群过载。该参数默认为最大 5
。
resp = client.search( index="my-index-000001", max_concurrent_shard_requests="3", query={ "match": { "user.id": "kimchy" } }, ) print(resp)
response = client.search( index: 'my-index-000001', max_concurrent_shard_requests: 3, body: { query: { match: { 'user.id' => 'kimchy' } } } ) puts response
const response = await client.search({ index: "my-index-000001", max_concurrent_shard_requests: 3, query: { match: { "user.id": "kimchy", }, }, }); console.log(response);
GET /my-index-000001/_search?max_concurrent_shard_requests=3 { "query": { "match": { "user.id": "kimchy" } } }
您还可以使用 action.search.shard_count.limit
集群设置来设置搜索分片限制,并拒绝命中过多分片的请求。您可以使用集群设置 API 配置 action.search.shard_count.limit
。