- Elasticsearch 指南其他版本
- 8.17 中的新功能
- Elasticsearch 基础
- 快速入门
- 设置 Elasticsearch
- 升级 Elasticsearch
- 索引模块
- 映射
- 文本分析
- 索引模板
- 数据流
- 摄取管道
- 别名
- 搜索您的数据
- 重新排名
- 查询 DSL
- 聚合
- 地理空间分析
- 连接器
- EQL
- ES|QL
- SQL
- 脚本
- 数据管理
- 自动缩放
- 监视集群
- 汇总或转换数据
- 设置高可用性集群
- 快照和还原
- 保护 Elastic Stack 的安全
- Watcher
- 命令行工具
- elasticsearch-certgen
- elasticsearch-certutil
- elasticsearch-create-enrollment-token
- elasticsearch-croneval
- elasticsearch-keystore
- elasticsearch-node
- elasticsearch-reconfigure-node
- elasticsearch-reset-password
- elasticsearch-saml-metadata
- elasticsearch-service-tokens
- elasticsearch-setup-passwords
- elasticsearch-shard
- elasticsearch-syskeygen
- elasticsearch-users
- 优化
- 故障排除
- 修复常见的集群问题
- 诊断未分配的分片
- 向系统中添加丢失的层
- 允许 Elasticsearch 在系统中分配数据
- 允许 Elasticsearch 分配索引
- 索引将索引分配过滤器与数据层节点角色混合,以在数据层之间移动
- 没有足够的节点来分配所有分片副本
- 单个节点上索引的分片总数已超过
- 每个节点的分片总数已达到
- 故障排除损坏
- 修复磁盘空间不足的数据节点
- 修复磁盘空间不足的主节点
- 修复磁盘空间不足的其他角色节点
- 启动索引生命周期管理
- 启动快照生命周期管理
- 从快照恢复
- 故障排除损坏的存储库
- 解决重复的快照策略失败问题
- 故障排除不稳定的集群
- 故障排除发现
- 故障排除监控
- 故障排除转换
- 故障排除 Watcher
- 故障排除搜索
- 故障排除分片容量健康问题
- 故障排除不平衡的集群
- 捕获诊断信息
- REST API
- API 约定
- 通用选项
- REST API 兼容性
- 自动缩放 API
- 行为分析 API
- 紧凑和对齐文本 (CAT) API
- 集群 API
- 跨集群复制 API
- 连接器 API
- 数据流 API
- 文档 API
- 丰富 API
- EQL API
- ES|QL API
- 功能 API
- Fleet API
- 图表探索 API
- 索引 API
- 别名是否存在
- 别名
- 分析
- 分析索引磁盘使用量
- 清除缓存
- 克隆索引
- 关闭索引
- 创建索引
- 创建或更新别名
- 创建或更新组件模板
- 创建或更新索引模板
- 创建或更新索引模板(旧版)
- 删除组件模板
- 删除悬挂索引
- 删除别名
- 删除索引
- 删除索引模板
- 删除索引模板(旧版)
- 存在
- 字段使用情况统计信息
- 刷新
- 强制合并
- 获取别名
- 获取组件模板
- 获取字段映射
- 获取索引
- 获取索引设置
- 获取索引模板
- 获取索引模板(旧版)
- 获取映射
- 导入悬挂索引
- 索引恢复
- 索引段
- 索引分片存储
- 索引统计信息
- 索引模板是否存在(旧版)
- 列出悬挂索引
- 打开索引
- 刷新
- 解析索引
- 解析集群
- 翻转
- 收缩索引
- 模拟索引
- 模拟模板
- 拆分索引
- 解冻索引
- 更新索引设置
- 更新映射
- 索引生命周期管理 API
- 推理 API
- 信息 API
- 摄取 API
- 许可 API
- Logstash API
- 机器学习 API
- 机器学习异常检测 API
- 机器学习数据帧分析 API
- 机器学习训练模型 API
- 迁移 API
- 节点生命周期 API
- 查询规则 API
- 重新加载搜索分析器 API
- 存储库计量 API
- 汇总 API
- 根 API
- 脚本 API
- 搜索 API
- 搜索应用程序 API
- 可搜索快照 API
- 安全 API
- 身份验证
- 更改密码
- 清除缓存
- 清除角色缓存
- 清除权限缓存
- 清除 API 密钥缓存
- 清除服务帐户令牌缓存
- 创建 API 密钥
- 创建或更新应用程序权限
- 创建或更新角色映射
- 创建或更新角色
- 批量创建或更新角色 API
- 批量删除角色 API
- 创建或更新用户
- 创建服务帐户令牌
- 委托 PKI 身份验证
- 删除应用程序权限
- 删除角色映射
- 删除角色
- 删除服务帐户令牌
- 删除用户
- 禁用用户
- 启用用户
- 注册 Kibana
- 注册节点
- 获取 API 密钥信息
- 获取应用程序权限
- 获取内置权限
- 获取角色映射
- 获取角色
- 查询角色
- 获取服务帐户
- 获取服务帐户凭据
- 获取安全设置
- 获取令牌
- 获取用户权限
- 获取用户
- 授予 API 密钥
- 具有权限
- 使 API 密钥失效
- 使令牌失效
- OpenID Connect 准备身份验证
- OpenID Connect 身份验证
- OpenID Connect 注销
- 查询 API 密钥信息
- 查询用户
- 更新 API 密钥
- 更新安全设置
- 批量更新 API 密钥
- SAML 准备身份验证
- SAML 身份验证
- SAML 注销
- SAML 失效
- SAML 完成注销
- SAML 服务提供商元数据
- SSL 证书
- 激活用户配置文件
- 禁用用户配置文件
- 启用用户配置文件
- 获取用户配置文件
- 建议用户配置文件
- 更新用户配置文件数据
- 具有用户配置文件权限
- 创建跨集群 API 密钥
- 更新跨集群 API 密钥
- 快照和还原 API
- 快照生命周期管理 API
- SQL API
- 同义词 API
- 文本结构 API
- 转换 API
- 使用情况 API
- Watcher API
- 定义
- 迁移指南
- 发行说明
- Elasticsearch 版本 8.17.0
- Elasticsearch 版本 8.16.1
- Elasticsearch 版本 8.16.0
- Elasticsearch 版本 8.15.5
- Elasticsearch 版本 8.15.4
- Elasticsearch 版本 8.15.3
- Elasticsearch 版本 8.15.2
- Elasticsearch 版本 8.15.1
- Elasticsearch 版本 8.15.0
- Elasticsearch 版本 8.14.3
- Elasticsearch 版本 8.14.2
- Elasticsearch 版本 8.14.1
- Elasticsearch 版本 8.14.0
- Elasticsearch 版本 8.13.4
- Elasticsearch 版本 8.13.3
- Elasticsearch 版本 8.13.2
- Elasticsearch 版本 8.13.1
- Elasticsearch 版本 8.13.0
- Elasticsearch 版本 8.12.2
- Elasticsearch 版本 8.12.1
- Elasticsearch 版本 8.12.0
- Elasticsearch 版本 8.11.4
- Elasticsearch 版本 8.11.3
- Elasticsearch 版本 8.11.2
- Elasticsearch 版本 8.11.1
- Elasticsearch 版本 8.11.0
- Elasticsearch 版本 8.10.4
- Elasticsearch 版本 8.10.3
- Elasticsearch 版本 8.10.2
- Elasticsearch 版本 8.10.1
- Elasticsearch 版本 8.10.0
- Elasticsearch 版本 8.9.2
- Elasticsearch 版本 8.9.1
- Elasticsearch 版本 8.9.0
- Elasticsearch 版本 8.8.2
- Elasticsearch 版本 8.8.1
- Elasticsearch 版本 8.8.0
- Elasticsearch 版本 8.7.1
- Elasticsearch 版本 8.7.0
- Elasticsearch 版本 8.6.2
- Elasticsearch 版本 8.6.1
- Elasticsearch 版本 8.6.0
- Elasticsearch 版本 8.5.3
- Elasticsearch 版本 8.5.2
- Elasticsearch 版本 8.5.1
- Elasticsearch 版本 8.5.0
- Elasticsearch 版本 8.4.3
- Elasticsearch 版本 8.4.2
- Elasticsearch 版本 8.4.1
- Elasticsearch 版本 8.4.0
- Elasticsearch 版本 8.3.3
- Elasticsearch 版本 8.3.2
- Elasticsearch 版本 8.3.1
- Elasticsearch 版本 8.3.0
- Elasticsearch 版本 8.2.3
- Elasticsearch 版本 8.2.2
- Elasticsearch 版本 8.2.1
- Elasticsearch 版本 8.2.0
- Elasticsearch 版本 8.1.3
- Elasticsearch 版本 8.1.2
- Elasticsearch 版本 8.1.1
- Elasticsearch 版本 8.1.0
- Elasticsearch 版本 8.0.1
- Elasticsearch 版本 8.0.0
- Elasticsearch 版本 8.0.0-rc2
- Elasticsearch 版本 8.0.0-rc1
- Elasticsearch 版本 8.0.0-beta1
- Elasticsearch 版本 8.0.0-alpha2
- Elasticsearch 版本 8.0.0-alpha1
- 依赖项和版本
配置生命周期策略
编辑配置生命周期策略
编辑要使 ILM 管理索引,必须在 index.lifecycle.name
索引设置中指定有效的策略。
要为滚动索引配置生命周期策略,您需要创建策略并将其添加到索引模板中。
要使用策略来管理不滚动的索引,您可以在创建索引时指定生命周期策略,或将策略直接应用于现有索引。
ILM 策略存储在全局集群状态中,并且可以通过在创建快照时将 include_global_state
设置为 true
来包含在快照中。当快照恢复时,全局状态中的所有策略都会被恢复,任何具有相同名称的本地策略都会被覆盖。
当您为 Beats 或 Logstash Elasticsearch 输出插件启用索引生命周期管理时,必要的策略和配置更改将自动应用。您可以修改默认策略,但无需显式配置策略或引导初始索引。
创建生命周期策略
编辑要从 Kibana 创建生命周期策略,请打开菜单并转到 Stack Management > Index Lifecycle Policies。单击 创建策略。
您需要指定策略的生命周期阶段以及在每个阶段执行的操作。
调用创建或更新策略API 将策略添加到 Elasticsearch 集群。
API 示例
resp = client.ilm.put_lifecycle( name="my_policy", policy={ "phases": { "hot": { "actions": { "rollover": { "max_primary_shard_size": "25GB" } } }, "delete": { "min_age": "30d", "actions": { "delete": {} } } } }, ) print(resp)
response = client.ilm.put_lifecycle( policy: 'my_policy', body: { policy: { phases: { hot: { actions: { rollover: { max_primary_shard_size: '25GB' } } }, delete: { min_age: '30d', actions: { delete: {} } } } } } ) puts response
const response = await client.ilm.putLifecycle({ name: "my_policy", policy: { phases: { hot: { actions: { rollover: { max_primary_shard_size: "25GB", }, }, }, delete: { min_age: "30d", actions: { delete: {}, }, }, }, }, }); console.log(response);
如果一个或多个分片包含 200000000 个或更多文档,则滚动操作会隐式滚动数据流或别名。通常,分片会在达到 200M 文档之前很久就达到 25GB,但对于节省空间的数据集则并非如此。如果分片包含超过 200M 个文档,搜索性能很可能会受到影响。这就是内置限制的原因。
使用索引模板应用生命周期策略
编辑要使用触发滚动操作的策略,您需要在用于创建每个新索引的索引模板中配置该策略。您需要指定策略的名称和用于引用滚动索引的别名。
只有在使用带有别名的索引生命周期管理时才需要 index.lifecycle.rollover_alias
设置。在使用数据流时,此设置是不必要的。
您可以使用 Kibana 创建模板向导来创建模板。要访问该向导,请打开菜单并转到 Stack Management > Index Management。在 Index Templates 选项卡中,单击 创建模板。
该向导调用 创建或更新索引模板 API 以将模板添加到集群。
API 示例
resp = client.indices.put_index_template( name="my_template", index_patterns=[ "test-*" ], template={ "settings": { "number_of_shards": 1, "number_of_replicas": 1, "index.lifecycle.name": "my_policy", "index.lifecycle.rollover_alias": "test-alias" } }, ) print(resp)
response = client.indices.put_index_template( name: 'my_template', body: { index_patterns: [ 'test-*' ], template: { settings: { number_of_shards: 1, number_of_replicas: 1, 'index.lifecycle.name' => 'my_policy', 'index.lifecycle.rollover_alias' => 'test-alias' } } } ) puts response
const response = await client.indices.putIndexTemplate({ name: "my_template", index_patterns: ["test-*"], template: { settings: { number_of_shards: 1, number_of_replicas: 1, "index.lifecycle.name": "my_policy", "index.lifecycle.rollover_alias": "test-alias", }, }, }); console.log(response);
创建初始托管索引
编辑当您为自己的滚动索引设置策略时,如果您没有使用推荐的数据流,则需要手动创建由策略管理的第一个索引,并将其指定为写入索引。
当您为 Beats 或 Logstash Elasticsearch 输出插件启用索引生命周期管理时,必要的策略和配置更改将自动应用。您可以修改默认策略,但无需显式配置策略或引导初始索引。
索引的名称必须与索引模板中定义的模式匹配,并以数字结尾。此数字会递增以生成由滚动操作创建的索引的名称。
例如,以下请求创建 test-00001
索引。因为它与 my_template
中指定的索引模式匹配,所以 Elasticsearch 会自动应用该模板中的设置。
resp = client.indices.create( index="test-000001", aliases={ "test-alias": { "is_write_index": True } }, ) print(resp)
response = client.indices.create( index: 'test-000001', body: { aliases: { "test-alias": { is_write_index: true } } } ) puts response
const response = await client.indices.create({ index: "test-000001", aliases: { "test-alias": { is_write_index: true, }, }, }); console.log(response);
现在,您可以开始将数据索引到生命周期策略中指定的滚动别名。使用示例 my_policy
策略,一旦初始索引超过 25GB,就会触发滚动操作。然后,ILM 会创建一个新索引,该索引将成为 test-alias
的写入索引。
手动应用生命周期策略
编辑您可以在创建索引时指定策略,也可以通过 Kibana Management 或更新设置 API 将策略应用于现有索引。当您应用策略时,ILM 会立即开始管理索引。
不要手动应用使用滚动操作的策略。使用滚动的策略必须通过索引模板应用。否则,当滚动操作创建新索引时,该策略不会被传递。
index.lifecycle.name
设置指定索引的策略。
API 示例
resp = client.indices.create( index="test-index", settings={ "number_of_shards": 1, "number_of_replicas": 1, "index.lifecycle.name": "my_policy" }, ) print(resp)
response = client.indices.create( index: 'test-index', body: { settings: { number_of_shards: 1, number_of_replicas: 1, 'index.lifecycle.name' => 'my_policy' } } ) puts response
const response = await client.indices.create({ index: "test-index", settings: { number_of_shards: 1, number_of_replicas: 1, "index.lifecycle.name": "my_policy", }, }); console.log(response);
将策略应用于多个索引
编辑您可以通过在调用 更新设置 API 时在索引名称中使用通配符,将同一策略应用于多个索引。
请注意,不要无意中匹配到您不想修改的索引。
resp = client.indices.put_settings( index="mylogs-pre-ilm*", settings={ "index": { "lifecycle": { "name": "mylogs_policy_existing" } } }, ) print(resp)
response = client.indices.put_settings( index: 'mylogs-pre-ilm*', body: { index: { lifecycle: { name: 'mylogs_policy_existing' } } } ) puts response
const response = await client.indices.putSettings({ index: "mylogs-pre-ilm*", settings: { index: { lifecycle: { name: "mylogs_policy_existing", }, }, }, }); console.log(response);
切换生命周期策略
编辑要切换索引的生命周期策略,请按照以下步骤操作
-
使用删除策略 API 删除现有策略。定位数据流或别名以删除其所有索引的策略。
resp = client.ilm.remove_policy( index="logs-my_app-default", ) print(resp)
response = client.ilm.remove_policy( index: 'logs-my_app-default' ) puts response
const response = await client.ilm.removePolicy({ index: "logs-my_app-default", }); console.log(response);
POST logs-my_app-default/_ilm/remove
-
删除策略 API 会从索引中删除所有 ILM 元数据,并且不考虑索引的生命周期状态。这可能会使索引处于不希望的状态。
例如,
forcemerge
操作会在重新打开索引之前临时关闭索引。在forcemerge
期间删除索引的 ILM 策略可能会使索引无限期地关闭。删除策略后,使用 获取索引 API 检查索引的状态。定位数据流或别名以获取其所有索引的状态。
resp = client.indices.get( index="logs-my_app-default", ) print(resp)
response = client.indices.get( index: 'logs-my_app-default' ) puts response
const response = await client.indices.get({ index: "logs-my_app-default", }); console.log(response);
GET logs-my_app-default
然后,您可以根据需要更改索引。例如,您可以使用 打开索引 API 重新打开任何关闭的索引。
resp = client.indices.open( index="logs-my_app-default", ) print(resp)
response = client.indices.open( index: 'logs-my_app-default' ) puts response
const response = await client.indices.open({ index: "logs-my_app-default", }); console.log(response);
POST logs-my_app-default/_open
-
使用更新设置 API 分配新策略。定位数据流或别名以将策略分配给其所有索引。
不要在没有先删除现有策略的情况下分配新策略。这可能会导致阶段执行静默失败。
resp = client.indices.put_settings( index="logs-my_app-default", settings={ "index": { "lifecycle": { "name": "new-lifecycle-policy" } } }, ) print(resp)
response = client.indices.put_settings( index: 'logs-my_app-default', body: { index: { lifecycle: { name: 'new-lifecycle-policy' } } } ) puts response
const response = await client.indices.putSettings({ index: "logs-my_app-default", settings: { index: { lifecycle: { name: "new-lifecycle-policy", }, }, }, }); console.log(response);
PUT logs-my_app-default/_settings { "index": { "lifecycle": { "name": "new-lifecycle-policy" } } }