配置 Elasticsearch 输出
编辑配置 Elasticsearch 输出编辑
Elasticsearch 输出使用 Elasticsearch HTTP API 将事件直接发送到 Elasticsearch。
示例配置
通过elasticsearch
输出将数据发送到安全集群时,Auditbeat 可以使用以下任何身份验证方法
- 基本身份验证凭据(用户名和密码)。
- 基于令牌(API 密钥)的身份验证。
- 公钥基础设施 (PKI) 证书。
基本身份验证
output.elasticsearch: hosts: ["https://myEShost:9200"] username: "auditbeat_writer" password: "YOUR_PASSWORD"
API 密钥身份验证
output.elasticsearch: hosts: ["https://myEShost:9200"] api_key: "ZCV7VnwBgnX0T19fN8Qe:KnR6yE41RrSowb0kQ0HWoA"
PKI 证书身份验证
output.elasticsearch: hosts: ["https://myEShost:9200"] ssl.certificate: "/etc/pki/client/cert.pem" ssl.key: "/etc/pki/client/cert.key"
有关每种身份验证方法的详细信息,请参阅与 Elasticsearch 的安全通信。
兼容性编辑
此输出适用于所有与 Elasticsearch 兼容的版本。请参阅Elastic 支持矩阵。
为了获得最佳体验,Auditbeat 仅连接到与 Beat 版本相同的实例。可以通过设置output.elasticsearch.allow_older_versions
来禁用此检查。
配置选项编辑
您可以在auditbeat.yml
配置文件的elasticsearch
部分中指定以下选项
hosts
编辑
要连接到的 Elasticsearch 节点列表。事件将以循环方式分配到这些节点。如果一个节点变得不可达,事件将自动发送到另一个节点。每个 Elasticsearch 节点可以定义为URL
或IP:PORT
。例如:http://192.15.3.2
、https://es.found.io:9230
或192.24.3.2:9300
。如果未指定端口,则使用9200
。
output.elasticsearch: hosts: ["10.45.3.2:9220", "10.45.3.1:9230"] protocol: https path: /elasticsearch
在前面的示例中,Elasticsearch 节点在https://10.45.3.2:9220/elasticsearch
和https://10.45.3.1:9230/elasticsearch
处可用。
compression_level
编辑
gzip 压缩级别。将此值设置为0
将禁用压缩。压缩级别必须在1
(最佳速度)到9
(最佳压缩)之间。
提高压缩级别会减少网络使用,但会增加 CPU 使用率。
默认值为1
。
worker
或workers
编辑
每个配置的将事件发布到 Elasticsearch 的主机的工作进程数量。这在启用负载平衡模式时最有用。例如:如果您有 2 个主机和 3 个工作进程,则总共启动 6 个工作进程(每个主机 3 个)。
默认值为1
。
loadbalance
编辑
当loadbalance: true
设置时,Auditbeat 连接到所有配置的主机,并通过所有连接并行发送数据。如果连接失败,数据将发送到剩余的主机,直到可以重新建立连接。只要 Auditbeat 能够连接到至少一个配置的主机,数据就会继续发送。
当loadbalance: false
设置时,Auditbeat 每次将数据发送到一个主机。目标主机是从配置的主机列表中随机选择的,所有数据都发送到该目标,直到连接失败,此时会选择新的目标。只要 Auditbeat 能够连接到至少一个配置的主机,数据就会继续发送。
默认值为true
。
output.elasticsearch: hosts: ["localhost:9200", "localhost:9201"] loadbalance: true
api_key
编辑
您可以使用 API 密钥来确保与 Elasticsearch 的通信安全,而不是使用用户名和密码。该值必须是 API 密钥的 ID 和 API 密钥,以冒号分隔:id:api_key
。
有关更多信息,请参阅使用 API 密钥授予访问权限。
password
编辑
用于连接到 Elasticsearch 的基本身份验证密码。
parameters
编辑
要与索引操作一起在 URL 中传递的 HTTP 参数的字典。
protocol
编辑
Elasticsearch 可达的协议名称。选项为:http
或https
。默认值为http
。但是,如果您为hosts
指定 URL,则protocol
的值将被您在 URL 中指定的方案覆盖。
path
编辑
一个 HTTP 路径前缀,它将被附加到 HTTP API 调用。这对于 Elasticsearch 在 HTTP 反向代理后监听并在自定义前缀下导出 API 的情况很有用。
headers
编辑
要添加到 Elasticsearch 输出创建的每个请求的自定义 HTTP 标头。示例
output.elasticsearch.headers: X-My-Header: Header contents
可以通过用逗号分隔来为同一个标头名称指定多个标头值。
proxy_disable
编辑
如果设置为true
,则所有代理设置(包括HTTP_PROXY
和HTTPS_PROXY
变量)都将被忽略。
proxy_url
编辑
连接到 Elasticsearch 服务器时要使用的代理的 URL。该值必须是完整的 URL。如果未通过配置文件指定值,则使用代理环境变量。有关环境变量的更多信息,请参阅Go 文档。
proxy_headers
编辑
在 CONNECT 请求期间发送到代理的附加标头。
index
编辑
当您使用每日索引时,要写入事件的索引名称。默认值为"auditbeat-%{[agent.version]}-%{+yyyy.MM.dd}"
,例如"auditbeat-8.14.3-2024-07-18"
。如果您更改此设置,您还需要配置setup.template.name
和setup.template.pattern
选项(请参阅Elasticsearch 索引模板)。
如果您使用预构建的 Kibana 仪表板,您还需要设置setup.dashboards.index
选项(请参阅Kibana 仪表板)。
当索引生命周期管理 (ILM)启用时,默认index
为"auditbeat-%{[agent.version]}-%{+yyyy.MM.dd}-%{index_num}"
,例如"auditbeat-8.14.3-2024-07-18-000001"
。当 ILM 启用时,自定义index
设置将被忽略。如果您将事件发送到支持索引生命周期管理的集群,请参阅索引生命周期管理 (ILM)以了解如何更改索引名称。
您可以通过使用格式字符串访问任何事件字段来动态设置索引。例如,此配置使用自定义字段fields.log_type
来设置索引
output.elasticsearch: hosts: ["https://127.0.0.1:9200"] index: "%{[fields.log_type]}-%{[agent.version]}-%{+yyyy.MM.dd}"
使用此配置,所有具有log_type: normal
的事件将被发送到名为normal-8.14.3-2024-07-18
的索引,所有具有log_type: critical
的事件将被发送到名为critical-8.14.3-2024-07-18
的索引。
要了解如何将自定义字段添加到事件,请参阅fields
选项。
有关其他动态设置索引的方法,请参阅indices
设置。
indices
编辑
索引选择器规则数组。每个规则都指定了用于匹配该规则的事件的索引。在发布期间,Auditbeat 使用数组中的第一个匹配规则。规则可以包含条件语句、基于格式字符串的字段和名称映射。如果indices
设置缺失或没有规则匹配,则使用index
设置。
与 index
类似,定义自定义 indices
将禁用 索引生命周期管理 (ILM)。
规则设置
-
index
- 要使用的索引格式字符串。如果此字符串包含字段引用,例如
%{[fields.name]}
,则必须存在这些字段,否则规则将失败。 -
mappings
- 一个字典,它接收
index
返回的值并将其映射到一个新名称。 -
default
- 如果
mappings
未找到匹配项,则要使用的默认字符串值。 -
when
- 必须满足的条件,以便执行当前规则。处理器支持的所有 条件 也都支持这里。
以下示例根据 message
字段是否包含指定字符串来设置索引
output.elasticsearch: hosts: ["https://127.0.0.1:9200"] indices: - index: "warning-%{[agent.version]}-%{+yyyy.MM.dd}" when.contains: message: "WARN" - index: "error-%{[agent.version]}-%{+yyyy.MM.dd}" when.contains: message: "ERR"
此配置导致索引命名为 warning-8.14.3-2024-07-18
和 error-8.14.3-2024-07-18
(以及如果未找到匹配项,则使用默认索引)。
以下示例通过获取 index
格式字符串返回的名称并将其映射到用作索引的新名称来设置索引
output.elasticsearch: hosts: ["https://127.0.0.1:9200"] indices: - index: "%{[fields.log_type]}" mappings: critical: "sev1" normal: "sev2" default: "sev3"
此配置导致索引命名为 sev1
、sev2
和 sev3
。
mappings
设置简化了配置,但仅限于字符串值。您不能在映射对中指定格式字符串。
pipeline
edit
一个格式字符串值,用于指定要将事件写入的摄取管道。
output.elasticsearch: hosts: ["https://127.0.0.1:9200"] pipeline: my_pipeline_id
有关更多信息,请参见 使用摄取管道解析数据。
您可以通过使用格式字符串访问任何事件字段来动态设置摄取管道。例如,此配置使用自定义字段 fields.log_type
来为每个事件设置管道
output.elasticsearch: hosts: ["https://127.0.0.1:9200"] pipeline: "%{[fields.log_type]}_pipeline"
使用此配置,所有具有 log_type: normal
的事件都将发送到名为 normal_pipeline
的管道,所有具有 log_type: critical
的事件都将发送到名为 critical_pipeline
的管道。
要了解如何将自定义字段添加到事件,请参阅fields
选项。
有关以其他方式动态设置摄取管道的其他方法,请参见 pipelines
设置。
pipelines
edit
一组管道选择器规则。每个规则指定要用于与规则匹配的事件的摄取管道。在发布期间,Auditbeat 使用数组中第一个匹配的规则。规则可以包含条件、基于格式字符串的字段和名称映射。如果缺少 pipelines
设置或没有规则匹配,则使用 pipeline
设置。
规则设置
-
pipeline
- 要使用的管道格式字符串。如果此字符串包含字段引用,例如
%{[fields.name]}
,则必须存在这些字段,否则规则将失败。 -
mappings
- 一个字典,它接收
pipeline
返回的值并将其映射到一个新名称。 -
default
- 如果
mappings
未找到匹配项,则要使用的默认字符串值。 -
when
- 必须满足的条件,以便执行当前规则。处理器支持的所有 条件 也都支持这里。
以下示例根据 message
字段是否包含指定字符串将事件发送到特定管道
output.elasticsearch: hosts: ["https://127.0.0.1:9200"] pipelines: - pipeline: "warning_pipeline" when.contains: message: "WARN" - pipeline: "error_pipeline" when.contains: message: "ERR"
以下示例通过获取 pipeline
格式字符串返回的名称并将其映射到用作管道的新的名称来设置管道
output.elasticsearch: hosts: ["https://127.0.0.1:9200"] pipelines: - pipeline: "%{[fields.log_type]}" mappings: critical: "sev1_pipeline" normal: "sev2_pipeline" default: "sev3_pipeline"
使用此配置,所有具有 log_type: critical
的事件都将发送到 sev1_pipeline
,所有具有 log_type: normal
的事件都将发送到 sev2_pipeline
,所有其他事件都将发送到 sev3_pipeline
。
有关摄取管道的更多信息,请参见 使用摄取管道解析数据。
max_retries
edit
在发布失败后重试发布事件的次数。在指定次数的重试后,事件通常会被丢弃。
将 max_retries
设置为小于 0 的值以一直重试,直到所有事件都发布。
默认值为 3。
bulk_max_size
edit
在单个 Elasticsearch 批量 API 索引请求中批量处理的事件的最大数量。默认值为 1600。
事件可以收集到批次中。Auditbeat 将拆分从队列中读取的比 bulk_max_size
更大的批次,将其拆分为多个批次。
指定更大的批次大小可以通过降低发送事件的开销来提高性能。但是,较大的批次大小也会增加处理时间,这可能会导致 API 错误、终止连接、发布请求超时以及最终导致吞吐量降低。
将 bulk_max_size
设置为小于或等于 0 的值将禁用批次拆分。禁用拆分后,队列将决定批次中包含的事件数量。
backoff.init
edit
在网络错误后尝试重新连接到 Elasticsearch 之前等待的秒数。等待 backoff.init
秒后,Auditbeat 将尝试重新连接。如果尝试失败,则回退计时器将以指数方式增加,直到 backoff.max
。成功连接后,回退计时器将重置。默认值为 1s
。
backoff.max
edit
在网络错误后尝试连接到 Elasticsearch 之前等待的最大秒数。默认值为 60s
。
idle_connection_timeout
edit
空闲连接在关闭自身之前保持空闲的最大时间量。零表示没有限制。格式为 Go 语言持续时间(例如 60s 为 60 秒)。默认值为 3s。
timeout
edit
Elasticsearch 请求的 HTTP 请求超时时间(以秒为单位)。默认值为 90。
allow_older_versions
edit
默认情况下,Auditbeat 希望 Elasticsearch 实例与 Auditbeat 处于相同版本或更高版本,以提供最佳体验。建议您连接到相同版本,以确保 Auditbeat 使用的所有功能都可以在您的 Elasticsearch 实例中使用。
例如,您可以在更新 Elastic Stack 时禁用此检查,以便数据收集可以继续进行。
ssl
edit
用于 SSL 参数的配置选项,例如用于基于 HTTPS 的连接的证书颁发机构。如果缺少 ssl
部分,则主机 CA 用于与 Elasticsearch 的 HTTPS 连接。
有关更多信息,请参见 与 Elasticsearch 的安全通信 指南或 SSL 配置参考。
non_indexable_policy
edit
指定 Elasticsearch 集群明确拒绝文档时的行为,例如映射冲突。
drop
edit
默认行为,当 Elasticsearch 明确拒绝事件时,事件会被丢弃。
output.elasticsearch: hosts: ["https://127.0.0.1:9200"] non_indexable_policy.drop: ~
dead_letter_index
edit
此功能处于测试阶段,可能会发生变化。设计和代码的成熟度低于正式 GA 功能,将按原样提供,不提供任何担保。测试版功能不受正式 GA 功能支持 SLA 的约束。
在明确拒绝时,此策略将在下一个批次中重试该事件。但是,目标索引将更改为指定的索引。此外,事件的结构将更改为以下字段
- message
- 包含原始事件的转义 JSON。
- error.type
- 包含状态代码
- error.message
- 包含 Elasticsearch 返回的状态,描述原因
-
index
- 要将拒绝的事件发送到的索引。
output.elasticsearch: hosts: ["https://127.0.0.1:9200"] non_indexable_policy.dead_letter_index: index: "my-dead-letter-index"
preset
edit
要应用于输出配置的性能预设。
output.elasticsearch: hosts: ["https://127.0.0.1:9200"] preset: balanced
性能预设会根据所需的性能目标应用一组配置覆盖。如果设置,性能预设将覆盖其他配置标志以匹配该预设的推荐设置。有效选项为:* balanced
:通用效率的良好起点 * throughput
:适用于高数据量,可能会增加 CPU 和内存需求 * scale
:在大型低吞吐量部署中减少环境资源使用 * latency
:最大程度地减少新数据在 Elasticsearch 中可见的时间 * custom
:直接应用用户配置,不进行覆盖
如果未指定,默认值为 custom
。
预设代表根据预期目标的当前建议;它们的效果可能在不同版本之间有所不同,以更好地适应这些目标。目前,预设具有以下效果
preset | balanced | throughput | scale | latency |
---|---|---|---|---|
1600 |
1600 |
1600 |
50 |
|
1 |
4 |
1 |
1 |
|
3200 |
12800 |
3200 |
4100 |
|
1600 |
1600 |
1600 |
2050 |
|
|
|
|
|
|
1 |
1 |
1 |
1 |
|
|
|
|
|
Elasticsearch APIedit
Auditbeat 将使用 Elasticsearch 的 _bulk
API,事件将按照它们到达发布管道的顺序发送,单个 _bulk
请求可能包含来自不同输入/模块的事件。临时故障将被重试。
将检查每个事件的状态代码并进行如下处理
-
< 300
:该事件计为events.acked
-
409
(冲突):该事件计为events.duplicates
-
429
(请求过多):该事件计为events.toomany
-
> 399 且 < 500
: 将应用non_indexable_policy
策略。