- Filebeat 参考其他版本
- Filebeat 概述
- 快速入门:安装和配置
- 设置和运行
- 升级
- Filebeat 的工作原理
- 配置
- 输入
- 模块
- 通用设置
- 项目路径
- 配置文件加载
- 输出
- Kerberos
- SSL
- 索引生命周期管理 (ILM)
- Elasticsearch 索引模板
- Kibana 端点
- Kibana 仪表板
- 处理器
- 定义处理器
- add_cloud_metadata
- add_cloudfoundry_metadata
- add_docker_metadata
- add_fields
- add_host_metadata
- add_id
- add_kubernetes_metadata
- add_labels
- add_locale
- add_network_direction
- add_nomad_metadata
- add_observer_metadata
- add_process_metadata
- add_tags
- append
- cache
- community_id
- convert
- copy_fields
- decode_base64_field
- decode_cef
- decode_csv_fields
- decode_duration
- decode_json_fields
- decode_xml
- decode_xml_wineventlog
- decompress_gzip_field
- detect_mime_type
- dissect
- dns
- drop_event
- drop_fields
- extract_array
- fingerprint
- include_fields
- move_fields
- parse_aws_vpc_flow_log
- rate_limit
- registered_domain
- rename
- replace
- script
- syslog
- timestamp
- translate_ldap_attribute
- translate_sid
- truncate_fields
- urldecode
- 自动发现
- 内部队列
- 日志记录
- HTTP 端点
- 正则表达式支持
- 检测
- 功能标志
- filebeat.reference.yml
- 操作指南
- 模块
- 模块概述
- ActiveMQ 模块
- Apache 模块
- Auditd 模块
- AWS 模块
- AWS Fargate 模块
- Azure 模块
- CEF 模块
- Check Point 模块
- Cisco 模块
- CoreDNS 模块
- CrowdStrike 模块
- Cyberark PAS 模块
- Elasticsearch 模块
- Envoyproxy 模块
- Fortinet 模块
- Google Cloud 模块
- Google Workspace 模块
- HAproxy 模块
- IBM MQ 模块
- Icinga 模块
- IIS 模块
- Iptables 模块
- Juniper 模块
- Kafka 模块
- Kibana 模块
- Logstash 模块
- Microsoft 模块
- MISP 模块
- MongoDB 模块
- MSSQL 模块
- MySQL 模块
- MySQL Enterprise 模块
- NATS 模块
- NetFlow 模块
- Nginx 模块
- Office 365 模块
- Okta 模块
- Oracle 模块
- Osquery 模块
- Palo Alto Networks 模块
- pensando 模块
- PostgreSQL 模块
- RabbitMQ 模块
- Redis 模块
- Salesforce 模块
- Santa 模块
- Snyk 模块
- Sophos 模块
- Suricata 模块
- System 模块
- Threat Intel 模块
- Traefik 模块
- Zeek (Bro) 模块
- ZooKeeper 模块
- Zoom 模块
- 导出的字段
- ActiveMQ 字段
- Apache 字段
- Auditd 字段
- AWS 字段
- AWS CloudWatch 字段
- AWS Fargate 字段
- Azure 字段
- Beat 字段
- 解码 CEF 处理器字段
- CEF 字段
- Checkpoint 字段
- Cisco 字段
- 云提供商元数据字段
- Coredns 字段
- Crowdstrike 字段
- CyberArk PAS 字段
- Docker 字段
- ECS 字段
- Elasticsearch 字段
- Envoyproxy 字段
- Fortinet 字段
- Google Cloud Platform (GCP) 字段
- google_workspace 字段
- HAProxy 字段
- 主机字段
- ibmmq 字段
- Icinga 字段
- IIS 字段
- iptables 字段
- Jolokia Discovery 自动发现提供程序字段
- Juniper JUNOS 字段
- Kafka 字段
- kibana 字段
- Kubernetes 字段
- 日志文件内容字段
- logstash 字段
- Lumberjack 字段
- Microsoft 字段
- MISP 字段
- mongodb 字段
- mssql 字段
- MySQL 字段
- MySQL Enterprise 字段
- NATS 字段
- NetFlow 字段
- Nginx 字段
- Office 365 字段
- Okta 字段
- Oracle 字段
- Osquery 字段
- panw 字段
- Pensando 字段
- PostgreSQL 字段
- 进程字段
- RabbitMQ 字段
- Redis 字段
- s3 字段
- Salesforce 字段
- Google Santa 字段
- Snyk 字段
- sophos 字段
- Suricata 字段
- System 字段
- threatintel 字段
- Traefik 字段
- Windows ETW 字段
- Zeek 字段
- ZooKeeper 字段
- Zoom 字段
- 监控
- 安全
- 故障排除
- 获取帮助
- 调试
- 了解记录的指标
- 常见问题
- 在使用 Kubernetes 元数据时提取容器 ID 时出错
- 无法从网络卷读取日志文件
- Filebeat 未从文件中收集行
- 打开的文件句柄过多
- 注册表文件太大
- Inode 重用导致 Filebeat 跳过行
- 日志轮换导致事件丢失或重复
- 打开的文件句柄导致 Windows 文件轮换出现问题
- Filebeat 占用过多 CPU
- Kibana 中的仪表板错误地分解数据字段
- 字段未在 Kibana 可视化中编制索引或可用
- Filebeat 未传输文件的最后一行
- Filebeat 长时间保持已删除文件的打开文件句柄
- Filebeat 使用过多带宽
- 加载配置文件时出错
- 发现意外或未知字符
- Logstash 连接不起作用
- 发布到 Logstash 失败,并显示“connection reset by peer”消息
- @metadata 在 Logstash 中丢失
- 不确定是使用 Logstash 还是 Beats
- SSL 客户端无法连接到 Logstash
- 监控 UI 显示的 Beats 比预期的少
- 仪表板无法定位索引模式
- 由于 MADV 设置导致高 RSS 内存使用率
- 为 Beats 做贡献
加载 Elasticsearch 索引模板
编辑加载 Elasticsearch 索引模板
编辑Elasticsearch 使用 索引模板 来定义
- 控制您的数据流和支持索引行为的设置。 这些设置包括用于管理支持索引随着其增长和老化的生命周期策略。
- 确定如何分析字段的映射。每个映射设置用于特定数据字段的 Elasticsearch 数据类型。
Filebeat 软件包安装了推荐的 Filebeat 索引模板文件。如果您接受 filebeat.yml
配置文件中的默认配置,Filebeat 会在成功连接到 Elasticsearch 后自动加载模板。如果模板已存在,则不会覆盖它,除非您配置 Filebeat 这样做。
加载索引模板需要连接到 Elasticsearch。如果输出不是 Elasticsearch(或 Elasticsearch 服务),您必须手动加载模板。
此页面展示如何更改默认的模板加载行为,以实现:
有关模板设置选项的完整列表,请参阅Elasticsearch 索引模板。
加载您自己的索引模板
编辑要加载您自己的索引模板,请设置以下选项:
setup.template.name: "your_template_name" setup.template.fields: "path/to/fields.yml"
如果模板已存在,则不会覆盖它,除非您配置 Filebeat 这样做。
您可以为数据流和索引加载模板。
覆盖现有索引模板
编辑不要为 Filebeat 的多个实例启用此选项。如果您同时启动多个实例,可能会用过多的模板更新请求使 Elasticsearch 过载。
要覆盖已加载到 Elasticsearch 中的模板,请设置:
setup.template.overwrite: true
禁用自动索引模板加载
编辑如果您使用 Elasticsearch 以外的输出并且需要手动加载模板,您可能需要禁用自动模板加载。要禁用自动模板加载,请设置:
setup.template.enabled: false
如果禁用自动模板加载,则必须手动加载索引模板。
手动加载索引模板
编辑要手动加载索引模板,请运行 setup
命令。需要连接到 Elasticsearch。如果启用了另一个输出,则需要临时禁用该输出,并通过使用 -E
选项启用 Elasticsearch。这里的示例假定已启用 Logstash 输出。如果已启用 Elasticsearch 输出,则可以省略 -E
标志。
如果您正在连接到受保护的 Elasticsearch 集群,请确保您已按照快速入门:安装和配置中所述配置了凭据。
如果运行 Filebeat 的主机没有直接连接到 Elasticsearch,请参阅手动加载索引模板(备用方法)。
要加载模板,请使用适合您系统的命令。
deb 和 rpm
filebeat setup --index-management -E output.logstash.enabled=false -E 'output.elasticsearch.hosts=["localhost:9200"]'
mac
./filebeat setup --index-management -E output.logstash.enabled=false -E 'output.elasticsearch.hosts=["localhost:9200"]'
linux
./filebeat setup --index-management -E output.logstash.enabled=false -E 'output.elasticsearch.hosts=["localhost:9200"]'
docker
docker run --rm docker.elastic.co/beats/filebeat:8.17.0 setup --index-management -E output.logstash.enabled=false -E 'output.elasticsearch.hosts=["localhost:9200"]'
win
以管理员身份打开 PowerShell 提示符(右键单击 PowerShell 图标,然后选择 以管理员身份运行)。
在 PowerShell 提示符下,更改到安装 Filebeat 的目录,然后运行:
PS > .\filebeat.exe setup --index-management -E output.logstash.enabled=false -E 'output.elasticsearch.hosts=["localhost:9200"]'
强制 Kibana 查看最新文档
编辑如果您已经使用 Filebeat 将数据索引到 Elasticsearch 中,则索引可能包含旧文档。加载索引模板后,您可以从 filebeat-*
中删除旧文档,以强制 Kibana 查看最新文档。
使用此命令:
deb 和 rpm
curl -XDELETE 'https://127.0.0.1:9200/filebeat-*'
mac
curl -XDELETE 'https://127.0.0.1:9200/filebeat-*'
linux
curl -XDELETE 'https://127.0.0.1:9200/filebeat-*'
win
PS > Invoke-RestMethod -Method Delete "https://127.0.0.1:9200/filebeat-*"
此命令会删除所有与模式 filebeat
匹配的索引。在运行此命令之前,请确保您要删除与该模式匹配的所有索引。
手动加载索引模板(备用方法)
编辑如果运行 Filebeat 的主机没有直接连接到 Elasticsearch,您可以将索引模板导出到文件,将其移动到有连接的机器上,然后手动安装该模板。
要导出索引模板,请运行:
deb 和 rpm
filebeat export template > filebeat.template.json
mac
./filebeat export template > filebeat.template.json
linux
./filebeat export template > filebeat.template.json
win
PS > .\filebeat.exe export template --es.version 8.17.0 | Out-File -Encoding UTF8 filebeat.template.json
要安装模板,请运行:
deb 和 rpm
curl -XPUT -H 'Content-Type: application/json' https://127.0.0.1:9200/_index_template/filebeat-8.17.0 -d@filebeat.template.json
mac
curl -XPUT -H 'Content-Type: application/json' https://127.0.0.1:9200/_index_template/filebeat-8.17.0 -d@filebeat.template.json
linux
curl -XPUT -H 'Content-Type: application/json' https://127.0.0.1:9200/_index_template/filebeat-8.17.0 -d@filebeat.template.json
win
PS > Invoke-RestMethod -Method Put -ContentType "application/json" -InFile filebeat.template.json -Uri https://127.0.0.1:9200/_index_template/filebeat-8.17.0
加载索引模板后,也请加载数据流。如果您不加载它,则必须在 filebeat-8.17.0 索引上为发布者用户提供 manage
权限。
deb 和 rpm
curl -XPUT https://127.0.0.1:9200/_data_stream/filebeat-8.17.0
mac
curl -XPUT https://127.0.0.1:9200/_data_stream/filebeat-8.17.0
linux
curl -XPUT https://127.0.0.1:9200/_data_stream/filebeat-8.17.0
win
PS > Invoke-RestMethod -Method Put -Uri https://127.0.0.1:9200/_data_stream/filebeat-8.17.0