了解 Packetbeat 日志中的指标
编辑了解 Packetbeat 日志中的指标
编辑默认情况下，Packetbeat 每 30 秒会收集一次关于其自身的指标快照。从这个快照中，Packetbeat 会计算一个增量快照；此增量快照包含自上次快照以来发生变化的所有指标。请注意，指标的值是快照拍摄时的值，而不是与上次快照的值的差值。
如果此增量快照包含任何指标（表明自上次快照以来至少有一个指标发生变化），则此增量快照将序列化为 JSON，并在 Packetbeat 的日志中以 INFO 日志级别发出。大多数快照字段报告自上次快照以来指标的变化，但某些字段是仪表，它们始终报告当前值。这是一个此类日志条目的示例
{"log.level":"info","@timestamp":"2023-07-14T12:50:36.811Z","log.logger":"monitoring","log.origin":{"file.name":"log/log.go","file.line":187},"message":"Non-zero metrics in the last 30s","service.name":"filebeat","monitoring":{"metrics":{"beat":{"cgroup":{"memory":{"mem":{"usage":{"bytes":0}}}},"cpu":{"system":{"ticks":692690,"time":{"ms":60}},"total":{"ticks":3167250,"time":{"ms":150},"value":3167250},"user":{"ticks":2474560,"time":{"ms":90}}},"handles":{"limit":{"hard":1048576,"soft":1048576},"open":32},"info":{"ephemeral_id":"2bab8688-34c0-4522-80af-db86948d547d","uptime":{"ms":617670096},"version":"8.6.2"},"memstats":{"gc_next":57189272,"memory_alloc":43589824,"memory_total":275281335792,"rss":183574528},"runtime":{"goroutines":212}},"filebeat":{"events":{"active":5,"added":52,"done":49},"harvester":{"open_files":6,"running":6,"started":1}},"libbeat":{"config":{"module":{"running":15}},"output":{"events":{"acked":48,"active":0,"batches":6,"total":48},"read":{"bytes":210},"write":{"bytes":26923}},"pipeline":{"clients":15,"events":{"active":5,"filtered":1,"published":51,"total":52},"queue":{"max_events":3500,"filled":{"events":5,"bytes":6425,"pct":0.0014},"added":{"events":52,"bytes":65702},"consumed":{"events":52,"bytes":65702},"removed":{"events":48,"bytes":59277},"acked":48}}},"registrar":{"states":{"current":14,"update":49},"writes":{"success":6,"total":6}},"system":{"load":{"1":0.91,"15":0.37,"5":0.4,"norm":{"1":0.1138,"15":0.0463,"5":0.05}}}},"ecs.version":"1.6.0"}}
详细信息
编辑重点关注 .monitoring.metrics 字段，并格式化 JSON，其值是
{
"beat": {
"cgroup": {
"memory": {
"mem": {
"usage": {
"bytes": 0
}
}
}
},
"cpu": {
"system": {
"ticks": 692690,
"time": {
"ms": 60
}
},
"total": {
"ticks": 3167250,
"time": {
"ms": 150
},
"value": 3167250
},
"user": {
"ticks": 2474560,
"time": {
"ms": 90
}
}
},
"handles": {
"limit": {
"hard": 1048576,
"soft": 1048576
},
"open": 32
},
"info": {
"ephemeral_id": "2bab8688-34c0-4522-80af-db86948d547d",
"uptime": {
"ms": 617670096
},
"version": "8.6.2"
},
"memstats": {
"gc_next": 57189272,
"memory_alloc": 43589824,
"memory_total": 275281335792,
"rss": 183574528
},
"runtime": {
"goroutines": 212
}
},
"filebeat": {
"events": {
"active": 5,
"added": 52,
"done": 49
},
"harvester": {
"open_files": 6,
"running": 6,
"started": 1
}
},
"libbeat": {
"config": {
"module": {
"running": 15
}
},
"output": {
"events": {
"acked": 48,
"active": 0,
"batches": 6,
"total": 48
},
"read": {
"bytes": 210
},
"write": {
"bytes": 26923
}
},
"pipeline": {
"clients": 15,
"events": {
"active": 5,
"filtered": 1,
"published": 51,
"total": 52
},
"queue": {
"max_events": 3500,
"filled": {
"events": 5,
"bytes": 6425,
"pct": 0.0014
},
"added": {
"events": 52,
"bytes": 65702
},
"consumed": {
"events": 52,
"bytes": 65702
},
"removed": {
"events": 48,
"bytes": 59277
},
"acked": 48
}
}
},
"registrar": {
"states": {
"current": 14,
"update": 49
},
"writes": {
"success": 6,
"total": 6
}
},
"system": {
"load": {
"1": 0.91,
"15": 0.37,
"5": 0.4,
"norm": {
"1": 0.1138,
"15": 0.0463,
"5": 0.05
}
}
}
}
下表解释了 .monitoring.metrics 下最重要的字段的含义，并提供可能有助于排查 Packetbeat 问题的提示。
字段路径（相对于 .monitoring.metrics） |
类型 | 含义 | 问题排查提示 |
|---|---|---|---|
|
对象 |
所有 Beats 共有的信息，例如版本、goroutine、文件句柄、CPU、内存 |
|
|
对象 |
有关发布者管道和输出的信息，也是所有 Beats 共有的 |
字段路径（相对于 .monitoring.metrics.beat） |
类型 | 含义 | 问题排查提示 |
|---|---|---|---|
|
整数 |
正在运行的 goroutine 的数量 |
如果此数字随时间增长，则表示存在 goroutine 泄漏 |
字段路径（相对于 .monitoring.metrics.libbeat） |
类型 | 含义 | 问题排查提示 |
|---|---|---|---|
|
整数 |
当前在 libbeat 发布者管道中的事件数量。 |
如果此数字随时间增长，则可能表示 Packetbeat 产生的事件速度快于输出的消耗速度。考虑增加输出工作线程的数量（如果输出支持此设置；Elasticsearch 和 Logstash 输出支持此设置）。该管道包括当前正在处理的事件以及队列中的事件。因此，此指标有时可能略高于队列大小。如果此指标达到最大队列大小（对于内存队列，为 |
|
整数 |
当前正在被输出处理的事件数量。 |
如果此数字随时间增长，则可能表示输出目标（例如 Logstash 管道或 Elasticsearch 集群）无法以与 Packetbeat 向其发送事件相同的速度或更快的速度接受事件。 |
|
整数 |
输出目标确认的事件数量。 |
一般来说，我们希望此数字与 |
|
整数 |
Packetbeat 尝试发送到输出目标但目标未能接收到的事件数量。 |
一般来说，我们希望此字段不存在或其值为零。当该值大于零时，最好在查看此日志条目的 |
|
整数 |
Packetbeat 由于永久性（不可重试）错误而放弃发送到输出目标的事件数量。 |
|
整数 |
在主要索引中摄取失败后，Packetbeat 成功发送到已配置的死信索引的事件数量。 |
|
对象 |
字段路径（相对于 .monitoring.metrics.libbeat.pipeline） |
类型 | 含义 | 问题排查提示 |
|---|---|---|---|
|
整数（仪表） |
队列的最大事件计数（如果有），否则为零。 |
|
整数（仪表） |
队列的最大字节计数（如果有），否则为零。 |
|
整数（仪表） |
队列当前存储的事件数量。 |
|
整数（仪表） |
|
队列当前存储的字节数。 |
|
浮点数（仪表） |
|
队列相对于其最大大小的已满程度，以 0 到 1 的分数表示。 |
当 |
|
整数 |
输入工作线程添加到队列的事件数量。 |
|
整数 |
|
输入工作线程添加到队列的字节数。 |
|
整数 |
|
发送到输出工作线程的事件数量。 |
|
整数 |
|
发送到输出工作线程的字节数。 |
|
整数 |
|
输出工作线程处理后从队列中删除的事件数量。 |
|
整数 |
使用内存队列时，只有当输出支持字节指标时，才会设置字节指标。目前只有 Elasticsearch 输出支持字节指标。
有用的命令
编辑从非结构化的 Packetbeat 日志中解析监控指标
编辑对于发出非结构化日志的 Packetbeat 版本，可以使用以下脚本从此类日志中解析监控指标： https://github.com/elastic/beats/blob/main/script/metrics_from_log_file.sh。