ZooKeeper 集成

编辑

ZooKeeper 集成

编辑

版本

1.13.1 (查看全部)

兼容的 Kibana 版本

8.13.0 或更高版本

支持的无服务器项目类型
这是什么?

安全
可观测性

订阅级别
这是什么?

基本

支持级别
这是什么?

Elastic

此集成定期从 ZooKeeper 服务中获取指标。

兼容性

编辑

ZooKeeper 集成已使用 ZooKeeper 3.4.8 进行测试,预计适用于所有版本 >= 3.4.0。3.4 之前的版本不支持 mntr 命令。

指标

编辑

connection

编辑

connection 数据集获取 cons 管理关键字返回的数据。

示例

connection 的示例事件如下所示

{
    "@timestamp": "2020-07-06T16:12:07.612Z",
    "agent": {
        "ephemeral_id": "4d221f8f-7147-4855-8ea3-b4d2a5b80ae0",
        "id": "2ff8a09c-c7f0-42f2-9fe1-65f7fd460651",
        "name": "zookeeper-01",
        "type": "metricbeat",
        "version": "8.0.0"
    },
    "client": {
        "ip": "172.28.0.1",
        "port": 44338
    },
    "ecs": {
        "version": "8.11.0"
    },
    "event": {
        "dataset": "zookeeper.connection",
        "duration": 3093417,
        "module": "zookeeper"
    },
    "host": {
        "name": "zookeeper-01"
    },
    "metricset": {
        "name": "connection",
        "period": 10000
    },
    "service": {
        "address": "localhost:2181",
        "type": "zookeeper"
    },
    "zookeeper": {
        "connection": {
            "interest_ops": 0,
            "queued": 0,
            "received": 1,
            "sent": 0
        }
    }
}

ECS 字段参考

有关 ECS 字段的详细信息,请参阅以下文档

导出的字段
字段 描述 类型 指标类型

@timestamp

事件时间戳。

date

agent.id

keyword

client.ip

客户端的 IP 地址(IPv4 或 IPv6)。

ip

client.port

客户端的端口。

long

cloud.account.id

用于在多租户环境中标识不同实体的云帐户或组织 ID。示例:AWS 帐户 ID、Google Cloud ORG ID 或其他唯一标识符。

keyword

cloud.availability_zone

此主机运行所在的可用区。

keyword

cloud.image.id

云实例的映像 ID。

keyword

cloud.instance.id

主机机器的实例 ID。

keyword

cloud.provider

云提供商的名称。示例值包括 aws、azure、gcp 或 digitalocean。

keyword

cloud.region

此主机运行所在的区域。

keyword

container.id

唯一的容器 ID。

keyword

data_stream.dataset

数据流数据集。

constant_keyword

data_stream.namespace

数据流命名空间。

constant_keyword

data_stream.type

数据流类型。

constant_keyword

event.dataset

事件数据集

constant_keyword

event.module

事件模块

constant_keyword

host.containerized

如果主机是容器。

boolean

host.name

主机的名称。它可以包含 Unix 系统上 hostname 返回的内容、完全限定的域名或用户指定的名称。发送者决定使用哪个值。

keyword

host.os.build

操作系统构建信息。

keyword

host.os.codename

操作系统代号(如果有)。

keyword

service.address

从中收集有关此服务的数据的地址。这应该是 URI、网络地址(ipv4:port 或 [ipv6]:port)或资源路径(套接字)。

keyword

zookeeper.connection.interest_ops

感兴趣的操作

long

zookeeper.connection.queued

排队连接

long

gauge

zookeeper.connection.received

接收的连接

long

counter

zookeeper.connection.sent

发送的连接

long

counter

mntr

编辑

mntr 指标集获取 mntr 管理关键字返回的数据。

示例

mntr 的示例事件如下所示

{
    "@timestamp": "2020-07-06T16:12:08.494Z",
    "agent": {
        "ephemeral_id": "4d221f8f-7147-4855-8ea3-b4d2a5b80ae0",
        "id": "2ff8a09c-c7f0-42f2-9fe1-65f7fd460651",
        "name": "zookeeper-01",
        "type": "metricbeat",
        "version": "8.0.0"
    },
    "ecs": {
        "version": "8.11.0"
    },
    "event": {
        "dataset": "zookeeper.mntr",
        "duration": 15795652,
        "module": "zookeeper"
    },
    "host": {
        "name": "zookeeper-01"
    },
    "metricset": {
        "name": "mntr",
        "period": 10000
    },
    "service": {
        "address": "localhost:2181",
        "type": "zookeeper",
        "version": "3.5.5-390fe37ea45dee01bf87dc1c042b5e3dcce88653, built on 05/03/2019 12:07 GMT"
    },
    "zookeeper": {
        "mntr": {
            "approximate_data_size": 44,
            "ephemerals_count": 0,
            "latency": {
                "avg": 0,
                "max": 0,
                "min": 0
            },
            "max_file_descriptor_count": 1048576,
            "num_alive_connections": 1,
            "open_file_descriptor_count": 49,
            "outstanding_requests": 0,
            "packets": {
                "received": 152,
                "sent": 151
            },
            "server_state": "standalone",
            "watch_count": 0,
            "znode_count": 5
        }
    }
}

ECS 字段参考

有关 ECS 字段的详细信息,请参阅以下文档

导出的字段
字段 描述 类型 指标类型

@timestamp

事件时间戳。

date

agent.id

keyword

cloud.account.id

用于在多租户环境中标识不同实体的云帐户或组织 ID。示例:AWS 帐户 ID、Google Cloud ORG ID 或其他唯一标识符。

keyword

cloud.availability_zone

此主机运行所在的可用区。

keyword

cloud.image.id

云实例的映像 ID。

keyword

cloud.instance.id

主机机器的实例 ID。

keyword

cloud.provider

云提供商的名称。示例值包括 aws、azure、gcp 或 digitalocean。

keyword

cloud.region

此主机运行所在的区域。

keyword

container.id

唯一的容器 ID。

keyword

data_stream.dataset

数据流数据集。

constant_keyword

data_stream.namespace

数据流命名空间。

constant_keyword

data_stream.type

数据流类型。

constant_keyword

event.dataset

事件数据集

constant_keyword

event.module

事件模块

constant_keyword

host.containerized

如果主机是容器。

boolean

host.name

主机的名称。它可以包含 Unix 系统上 hostname 返回的内容、完全限定的域名或用户指定的名称。发送者决定使用哪个值。

keyword

host.os.build

操作系统构建信息。

keyword

host.os.codename

操作系统代号(如果有)。

keyword

service.address

从中收集有关此服务的数据的地址。这应该是 URI、网络地址(ipv4:port 或 [ipv6]:port)或资源路径(套接字)。

keyword

zookeeper.mntr.approximate_data_size

ZooKeeper 数据的大概大小。

long

gauge

zookeeper.mntr.ephemerals_count

临时 znode 的数量。

long

gauge

zookeeper.mntr.followers

当前主机看到的跟随者数量。

long

gauge

zookeeper.mntr.latency.avg

集群主机之间的平均延迟(以毫秒为单位)。

long

gauge

zookeeper.mntr.latency.max

最大延迟(以毫秒为单位)。

long

gauge

zookeeper.mntr.latency.min

最小延迟(以毫秒为单位)。

long

gauge

zookeeper.mntr.max_file_descriptor_count

ZooKeeper 进程允许的最大文件描述符数。

long

gauge

zookeeper.mntr.num_alive_connections

当前处于活动状态的与 ZooKeeper 的连接数。

long

gauge

zookeeper.mntr.open_file_descriptor_count

ZooKeeper 进程打开的文件描述符数。

long

gauge

zookeeper.mntr.outstanding_requests

集群需要处理的未完成请求数。

long

gauge

zookeeper.mntr.packets.received

接收到的 ZooKeeper 网络数据包数。

long

gauge

zookeeper.mntr.packets.sent

发送的 ZooKeeper 网络数据包数。

long

gauge

zookeeper.mntr.pending_syncs

要执行到 ZooKeeper 集群跟随者的挂起同步数。

long

gauge

zookeeper.mntr.server_state

在 ZooKeeper 集群中的角色。

keyword

zookeeper.mntr.synced_followers

当节点 server_state 为 leader 时报告的同步跟随者数量。

long

gauge

zookeeper.mntr.watch_count

当前在本地 ZooKeeper 进程上设置的监视数。

long

gauge

zookeeper.mntr.znode_count

本地 ZooKeeper 进程报告的 znode 数。

long

gauge

server

编辑

server 指标集获取 srvr 管理关键字返回的数据。

示例

server 的示例事件如下所示

{
    "@timestamp": "2020-07-06T16:12:12.409Z",
    "agent": {
        "ephemeral_id": "4d221f8f-7147-4855-8ea3-b4d2a5b80ae0",
        "id": "2ff8a09c-c7f0-42f2-9fe1-65f7fd460651",
        "name": "zookeeper-01",
        "type": "metricbeat",
        "version": "8.0.0"
    },
    "ecs": {
        "version": "8.11.0"
    },
    "event": {
        "dataset": "zookeeper.server",
        "duration": 3001938,
        "module": "zookeeper"
    },
    "host": {
        "name": "zookeeper-01"
    },
    "metricset": {
        "name": "server",
        "period": 10000
    },
    "service": {
        "address": "localhost:2181",
        "type": "zookeeper",
        "version": "3.5.5-390fe37ea45dee01bf87dc1c042b5e3dcce88653"
    },
    "zookeeper": {
        "server": {
            "connections": 1,
            "count": 0,
            "epoch": 0,
            "latency": {
                "avg": 0,
                "max": 0,
                "min": 0
            },
            "mode": "standalone",
            "node_count": 5,
            "outstanding": 0,
            "received": 156,
            "sent": 155,
            "version_date": "2019-05-03T12:07:00Z",
            "zxid": "0x0"
        }
    }
}

ECS 字段参考

有关 ECS 字段的详细信息,请参阅以下文档

导出的字段
字段 描述 类型 指标类型

@timestamp

事件时间戳。

date

agent.id

keyword

cloud.account.id

用于在多租户环境中标识不同实体的云帐户或组织 ID。示例:AWS 帐户 ID、Google Cloud ORG ID 或其他唯一标识符。

keyword

cloud.availability_zone

此主机运行所在的可用区。

keyword

cloud.image.id

云实例的映像 ID。

keyword

cloud.instance.id

主机机器的实例 ID。

keyword

cloud.provider

云提供商的名称。示例值包括 aws、azure、gcp 或 digitalocean。

keyword

cloud.region

此主机运行所在的区域。

keyword

container.id

唯一的容器 ID。

keyword

data_stream.dataset

数据流数据集。

constant_keyword

data_stream.namespace

数据流命名空间。

constant_keyword

data_stream.type

数据流类型。

constant_keyword

event.dataset

事件数据集

constant_keyword

event.module

事件模块

constant_keyword

host.containerized

如果主机是容器。

boolean

host.name

主机的名称。它可以包含 Unix 系统上 hostname 返回的内容、完全限定的域名或用户指定的名称。发送者决定使用哪个值。

keyword

host.os.build

操作系统构建信息。

keyword

host.os.codename

操作系统代号(如果有)。

keyword

service.address

从中收集有关此服务的数据的地址。这应该是 URI、网络地址(ipv4:port 或 [ipv6]:port)或资源路径(套接字)。

keyword

zookeeper.server.connections

当前连接到服务器的客户端数量

long

gauge

zookeeper.server.count

leader 在 epoch 中的总事务数

long

counter

zookeeper.server.epoch

Zookeeper 事务 ID 的 epoch 值。epoch 表示服务器作为 leader 的时间段

long

zookeeper.server.latency.avg

服务器响应客户端请求所需的平均时间量

long

gauge

zookeeper.server.latency.max

服务器响应客户端请求所需的最大时间量

long

gauge

zookeeper.server.latency.min

服务器响应客户端请求所需的最小时间量

long

gauge

zookeeper.server.mode

服务器的模式。在集群中,这可以是 leader 或 follower。否则,它为 standalone

keyword

zookeeper.server.node_count

节点总数

long

gauge

zookeeper.server.outstanding

在服务器上排队的请求数。当服务器收到的请求多于其能够处理的请求时,此值大于零

long

gauge

zookeeper.server.received

服务器收到的请求数

long

counter

zookeeper.server.sent

服务器发送的请求数

long

counter

zookeeper.server.version_date

当前正在使用的 Zookeeper 版本的日期

date

zookeeper.server.zxid

Zookeeper 事务 ID 的唯一值。zxid 由一个 epoch 和一个计数器组成。它由 leader 建立,用于确定更改的时间顺序

keyword

更新日志

编辑
更新日志
版本 详情 Kibana 版本

1.13.1

Bug 修复 (查看拉取请求)
从 mntr 数据流中删除 hostname 字段。

8.13.0 或更高版本

1.13.0

增强 (查看拉取请求)
为 connection、mntr 和 server 数据流添加处理器支持。

8.13.0 或更高版本

1.12.0

增强 (查看拉取请求)
ECS 版本更新至 8.11.0。将 kibana 约束更新至 ^8.13.0。修改了字段定义,以删除 ecs@mappings 组件模板所冗余的 ECS 字段。

8.13.0 或更高版本

1.11.0

增强 (查看拉取请求)
在 data_stream.dataset 上添加全局过滤器以提高性能。

8.8.0 或更高版本

1.10.0

增强 (查看拉取请求)
将软件包 format_version 更新为 3.0.0。

8.8.0 或更高版本

1.9.0

增强 (查看拉取请求)
为指标数据集启用时间序列数据流。这可以提高存储利用率和查询性能。有关更多详细信息,请参阅 https://elastic.ac.cn/guide/en/elasticsearch/reference/current/tsds.html

8.8.0 或更高版本

1.8.5

增强 (查看拉取请求)
为 server 数据流添加了维度映射。

8.2.0 或更高版本

1.8.4

增强 (查看拉取请求)
为 mntr 数据流添加了维度映射。

8.2.0 或更高版本

1.8.3

增强 (查看拉取请求)
为 connection 数据流添加了维度映射。

8.2.0 或更高版本

1.8.2

增强 (查看拉取请求)
为 server 数据流添加了 metric_type 映射。

8.2.0 或更高版本

1.8.1

增强 (查看拉取请求)
为 mntr 数据流添加了 metric_type 映射。

8.2.0 或更高版本

1.8.0

增强 (查看拉取请求)
为 connection 数据流添加了 metric_type 映射

8.2.0 或更高版本

1.7.0

增强 (查看拉取请求)
将所有权从 obs-service-integrations 重命名为 obs-infraobs-integrations

8.2.0 或更高版本

1.6.0

增强 (查看拉取请求)
将可视化迁移到 Lens。

8.2.0 或更高版本

1.5.1

增强 (查看拉取请求)
添加了类别和/或子类别。

7.14.0 或更高版本
8.0.0 或更高版本

1.5.0

增强 (查看拉取请求)
将 ECS 版本更新至 8.5.1

7.14.0 或更高版本
8.0.0 或更高版本

1.4.0

增强 (查看拉取请求)
添加了基础设施类别。

7.14.0 或更高版本
8.0.0 或更高版本

1.3.1

增强 (查看拉取请求)
添加了多字段的文档

7.14.0 或更高版本
8.0.0 或更高版本

1.3.0

增强 (查看拉取请求)
更新至 ECS 8.0

1.2.0

增强 (查看拉取请求)
支持 Kibana 8.0

7.14.0 或更高版本
8.0.0 或更高版本

1.1.1

增强 (查看拉取请求)
与指南保持一致

1.1.0

增强 (查看拉取请求)
更新至 ECS 1.12.0

7.14.0 或更高版本

1.0.0

增强 (查看拉取请求)
发布 Kafka 为 GA 版本

0.4.0

增强 (查看拉取请求)
更新集成描述

0.3.1

Bug 修复 (查看拉取请求)
添加缺少的 data_stream 字段

0.3.0

增强 (查看拉取请求)
设置 “event.module” 和 “event.dataset”

0.2.7

增强 (查看拉取请求)
更新软件包所有者

0.2.6

Bug 修复 (查看拉取请求)
更正示例事件文件。

0.1.0

增强 (查看拉取请求)
初始发布