直方图字段类型编辑

用于存储预聚合数值数据的字段,表示直方图。此数据使用两个成对的数组定义

  • 一个 values 数组,包含 double 数字,表示直方图的桶。这些值必须按升序提供。
  • 一个对应的 counts 数组,包含 long 数字,表示每个桶中包含多少个值。这些数字必须为正数或零。

因为 values 数组中的元素对应于 count 数组中相同位置的元素,所以这两个数组的长度必须相同。

  • 一个 histogram 字段只能为每个文档存储一对 valuescount 数组。不支持嵌套数组。
  • histogram 字段不支持排序。

用途编辑

histogram 字段主要用于聚合。为了使其更容易用于聚合,histogram 字段数据存储为二进制 doc values,而不是索引。其大小(以字节为单位)最多为 13 * numValues,其中 numValues 是提供的数组的长度。

由于数据未被索引,因此您只能将 histogram 字段用于以下聚合和查询

构建直方图编辑

在聚合中使用直方图时,结果的准确性将取决于直方图的构建方式。重要的是要考虑将用于构建它的百分位数聚合模式。一些可能性包括

  • 对于 T-Digest 模式,values 数组表示平均质心位置,而 counts 数组表示归属于每个质心的值的数量。如果算法已经开始逼近百分位数,则这种不准确性会延续到直方图中。
  • 对于 高动态范围 (HDR) 直方图模式,values 数组表示每个桶间隔的固定上限,而 counts 数组表示归属于每个间隔的值的数量。此实现维护一个固定的最坏情况百分比误差(指定为有效数字的数量),因此在生成直方图时使用的值将是您在聚合时可以达到的最大精度。

直方图字段是“算法无关的”,不存储特定于 T-Digest 或 HDRHistogram 的数据。虽然这意味着该字段在技术上可以使用任何一种算法进行聚合,但在实践中,用户应该选择一种算法并以这种方式索引数据(例如,T-Digest 的质心或 HDRHistogram 的间隔),以确保最佳精度。

合成 _source编辑

合成 _source 仅对 TSDB 索引(将 index.mode 设置为 time_series 的索引)普遍可用。对于其他索引,合成 _source 处于技术预览阶段。技术预览中的功能可能会在将来的版本中更改或删除。Elastic 将努力解决任何问题,但技术预览中的功能不受官方 GA 功能支持 SLA 的约束。

histogram 字段在其默认配置中支持 合成 _source。合成 _source 不能与 ignore_malformedcopy_to 一起使用。

为了节省空间,零计数桶不会存储在直方图 doc values 中。因此,在将直方图字段索引到启用了合成源的索引中时,索引包含零计数桶的直方图会导致在取回直方图时丢失桶。

示例编辑

以下 创建索引 API 请求创建一个具有两个字段映射的新索引

  • my_histogram,一个用于存储百分位数数据的 histogram 字段
  • my_text,一个用于存储直方图标题的 keyword 字段
response = client.indices.create(
  index: 'my-index-000001',
  body: {
    mappings: {
      properties: {
        my_histogram: {
          type: 'histogram'
        },
        my_text: {
          type: 'keyword'
        }
      }
    }
  }
)
puts response
PUT my-index-000001
{
  "mappings" : {
    "properties" : {
      "my_histogram" : {
        "type" : "histogram"
      },
      "my_text" : {
        "type" : "keyword"
      }
    }
  }
}

以下 索引 API 请求存储两个直方图的预聚合数据:histogram_1histogram_2

response = client.index(
  index: 'my-index-000001',
  id: 1,
  body: {
    my_text: 'histogram_1',
    my_histogram: {
      values: [
        0.1,
        0.2,
        0.3,
        0.4,
        0.5
      ],
      counts: [
        3,
        7,
        23,
        12,
        6
      ]
    }
  }
)
puts response

response = client.index(
  index: 'my-index-000001',
  id: 2,
  body: {
    my_text: 'histogram_2',
    my_histogram: {
      values: [
        0.1,
        0.25,
        0.35,
        0.4,
        0.45,
        0.5
      ],
      counts: [
        8,
        17,
        8,
        7,
        6,
        2
      ]
    }
  }
)
puts response
PUT my-index-000001/_doc/1
{
  "my_text" : "histogram_1",
  "my_histogram" : {
      "values" : [0.1, 0.2, 0.3, 0.4, 0.5], 
      "counts" : [3, 7, 23, 12, 6] 
   }
}

PUT my-index-000001/_doc/2
{
  "my_text" : "histogram_2",
  "my_histogram" : {
      "values" : [0.1, 0.25, 0.35, 0.4, 0.45, 0.5], 
      "counts" : [8, 17, 8, 7, 6, 2] 
   }
}

每个桶的值。数组中的值被视为双精度数,必须按升序给出。对于 T-Digest 直方图,此值表示平均值。对于 HDR 直方图,此值表示迭代到的值。

每个桶的计数。数组中的值被视为长整型,必须为正数或零。负值将被拒绝。桶和计数之间的关系由数组中的位置给出。