- Elasticsearch 指南其他版本
- 8.17 中的新功能
- Elasticsearch 基础
- 快速入门
- 设置 Elasticsearch
- 升级 Elasticsearch
- 索引模块
- 映射
- 文本分析
- 索引模板
- 数据流
- 摄取管道
- 别名
- 搜索您的数据
- 重新排名
- 查询 DSL
- 聚合
- 地理空间分析
- 连接器
- EQL
- ES|QL
- SQL
- 脚本
- 数据管理
- 自动缩放
- 监视集群
- 汇总或转换数据
- 设置高可用性集群
- 快照和还原
- 保护 Elastic Stack 的安全
- Watcher
- 命令行工具
- elasticsearch-certgen
- elasticsearch-certutil
- elasticsearch-create-enrollment-token
- elasticsearch-croneval
- elasticsearch-keystore
- elasticsearch-node
- elasticsearch-reconfigure-node
- elasticsearch-reset-password
- elasticsearch-saml-metadata
- elasticsearch-service-tokens
- elasticsearch-setup-passwords
- elasticsearch-shard
- elasticsearch-syskeygen
- elasticsearch-users
- 优化
- 故障排除
- 修复常见的集群问题
- 诊断未分配的分片
- 向系统中添加丢失的层
- 允许 Elasticsearch 在系统中分配数据
- 允许 Elasticsearch 分配索引
- 索引将索引分配过滤器与数据层节点角色混合,以在数据层之间移动
- 没有足够的节点来分配所有分片副本
- 单个节点上索引的分片总数已超过
- 每个节点的分片总数已达到
- 故障排除损坏
- 修复磁盘空间不足的数据节点
- 修复磁盘空间不足的主节点
- 修复磁盘空间不足的其他角色节点
- 启动索引生命周期管理
- 启动快照生命周期管理
- 从快照恢复
- 故障排除损坏的存储库
- 解决重复的快照策略失败问题
- 故障排除不稳定的集群
- 故障排除发现
- 故障排除监控
- 故障排除转换
- 故障排除 Watcher
- 故障排除搜索
- 故障排除分片容量健康问题
- 故障排除不平衡的集群
- 捕获诊断信息
- REST API
- API 约定
- 通用选项
- REST API 兼容性
- 自动缩放 API
- 行为分析 API
- 紧凑和对齐文本 (CAT) API
- 集群 API
- 跨集群复制 API
- 连接器 API
- 数据流 API
- 文档 API
- 丰富 API
- EQL API
- ES|QL API
- 功能 API
- Fleet API
- 图表探索 API
- 索引 API
- 别名是否存在
- 别名
- 分析
- 分析索引磁盘使用量
- 清除缓存
- 克隆索引
- 关闭索引
- 创建索引
- 创建或更新别名
- 创建或更新组件模板
- 创建或更新索引模板
- 创建或更新索引模板(旧版)
- 删除组件模板
- 删除悬挂索引
- 删除别名
- 删除索引
- 删除索引模板
- 删除索引模板(旧版)
- 存在
- 字段使用情况统计信息
- 刷新
- 强制合并
- 获取别名
- 获取组件模板
- 获取字段映射
- 获取索引
- 获取索引设置
- 获取索引模板
- 获取索引模板(旧版)
- 获取映射
- 导入悬挂索引
- 索引恢复
- 索引段
- 索引分片存储
- 索引统计信息
- 索引模板是否存在(旧版)
- 列出悬挂索引
- 打开索引
- 刷新
- 解析索引
- 解析集群
- 翻转
- 收缩索引
- 模拟索引
- 模拟模板
- 拆分索引
- 解冻索引
- 更新索引设置
- 更新映射
- 索引生命周期管理 API
- 推理 API
- 信息 API
- 摄取 API
- 许可 API
- Logstash API
- 机器学习 API
- 机器学习异常检测 API
- 机器学习数据帧分析 API
- 机器学习训练模型 API
- 迁移 API
- 节点生命周期 API
- 查询规则 API
- 重新加载搜索分析器 API
- 存储库计量 API
- 汇总 API
- 根 API
- 脚本 API
- 搜索 API
- 搜索应用程序 API
- 可搜索快照 API
- 安全 API
- 身份验证
- 更改密码
- 清除缓存
- 清除角色缓存
- 清除权限缓存
- 清除 API 密钥缓存
- 清除服务帐户令牌缓存
- 创建 API 密钥
- 创建或更新应用程序权限
- 创建或更新角色映射
- 创建或更新角色
- 批量创建或更新角色 API
- 批量删除角色 API
- 创建或更新用户
- 创建服务帐户令牌
- 委托 PKI 身份验证
- 删除应用程序权限
- 删除角色映射
- 删除角色
- 删除服务帐户令牌
- 删除用户
- 禁用用户
- 启用用户
- 注册 Kibana
- 注册节点
- 获取 API 密钥信息
- 获取应用程序权限
- 获取内置权限
- 获取角色映射
- 获取角色
- 查询角色
- 获取服务帐户
- 获取服务帐户凭据
- 获取安全设置
- 获取令牌
- 获取用户权限
- 获取用户
- 授予 API 密钥
- 具有权限
- 使 API 密钥失效
- 使令牌失效
- OpenID Connect 准备身份验证
- OpenID Connect 身份验证
- OpenID Connect 注销
- 查询 API 密钥信息
- 查询用户
- 更新 API 密钥
- 更新安全设置
- 批量更新 API 密钥
- SAML 准备身份验证
- SAML 身份验证
- SAML 注销
- SAML 失效
- SAML 完成注销
- SAML 服务提供商元数据
- SSL 证书
- 激活用户配置文件
- 禁用用户配置文件
- 启用用户配置文件
- 获取用户配置文件
- 建议用户配置文件
- 更新用户配置文件数据
- 具有用户配置文件权限
- 创建跨集群 API 密钥
- 更新跨集群 API 密钥
- 快照和还原 API
- 快照生命周期管理 API
- SQL API
- 同义词 API
- 文本结构 API
- 转换 API
- 使用情况 API
- Watcher API
- 定义
- 迁移指南
- 发行说明
- Elasticsearch 版本 8.17.0
- Elasticsearch 版本 8.16.1
- Elasticsearch 版本 8.16.0
- Elasticsearch 版本 8.15.5
- Elasticsearch 版本 8.15.4
- Elasticsearch 版本 8.15.3
- Elasticsearch 版本 8.15.2
- Elasticsearch 版本 8.15.1
- Elasticsearch 版本 8.15.0
- Elasticsearch 版本 8.14.3
- Elasticsearch 版本 8.14.2
- Elasticsearch 版本 8.14.1
- Elasticsearch 版本 8.14.0
- Elasticsearch 版本 8.13.4
- Elasticsearch 版本 8.13.3
- Elasticsearch 版本 8.13.2
- Elasticsearch 版本 8.13.1
- Elasticsearch 版本 8.13.0
- Elasticsearch 版本 8.12.2
- Elasticsearch 版本 8.12.1
- Elasticsearch 版本 8.12.0
- Elasticsearch 版本 8.11.4
- Elasticsearch 版本 8.11.3
- Elasticsearch 版本 8.11.2
- Elasticsearch 版本 8.11.1
- Elasticsearch 版本 8.11.0
- Elasticsearch 版本 8.10.4
- Elasticsearch 版本 8.10.3
- Elasticsearch 版本 8.10.2
- Elasticsearch 版本 8.10.1
- Elasticsearch 版本 8.10.0
- Elasticsearch 版本 8.9.2
- Elasticsearch 版本 8.9.1
- Elasticsearch 版本 8.9.0
- Elasticsearch 版本 8.8.2
- Elasticsearch 版本 8.8.1
- Elasticsearch 版本 8.8.0
- Elasticsearch 版本 8.7.1
- Elasticsearch 版本 8.7.0
- Elasticsearch 版本 8.6.2
- Elasticsearch 版本 8.6.1
- Elasticsearch 版本 8.6.0
- Elasticsearch 版本 8.5.3
- Elasticsearch 版本 8.5.2
- Elasticsearch 版本 8.5.1
- Elasticsearch 版本 8.5.0
- Elasticsearch 版本 8.4.3
- Elasticsearch 版本 8.4.2
- Elasticsearch 版本 8.4.1
- Elasticsearch 版本 8.4.0
- Elasticsearch 版本 8.3.3
- Elasticsearch 版本 8.3.2
- Elasticsearch 版本 8.3.1
- Elasticsearch 版本 8.3.0
- Elasticsearch 版本 8.2.3
- Elasticsearch 版本 8.2.2
- Elasticsearch 版本 8.2.1
- Elasticsearch 版本 8.2.0
- Elasticsearch 版本 8.1.3
- Elasticsearch 版本 8.1.2
- Elasticsearch 版本 8.1.1
- Elasticsearch 版本 8.1.0
- Elasticsearch 版本 8.0.1
- Elasticsearch 版本 8.0.0
- Elasticsearch 版本 8.0.0-rc2
- Elasticsearch 版本 8.0.0-rc1
- Elasticsearch 版本 8.0.0-beta1
- Elasticsearch 版本 8.0.0-alpha2
- Elasticsearch 版本 8.0.0-alpha1
- 依赖项和版本
语义文本字段类型
编辑语义文本字段类型
编辑此功能为 Beta 版,可能会发生变更。其设计和代码不如正式 GA 功能成熟,因此按现状提供,不提供任何担保。Beta 版功能不受正式 GA 功能的支持 SLA 约束。
semantic_text
字段类型使用推理端点自动为文本内容生成嵌入向量。长段落会自动分块为较小的部分,以便处理更大的文本语料库。
semantic_text
字段类型指定用于生成嵌入向量的推理端点标识符。您可以使用创建推理 API 创建推理端点。此字段类型和semantic
查询类型使您可以更轻松地对数据执行语义搜索。
如果未指定推理端点,则 inference_id
字段默认为 .elser-2-elasticsearch
,这是 Elasticsearch 服务的一个预配置端点。
使用 semantic_text
,您无需指定如何为数据生成嵌入向量,或如何索引数据。推理端点会自动确定要使用的嵌入向量生成、索引和查询。
如果使用预配置的 .elser-2-elasticsearch
端点,则可以使用以下 API 请求设置 semantic_text
const response = await client.indices.create({ index: "my-index-000001", mappings: { properties: { inference_field: { type: "semantic_text", }, }, }, }); console.log(response);
PUT my-index-000001 { "mappings": { "properties": { "inference_field": { "type": "semantic_text" } } } }
要使用自定义推理端点而不是默认的 .elser-2-elasticsearch
,您必须创建推理 API,并在设置 semantic_text
字段类型时指定其 inference_id
。
const response = await client.indices.create({ index: "my-index-000002", mappings: { properties: { inference_field: { type: "semantic_text", inference_id: "my-openai-endpoint", }, }, }, }); console.log(response);
PUT my-index-000002 { "mappings": { "properties": { "inference_field": { "type": "semantic_text", "inference_id": "my-openai-endpoint" } } } }
使用 semantic_text
的推荐方法是为摄取和搜索设置专用的推理端点。这可确保搜索速度不受摄取工作负载的影响,反之亦然。为两者创建专用推理端点后,您可以在为使用 semantic_text
字段的索引设置索引映射时,使用 inference_id
和 search_inference_id
参数引用它们。
const response = await client.indices.create({ index: "my-index-000003", mappings: { properties: { inference_field: { type: "semantic_text", inference_id: "my-elser-endpoint-for-ingest", search_inference_id: "my-elser-endpoint-for-search", }, }, }, }); console.log(response);
PUT my-index-000003 { "mappings": { "properties": { "inference_field": { "type": "semantic_text", "inference_id": "my-elser-endpoint-for-ingest", "search_inference_id": "my-elser-endpoint-for-search" } } } }
semantic_text
字段的参数
编辑推理端点验证
编辑创建映射时不会验证 inference_id
,而是在将文档摄取到索引中时进行验证。当第一个文档被索引时,inference_id
将用于为字段生成底层索引结构。
删除推理端点会导致使用该推理端点作为其 inference_id
定义 semantic_text
字段的索引上的文档摄取和语义查询失败。尝试删除在 semantic_text
字段上使用的推理端点会导致错误。
文本分块
编辑推理端点可以处理的文本量有限制。为了允许在语义搜索中使用大量文本,semantic_text
会在需要时自动生成较小的段落,称为分块。
每个分块将包含文本子段以及从中生成的相应嵌入向量。查询时,将自动搜索每个文档的各个段落,并使用最相关的段落计算分数。
有关分块以及如何配置分块设置的更多详细信息,请参阅推理 API 文档中的配置分块。
semantic_text
结构
编辑一旦摄取文档,semantic_text
字段将具有以下结构
"inference_field": { "text": "these are not the droids you're looking for", "inference": { "inference_id": "my-elser-endpoint", "model_settings": { "task_type": "sparse_embedding" }, "chunks": [ { "text": "these are not the droids you're looking for", "embeddings": { (...) } } ] } }
该字段将变为对象结构,以容纳原始文本和推理结果。 |
|
用于生成嵌入向量的 |
|
模型设置,包括任务类型以及维度/相似度(如果适用)。 |
|
推理结果将按分块分组,每个分块都有其相应的文本和嵌入向量。 |
请参阅本教程,了解有关使用 semantic_text
和 semantic
查询进行语义搜索的更多信息。
自定义 semantic_text
索引
编辑semantic_text
使用默认值,基于指定的推理端点索引数据。它通过提供自动推理和专用查询,使您可以快速开始语义搜索,而无需提供更多详细信息。
如果您想自定义数据索引,请使用sparse_vector
或 dense_vector
字段类型,并使用推理处理器创建摄取管道以生成嵌入向量。本教程将指导您完成此过程。在这些情况下 - 当您使用 sparse_vector
或 dense_vector
字段类型而不是 semantic_text
字段类型来自定义索引时 - semantic_query
不支持用于查询字段数据。
更新到 semantic_text
字段
编辑包含 semantic_text
字段的索引不支持使用脚本的更新。即使脚本以非 semantic_text
字段为目标,当索引包含 semantic_text
字段时,更新也会失败。
copy_to
支持
编辑semantic_text
字段类型可以作为copy_to
字段的目标。这意味着您可以使用单个 semantic_text
字段来收集其他字段的值以进行语义搜索。每个值都会单独计算其嵌入向量;每个字段值都是生成的嵌入向量中的一组单独的分块。
这对使用 semantic_text
字段更新文档的批量请求和摄取管道施加了限制。在这些情况下,所有复制到 semantic_text
字段的字段(包括 semantic_text
字段值)都必须具有一个值,以确保正确计算每个嵌入向量。
例如,以下映射
const response = await client.indices.create({ index: "test-index", mappings: { properties: { infer_field: { type: "semantic_text", inference_id: ".elser-2-elasticsearch", }, source_field: { type: "text", copy_to: "infer_field", }, }, }, }); console.log(response);
PUT test-index { "mappings": { "properties": { "infer_field": { "type": "semantic_text", "inference_id": ".elser-2-elasticsearch" }, "source_field": { "type": "text", "copy_to": "infer_field" } } } }
需要以下批量更新请求以确保正确更新 infer_field
resp = client.bulk( index="test-index", operations=[ { "update": { "_id": "1" } }, { "doc": { "infer_field": "updated inference field", "source_field": "updated source field" } } ], ) print(resp)
const response = await client.bulk({ index: "test-index", operations: [ { update: { _id: "1", }, }, { doc: { infer_field: "updated inference field", source_field: "updated source field", }, }, ], }); console.log(response);
PUT test-index/_bulk {"update": {"_id": "1"}} {"doc": {"infer_field": "updated inference field", "source_field": "updated source field"}}
请注意,semantic_text
字段和源字段都在批量请求中更新。
限制
编辑semantic_text
字段类型有以下限制
On this page