« 重排序 学习排序 »
Elastic 文档 ›Elasticsearch 指南 [8.16] ›重排序

语义重排序

编辑

语义重排序

编辑

此功能处于技术预览阶段，可能会在未来的版本中更改或删除。Elastic 将致力于修复任何问题，但技术预览中的功能不受官方 GA 功能的支持服务水平协议 (SLA) 的约束。

本概述更侧重于语义重排序的高级概念和用例。有关如何在 Elasticsearch 中设置和使用语义重排序的完整实现细节，请参阅搜索 API 文档中的参考文档。

重排序器可以提高早期阶段检索机制结果的相关性。语义重排序器使用机器学习模型根据搜索结果与查询的语义相似性重新排序搜索结果。

语义重排序需要相对较大且复杂的机器学习模型，并实时响应查询。这种技术适用于小型top-k结果集，作为管道中的最后步骤之一。这是一种强大的技术，可以提高搜索相关性，并且同样适用于关键词、语义或混合检索算法。

接下来的部分将更详细地介绍语义重排序的优势、用例和使用的模型类型。最后几部分包括如何在 Elasticsearch 中实现语义重排序的实用、高级概述以及指向完整参考文档的链接。

用例

编辑

语义重排序支持各种用例

  • 词汇（BM25）检索结果重排序

    • 通过向任何词汇/BM25 检索管道添加简单的 API 调用来实现开箱即用的语义搜索。
    • 在现有索引之上添加语义搜索功能，无需重新索引，非常适合快速改进。
    • 非常适合具有复杂现有索引的环境。

  • 语义检索结果重排序

    • 通过使用更强大的模型来改进使用 ELSER 稀疏向量嵌入或密集向量嵌入的语义检索器的结果。
    • 在使用倒排秩融合 (RRF)的混合检索之上添加细化层。

  • 一般应用

    • 支持自动透明的分块，无需在索引时进行预分块。
    • 在检索增强生成 (RAG) 用例或涉及语言模型 (LLM) 输入的其他场景中，提供对文档相关性的显式控制。

现在我们已经概述了语义重排序的价值，我们将探讨为该过程提供动力的特定模型及其区别。

交叉编码器和双编码器模型

编辑

从高层次来看，语义重排序使用两种模型类型：交叉编码器和双编码器。

在此版本中，Elasticsearch仅支持用于语义重排序的交叉编码器。

  • 交叉编码器模型可以被认为是一种更强大、一体化的解决方案，因为它生成与查询相关的文档表示。它将查询和文档文本作为单个连接的输入。

  • 双编码器模型以文档或查询文本作为输入。文档和查询嵌入是分别计算的，因此它们彼此之间并不了解。

    • 要计算排名分数，需要进行外部操作。这通常涉及计算查询和文档嵌入之间的点积或余弦相似度。

简而言之，交叉编码器精度高，但资源密集型。双编码器速度更快，成本效益更高，但精度较低。

在未来的版本中，Elasticsearch 还将支持双编码器。如果您有兴趣更详细地分析交叉编码器和双编码器之间实际差异，请取消下一个部分的折叠。

交叉编码器和双编码器的比较

以下是选择交叉编码器和双编码器用于语义重排序时需要考虑的一些因素（并非详尽无遗）。

  • 由于交叉编码器模型同时处理查询和文档文本，因此它可以更好地推断它们的相关性，使其作为重排序器比双编码器更有效。
  • 交叉编码器模型通常更大，计算量更大，导致更高的延迟和更高的计算成本。
  • 开源交叉编码器的数量明显较少，而双编码器则提供各种尺寸、语言和其他权衡。
  • 交叉编码器的有效性还可以提高语义检索器的相关性。例如，它们考虑词序的能力可以改进密集或稀疏嵌入检索。
  • 与特定检索器（如词汇/BM25）一起训练时，交叉编码器可以“纠正”这些检索器通常会犯的错误。
  • 交叉编码器输出的分数在不同查询之间是一致的。通过为所有查询设置最低分数阈值，您可以保持结果集的高相关性。例如，这在使用 RAG 工作流程中的结果或将结果馈送到 LLM 时非常重要。请注意，双编码器/嵌入相似度的相似度分数是与查询相关的，这意味着您无法设置通用截止值。
  • 双编码器使用嵌入进行重排序。您可以通过在摄取时创建嵌入来提高重排序延迟。这些嵌入可以存储用于重排序，而无需为检索建立索引，从而减少内存占用。

Elasticsearch 中的语义重排序

编辑

在 Elasticsearch 中，语义重排序器是使用 Elasticsearch 推理 API 和检索器实现的。

要在 Elasticsearch 中使用语义重排序，您需要

  1. 选择一个重排序模型。目前您可以

  2. 使用Elasticsearch 推理 API创建一个rerank任务。推理 API 创建推理端点并配置您选择的机器学习模型以执行重排序任务。
  3. 在您的搜索请求中定义一个text_similarity_reranker检索器。检索器语法使得在一个 API 调用中轻松配置搜索结果的检索和重排序。
示例搜索请求 使用语义重排序器

以下示例显示了一个搜索请求，该请求使用语义重排序器根据其与查询的语义相似性重新排序前 k 个文档。

resp = client.search(
    retriever={
        "text_similarity_reranker": {
            "retriever": {
                "standard": {
                    "query": {
                        "match": {
                            "text": "How often does the moon hide the sun?"
                        }
                    }
                }
            },
            "field": "text",
            "inference_id": "my-cohere-rerank-model",
            "inference_text": "How often does the moon hide the sun?",
            "rank_window_size": 100,
            "min_score": 0.5
        }
    },
)
print(resp)
const response = await client.search({
  retriever: {
    text_similarity_reranker: {
      retriever: {
        standard: {
          query: {
            match: {
              text: "How often does the moon hide the sun?",
            },
          },
        },
      },
      field: "text",
      inference_id: "my-cohere-rerank-model",
      inference_text: "How often does the moon hide the sun?",
      rank_window_size: 100,
      min_score: 0.5,
    },
  },
});
console.log(response);
POST _search
{
  "retriever": {
    "text_similarity_reranker": {
      "retriever": {
        "standard": {
          "query": {
            "match": {
              "text": "How often does the moon hide the sun?"
            }
          }
        }
      },
      "field": "text",
      "inference_id": "my-cohere-rerank-model",
      "inference_text": "How often does the moon hide the sun?",
      "rank_window_size": 100,
      "min_score": 0.5
    }
  }
}

了解更多

编辑
« 重排序 学习排序 »