正在加载

语义重排序

Elastic Stack 无服务器

提示

本概述更侧重于语义重排序的高级概念和用例。有关如何在 Elasticsearch 中设置和使用语义重排序的完整实现细节，请参阅搜索 API 文档中的参考文档。

重排序器提高了早期检索机制的结果相关性。 *语义* 重排序器使用机器学习模型根据搜索结果与查询的语义相似性对其进行重新排序。

语义重排序需要相对较大且复杂的机器学习模型，并在实时响应查询时运行。这种技术适用于较小的 *top-k* 结果集，作为管道中的最后步骤之一。这是一种强大的技术，可以提高搜索相关性，并且与关键字、语义或混合检索算法同样有效。

以下部分提供了有关语义重排序的优势、用例和模型类型的更多详细信息。最后几部分包括如何实现 Elasticsearch 中的语义重排序的实用、高级概述，以及指向完整参考文档的链接。

语义重排序支持各种用例

  • 词法 (BM25) 检索结果重排序

    • 通过向任何词法/BM25 检索管道添加一个简单的 API 调用来实现开箱即用的语义搜索。
    • 在现有索引之上添加语义搜索功能，无需重新索引，非常适合快速改进。
    • 非常适合具有复杂现有索引的环境。

  • 语义检索结果重排序

    • 通过使用更强大的模型，改进来自使用 ELSER 稀疏向量嵌入或密集向量嵌入的语义检索器的结果。
    • 在使用 倒数排名融合 (RRF)的混合检索之上添加细化层。

  • 通用应用

    • 支持自动透明分块，无需在索引时进行预分块。
    • 在检索增强生成 (RAG) 用例或涉及语言模型 (LLM) 输入的其他场景中，提供对文档相关性的显式控制。

既然我们已经概述了语义重排序的价值，我们将探索为该过程提供支持的特定模型以及它们的区别。

从高层次上讲，语义重排序使用两种模型类型：交叉编码器和双编码器。

注意

在此版本中，Elasticsearch **仅支持交叉编码器** 进行语义重排序。

  • **交叉编码器模型** 可以被认为是一种更强大的多合一解决方案，因为它生成感知查询的文档表示。它将查询和文档文本作为单个串联输入。

  • **双编码器模型** 将文档或查询文本作为输入。文档和查询嵌入是分开计算的，因此它们彼此不知道。

    • 要计算排名分数，需要进行外部操作。这通常涉及计算查询和文档嵌入之间的点积或余弦相似度。

简而言之，交叉编码器提供高精度，但资源密集程度更高。双编码器速度更快且成本效益更高，但精度较低。

在未来的版本中，Elasticsearch 也将支持双编码器。如果您对交叉编码器和双编码器之间实际差异的更详细分析感兴趣，请取消选中下一部分。

交叉编码器和双编码器之间的比较

以下是在为语义重排序选择交叉编码器和双编码器时需要考虑的一些非详尽列表

  • 由于交叉编码器模型同时处理查询和文档文本，因此它可以更好地推断它们的相关性，使其作为重排序器比双编码器更有效。
  • 交叉编码器模型通常更大，计算强度更高，导致更高的延迟和增加的计算成本。
  • 开源交叉编码器要少得多，而双编码器提供各种尺寸、语言和其他权衡。
  • 交叉编码器的有效性还可以提高语义检索器的相关性。例如，它们考虑词序的能力可以改进密集或稀疏嵌入检索。
  • 当与特定的检索器（如词法/BM25）共同训练时，交叉编码器可以“纠正”这些检索器所犯的典型错误。
  • 交叉编码器输出在查询之间一致的分数。 这使您可以通过为所有查询设置最小分数阈值来保持结果集中的高相关性。 例如，当在 RAG 工作流程中使用结果或者您以其他方式将结果馈送到 LLM 时，这一点很重要。 请注意，来自双编码器/嵌入相似性的相似性分数是 *依赖于查询的*，这意味着您无法设置通用截止值。
  • 双编码器使用嵌入进行重排序。 您可以通过在摄取时创建嵌入来提高重排序延迟。 这些嵌入可以存储用于重排序，而无需为检索编制索引，从而减少您的内存占用。

在 Elasticsearch 中，语义重排序器是使用 Elasticsearch 推理 API 和 retriever 实现的。

要在 Elasticsearch 中使用语义重排序，您需要

  1. **选择并配置重排序模型**。 您有以下选项

    1. 通过预配置的 .rerank-v1-elasticsearch 端点使用 Elastic Rerank 交叉编码器模型，或者使用 推理 API 的 Elasticsearch 服务创建一个自定义端点。

    2. 使用 Cohere Rerank 推理端点创建一个 rerank 端点。

    3. 使用 Google Vertex AI 推理端点创建一个 rerank 端点。

    4. 使用 Eland 将模型从 Hugging Face 上传到 Elasticsearch。 使用 Eland 加载模型时，需要使用 text_similarity NLP 任务类型。 然后使用 rerank 端点类型设置一个 Elasticsearch 服务推理端点。

      请参阅 Elastic NLP 模型参考，以获取 Elasticsearch 支持用于语义重排序的第三方文本相似性模型的列表。

  2. **使用 Elasticsearch 推理 API 创建一个 rerank 端点**。 推理 API 创建一个推理端点，并将您选择的机器学习模型配置为执行重排序任务。

  3. **在您的搜索请求中定义一个 text_similarity_reranker retriever**。 retriever 语法使您可以轻松地在一个 API 调用中配置搜索结果的检索和重排序。

带有语义重排序器的示例搜索请求

以下示例显示了一个搜索请求，该请求使用语义重排序器根据 top-k 文档与查询的语义相似性对其进行重新排序。

 POST _search {
  "retriever": {
    "text_similarity_reranker": {
      "retriever": {
        "standard": {
          "query": {
            "match": {
              "text": "How often does the moon hide the sun?"
            }
          }
        }
      },
      "field": "text",
      "inference_id": "elastic-rerank",
      "inference_text": "How often does the moon hide the sun?",
      "rank_window_size": 100,
      "min_score": 0.5
    }
  }
}
© . All rights reserved.