« 重排序 学习排序 »
Elastic 文档 ›Elasticsearch 指南 [8.17] ›重排序

语义重排序

编辑

语义重排序

编辑

此功能为技术预览版，可能会在未来的版本中更改或删除。Elastic 将努力修复任何问题，但技术预览版中的功能不受正式 GA 功能的支持 SLA 的约束。

本概述侧重于语义重排序的高级概念和用例。有关如何在 Elasticsearch 中设置和使用语义重排序的完整实现细节，请参阅搜索 API 文档中的参考文档。

重排序器提高了早期检索机制的结果的相关性。语义重排序器使用机器学习模型根据搜索结果与查询的语义相似性对其进行重新排序。

语义重排序需要相对较大且复杂的机器学习模型，并实时响应查询进行操作。此技术适用于小型 top-k 结果集，作为管道的最后步骤之一。这是一种强大的技术，可提高搜索相关性，并且与关键字、语义或混合检索算法同样有效。

接下来的部分将提供有关语义重排序的优势、用例和模型类型的更多详细信息。最后的部分包括关于如何在 Elasticsearch 中实现语义重排序的实用、高级概述，并提供完整参考文档的链接。

用例

编辑

语义重排序支持各种用例

  • 词汇（BM25）检索结果重排序

    • 通过向任何词汇/BM25 检索管道添加简单的 API 调用来实现开箱即用的语义搜索。
    • 在现有索引之上添加语义搜索功能，无需重新索引，非常适合快速改进。
    • 适用于具有复杂现有索引的环境。

  • 语义检索结果重排序

    • 通过使用更强大的模型，改进来自使用 ELSER 稀疏向量嵌入或密集向量嵌入的语义检索器的结果。
    • 在使用倒数排名融合 (RRF)的混合检索之上添加细化层。

  • 通用应用

    • 支持自动和透明的分块，无需在索引时进行预分块。
    • 在检索增强生成 (RAG) 用例或其他涉及语言模型 (LLM) 输入的场景中，提供对文档相关性的显式控制。

现在我们已经概述了语义重排序的价值，我们将探讨为该过程提供支持的特定模型以及它们的差异。

交叉编码器和双编码器模型

编辑

在高层，有两种模型类型用于语义重排序：交叉编码器和双编码器。

在此版本中，Elasticsearch 仅支持交叉编码器进行语义重排序。

  • 交叉编码器模型可以被认为是一种更强大的、多合一的解决方案，因为它生成与查询相关的文档表示。它将查询和文档文本作为单个连接的输入。

  • 双编码器模型将文档或查询文本作为输入。文档和查询嵌入是单独计算的，因此它们彼此不知道。

    • 要计算排名分数，需要进行外部操作。这通常涉及计算查询和文档嵌入之间的点积或余弦相似度。

简而言之，交叉编码器提供高精度，但资源密集程度更高。双编码器更快、成本效益更高，但精度较低。

在未来的版本中，Elasticsearch 也将支持双编码器。如果您对交叉编码器和双编码器之间实际差异的更详细分析感兴趣，请取消切换下一节。

交叉编码器和双编码器之间的比较

以下是在为语义重排序选择交叉编码器和双编码器时需要考虑的一些非详尽的列表

  • 由于交叉编码器模型同时处理查询和文档文本，因此它可以更好地推断它们的相关性，使其作为重排序器比双编码器更有效。
  • 交叉编码器模型通常更大，计算密集程度更高，导致延迟更高，计算成本增加。
  • 开源的交叉编码器明显较少，而双编码器提供了各种尺寸、语言和其他权衡。
  • 交叉编码器的有效性还可以提高语义检索器的相关性。例如，它们考虑词序的能力可以改进密集或稀疏嵌入检索。
  • 当与特定的检索器（如词汇/BM25）一起训练时，交叉编码器可以“纠正”这些检索器通常犯的错误。
  • 交叉编码器输出的分数在所有查询中都是一致的。这使您可以通过为所有查询设置最低分数阈值来保持结果集中的高相关性。例如，这在使用 RAG 工作流中的结果时或在将结果馈送到 LLM 时很重要。请注意，来自双编码器/嵌入相似性的相似性分数是依赖于查询的，这意味着您不能设置通用截止值。
  • 双编码器使用嵌入进行重排序。您可以通过在摄取时创建嵌入来缩短重排序延迟。这些嵌入可以存储用于重排序，而无需对其进行索引以进行检索，从而减少内存占用。

Elasticsearch 中的语义重排序

编辑

在 Elasticsearch 中，语义重排序器是使用 Elasticsearch 推理 API 和检索器实现的。

要在 Elasticsearch 中使用语义重排序，您需要

  1. 选择并配置重排序模型。您有以下选项

    1. 通过推理 API 的 Elasticsearch 服务使用Elastic 重排序交叉编码器模型。
    2. 使用Cohere 重排序推理端点来创建 rerank 端点。
    3. 使用Google Vertex AI 推理端点来创建 rerank 端点。

    4. 使用 Eland 从 Hugging Face 上传模型到 Elasticsearch。使用 Eland 加载模型时，您需要使用 text_similarity NLP 任务类型。然后使用 rerank 端点类型设置Elasticsearch 服务推理端点。

      有关 Elasticsearch 支持语义重排序的第三方文本相似性模型的列表，请参阅Elastic NLP 模型参考。

  2. 使用Elasticsearch 推理 API创建 rerank 端点。推理 API 创建推理端点，并配置您选择的机器学习模型以执行重排序任务。
  3. 在您的搜索请求中定义 text_similarity_reranker 检索器。检索器语法可以简单地在单个 API 调用中配置搜索结果的检索和重排序。
带有语义重排序器的示例搜索请求

以下示例显示了一个搜索请求，该请求使用语义重排序器根据语义相似性对前 k 个文档进行重新排序。

const response = await client.search({
  retriever: {
    text_similarity_reranker: {
      retriever: {
        standard: {
          query: {
            match: {
              text: "How often does the moon hide the sun?",
            },
          },
        },
      },
      field: "text",
      inference_id: "elastic-rerank",
      inference_text: "How often does the moon hide the sun?",
      rank_window_size: 100,
      min_score: 0.5,
    },
  },
});
console.log(response);
POST _search
{
  "retriever": {
    "text_similarity_reranker": {
      "retriever": {
        "standard": {
          "query": {
            "match": {
              "text": "How often does the moon hide the sun?"
            }
          }
        }
      },
      "field": "text",
      "inference_id": "elastic-rerank",
      "inference_text": "How often does the moon hide the sun?",
      "rank_window_size": 100,
      "min_score": 0.5
    }
  }
}

了解更多

编辑
« 重排序 学习排序 »