优化模型上下文

上下文是指您提供给 LLM 的信息，用于优化查询结果的相关性。如果没有额外的上下文，LLM 将仅根据其训练数据生成结果。在 Playground 中，此额外上下文是您 Elasticsearch 索引中包含的信息。

有几种方法可以优化此上下文以获得更好的结果。一些调整可以直接在 Playground UI 中进行。其他调整需要改进您的索引策略，并可能需要重新索引您的数据。

使用 Playground UI 中的 编辑上下文 按钮来调整发送到 LLM 的文档和字段数量。

如果您遇到了上下文长度限制，请尝试以下方法：

本节介绍您无法直接在 UI 中进行的其他上下文优化。

如果您正在处理大型字段，您可能需要调整您的索引策略。考虑将您的文档分解为较小的块，例如句子或段落。

如果您还没有分块策略，请从将文档分块为段落开始。

否则，请考虑更新您的分块策略，例如从基于句子的分块更新为基于段落的分块。

请参考以下 Python Notebook，了解如何对文档进行分块的示例

以下是一些关于如何平衡不同上下文大小的成本/延迟和结果质量的一般建议：