删除推理 API

编辑

删除推理端点。

推理 API 使您能够使用某些服务,例如内置的机器学习模型(ELSER、E5)、通过 Eland 上传的模型、Cohere、OpenAI、Azure、Google AI Studio、Google Vertex AI、Anthropic、Watsonx.ai 或 Hugging Face。对于内置模型和通过 Eland 上传的模型,推理 API 提供了一种使用和管理训练模型的替代方法。但是,如果您不打算使用推理 API 来使用这些模型,或者如果您想使用非 NLP 模型,请使用机器学习训练模型 API

请求

编辑

DELETE /_inference/<inference_id>

DELETE /_inference/<task_type>/<inference_id>

前提条件

编辑
  • 需要 manage_inference 集群权限(内置的 inference_admin 角色授予此权限)

路径参数

编辑
<inference_id>
(必需,字符串)要删除的推理端点的唯一标识符。
<task_type>
(可选,字符串)模型执行的推理任务的类型。

查询参数

编辑
dry_run
(可选,布尔值)当 true 时,检查引用端点的 semantic_text 字段和推理处理器,并在列表中返回它们,但不删除端点。默认为 false
force
(可选,布尔值)无论端点是否在 semantic_text 字段或推理管道中使用,都删除端点。

示例

编辑

以下 API 调用删除可以执行 sparse_embedding 任务的 my-elser-model 推理模型。

resp = client.inference.delete(
    task_type="sparse_embedding",
    inference_id="my-elser-model",
)
print(resp)
response = client.inference.delete_model(
  task_type: 'sparse_embedding',
  inference_id: 'my-elser-model'
)
puts response
const response = await client.inference.delete({
  task_type: "sparse_embedding",
  inference_id: "my-elser-model",
});
console.log(response);
DELETE /_inference/sparse_embedding/my-elser-model

API 返回以下响应

{
  "acknowledged": true
}