试用
Elastic Stack Serverless
当模型部署在集群中的至少一个节点上时,您可以开始执行推理。推理是一种机器学习功能,使您可以使用训练好的模型对传入的数据执行 NLP 任务(例如文本提取、分类或嵌入)。
测试新数据模型的更简单方法是使用 Kibana 中的 测试模型 操作。您可以提供一些输入文本或使用集群中现有索引的字段来测试模型

或者,您可以使用 推断训练模型 API。例如,要尝试命名实体识别任务,请提供一些示例文本
POST /_ml/trained_models/elastic__distilbert-base-cased-finetuned-conll03-english/_infer
{
"docs":[{"text_field": "Sasha bought 300 shares of Acme Corp in 2022."}]
}
在此示例中,响应包含带注释的文本输出和已识别的实体
{
"inference_results" : [
{
"predicted_value" : "[Sasha](PER&Sasha) bought 300 shares of [Acme Corp](ORG&Acme+Corp) in 2022.",
"entities" : [
{
"entity" : "Sasha",
"class_name" : "PER",
"class_probability" : 0.9953193407987492,
"start_pos" : 0,
"end_pos" : 5
},
{
"entity" : "Acme Corp",
"class_name" : "ORG",
"class_probability" : 0.9996392198381716,
"start_pos" : 27,
"end_pos" : 36
}
]
}
]
}
如果您对结果感到满意,您可以将这些 NLP 任务添加到您的摄取管道中。