停止词语过滤器
编辑停止词语过滤器
编辑从语元流中移除停止词。
在未自定义的情况下,此过滤器默认移除以下英语停止词
a
, an
, and
, are
, as
, at
, be
, but
, by
, for
, if
, in
, into
, is
, it
, no
, not
, of
, on
, or
, such
, that
, the
, their
, then
, there
, these
, they
, this
, to
, was
, will
, with
除了英语外,stop
过滤器还支持预定义的多种语言的停止词列表。 您还可以将自己的停止词指定为数组或文件。
stop
过滤器使用 Lucene 的 StopFilter。
示例
编辑以下 analyze API 请求使用 stop
过滤器从 a quick fox jumps over the lazy dog
中移除停止词 a
和 the
resp = client.indices.analyze( tokenizer="standard", filter=[ "stop" ], text="a quick fox jumps over the lazy dog", ) print(resp)
response = client.indices.analyze( body: { tokenizer: 'standard', filter: [ 'stop' ], text: 'a quick fox jumps over the lazy dog' } ) puts response
const response = await client.indices.analyze({ tokenizer: "standard", filter: ["stop"], text: "a quick fox jumps over the lazy dog", }); console.log(response);
GET /_analyze { "tokenizer": "standard", "filter": [ "stop" ], "text": "a quick fox jumps over the lazy dog" }
此过滤器生成以下语元
[ quick, fox, jumps, over, lazy, dog ]
添加到分析器
编辑以下创建索引 API 请求使用 stop
过滤器配置新的自定义分析器。
resp = client.indices.create( index="my-index-000001", settings={ "analysis": { "analyzer": { "my_analyzer": { "tokenizer": "whitespace", "filter": [ "stop" ] } } } }, ) print(resp)
response = client.indices.create( index: 'my-index-000001', body: { settings: { analysis: { analyzer: { my_analyzer: { tokenizer: 'whitespace', filter: [ 'stop' ] } } } } } ) puts response
const response = await client.indices.create({ index: "my-index-000001", settings: { analysis: { analyzer: { my_analyzer: { tokenizer: "whitespace", filter: ["stop"], }, }, }, }, }); console.log(response);
PUT /my-index-000001 { "settings": { "analysis": { "analyzer": { "my_analyzer": { "tokenizer": "whitespace", "filter": [ "stop" ] } } } } }
可配置参数
编辑-
stopwords
-
(可选,字符串或字符串数组)语言值,例如
_arabic_
或_thai_
。 默认为_english_
。每个语言值都对应于 Lucene 中预定义的停止词列表。 有关支持的语言值及其停止词,请参阅按语言划分的停止词。
也接受停止词数组。
对于空的停止词列表,请使用
_none_
。 -
stopwords_path
-
(可选,字符串)包含要移除的停止词列表的文件的路径。
此路径必须是绝对路径或相对于
config
位置的相对路径,并且该文件必须采用 UTF-8 编码。 文件中的每个停止词必须用换行符分隔。 -
ignore_case
- (可选,布尔值)如果为
true
,则停止词匹配不区分大小写。 例如,如果为true
,则停止词the
会匹配并移除The
、THE
或the
。 默认为false
。 -
remove_trailing
-
(可选,布尔值)如果为
true
,则如果流的最后一个语元是停止词,则会移除它。 默认为true
。将此过滤器与完成建议器一起使用时,此参数应为
false
。 这将确保像green a
这样的查询可以匹配并建议green apple
,同时仍然移除其他停止词。
自定义
编辑要自定义 stop
过滤器,请复制它以创建新的自定义语元过滤器的基础。 您可以使用其可配置参数修改过滤器。
例如,以下请求创建一个自定义的不区分大小写的 stop
过滤器,该过滤器从_english_
停止词列表中移除停止词
resp = client.indices.create( index="my-index-000001", settings={ "analysis": { "analyzer": { "default": { "tokenizer": "whitespace", "filter": [ "my_custom_stop_words_filter" ] } }, "filter": { "my_custom_stop_words_filter": { "type": "stop", "ignore_case": True } } } }, ) print(resp)
response = client.indices.create( index: 'my-index-000001', body: { settings: { analysis: { analyzer: { default: { tokenizer: 'whitespace', filter: [ 'my_custom_stop_words_filter' ] } }, filter: { my_custom_stop_words_filter: { type: 'stop', ignore_case: true } } } } } ) puts response
const response = await client.indices.create({ index: "my-index-000001", settings: { analysis: { analyzer: { default: { tokenizer: "whitespace", filter: ["my_custom_stop_words_filter"], }, }, filter: { my_custom_stop_words_filter: { type: "stop", ignore_case: true, }, }, }, }, }); console.log(response);
PUT /my-index-000001 { "settings": { "analysis": { "analyzer": { "default": { "tokenizer": "whitespace", "filter": [ "my_custom_stop_words_filter" ] } }, "filter": { "my_custom_stop_words_filter": { "type": "stop", "ignore_case": true } } } } }
您还可以指定自己的停止词列表。 例如,以下请求创建一个自定义的不区分大小写的 stop
过滤器,该过滤器仅移除停止词 and
、is
和 the
resp = client.indices.create( index="my-index-000001", settings={ "analysis": { "analyzer": { "default": { "tokenizer": "whitespace", "filter": [ "my_custom_stop_words_filter" ] } }, "filter": { "my_custom_stop_words_filter": { "type": "stop", "ignore_case": True, "stopwords": [ "and", "is", "the" ] } } } }, ) print(resp)
response = client.indices.create( index: 'my-index-000001', body: { settings: { analysis: { analyzer: { default: { tokenizer: 'whitespace', filter: [ 'my_custom_stop_words_filter' ] } }, filter: { my_custom_stop_words_filter: { type: 'stop', ignore_case: true, stopwords: [ 'and', 'is', 'the' ] } } } } } ) puts response
const response = await client.indices.create({ index: "my-index-000001", settings: { analysis: { analyzer: { default: { tokenizer: "whitespace", filter: ["my_custom_stop_words_filter"], }, }, filter: { my_custom_stop_words_filter: { type: "stop", ignore_case: true, stopwords: ["and", "is", "the"], }, }, }, }, }); console.log(response);
PUT /my-index-000001 { "settings": { "analysis": { "analyzer": { "default": { "tokenizer": "whitespace", "filter": [ "my_custom_stop_words_filter" ] } }, "filter": { "my_custom_stop_words_filter": { "type": "stop", "ignore_case": true, "stopwords": [ "and", "is", "the" ] } } } } }
按语言划分的停止词
编辑以下列表包含 stopwords
参数支持的语言值以及指向 Lucene 中预定义停止词的链接。
-
_arabic_
- 阿拉伯语停止词
-
_armenian_
- 亚美尼亚语停止词
-
_basque_
- 巴斯克语停止词
-
_bengali_
- 孟加拉语停止词
-
_brazilian_
(巴西葡萄牙语) - 巴西葡萄牙语停止词
-
_bulgarian_
- 保加利亚语停止词
-
_catalan_
- 加泰罗尼亚语停止词
-
_cjk_
(中文、日文和韩文) - CJK 停止词
-
_czech_
- 捷克语停止词
-
_danish_
- 丹麦语停止词
-
_dutch_
- 荷兰语停止词
-
_english_
- 英语停止词
-
_estonian_
- 爱沙尼亚语停止词
-
_finnish_
- 芬兰语停止词
-
_french_
- 法语停止词
-
_galician_
- 加利西亚语停止词
-
_german_
- 德语停止词
-
_greek_
- 希腊语停止词
-
_hindi_
- 印地语停止词
-
_hungarian_
- 匈牙利语停止词
-
_indonesian_
- 印度尼西亚语停止词
-
_irish_
- 爱尔兰语停止词
-
_italian_
- 意大利语停止词
-
_latvian_
- 拉脱维亚语停止词
-
_lithuanian_
- 立陶宛语停止词
-
_norwegian_
- 挪威语停止词
-
_persian_
- 波斯语停止词
-
_portuguese_
- 葡萄牙语停止词
-
_romanian_
- 罗马尼亚语停止词
-
_russian_
- 俄语停止词
-
_serbian_
- 塞尔维亚语停止词
-
_sorani_
- 索拉尼语停止词
-
_spanish_
- 西班牙语停止词
-
_swedish_
- 瑞典语停止词
-
_thai_
- 泰语停止词
-
_turkish_
- 土耳其语停止词