Ngrams 在复合词的应用

最后，来看看 n-gram 是如何应用于搜索复合词的语言中的。德语的特点是它可以将许多小词组合成一个庞大的复合词以表达它准确或复杂的意义。例如：

  1. _Aussprachewörterbuch_::
  2.     发音字典（Pronunciation dictionary）
  4. _Militärgeschichte_::
  5.     战争史（Military history）
  7. _Weißkopfseeadler_::
  8.     秃鹰（White-headed sea eagle, or bald eagle）
  10. _Weltgesundheitsorganisation_::
  11.     世界卫生组织（World Health Organization）
  13. _Rindfleischetikettierungsüberwachungsaufgabenübertragungsgesetz_::
  14.     法案考虑代理监管牛和牛肉的标记的职责（The law concerning the delegation of duties for the supervision of cattle marking and the labeling of beef）

有些人希望在搜索 “Wörterbuch”（字典）的时候，能在结果中看到 “Aussprachewörtebuch”（发音字典）。同样，搜索 “Adler”（鹰）的时候，能将 “Weißkopfseeadler”（秃鹰）包括在结果中。

处理这种语言的一种方式可以用 {ref}/analysis-compound-word-tokenfilter.html[组合词 token 过滤器（compound word token filter）] 将复合词拆分成各自部分，但这种方式的结果质量依赖于组合词字典的质量。

另一种方式就是将所有的词用 n-gram 进行处理，然后搜索任何匹配的片段——能匹配的片段越多，文档的相关度越大。

假设某个 n-gram 是一个词上的滑动窗口，那么任何长度的 n-gram 都可以遍历这个词。我们既希望选择足够长的值让拆分的词项具有意义，又不至于因为太长而生成过多的唯一词。一个长度为 3 的 trigram 可能是一个不错的开始：

  1. PUT /my_index
  2. {
  3.     "settings": {
  4.         "analysis": {
  5.             "filter": {
  6.                 "trigrams_filter": {
  7.                     "type":     "ngram",
  8.                     "min_gram": 3,
  9.                     "max_gram": 3
  10.                 }
  11.             },
  12.             "analyzer": {
  13.                 "trigrams": {
  14.                     "type":      "custom",
  15.                     "tokenizer": "standard",
  16.                     "filter":   [
  17.                         "lowercase",
  18.                         "trigrams_filter"
  19.                     ]
  20.                 }
  21.             }
  22.         }
  23.     },
  24.     "mappings": {
  25.         "my_type": {
  26.             "properties": {
  27.                 "text": {
  28.                     "type":     "string",
  29.                     "analyzer": "trigrams" <1>
  30.                 }
  31.             }
  32.         }
  33.     }
  34. }

<1> text 字段用 trigrams 分析器索引它的内容，这里 n-gram 的长度是 3 。

使用 analyze API 测试 trigram 分析器：

  1. GET /my_index/_analyze?analyzer=trigrams
  2. Weißkopfseeadler

返回以下词项：

  1.     wei, eiß, ißk, ßko, kop, opf, pfs, fse, see, eea,ead, adl, dle, ler

索引前述示例中的复合词来测试：

  1. POST /my_index/my_type/_bulk
  2. { "index": { "_id": 1 }}
  3. { "text": "Aussprachewörterbuch" }
  4. { "index": { "_id": 2 }}
  5. { "text": "Militärgeschichte" }
  6. { "index": { "_id": 3 }}
  7. { "text": "Weißkopfseeadler" }
  8. { "index": { "_id": 4 }}
  9. { "text": "Weltgesundheitsorganisation" }
  10. { "index": { "_id": 5 }}
  11. { "text": "Rindfleischetikettierungsüberwachungsaufgabenübertragungsgesetz" }

“Adler”（鹰）的搜索转化为查询三个词 adl 、 dle 和 ler ：

  1. GET /my_index/my_type/_search
  2. {
  3.     "query": {
  4.         "match": {
  5.             "text": "Adler"
  6.         }
  7.     }
  8. }

正好与 “Weißkopfsee-adler” 相匹配：

  1. {
  2.   "hits": [
  3.      {
  4.         "_id": "3",
  5.         "_score": 3.3191128,
  6.         "_source": {
  7.            "text": "Weißkopfseeadler"
  8.         }
  9.      }
  10.   ]
  11. }

类似查询 “Gesundheit”（健康）可以与 “Welt-gesundheit-sorganisation” 匹配，同时也能与 “Militär-ges-chichte” 和 “Rindfleischetikettierungsüberwachungsaufgabenübertragungs-ges-etz” 匹配，因为它们同时都有 trigram 生成的 ges ：

使用合适的 minimum_should_match 可以将这些奇怪的结果排除，只有当 trigram 最少匹配数满足要求时，文档才能被认为是匹配的：

  1. GET /my_index/my_type/_search
  2. {
  3.     "query": {
  4.         "match": {
  5.             "text": {
  6.                 "query":                "Gesundheit",
  7.                 "minimum_should_match": "80%"
  8.             }
  9.         }
  10.     }
  11. }

这有点像全文搜索中霰弹枪式的策略，可能会导致倒排索引内容变多，尽管如此，在索引具有很多复合词的语言，或词之间没有空格的语言（如：泰语）时，它仍不失为一种通用且有效的方法。

这种技术可以用来提升 召回率 ——搜索结果中相关的文档数。它通常会与其他技术一起使用，例如 shingles（参见 <> ），以提高精度和每个文档的相关度评分。