Elasticsearch 入门教程 – 多字段 most-fiels 与cross-fields 策略

     首先得理解上章节说到的best-fields策略,主要是说将某一个field匹配尽可能多的关键词的doc优先返回回来

而most-fields策略,主要是说尽可能返回更多field匹配到某个关键词的doc,优先返回回来

   准备数据:

POST /forum/_mapping/article
{
  "properties": {
      "sub_title": { 
          "type":     "string",
          "analyzer": "english",
          "fields": {
              "std":   { 
                  "type":     "string",
                  "analyzer": "standard"
              }
          }
      }
  }
}
POST /forum/article/_bulk
{ "update": { "_id": "1"} }
{ "doc" : {"sub_title" : "learning more courses"} }
{ "update": { "_id": "2"} }
{ "doc" : {"sub_title" : "learned a lot of course"} }
{ "update": { "_id": "3"} }
{ "doc" : {"sub_title" : "we have a lot of fun"} }
{ "update": { "_id": "4"} }
{ "doc" : {"sub_title" : "both of them are good"} }
{ "update": { "_id": "5"} }
{ "doc" : {"sub_title" : "haha, hello world"} }

GET /forum/article/_search
{
  "query": {
    "match": {
      "sub_title": "learning courses"
    }
  }
}

   image.png

  当我们使用most_fields来查询sub_title和sub_title.std分词和不分词的field的时候可以看出most_fields的作用:

GET /forum/article/_search
{
   "query": {
        "multi_match": {
            "query":  "learning courses",
            "type":   "most_fields", 
            "fields": [ "sub_title", "sub_title.std" ]
        }
    }
}

     image.png

   尽管顺序没有变化(因为有其他因素的评分影响),但是匹配更多字段的doc的评分大幅度提升了

与best_fields的区别

    (1)best_fields,是对多个field进行搜索,挑选某个field匹配度最高的那个分数,同时在多个query最高分相同的情况下,在一定程度上考虑其他query的分数。简单来说,你对多个field进行搜索,就想搜索到某一个field尽可能包含更多关键字的数据

      优点:通过best_fields策略,以及综合考虑其他field,还有minimum_should_match支持,可以尽可能精准地将匹配的结果推送到最前面

       缺点:除了那些精准匹配的结果,其他差不多大的结果,排序结果不是太均匀,没有什么区分度了

     实际的例子:百度之类的搜索引擎,最匹配的到最前面,但是其他的就没什么区分度了

   (2)most_fields,综合多个field一起进行搜索,尽可能多地让所有field的query参与到总分数的计算中来,此时就会是个大杂烩,出现类似best_fields案例最开始的那个结果,结果不一定精准,某一个document的一个field包含更多的关键字,但是因为其他document有更多field匹配到了,所以排在了前面;所以需要建立类似sub_title.std这样的field,尽可能让某一个field精准匹配query string,贡献更高的分数,将更精准匹配的数据排到前面

     优点:将尽可能匹配更多field的结果推送到最前面,整个排序结果是比较均匀的

     缺点:可能那些精准匹配的结果,无法推送到最前面

    实际的例子:wiki,明显的most_fields策略,搜索结果比较均匀,但是的确要翻好几页才能找到最匹配的结果

在开发场景中,我们会有如下情况:

      跨多个fields搜索同一个标识,例如搜索一个人名,可能会去first-name和last-name两个field中进行搜索,此时most_fields或者best_fields将不能够满足我们的最佳需求 ;

POST /forum/article/_bulk
{ "update": { "_id": "1"} }
{ "doc" : {"author_first_name" : "Peter", "author_last_name" : "Smith"} }
{ "update": { "_id": "2"} }
{ "doc" : {"author_first_name" : "Smith", "author_last_name" : "Williams"} }
{ "update": { "_id": "3"} }
{ "doc" : {"author_first_name" : "Jack", "author_last_name" : "Ma"} }
{ "update": { "_id": "4"} }
{ "doc" : {"author_first_name" : "Robbin", "author_last_name" : "Li"} }
{ "update": { "_id": "5"} }
{ "doc" : {"author_first_name" : "Tonny", "author_last_name" : "Peter Smith"} }

GET /forum/article/_search
{
  "query": {
    "multi_match": {
      "query":       "Peter Smith",
      "type":        "most_fields",
      "fields":      [ "author_first_name", "author_last_name" ]
    }
  }
}

返回的结果score最高的是

    “author_first_name”: “Smith”, 

   “author_last_name”: “Williams”

而我们希望得到的结果是

    “author_first_name”: “Tonny”, 

    “author_last_name”: “Peter Smith”

     使用most_fields或者best_fields是不符合我们的需求的,针对多个field一些细微的relevence score算法会影响,多方面的影响是很复杂的,但是我们可以通过结果明确知道我们的结果却是被影响了。

 那我们有没有其它的方式—> cross-fields search 

       我们的解决方法是,将一个标识在跨fields的情况下,让多个field能够合并成一个field就能够解决我们的问题,比如说,一个人名会出现在first_name,last_name,现在能够合并成一个full_name就能够解决我们面临的问题

我们定义mapping来使用copy_to将多个field拷贝到一个field中去,并建立倒排索引供搜索:

PUT /forum/_mapping/article
{
  "properties": {
      "new_author_first_name": {
          "type":     "text",
          "copy_to":  "new_author_full_name" 
      },
      "new_author_last_name": {
          "type":     "text",
          "copy_to":  "new_author_full_name" 
      },
      "new_author_full_name": {
          "type":     "text"
      }
  }
}

POST /forum/article/_bulk
{"update":{"_id":"1"}}
{"doc":{"new_author_first_name":"Peter","new_author_last_name":"Smith"}}
{"update":{"_id":"2"}}
{"doc":{"new_author_first_name":"Smith","new_author_last_name":"Williams"}}
{"update":{"_id":"3"}}
{"doc":{"new_author_first_name":"Jack","new_author_last_name":"Ma"}}
{"update":{"_id":"4"}}
{"doc":{"new_author_first_name":"Robbin","new_author_last_name":"Li"}}
{"update":{"_id":"5"}}
{"doc":{"new_author_first_name":"Tonny","new_author_last_name":"Peter Smith"}}

 需要注意的是new_author_full_name是一个隐藏field,直接search并不会显示出来。然后对这个field直接进行搜索即可:

GET /forum/article/_search
{
 "query": {
   "match": {
     "new_author_full_name": "Peter Smith"
   }
 } 
}

总结: 

   问题1:之前的cross_fields只是尽可能找到多的field匹配的doc,而不是某个field完全匹配的doc 

        解决:合并成一个field之后是最匹配的doc被先返回 

   问题2:most_fields无法使用minimum_should_match来去长尾 

       解决:合并成一个field之后,在搜索的时候就可以进行去长尾 

   问题3:relevance score被TF/IDF因为多个field所影响而最终不是我们期望的结果 

        解决:合并之后参与评分的field相对于搜有的doc匹配的数量是相同的,数据相对均匀,不会有极端的偏差

使用原生cross_fields来实现我们的需求(推荐):

GET /forum/article/_search
{
  "query": {
    "multi_match": {
      "query": "Peter Smith",
      "operator":"and",
      "fields": ["author_first_name","author_last_name"],
      "type": "cross_fields"
    }
  }
}

 上述搜索条件为: 

      Peter必须在author_first_name或者author_last_name中出现 

      author_last_name必须在author_first_name或者author_last_name中出现 

     针对上述问题1,2的解决可以很好的理解,但是对于问题3,

      cross_field会取多个query针对每一个field的idf评分最小值,而不会出现极端的情况。(举例:Smith针对author_first_name出现的频率很少最后的idf分数会很小,而author_last_name却很大,最后取小的值会避免极端的情况)