欧美bbbwbbbw肥妇,免费乱码人妻系列日韩,一级黄片

深度解析MySQL 5.7之中文全文檢索

 更新時(shí)間:2016年12月19日 10:38:18   作者:楊濤濤  
InnoDB默認(rèn)的全文索引parser非常合適于Latin,因?yàn)長atin是通過空格來分詞的。但對于像中文,日文和韓文來說,沒有這樣的分隔符。一個(gè)詞可以由多個(gè)字來組成,所以我們需要用不同的方式來處理。在MySQL 5.7.6中我們能使用一個(gè)新的全文索引插件來處理它們:n-gram parser。

前言

其實(shí)全文檢索在MySQL里面很早就支持了,只不過一直以來只支持英文。緣由是他從來都使用空格來作為分詞的分隔符,而對于中文來講,顯然用空格就不合適,需要針對中文語義進(jìn)行分詞。這不,從MySQL 5.7開始,MySQL內(nèi)置了ngram全文檢索插件,用來支持中文分詞,并且對MyISAM和InnoDB引擎有效。

在使用中文檢索分詞插件ngram之前,先得在MySQL配置文件里面設(shè)置他的分詞大小,比如,

[mysqld]
ngram_token_size=2

這里把分詞大小設(shè)置為2。要記住,分詞的SIZE越大,索引的體積就越大,所以要根據(jù)自身情況來設(shè)置合適的大小。

示例表結(jié)構(gòu):

CREATE TABLE articles (
   id INTUNSIGNED AUTO_INCREMENT NOT NULL PRIMARY KEY,
   titleVARCHAR(200),
   body TEXT,
   FULLTEXT (title,body) WITH PARSER ngram
  ) ENGINE=InnoDBCHARACTER SET utf8mb4;

示例數(shù)據(jù),有6行記錄。

mysql> select * from articles\G
***************************1. row ***************************
  id: 1
title: 數(shù)據(jù)庫管理
 body: 在本教程中我將向你展示如何管理數(shù)據(jù)庫
***************************2. row ***************************
  id: 2
title: 數(shù)據(jù)庫應(yīng)用開發(fā)
 body: 學(xué)習(xí)開發(fā)數(shù)據(jù)庫應(yīng)用程序
***************************3. row ***************************
  id: 3
title: MySQL完全手冊
 body: 學(xué)習(xí)MySQL的一切
***************************4. row ***************************
  id: 4
title: 數(shù)據(jù)庫與事務(wù)處理
 body: 系統(tǒng)的學(xué)習(xí)數(shù)據(jù)庫的事務(wù)概論
***************************5. row ***************************
  id: 5
title: NoSQL精髓
 body: 學(xué)習(xí)了解各種非結(jié)構(gòu)化數(shù)據(jù)庫
***************************6. row ***************************
  id: 6
title: SQL 語言詳解
 body: 詳細(xì)了解如果使用各種SQL
6 rows inset (0.00 sec)

顯式指定全文檢索表源

mysql> SETGLOBAL innodb_ft_aux_table="new_feature/articles";
Query OK, 0 rows affected (0.00 sec)

通過系統(tǒng)表,就可以查看到底是怎么劃分articles里的數(shù)據(jù)。

mysql> SELECT *FROM information_schema.INNODB_FT_INDEX_CACHE LIMIT 20,10;
+------+--------------+-------------+-----------+--------+----------+
| WORD | FIRST_DOC_ID | LAST_DOC_ID | DOC_COUNT | DOC_ID| POSITION |
+------+--------------+-------------+-----------+--------+----------+
| 中我 |   2 |   2 |   1 |  2 |  28 |
| 習(xí)m |   4 |   4 |   1 |  4 |  21 |
| 習(xí)了 |   6 |   6 |   1 |  6 |  16 |
| 習(xí)開 |   3 |   3 |   1 |  3 |  25 |
| 習(xí)數(shù) |   5 |   5 |   1 |  5 |  37 |
| 了解 |   6 |   7 |   2 |  6 |  19 |
| 了解 |   6 |   7 |   2 |  7 |  23 |
| 事務(wù) |   5 |   5 |   1 |  5 |  12 |
| 事務(wù) |   5 |   5 |   1 |  5 |  40 |
| 何管 |   2 |   2 |   1 |  2 |  52 |
+------+--------------+-------------+-----------+--------+----------+
10 rows in set (0.00 sec)

這里可以看到,把分詞長度設(shè)置為2,所有的數(shù)據(jù)都只有兩個(gè)一組。上面數(shù)據(jù)還包含了行的位置,ID等等信息。

接下來,我來進(jìn)行一系列檢索示范,使用方法和原來英文檢索一致。

一、自然語言模式下檢索:

1、得到符合條件的個(gè)數(shù),

mysql>SELECT COUNT(*) FROM articles
-> WHERE MATCH (title,body) AGAINST ('數(shù)據(jù)庫' IN NATURALLANGUAGE MODE);
+----------+
| COUNT(*) |
+----------+
|  4 |
+----------+
1 row in set (0.05 sec)

2、得到匹配的比率,

 mysql>SELECT id, MATCH (title,body) AGAINST ('數(shù)據(jù)庫' IN NATURAL LANGUAGE MODE)
 AS score FROM articles;
+----+----------------------+
| id| score    |
+----+----------------------+
| 1 | 0.12403252720832825 |
| 2 | 0.12403252720832825 |
| 3 |     0 |
| 4 | 0.12403252720832825 |
| 5 | 0.062016263604164124|
| 6 |     0 |
+----+----------------------+
6rows in set (0.00 sec)

二、布爾模式下搜索,這個(gè)就相對于自然模式搜索來的復(fù)雜些:

1、匹配既有管理又有數(shù)據(jù)庫的記錄,

mysql> SELECT * FROM articles WHERE MATCH (title,body)
  ->  AGAINST ('+數(shù)據(jù)庫 +管理' IN BOOLEAN MODE);
+----+------------+--------------------------------------+
| id| title  | body         |
+----+------------+--------------------------------------+
| 1 | 數(shù)據(jù)庫管理 | 在本教程中我將向你展示如何管理數(shù)據(jù)庫  |
+----+------------+--------------------------------------+
1 rowin set (0.00 sec)

2、匹配有數(shù)據(jù)庫,但是沒有管理的記錄,

mysql> SELECT * FROM articles WHERE MATCH (title,body)
  ->  AGAINST ('+數(shù)據(jù)庫 -管理' IN BOOLEAN MODE);
+----+------------------+----------------------------+
| id| title    | body      |
+----+------------------+----------------------------+
| 2 | 數(shù)據(jù)庫應(yīng)用開發(fā)  | 學(xué)習(xí)開發(fā)數(shù)據(jù)庫應(yīng)用程序   |
| 4 | 數(shù)據(jù)庫與事務(wù)處理 | 系統(tǒng)的學(xué)習(xí)數(shù)據(jù)庫的事務(wù)概論  |
| 5 | NoSQL 精髓  | 學(xué)習(xí)了解各種非結(jié)構(gòu)化數(shù)據(jù)庫  |
+----+------------------+----------------------------+
3 rows in set (0.00 sec)

3、匹配MySQL,但是把數(shù)據(jù)庫的相關(guān)性降低,

mysql> SELECT * FROM articles WHERE MATCH (title,body)
  ->  AGAINST ('>數(shù)據(jù)庫 +MySQL' INBOOLEAN MODE);
+----+---------------+-----------------+
| id| title   | body   |
+----+---------------+-----------------+
| 3 | MySQL完全手冊 |學(xué)習(xí)MySQL的一切 |
+----+---------------+-----------------+
1 rowin set (0.00 sec)

三、查詢擴(kuò)展模式,比如要搜索數(shù)據(jù)庫,那么MySQL,oracle,DB2也都將會被搜索到,

mysql> SELECT * FROM articles
  ->  WHERE MATCH (title,body)
  ->  AGAINST ('數(shù)據(jù)庫' WITH QUERY EXPANSION);
+----+------------------+--------------------------------------+
| id| title   | body         |
+----+------------------+--------------------------------------+
| 1 | 數(shù)據(jù)庫管理  | 在本教程中我將向你展示如何管理數(shù)據(jù)庫  |
| 4 | 數(shù)據(jù)庫與事務(wù)處理 | 系統(tǒng)的學(xué)習(xí)數(shù)據(jù)庫的事務(wù)概論    |
| 2 | 數(shù)據(jù)庫應(yīng)用開發(fā)  | 學(xué)習(xí)開發(fā)數(shù)據(jù)庫應(yīng)用程序     |
| 5 | NoSQL 精髓  | 學(xué)習(xí)了解各種非結(jié)構(gòu)化數(shù)據(jù)庫    |
| 6 | SQL 語言詳解  | 詳細(xì)了解如果使用各種SQL     |
| 3 | MySQL完全手冊  | 學(xué)習(xí)MySQL的一切      |
+----+------------------+--------------------------------------+
6 rows in set (0.01 sec)

當(dāng)然,我這里只是功能演示,更多的性能測試,大家有興趣可以進(jìn)行詳細(xì)測試。由于N-grm是中文檢索常用的分詞算法,已經(jīng)在互聯(lián)網(wǎng)大量使用,這次集成到MySQL中,想必效果上不會有太大的問題。

總結(jié)

以上就是這篇文章的全部內(nèi)容了,希望本文的內(nèi)容對大家的學(xué)習(xí)或者工作能帶來一定的幫助,如果有疑問大家可以留言交流。

相關(guān)文章

  • 深入了解SQL注入

    深入了解SQL注入

    本篇文章通過SQL和MYSQL的對比,以及SQL注入的原理等方面詳細(xì)分析了SQL注入相關(guān)知識點(diǎn),對此有興趣的朋友學(xué)習(xí)下。
    2018-02-02
  • 與MSSQL對比學(xué)習(xí)MYSQL的心得(八)--插入 更新 刪除

    與MSSQL對比學(xué)習(xí)MYSQL的心得(八)--插入 更新 刪除

    這一篇《與MSSQL對比學(xué)習(xí)MYSQL的心得(八)》將會講解MYSQL的插入、更新和刪除語句
    2014-08-08
  • mysql線上查詢前要注意資源限制的實(shí)現(xiàn)

    mysql線上查詢前要注意資源限制的實(shí)現(xiàn)

    在數(shù)據(jù)庫管理中,限制查詢資源是避免單個(gè)查詢消耗過多資源導(dǎo)致系統(tǒng)性能下降的重要手段,本文就來介紹了mysql線上查詢前要注意資源限制的實(shí)現(xiàn),感興趣的可以了解一下
    2024-10-10
  • 設(shè)置MySQLroot賬戶密碼報(bào)錯ERROR 1064 (42000): You have an error in your SQL syntax;的解決方案

    設(shè)置MySQLroot賬戶密碼報(bào)錯ERROR 1064 (42000): You 

    在安裝mysql的時(shí)候,設(shè)置root賬戶密碼出現(xiàn)了ERROR 1064 (42000): You have an error in your SQL syntax; check the manual that corresponds..錯誤,本文小編給大家介紹了相關(guān)的解決方案,需要的朋友可以參考下
    2023-12-12
  • MySQL創(chuàng)建用戶的三種方法

    MySQL創(chuàng)建用戶的三種方法

    在對MySQL的日常管理和操作中,為了避免有人惡意使用root用戶控制數(shù)據(jù)庫,盡可能地不用或少用 root 用戶登錄系統(tǒng),本文主要介紹了MySQL創(chuàng)建用戶的三種方法,感興趣的可以了解一下
    2023-08-08
  • MySQL的索引你了解嗎

    MySQL的索引你了解嗎

    這篇文章主要為大家詳細(xì)介紹了MySQL的索引,文中示例代碼介紹的非常詳細(xì),具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下,希望能夠給你帶來幫助
    2022-03-03
  • mysql雙向加密解密方式用法詳解

    mysql雙向加密解密方式用法詳解

    這篇文章主要介紹了mysql雙向加密解密方式用法,需要的朋友可以參考下
    2014-04-04
  • MySQL二進(jìn)制日志(bin_log)的作用與使用方法

    MySQL二進(jìn)制日志(bin_log)的作用與使用方法

    BinLog又稱為二進(jìn)制日志,是MySQL服務(wù)層的數(shù)據(jù)日志,MySQL所有的存儲引擎都支持BinLog,這篇文章主要給大家介紹了關(guān)于MySQL二進(jìn)制日志(bin_log)的作用與使用方法的相關(guān)資料,需要的朋友可以參考下
    2024-06-06
  • MySQL游標(biāo)的使用方式

    MySQL游標(biāo)的使用方式

    這篇文章主要介紹了MySQL游標(biāo)的使用方式,具有很好的參考價(jià)值,希望對大家有所幫助,如有錯誤或未考慮完全的地方,望不吝賜教
    2024-01-01
  • Centos中徹底刪除Mysql(rpm、yum安裝的情況)

    Centos中徹底刪除Mysql(rpm、yum安裝的情況)

    這篇文章主要介紹了Centos中徹底刪除Mysql(rpm、yum安裝的情況),本文直接給出操作代碼,需要的朋友可以參考下
    2015-02-02

最新評論