深度解析MySQL 5.7之中文全文檢索
前言
其實(shí)全文檢索在MySQL里面很早就支持了,只不過(guò)一直以來(lái)只支持英文。緣由是他從來(lái)都使用空格來(lái)作為分詞的分隔符,而對(duì)于中文來(lái)講,顯然用空格就不合適,需要針對(duì)中文語(yǔ)義進(jìn)行分詞。這不,從MySQL 5.7開(kāi)始,MySQL內(nèi)置了ngram全文檢索插件,用來(lái)支持中文分詞,并且對(duì)MyISAM和InnoDB引擎有效。
在使用中文檢索分詞插件ngram之前,先得在MySQL配置文件里面設(shè)置他的分詞大小,比如,
[mysqld] ngram_token_size=2
這里把分詞大小設(shè)置為2。要記住,分詞的SIZE越大,索引的體積就越大,所以要根據(jù)自身情況來(lái)設(shè)置合適的大小。
示例表結(jié)構(gòu):
CREATE TABLE articles ( id INTUNSIGNED AUTO_INCREMENT NOT NULL PRIMARY KEY, titleVARCHAR(200), body TEXT, FULLTEXT (title,body) WITH PARSER ngram ) ENGINE=InnoDBCHARACTER SET utf8mb4;
示例數(shù)據(jù),有6行記錄。
mysql> select * from articles\G ***************************1. row *************************** id: 1 title: 數(shù)據(jù)庫(kù)管理 body: 在本教程中我將向你展示如何管理數(shù)據(jù)庫(kù) ***************************2. row *************************** id: 2 title: 數(shù)據(jù)庫(kù)應(yīng)用開(kāi)發(fā) body: 學(xué)習(xí)開(kāi)發(fā)數(shù)據(jù)庫(kù)應(yīng)用程序 ***************************3. row *************************** id: 3 title: MySQL完全手冊(cè) body: 學(xué)習(xí)MySQL的一切 ***************************4. row *************************** id: 4 title: 數(shù)據(jù)庫(kù)與事務(wù)處理 body: 系統(tǒng)的學(xué)習(xí)數(shù)據(jù)庫(kù)的事務(wù)概論 ***************************5. row *************************** id: 5 title: NoSQL精髓 body: 學(xué)習(xí)了解各種非結(jié)構(gòu)化數(shù)據(jù)庫(kù) ***************************6. row *************************** id: 6 title: SQL 語(yǔ)言詳解 body: 詳細(xì)了解如果使用各種SQL 6 rows inset (0.00 sec)
顯式指定全文檢索表源
mysql> SETGLOBAL innodb_ft_aux_table="new_feature/articles"; Query OK, 0 rows affected (0.00 sec)
通過(guò)系統(tǒng)表,就可以查看到底是怎么劃分articles里的數(shù)據(jù)。
mysql> SELECT *FROM information_schema.INNODB_FT_INDEX_CACHE LIMIT 20,10; +------+--------------+-------------+-----------+--------+----------+ | WORD | FIRST_DOC_ID | LAST_DOC_ID | DOC_COUNT | DOC_ID| POSITION | +------+--------------+-------------+-----------+--------+----------+ | 中我 | 2 | 2 | 1 | 2 | 28 | | 習(xí)m | 4 | 4 | 1 | 4 | 21 | | 習(xí)了 | 6 | 6 | 1 | 6 | 16 | | 習(xí)開(kāi) | 3 | 3 | 1 | 3 | 25 | | 習(xí)數(shù) | 5 | 5 | 1 | 5 | 37 | | 了解 | 6 | 7 | 2 | 6 | 19 | | 了解 | 6 | 7 | 2 | 7 | 23 | | 事務(wù) | 5 | 5 | 1 | 5 | 12 | | 事務(wù) | 5 | 5 | 1 | 5 | 40 | | 何管 | 2 | 2 | 1 | 2 | 52 | +------+--------------+-------------+-----------+--------+----------+ 10 rows in set (0.00 sec)
這里可以看到,把分詞長(zhǎng)度設(shè)置為2,所有的數(shù)據(jù)都只有兩個(gè)一組。上面數(shù)據(jù)還包含了行的位置,ID等等信息。
接下來(lái),我來(lái)進(jìn)行一系列檢索示范,使用方法和原來(lái)英文檢索一致。
一、自然語(yǔ)言模式下檢索:
1、得到符合條件的個(gè)數(shù),
mysql>SELECT COUNT(*) FROM articles -> WHERE MATCH (title,body) AGAINST ('數(shù)據(jù)庫(kù)' IN NATURALLANGUAGE MODE); +----------+ | COUNT(*) | +----------+ | 4 | +----------+ 1 row in set (0.05 sec)
2、得到匹配的比率,
mysql>SELECT id, MATCH (title,body) AGAINST ('數(shù)據(jù)庫(kù)' IN NATURAL LANGUAGE MODE) AS score FROM articles; +----+----------------------+ | id| score | +----+----------------------+ | 1 | 0.12403252720832825 | | 2 | 0.12403252720832825 | | 3 | 0 | | 4 | 0.12403252720832825 | | 5 | 0.062016263604164124| | 6 | 0 | +----+----------------------+ 6rows in set (0.00 sec)
二、布爾模式下搜索,這個(gè)就相對(duì)于自然模式搜索來(lái)的復(fù)雜些:
1、匹配既有管理又有數(shù)據(jù)庫(kù)的記錄,
mysql> SELECT * FROM articles WHERE MATCH (title,body) -> AGAINST ('+數(shù)據(jù)庫(kù) +管理' IN BOOLEAN MODE); +----+------------+--------------------------------------+ | id| title | body | +----+------------+--------------------------------------+ | 1 | 數(shù)據(jù)庫(kù)管理 | 在本教程中我將向你展示如何管理數(shù)據(jù)庫(kù) | +----+------------+--------------------------------------+ 1 rowin set (0.00 sec)
2、匹配有數(shù)據(jù)庫(kù),但是沒(méi)有管理的記錄,
mysql> SELECT * FROM articles WHERE MATCH (title,body) -> AGAINST ('+數(shù)據(jù)庫(kù) -管理' IN BOOLEAN MODE); +----+------------------+----------------------------+ | id| title | body | +----+------------------+----------------------------+ | 2 | 數(shù)據(jù)庫(kù)應(yīng)用開(kāi)發(fā) | 學(xué)習(xí)開(kāi)發(fā)數(shù)據(jù)庫(kù)應(yīng)用程序 | | 4 | 數(shù)據(jù)庫(kù)與事務(wù)處理 | 系統(tǒng)的學(xué)習(xí)數(shù)據(jù)庫(kù)的事務(wù)概論 | | 5 | NoSQL 精髓 | 學(xué)習(xí)了解各種非結(jié)構(gòu)化數(shù)據(jù)庫(kù) | +----+------------------+----------------------------+ 3 rows in set (0.00 sec)
3、匹配MySQL,但是把數(shù)據(jù)庫(kù)的相關(guān)性降低,
mysql> SELECT * FROM articles WHERE MATCH (title,body) -> AGAINST ('>數(shù)據(jù)庫(kù) +MySQL' INBOOLEAN MODE); +----+---------------+-----------------+ | id| title | body | +----+---------------+-----------------+ | 3 | MySQL完全手冊(cè) |學(xué)習(xí)MySQL的一切 | +----+---------------+-----------------+ 1 rowin set (0.00 sec)
三、查詢(xún)擴(kuò)展模式,比如要搜索數(shù)據(jù)庫(kù),那么MySQL,oracle,DB2也都將會(huì)被搜索到,
mysql> SELECT * FROM articles -> WHERE MATCH (title,body) -> AGAINST ('數(shù)據(jù)庫(kù)' WITH QUERY EXPANSION); +----+------------------+--------------------------------------+ | id| title | body | +----+------------------+--------------------------------------+ | 1 | 數(shù)據(jù)庫(kù)管理 | 在本教程中我將向你展示如何管理數(shù)據(jù)庫(kù) | | 4 | 數(shù)據(jù)庫(kù)與事務(wù)處理 | 系統(tǒng)的學(xué)習(xí)數(shù)據(jù)庫(kù)的事務(wù)概論 | | 2 | 數(shù)據(jù)庫(kù)應(yīng)用開(kāi)發(fā) | 學(xué)習(xí)開(kāi)發(fā)數(shù)據(jù)庫(kù)應(yīng)用程序 | | 5 | NoSQL 精髓 | 學(xué)習(xí)了解各種非結(jié)構(gòu)化數(shù)據(jù)庫(kù) | | 6 | SQL 語(yǔ)言詳解 | 詳細(xì)了解如果使用各種SQL | | 3 | MySQL完全手冊(cè) | 學(xué)習(xí)MySQL的一切 | +----+------------------+--------------------------------------+ 6 rows in set (0.01 sec)
當(dāng)然,我這里只是功能演示,更多的性能測(cè)試,大家有興趣可以進(jìn)行詳細(xì)測(cè)試。由于N-grm是中文檢索常用的分詞算法,已經(jīng)在互聯(lián)網(wǎng)大量使用,這次集成到MySQL中,想必效果上不會(huì)有太大的問(wèn)題。
總結(jié)
以上就是這篇文章的全部?jī)?nèi)容了,希望本文的內(nèi)容對(duì)大家的學(xué)習(xí)或者工作能帶來(lái)一定的幫助,如果有疑問(wèn)大家可以留言交流。
相關(guān)文章
與MSSQL對(duì)比學(xué)習(xí)MYSQL的心得(八)--插入 更新 刪除
這一篇《與MSSQL對(duì)比學(xué)習(xí)MYSQL的心得(八)》將會(huì)講解MYSQL的插入、更新和刪除語(yǔ)句2014-08-08mysql線上查詢(xún)前要注意資源限制的實(shí)現(xiàn)
在數(shù)據(jù)庫(kù)管理中,限制查詢(xún)資源是避免單個(gè)查詢(xún)消耗過(guò)多資源導(dǎo)致系統(tǒng)性能下降的重要手段,本文就來(lái)介紹了mysql線上查詢(xún)前要注意資源限制的實(shí)現(xiàn),感興趣的可以了解一下2024-10-10設(shè)置MySQLroot賬戶(hù)密碼報(bào)錯(cuò)ERROR 1064 (42000): You 
在安裝mysql的時(shí)候,設(shè)置root賬戶(hù)密碼出現(xiàn)了ERROR 1064 (42000): You have an error in your SQL syntax; check the manual that corresponds..錯(cuò)誤,本文小編給大家介紹了相關(guān)的解決方案,需要的朋友可以參考下2023-12-12MySQL二進(jìn)制日志(bin_log)的作用與使用方法
BinLog又稱(chēng)為二進(jìn)制日志,是MySQL服務(wù)層的數(shù)據(jù)日志,MySQL所有的存儲(chǔ)引擎都支持BinLog,這篇文章主要給大家介紹了關(guān)于MySQL二進(jìn)制日志(bin_log)的作用與使用方法的相關(guān)資料,需要的朋友可以參考下2024-06-06Centos中徹底刪除Mysql(rpm、yum安裝的情況)
這篇文章主要介紹了Centos中徹底刪除Mysql(rpm、yum安裝的情況),本文直接給出操作代碼,需要的朋友可以參考下2015-02-02