快捷導(dǎo)航

java利用jieba進(jìn)行分詞的實現(xiàn)

更新時間：2025年03月10日 08:32:35 作者：Vic10101

本文主要介紹了在Java中使用jieba-analysis庫進(jìn)行分詞,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧

1. 添加依賴

首先，需要在項目的pom.xml文件中添加jieba-analysis的依賴。如果你使用的是Maven項目，可以添加以下依賴：

<dependency>
    <groupId>com.huaban</groupId>
    <artifactId>jieba-analysis</artifactId>
    <version>1.0.2</version>
</dependency>

如果你使用的是Gradle項目，可以在build.gradle文件中添加以下依賴：

implementation 'com.huaban:jieba-analysis:1.0.2'

2. 使用jieba進(jìn)行分詞

以下是使用jieba-analysis進(jìn)行分詞的示例代碼：

示例代碼

import com.huaban.analysis.jieba.JiebaSegmenter;
import com.huaban.analysis.jieba.SegResult;

import java.util.List;

public class JiebaDemo {
    public static void main(String[] args) {
        // 創(chuàng)建分詞器對象
        JiebaSegmenter segmenter = new JiebaSegmenter();

        // 待分詞的文本
        String text = "小米13 Pro 5G手機(jī)，性價比超高！";

        // 使用精確模式分詞
        List<String> segList = segmenter.sentenceProcess(text);
        System.out.println("精確模式分詞結(jié)果：");
        for (String word : segList) {
            System.out.println(word);
        }

        // 使用全模式分詞
        List<SegToken> process = segmenter.process(text, JiebaSegmenter.SegMode.SEARCH);
        List<String> fullSegList = process.stream().map(data->data.word).collect(Collectors.toList());
        System.out.println("搜索引擎模式分詞結(jié)果：");
        for (String word : fullSegList) {
            System.out.println(word);
        }
    }
}

輸出結(jié)果

假設(shè)輸入文本為"小米13 Pro 5G手機(jī)，性價比超高！"，運行上述代碼后，輸出可能如下：

精確模式分詞結(jié)果：
小米
13
Pro
5G
手機(jī)
，
性價比
超高
！

搜索引擎模式分詞結(jié)果：
小米
13
Pro
5G
手機(jī)
性價比
超高

3. 分詞模式說明

jieba-analysis支持以下幾種分詞模式：

精確模式：試圖將句子最精確地切開，適合文本分析。
- 調(diào)用方法：segmenter.sentenceProcess(text)
全模式：把句子中所有可能的詞語都掃描出來，速度非?？?，但是不能解決歧義。
- 調(diào)用方法：segmenter.process(text, JiebaSegmenter.SegMode.FULL)
搜索引擎模式：在精確模式的基礎(chǔ)上，對長詞再次切分，提高召回率，適合用于搜索引擎構(gòu)建倒排索引的分詞，粒度比較細(xì)。
- 調(diào)用方法：segmenter.process(text, JiebaSegmenter.SegMode.SEARCH)

4. 應(yīng)用場景

在你的數(shù)據(jù)庫分詞方案中，可以使用jieba-analysis對product表中的title字段進(jìn)行分詞，并將分詞結(jié)果存儲到product_keyword表中。以下是完整的流程代碼示例：

示例：分詞并存儲到數(shù)據(jù)庫

import com.huaban.analysis.jieba.JiebaSegmenter;
import java.sql.Connection;
import java.sql.DriverManager;
import java.sql.PreparedStatement;
import java.util.List;

public class JiebaWithDatabase {
    public static void main(String[] args) {
        // 數(shù)據(jù)庫連接信息
        String url = "jdbc:mysql://localhost:3306/your_database";
        String user = "your_username";
        String password = "your_password";

        // 待分詞的文本
        String text = "小米13 Pro 5G手機(jī)，性價比超高！";
        int productId = 1; // 假設(shè)這是商品ID

        // 創(chuàng)建分詞器
        JiebaSegmenter segmenter = new JiebaSegmenter();

        // 使用精確模式分詞
        List<String> segList = segmenter.sentenceProcess(text);

        // 連接數(shù)據(jù)庫并插入分詞結(jié)果
        try (Connection conn = DriverManager.getConnection(url, user, password)) {
            String sql = "INSERT INTO product_keyword (product_id, keyword) VALUES (?, ?)";
            PreparedStatement pstmt = conn.prepareStatement(sql);

            for (String word : segList) {
                pstmt.setInt(1, productId);
                pstmt.setString(2, word);
                pstmt.executeUpdate();
            }

            System.out.println("分詞結(jié)果已存儲到數(shù)據(jù)庫！");
        } catch (Exception e) {
            e.printStackTrace();
        }
    }
}