最近B站上看到不少關(guān)于利用deepseek模型搭建私有知識問答庫的視頻，講的都很好，不過在我實際去操作時，還是遇到很多問題，花了兩天時間才一一搞定，在此分享一下，方便大家避坑，如果有其他問題也歡迎發(fā)在文章評論區(qū)中一起討論。

關(guān)于整個搭建流程，在此我就不詳細展示，大家也可以看完他們的視頻再嘗試去搭建一下，如果遇到問題，再回頭看看這篇文章看能不能找到答案，本篇文章我們著重講一下我遇到的問題和解決辦法：

搭建的主要步驟如下：

1. 下載ollama 安裝
2. OLLAMA_HOST 0.0.0.0:11434  OLLAMA_MODELS  E:\ollama\modules ，重啟電腦
3. 在cmd中 運行命令ollama run deepseek-r1:1.5b
4. 安裝docker desktop  ， 修改國內(nèi)鏡像源
5. 下載ragFlow 源碼工程
6. 進入源碼工程，修改配置文件 ragflow-main\docker\.env 注釋掉84行，打開115和122行注釋
7. 在ragFlow 源碼工程 根目錄執(zhí)行命令 docker compose -f docker/docker-compose.yml up -d
8. 瀏覽器中訪問 localhost:80 

BTY:上面步驟中需要下載3個東西， ollama exe安裝包，ragFlow 源碼工程以及docker desktop

docker desktop 大家登錄官網(wǎng)就可以下載到， ollama安裝包和ragFlow 源碼工程在我分享的資源，《搭建私有AIGC知識問答域 ollama0+ragflow-main》，百度網(wǎng)盤下載地址如下：

鏈接: https://pan.baidu.com/s/114iqfr1mq4FE2RK_b0bO8w?pwd=285r

提取碼: 285r 

《搭建私有AIGC知識問答域 ollama0+ragflow-main》

下面說一下注意點：

1. 第1步大家在安裝完ollama后，需要到系統(tǒng)環(huán)境變量中添加兩個變量

OLLAMA_HOST   值       0.0.0.0:11434

OLLAMA_MODELS  值      E:\ollama\modules

其中 OLLAMA_MODELS 值大家可以自己定義到空間較大的一個盤符，主要是避免后期如果下載模型比較大，將默認(rèn)安裝的C盤撐滿，在配置好這兩個環(huán)境變量后需要重啟一下電腦，原因是B站一個小姐姐分享時說，如果此時不重啟，等下載完模型，以后再重啟的話，之前下載的模型會隨風(fēng)消逝，這點我沒試過，既然能避免，就沒必要浪費時間去體驗了，我就照做了。這樣我們上面1,2 兩步就完成了

2. 第3步 “在cmd中 運行命令 ollama run deepseek-r1:1.5b”

大家可以登錄ollama 官網(wǎng) Ollama

選擇模型進行下載，現(xiàn)在deepseek 模型恰好就在第一位，如果不在搜索一下即可。

ollama run deepseek-r1:1.5b 關(guān)于這條命令大家可以按照上面兩幅圖步驟操作，選擇好模型復(fù)制即可。如果大家只是體驗一把功能，選擇1.5b即可，如果大家財力雄厚，有NVIDIA 顯卡，可以挑戰(zhàn)一把 671b的模型。

注：我在這步時之前遇到過一個問題，就是執(zhí)行 ollama run deepseek-r1:1.5b 命令后中途斷掉了，但是后續(xù)再執(zhí)行時一直報服務(wù) 500錯誤，解決辦法就是將 ollama run deepseek-r1:1.5b 修改為 ollama pull deepseek-r1:1.5b 就可以正常拉取了。后續(xù)操作不影響

3. 第4步 “安裝docker desktop  ， 修改國內(nèi)鏡像源”

關(guān)于這個步驟有兩點需要說明：

3.1. 安裝docker desktop

由于desktop默認(rèn)是安裝在C盤的，但是后面在下載鏡像時不出意外很快就會將C盤撐滿，一直提示空間不足，在后面步驟要同步的ragFlow鏡像就有20多G，所以此處最好在安裝docker desktop之前做一下盤符映射，將C盤docker目錄映射出去，在cmd中執(zhí)行如下4條命令：

注：在執(zhí)行命令之前要先建立其他盤符對應(yīng)的目錄， 此時C盤中也不能存在docker對應(yīng)的目錄，如果以前已經(jīng)安裝過，需要先保存?zhèn)浞輸?shù)據(jù)，再卸載 docker desktop , 將C盤對應(yīng)的下面4個docker 目錄刪除，再執(zhí)行

mklink /j "C:\Program Files\Docker" "F:\myDocker\Docker"
mklink /j "C:\Users\Administrator\AppData\Local\Docker" "F:\myDocker\Docker\Local"
mklink /j "C:\Users\Administrator\AppData\Roaming\Docker" "F:\myDocker\Docker\Roaming\Docker"
mklink /j "C:\Users\Administrator\AppData\Roaming\Docker Desktop" "F:\myDocker\Docker\Roaming\Docker Desktop"

執(zhí)行命令之后C盤中對應(yīng)的docker目錄就會變成快捷方式圖標(biāo)

3.2. 鏡像源：

如果大家會科學(xué)上網(wǎng)，可以跳過此步驟，在編寫文章時，下面國內(nèi)鏡像源還是可以使用的：

"registry-mirrors": [
    "https://hub.rat.dev",
    "https://docker.m.daocloud.io",
    "https://docker.1panel.live/",
    "https://docker.hpcloud.cloud",
    "https://docker.m.daocloud.io",
    "https://docker.unsee.tech",
    "https://docker.1panel.live",
    "http://mirrors.ustc.edu.cn",
    "https://docker.chenby.cn",
    "http://mirror.azure.cn",
    "https://dockerpull.org",
    "https://dockerhub.icu",
    "https://hub.rat.dev"
  ]

將上面鏡像源配置到docker desktop 中，要滿足json語法格式，點擊應(yīng)用重啟docker desktop，如下圖：

4. 第5步  “下載ragFlow 源碼工程”

4.1 在下載好ragFlow 源碼工程后需要修改配置文件

配置文件目錄： ragflow-main\docker\.env

4.1.1 會科學(xué)上網(wǎng)：

打開87行，注釋掉84行， 87會自動下載包含embedding 模型的庫， 84行則下載簡化庫。

4.1.2 不會科學(xué)上網(wǎng)

注釋掉84行，87行， 打開 115行和122行， 第115行時國內(nèi)華為鏡像

5. 第7 步執(zhí)行命令行

5.1 執(zhí)行此命令行之前需要打開 docker desktop

5.2  保存鏡像的磁盤空間要大于25G

我遇到的問題就是報空間不足，修改了很多目錄還是又問題，最后通過3.1 中的方式才將問題解決。

在工程根目錄執(zhí)行：docker compose -f docker/docker-compose.yml up -d

執(zhí)行完以上步驟如果沒報錯的話，就可以在瀏覽器中訪問 localhost:80 了

在進入ragFlow 界面后進行用戶注冊，加載deepseek 模型，具體步驟可以先參考B站視頻，后面有啥問題，還會繼續(xù)分享。

6. 在聊天中問題長時間沒響應(yīng)

經(jīng)過幾天的嘗試，這個問題最終解決，不是任何軟件問題，是硬件問題，把以前16G內(nèi)存緩存32G的就解決了，圖片如下：

注：修改docker desktop 占用內(nèi)存方法，進入 C:\Users\{自己用戶名}

新建一個文件 .wslconfig ，內(nèi)容添加

[wsl2]
memory=16GB 

最后記得重啟docker desktop

補充一下：在添加LLM時，我的基礎(chǔ)URL 填的是 http://host.docker.internal:11434

 最大token數(shù)，如果硬件不強悍的話，寫的小一點比如512，寫多了會很慢。

到此這篇關(guān)于國內(nèi)環(huán)境搭建私有知識問答庫踩坑記錄(ollama+deepseek+ragflow)的文章就介紹到這了,更多相關(guān)ollama deepseek ragflow知識問答庫內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！

最新評論