最近B站上看到不少關(guān)于利用deepseek模型搭建私有知識(shí)問(wèn)答庫(kù)的視頻，講的都很好，不過(guò)在我實(shí)際去操作時(shí)，還是遇到很多問(wèn)題，花了兩天時(shí)間才一一搞定，在此分享一下，方便大家避坑，如果有其他問(wèn)題也歡迎發(fā)在文章評(píng)論區(qū)中一起討論。

關(guān)于整個(gè)搭建流程，在此我就不詳細(xì)展示，大家也可以看完他們的視頻再?lài)L試去搭建一下，如果遇到問(wèn)題，再回頭看看這篇文章看能不能找到答案，本篇文章我們著重講一下我遇到的問(wèn)題和解決辦法：

搭建的主要步驟如下：

1. 下載ollama 安裝
2. OLLAMA_HOST 0.0.0.0:11434  OLLAMA_MODELS  E:\ollama\modules ，重啟電腦
3. 在cmd中 運(yùn)行命令ollama run deepseek-r1:1.5b
4. 安裝docker desktop  ， 修改國(guó)內(nèi)鏡像源
5. 下載ragFlow 源碼工程
6. 進(jìn)入源碼工程，修改配置文件 ragflow-main\docker\.env 注釋掉84行，打開(kāi)115和122行注釋
7. 在ragFlow 源碼工程 根目錄執(zhí)行命令 docker compose -f docker/docker-compose.yml up -d
8. 瀏覽器中訪問(wèn) localhost:80 

BTY:上面步驟中需要下載3個(gè)東西， ollama exe安裝包，ragFlow 源碼工程以及docker desktop

docker desktop 大家登錄官網(wǎng)就可以下載到， ollama安裝包和ragFlow 源碼工程在我分享的資源，《搭建私有AIGC知識(shí)問(wèn)答域 ollama0+ragflow-main》，百度網(wǎng)盤(pán)下載地址如下：

鏈接: https://pan.baidu.com/s/114iqfr1mq4FE2RK_b0bO8w?pwd=285r

提取碼: 285r 

《搭建私有AIGC知識(shí)問(wèn)答域 ollama0+ragflow-main》

下面說(shuō)一下注意點(diǎn)：

1. 第1步大家在安裝完ollama后，需要到系統(tǒng)環(huán)境變量中添加兩個(gè)變量

OLLAMA_HOST   值       0.0.0.0:11434

OLLAMA_MODELS  值      E:\ollama\modules

其中 OLLAMA_MODELS 值大家可以自己定義到空間較大的一個(gè)盤(pán)符，主要是避免后期如果下載模型比較大，將默認(rèn)安裝的C盤(pán)撐滿(mǎn)，在配置好這兩個(gè)環(huán)境變量后需要重啟一下電腦，原因是B站一個(gè)小姐姐分享時(shí)說(shuō)，如果此時(shí)不重啟，等下載完模型，以后再重啟的話(huà)，之前下載的模型會(huì)隨風(fēng)消逝，這點(diǎn)我沒(méi)試過(guò)，既然能避免，就沒(méi)必要浪費(fèi)時(shí)間去體驗(yàn)了，我就照做了。這樣我們上面1,2 兩步就完成了

2. 第3步 “在cmd中 運(yùn)行命令 ollama run deepseek-r1:1.5b”

大家可以登錄ollama 官網(wǎng) Ollama

選擇模型進(jìn)行下載，現(xiàn)在deepseek 模型恰好就在第一位，如果不在搜索一下即可。

ollama run deepseek-r1:1.5b 關(guān)于這條命令大家可以按照上面兩幅圖步驟操作，選擇好模型復(fù)制即可。如果大家只是體驗(yàn)一把功能，選擇1.5b即可，如果大家財(cái)力雄厚，有NVIDIA 顯卡，可以挑戰(zhàn)一把 671b的模型。

注：我在這步時(shí)之前遇到過(guò)一個(gè)問(wèn)題，就是執(zhí)行 ollama run deepseek-r1:1.5b 命令后中途斷掉了，但是后續(xù)再執(zhí)行時(shí)一直報(bào)服務(wù) 500錯(cuò)誤，解決辦法就是將 ollama run deepseek-r1:1.5b 修改為 ollama pull deepseek-r1:1.5b 就可以正常拉取了。后續(xù)操作不影響

3. 第4步 “安裝docker desktop  ， 修改國(guó)內(nèi)鏡像源”

關(guān)于這個(gè)步驟有兩點(diǎn)需要說(shuō)明：

3.1. 安裝docker desktop

由于desktop默認(rèn)是安裝在C盤(pán)的，但是后面在下載鏡像時(shí)不出意外很快就會(huì)將C盤(pán)撐滿(mǎn)，一直提示空間不足，在后面步驟要同步的ragFlow鏡像就有20多G，所以此處最好在安裝docker desktop之前做一下盤(pán)符映射，將C盤(pán)docker目錄映射出去，在cmd中執(zhí)行如下4條命令：

注：在執(zhí)行命令之前要先建立其他盤(pán)符對(duì)應(yīng)的目錄， 此時(shí)C盤(pán)中也不能存在docker對(duì)應(yīng)的目錄，如果以前已經(jīng)安裝過(guò)，需要先保存?zhèn)浞輸?shù)據(jù)，再卸載 docker desktop , 將C盤(pán)對(duì)應(yīng)的下面4個(gè)docker 目錄刪除，再執(zhí)行

mklink /j "C:\Program Files\Docker" "F:\myDocker\Docker"
mklink /j "C:\Users\Administrator\AppData\Local\Docker" "F:\myDocker\Docker\Local"
mklink /j "C:\Users\Administrator\AppData\Roaming\Docker" "F:\myDocker\Docker\Roaming\Docker"
mklink /j "C:\Users\Administrator\AppData\Roaming\Docker Desktop" "F:\myDocker\Docker\Roaming\Docker Desktop"

執(zhí)行命令之后C盤(pán)中對(duì)應(yīng)的docker目錄就會(huì)變成快捷方式圖標(biāo)

3.2. 鏡像源：

如果大家會(huì)科學(xué)上網(wǎng)，可以跳過(guò)此步驟，在編寫(xiě)文章時(shí)，下面國(guó)內(nèi)鏡像源還是可以使用的：

"registry-mirrors": [
    "https://hub.rat.dev",
    "https://docker.m.daocloud.io",
    "https://docker.1panel.live/",
    "https://docker.hpcloud.cloud",
    "https://docker.m.daocloud.io",
    "https://docker.unsee.tech",
    "https://docker.1panel.live",
    "http://mirrors.ustc.edu.cn",
    "https://docker.chenby.cn",
    "http://mirror.azure.cn",
    "https://dockerpull.org",
    "https://dockerhub.icu",
    "https://hub.rat.dev"
  ]

將上面鏡像源配置到docker desktop 中，要滿(mǎn)足json語(yǔ)法格式，點(diǎn)擊應(yīng)用重啟docker desktop，如下圖：

4. 第5步  “下載ragFlow 源碼工程”

4.1 在下載好ragFlow 源碼工程后需要修改配置文件

配置文件目錄： ragflow-main\docker\.env

4.1.1 會(huì)科學(xué)上網(wǎng)：

打開(kāi)87行，注釋掉84行， 87會(huì)自動(dòng)下載包含embedding 模型的庫(kù)， 84行則下載簡(jiǎn)化庫(kù)。

4.1.2 不會(huì)科學(xué)上網(wǎng)

注釋掉84行，87行， 打開(kāi) 115行和122行， 第115行時(shí)國(guó)內(nèi)華為鏡像

5. 第7 步執(zhí)行命令行

5.1 執(zhí)行此命令行之前需要打開(kāi) docker desktop

5.2  保存鏡像的磁盤(pán)空間要大于25G

我遇到的問(wèn)題就是報(bào)空間不足，修改了很多目錄還是又問(wèn)題，最后通過(guò)3.1 中的方式才將問(wèn)題解決。

在工程根目錄執(zhí)行：docker compose -f docker/docker-compose.yml up -d

執(zhí)行完以上步驟如果沒(méi)報(bào)錯(cuò)的話(huà)，就可以在瀏覽器中訪問(wèn) localhost:80 了

在進(jìn)入ragFlow 界面后進(jìn)行用戶(hù)注冊(cè)，加載deepseek 模型，具體步驟可以先參考B站視頻，后面有啥問(wèn)題，還會(huì)繼續(xù)分享。

6. 在聊天中問(wèn)題長(zhǎng)時(shí)間沒(méi)響應(yīng)

經(jīng)過(guò)幾天的嘗試，這個(gè)問(wèn)題最終解決，不是任何軟件問(wèn)題，是硬件問(wèn)題，把以前16G內(nèi)存緩存32G的就解決了，圖片如下：

注：修改docker desktop 占用內(nèi)存方法，進(jìn)入 C:\Users\{自己用戶(hù)名}

新建一個(gè)文件 .wslconfig ，內(nèi)容添加

[wsl2]
memory=16GB 

最后記得重啟docker desktop

補(bǔ)充一下：在添加LLM時(shí)，我的基礎(chǔ)URL 填的是 http://host.docker.internal:11434

 最大token數(shù)，如果硬件不強(qiáng)悍的話(huà)，寫(xiě)的小一點(diǎn)比如512，寫(xiě)多了會(huì)很慢。

到此這篇關(guān)于國(guó)內(nèi)環(huán)境搭建私有知識(shí)問(wèn)答庫(kù)踩坑記錄(ollama+deepseek+ragflow)的文章就介紹到這了,更多相關(guān)ollama deepseek ragflow知識(shí)問(wèn)答庫(kù)內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！

最新評(píng)論