桌面端 Deepseek 建立知識(shí)庫(kù)

在手機(jī)端部署本地 Deepseek 大模型相對(duì)復(fù)雜，但只要按照步驟操作，實(shí)際上可以很快完成部署。與此相比，桌面端的 Deepseek 部署要簡(jiǎn)單得多。桌面端不需要建立額外的環(huán)境，Windows 和 Mac 端的步驟大致相同，因此本文將重點(diǎn)介紹如何通過(guò)本地 Deepseek R1 模型在 Mac 端搭建自己的知識(shí)庫(kù)。

下載 Ollama 模型

首先，訪問(wèn) Ollama 官網(wǎng)，選擇并下載適合 Mac 系統(tǒng)的版本。下載完成后，按照提示完成安裝，安裝后將解壓得到的 Ollama 程序拖動(dòng)到“應(yīng)用程序”中。

接著，打開 Mac 系統(tǒng)的“終端”應(yīng)用(Windows 用戶則打開 CMD)，在終端中輸入需要下載的 Ollama 模型對(duì)應(yīng)的代碼。具體的代碼可以參考 Ollama 官網(wǎng)提供的說(shuō)明。如果電腦配置較強(qiáng)，可以選擇下載較大的模型版本。

需要注意的是，如果在下載過(guò)程中發(fā)現(xiàn)下載速度變慢，可以關(guān)閉當(dāng)前的“終端”窗口，再重新打開并輸入相同的指令。這樣可以恢復(fù)更高的下載速度，并且下載進(jìn)度會(huì)被保留，不會(huì)丟失。

搭建本地知識(shí)庫(kù)

完成 Ollama 模型的下載后，接下來(lái)是搭建知識(shí)庫(kù)。首先，訪問(wèn) “AnythingLLM” 官網(wǎng)，根據(jù)操作系統(tǒng)下載并安裝對(duì)應(yīng)的版本。

安裝完成后，打開程序，選擇 “Ollama” 作為模型提供方，并選擇 “8b （依據(jù)電腦配置）模型”。進(jìn)入下一步時(shí)，跳過(guò)郵箱填寫界面，直接創(chuàng)建一個(gè)新的工作區(qū)(Workspace)。

創(chuàng)建工作區(qū)后，進(jìn)入到對(duì)話界面。接下來(lái)，點(diǎn)擊工作區(qū) “Test001”的設(shè)置按鈕，進(jìn)入“聊天設(shè)置”頁(yè)面。在聊天提示框中對(duì) AI 助手進(jìn)行一些基本設(shè)定，以便模型能夠更快速、更精準(zhǔn)地回答用戶的問(wèn)題。同時(shí)，可以設(shè)置回答語(yǔ)言為中文，并保存這些設(shè)置。

接下來(lái)，需要上傳并嵌入知識(shí)庫(kù)文件。小編通過(guò) AI 創(chuàng)建了一家虛擬的游戲公司，并將公司簡(jiǎn)介整理成一個(gè) Word 文檔。在準(zhǔn)備好文件后，返回“Test001”工作區(qū)，點(diǎn)擊右側(cè)的上傳按鈕，將文件上傳至“My Documents”。選中該文件后，點(diǎn)擊 “Move to Workspace”，然后選擇 “Saved and Embed” 以保存文件，最后執(zhí)行“Pin to Workspace”操作。這些操作都會(huì)有提示，確保每個(gè)步驟都正確完成。

測(cè)試和提問(wèn)

知識(shí)庫(kù)搭建完成后，回到對(duì)話框，在工作區(qū)“Test001”中選擇 “New Thread” 創(chuàng)建一個(gè)新的對(duì)話框。此時(shí)，可以開始向模型提問(wèn)與知識(shí)庫(kù)相關(guān)的問(wèn)題。大模型將根據(jù)文檔內(nèi)容做出準(zhǔn)確回答，確保知識(shí)庫(kù)的內(nèi)容能夠被有效利用。

（知識(shí)庫(kù)內(nèi)容）

（AI 依據(jù)數(shù)據(jù)庫(kù)的核心人員回答）

（AI 依據(jù)數(shù)據(jù)庫(kù)的回答）

總結(jié)

以上是手機(jī)端部署本地 Deepseek 的教程以及通過(guò) Mac 端部署 Deepseek R1 大模型并建立本地知識(shí)庫(kù)的完整教程。從下載模型、搭建知識(shí)庫(kù)到最后的測(cè)試與提問(wèn)，每一步都很關(guān)鍵，只要按照步驟操作，就能夠順利完成整個(gè)過(guò)程。希望這篇教程能夠幫助大家順利搭建屬于自己的本地知識(shí)庫(kù)，提升使用 AI 模型的效率和體驗(yàn)。

最新評(píng)論