從去年年底開始，國產(chǎn) AI 大模型迅速嶄露頭角，其中由幻方量化旗下深度求索公司研發(fā)的 Deepseek，憑借其卓越表現(xiàn)，在上個月震撼了整個人工智能行業(yè)。這家位于杭州的中國公司將中國 AI 技術(shù)推向了世界一流的水準(zhǔn)，并于 2025 年 1 月 20 日開源了 Deepseek R1 大模型。關(guān)于 Deepseek，這段時間也傳來不少新聞，包括它曾遭遇黑客攻擊，因此限制國外手機號注冊 Deepseek 賬號等問題。

與此同時，OpenAI 首席執(zhí)行官 Sam Altman 在社交平臺 X 上發(fā)布了關(guān)于 ChatGPT 的未來規(guī)劃，透露將為所有用戶提供免費版 ChatGPT 的無限聊天 權(quán)限，但需遵守濫用閾值，并計劃推出 ChatGPT-4.5 和 ChatGPT-5。這些消息從側(cè)面印證了 Deepseek R1 已經(jīng)達到與 ChatGPT-4 相媲美的國際水平。

本文將介紹如何在安卓手機和桌面設(shè)備上分別部署本地運行的 Deepseek R1 模型，并搭建知識庫。那么，為什么選擇在本地部署 AI 大模型呢？本地部署 Deepseek 具有諸多顯著優(yōu)勢。

• 第一點，數(shù)據(jù)隱私得到更好的保障，用戶的私人數(shù)據(jù)無需上傳至云端或第三方服務(wù)器，從而大大降低了數(shù)據(jù)泄露的風(fēng)險。
• 第二點，本地部署能夠顯著提高響應(yīng)速度，因為無需依賴網(wǎng)絡(luò)連接和遠(yuǎn)程服務(wù)器，特別是在網(wǎng)絡(luò)不穩(wěn)定時，用戶體驗更加流暢，尤其是現(xiàn)在 Deepseek 的官網(wǎng)由于大量用戶訪問已經(jīng)造成了大概率都是“服務(wù)器繁忙，請稍后再試。”此外，離線使用是另一個重要優(yōu)勢，用戶可以在沒有網(wǎng)絡(luò)環(huán)境的情況下，依然享受模型的服務(wù)，適用于高安全性或特殊場景。
• 最后一點，通過本地部署，用戶可以建立自己的數(shù)據(jù)庫，實現(xiàn)對數(shù)據(jù)的完全控制和管理，進一步提高數(shù)據(jù)處理的靈活性與安全性。

當(dāng)然，與此同時，運行 DeepseekAI 大模型需要強大的計算資源，如高性能的 CPU、GPU，以及大容量的內(nèi)存和存儲設(shè)備。這對于普通筆記本電腦而言，可能需要升級硬件，增加了成本和復(fù)雜性。部署完成的 R1 模型在推理能力、網(wǎng)絡(luò)資源整合等方面肯定是不如直接從網(wǎng)頁訪問回答的準(zhǔn)確和智能。

安卓端

部署 Ubuntu 環(huán)境

首先，需要準(zhǔn)備相關(guān)工具。進入 Github 官網(wǎng)，搜索 Termux，找到最新的 APK 應(yīng)用包并進行安裝。Termux 是一款終端模擬器應(yīng)用程序，專為 Android 系統(tǒng)設(shè)計，提供完整的 Linux 環(huán)境，允許用戶在 Android 設(shè)備上運行 Linux 命令和工具，無需 root 權(quán)限。后續(xù)將通過 Termux 環(huán)境部署 Deepseek R1 模型。建議使用驍龍 8 Gen2 以上的設(shè)備進行部署，以保證性能。

進入 Termux 軟件，輸入termux-change-repo指令并運行：

應(yīng)用程序內(nèi)會彈出一個窗口，選擇運行單個鏡像文 “Single mirror Choose a single mirror to use”，并點擊:

在下一個界面，找到清華大學(xué)鏡像文件源(Tsinghua University)，如果沒有找到，可以通過雙手捏和將顯示界面縮小找到，隨后同樣點擊：

此時重新回到命令行界面，輸入“pkg update && pkg upgrade”，更新升級至最新的軟件包，等待完成后，輸入“y”，

下一步，部署 Ubuntu 環(huán)境，需要一定的網(wǎng)絡(luò)條件，分別安裝順序執(zhí)行一下操作部署安裝 Ubuntu工具，pkg i proot-distro，此命令使用 pkg 包管理器安裝 proot-distro 工具，proot-distro install ubuntu：使用 proot-distro 工具安裝 Ubuntu 發(fā)行版，安裝完成后，再輸入proot-distro login ubuntu：登錄到已安裝的 Ubuntu 環(huán)境，進入 Ubuntu 的命令行界面。完成以上操作后在命令行界面會有“ root@localhost：～#”，即表示成功進入Ubuntu 環(huán)境，此次下載部署在本地的Deepseek R1模型即將運行在此環(huán)境中。

下載 Deepseek 模型

在上一步最后的Ubuntu 環(huán)境命令行界面，輸入“curl -fsSL https://ollama.com/install.sh | sh”，通過ollama官網(wǎng)下載Deepseek模型，等待進度條完成，需要一定的網(wǎng)絡(luò)條件，隨后進入如下界面：

在分別執(zhí)行“OLLAMA_HOST=0.0.0.0”、“ OLLAMA_ORIGINS=* ”、“ollama serve”三個指令，更改接口并且運行ollama服務(wù)。此時，回到桌面，長按Termux圖標(biāo)，點擊“New session”，回到應(yīng)用內(nèi)輸入兩個指令，啟動Ubuntu環(huán)境，并下載ollama模型，回到Termux應(yīng)用，輸入“proot-distro login ubuntu”和“ollama run deepseek-r1:1.5b”，再輸入回車，模型開始下載，等待完成即可。

不建議下載過于復(fù)雜的模型，數(shù)字越大意味著部署的模型就越聰明，同時所需的手機性能也會越高。

通過Chatbox 與 Deepseek 交互

模型下載完成后，不要關(guān)閉Termux 進程的后臺，進入 Chatbox 官網(wǎng)，下載安卓版本 APK 文件完成應(yīng)用安裝，打開應(yīng)用后，點擊“使用自己的 API Key 或本地模型”，模型提供方依次選擇 Ollama API，模型選擇“Deepseek-r1:1.5 b”，可以對模型進行身份設(shè)定，方便回答用戶問題，隨后關(guān)閉Termux 和 Chatbox 應(yīng)用。

每次啟動 Chatbox 之前，重新打開 Termux 進入 Ubuntu 環(huán)境并 運行 ollama 模型，輸入以下兩個指令：“proot-distro login ubuntu”和“ollama serve”，回到 Chatbox，即可與 Deepseek 交流了。

受限于手機性能，可能需要一定的響應(yīng)時間，請耐心等待，以下是實際體驗，為了避免手機清理后臺，建議將 Termux 鎖定在后臺。ok，以上為手機端部署 Deepseek 的全部內(nèi)容了。

桌面端 Deepseek 建立知識庫

在手機端部署本地 Deepseek 大模型相對復(fù)雜，但只要按照步驟操作，實際上可以很快完成部署。與此相比，桌面端的 Deepseek 部署要簡單得多。桌面端不需要建立額外的環(huán)境，Windows 和 Mac 端的步驟大致相同，因此本文將重點介紹如何通過本地 Deepseek R1 模型在 Mac 端搭建自己的知識庫。

下載 Ollama 模型

首先，訪問 Ollama 官網(wǎng)，選擇并下載適合 Mac 系統(tǒng)的版本。下載完成后，按照提示完成安裝，安裝后將解壓得到的 Ollama 程序拖動到“應(yīng)用程序”中。

接著，打開 Mac 系統(tǒng)的“終端”應(yīng)用(Windows 用戶則打開 CMD)，在終端中輸入需要下載的 Ollama 模型對應(yīng)的代碼。具體的代碼可以參考 Ollama 官網(wǎng)提供的說明。如果電腦配置較強，可以選擇下載較大的模型版本。

需要注意的是，如果在下載過程中發(fā)現(xiàn)下載速度變慢，可以關(guān)閉當(dāng)前的“終端”窗口，再重新打開并輸入相同的指令。這樣可以恢復(fù)更高的下載速度，并且下載進度會被保留，不會丟失。

搭建本地知識庫

完成 Ollama 模型的下載后，接下來是搭建知識庫。首先，訪問 “AnythingLLM” 官網(wǎng)，根據(jù)操作系統(tǒng)下載并安裝對應(yīng)的版本。

安裝完成后，打開程序，選擇 “Ollama” 作為模型提供方，并選擇 “8b （依據(jù)電腦配置）模型”。進入下一步時，跳過郵箱填寫界面，直接創(chuàng)建一個新的工作區(qū)(Workspace)。

創(chuàng)建工作區(qū)后，進入到對話界面。接下來，點擊工作區(qū) “Test001”的設(shè)置按鈕，進入“聊天設(shè)置”頁面。在聊天提示框中對 AI 助手進行一些基本設(shè)定，以便模型能夠更快速、更精準(zhǔn)地回答用戶的問題。同時，可以設(shè)置回答語言為中文，并保存這些設(shè)置。

接下來，需要上傳并嵌入知識庫文件。小編通過 AI 創(chuàng)建了一家虛擬的游戲公司，并將公司簡介整理成一個 Word 文檔。在準(zhǔn)備好文件后，返回“Test001”工作區(qū)，點擊右側(cè)的上傳按鈕，將文件上傳至“My Documents”。選中該文件后，點擊 “Move to Workspace”，然后選擇 “Saved and Embed” 以保存文件，最后執(zhí)行“Pin to Workspace”操作。這些操作都會有提示，確保每個步驟都正確完成。

測試和提問

知識庫搭建完成后，回到對話框，在工作區(qū)“Test001”中選擇 “New Thread” 創(chuàng)建一個新的對話框。此時，可以開始向模型提問與知識庫相關(guān)的問題。大模型將根據(jù)文檔內(nèi)容做出準(zhǔn)確回答，確保知識庫的內(nèi)容能夠被有效利用。

（知識庫內(nèi)容）

（AI 依據(jù)數(shù)據(jù)庫的核心人員回答）

（AI 依據(jù)數(shù)據(jù)庫的回答）

總結(jié)

以上是手機端部署本地 Deepseek 的教程以及通過 Mac 端部署 Deepseek R1 大模型并建立本地知識庫的完整教程。從下載模型、搭建知識庫到最后的測試與提問，每一步都很關(guān)鍵，只要按照步驟操作，就能夠順利完成整個過程。希望這篇教程能夠幫助大家順利搭建屬于自己的本地知識庫，提升使用 AI 模型的效率和體驗。

最新評論