DeepSeek R1本地化部署 Ollama + Chatbox 如何打造最強(qiáng) AI 工具

更新時(shí)間：2025年02月04日 11:25:14 作者：Zfox_

文章介紹了如何在本地部署DeepSeekR1模型并使用Chatbox進(jìn)行交互,使用戶能夠擁有強(qiáng)大的AI工具,感興趣的朋友跟隨小編一起看看吧

一：?? Ollama

?? 下載 Ollama

??‍?? https://ollama.com/

Ollama 是一個(gè)用于管理和部署機(jī)器學(xué)習(xí)模型的工具。
目前 Ollama 支持 macOS、Linux、Windows，選擇相應(yīng)的系統(tǒng)下載即可。

?? ?? 安裝后運(yùn)行軟件，在任務(wù)欄確認(rèn)在右上角出現(xiàn)這只小羊駝?? 圖標(biāo)

?? 選擇模型

??‍?? 點(diǎn)擊Search models 搜索框，第一條就是 deepseek-r1 模型。

這里我們發(fā)現(xiàn)了多個(gè)不同大小的模型，文件大小適配不同的設(shè)備

DeepSeek R1提供多個(gè)版本，參數(shù)量越大，模型通常越強(qiáng)大，但也需要更多的計(jì)算資源。

比如1.5B代表有15億個(gè)參數(shù)。

?? 借助網(wǎng)上大佬們整理的表格供大家參考，來(lái)確認(rèn)你的電腦可以運(yùn)行哪個(gè)模型：

?? 運(yùn)行模型

運(yùn)行模型很簡(jiǎn)單：確定模型后，復(fù)制這條指令到終端里

加粗樣式

?? 當(dāng)進(jìn)度條跑滿時(shí)，恭喜??，你的電腦已經(jīng)擁有了頂級(jí)的推理能力

?? 使用 && 測(cè)試

?? 這里我已經(jīng)提前下好了，使用 ollama 提供的終端指令 ollama list 可以看我們電腦上已經(jīng)部署了哪些模型，然后使用 ollama run 對(duì)應(yīng)的模型 就可以了

輸入 /bye即可退出

?? ollama 命令查看

admin@admindeMacBook-Pro ~ % ollama
Usage:
  ollama [flags]
  ollama [command]
Available Commands:
  serve       Start ollama
  create      Create a model from a Modelfile
  show        Show information for a model
  run         Run a model
  stop        Stop a running model
  pull        Pull a model from a registry
  push        Push a model to a registry
  list        List models
  ps          List running models
  cp          Copy a model
  rm          Remove a model
  help        Help about any command
Flags:
  -h, --help      help for ollama
  -v, --version   Show version information
Use "ollama [command] --help" for more information about a command.

??‍?? 雖然這里終端已經(jīng)可以使用了，但是還是不太方便。

這里就有人要問(wèn)博主了，你推薦的模型確實(shí)挺不錯(cuò)的，但是還是太吃操作了，有沒(méi)有更加方便的使用方式呢？

有的兄弟有的，像更方便的使用方式那么就是 Chatbox

二：?? Chatbox

??‍?? 瀏覽器搜索 Chatbox 并下載客戶端或者網(wǎng)頁(yè)版都可以

設(shè)置語(yǔ)言為中文并保存

點(diǎn)擊設(shè)置選擇模型為 OLLAMA API

為了確保可以連接到本地服務(wù)，大家按照提供的教程設(shè)置一下，不同的操作系統(tǒng)設(shè)置不太一樣，然后選擇 R1模型并保存 連接到本地服務(wù)教程跳轉(zhuǎn)

?? 現(xiàn)在你就可以在瀏覽器/客戶端上流暢的使用 R1 了。

?? 創(chuàng)建你的專屬 GPTs

??‍?? 點(diǎn)擊我的搭檔，創(chuàng)建搭檔，給ai角色設(shè)定人格，你也可以選擇現(xiàn)有的搭檔，一個(gè)資深的行業(yè)專家就出現(xiàn)了。

三：?? 共勉

?? 以上就是我對(duì) DeepSeek R1本地化部署 Ollama + Chatbox 打造最強(qiáng) AI 工具 的理解，覺(jué)得這篇博客對(duì)你有幫助的，可以點(diǎn)贊收藏關(guān)注支持一波~

到此這篇關(guān)于DeepSeek R1本地化部署 Ollama + Chatbox 打造最強(qiáng) AI 工具的文章就介紹到這了,更多相關(guān)DeepSeek R1本地化部署 Ollama + Chatbox內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！

您可能感興趣的文章: