DeepSeek?Window本地私有化部署教程
前言
最近大火的國產(chǎn)AI大模型Deepseek大家應(yīng)該都不陌生。除了在手機(jī)上安裝APP或通過官網(wǎng)在線體驗(yàn),其實(shí)我們完全可以在Windows電腦上進(jìn)行本地部署,從而帶來更加便捷的使用體驗(yàn)。 之前也提到過,本地部署AI模型有很多好處,比如:隱私安全——所有數(shù)據(jù)都保存在本地,不用擔(dān)心泄露敏感信息;響應(yīng)速度快——官方或第三方服務(wù)由于訪問量大,常常會導(dǎo)致卡頓,而本地部署能避免這種延遲問題。
要在本地部署DeepSeek R1大模型并不難,只需安裝開源工具Ollama,它可以支持各種AI模型的運(yùn)行。
如果覺得在終端里與AI交互不夠直觀或美觀,還可以再安裝一個圖形化界面,就能像與ChatGPT一樣,在網(wǎng)頁上與大模型對話了。
軟件介紹
Ollama
Ollama是一個開源軟件,主要用于在本地電腦設(shè)備上下載、部署和使用大模型(LLM)。它提供了豐富的LLM庫,如llama、qwen、mistral以及DeepSeek R1等,并且支持不同參數(shù)規(guī)模的模型,以適配不同性能的電腦設(shè)備。Ollama雖然支持直接使用LLM,但僅能在命令行中進(jìn)行對話,交互功能有限,因此需要配合其他工具使用。通俗理解為用于方便本地部署大模型使用的工具,實(shí)現(xiàn)離線使用和數(shù)據(jù)得到安全保護(hù)。
DeepSeek R1
DeepSeek R1是一個大模型,常用于本地部署。通過Ollama和CherryStudio,用戶可以在本地電腦上部署和使用DeepSeek R1,從而實(shí)現(xiàn)離線使用和隱私保護(hù)。DeepSeek R1在本地部署時,不需要依賴高配置的GPU,較低參數(shù)規(guī)模的模型甚至不需要獨(dú)立顯卡也可以在電腦運(yùn)行。
CherryStudio
CherryStudio是一個可視化界面工具,內(nèi)置了多個大模型服務(wù)商,用戶只需進(jìn)行簡單的配置即可使用大模型。它使得交互操作更加方便,用戶不需要在命令行中進(jìn)行對話。通過配置Ollama模型,CherryStudio可以提供更友好的用戶界面,使得本地部署的大模型更容易使用。通俗理解為就是一個與AI交互的界面,界面上可以選擇你部署好的不同AI模型(如deepseekR1等)進(jìn)行使用。
windows本地部署
一、安裝Ollama
1、訪問Ollama的官網(wǎng):https://ollama.com/download
2、下載好后,鼠標(biāo)右鍵以管理員身份運(yùn)行
3、點(diǎn)擊install
安裝,默認(rèn)安裝在C盤,所以C盤最好預(yù)留出空間來,最低4GB的存儲空間.
4、安裝好之后,我們按住Win+R
鍵,在運(yùn)行框中輸入cmd
打開Windows系統(tǒng)自帶的終端界面:
5、然后輸入ollama
回車,看到下面信息即為安裝成功!但現(xiàn)在還沒有AI模型,下一步將會教你利用ollama
安裝DeepSeek R1模型。
二、安裝DeepSeek-r1模型
1、訪問ollama 提供的模型下載地址:https://ollama.com/library/deepseek-r1
DeepSeek-R1模型配置要求
大家可以根據(jù)自己的需求和資源配置選擇模型進(jìn)行下載,下面是不同版本模型版本對性能配置要求。
1.5B版本
- CPU:最低4核,推薦多核處理器
- 內(nèi)存:8GB以上
- 硬盤:3GB以上存儲空間(模型文件約1.5-2GB)。
- 顯卡:非必需,若使用GPU加速,推薦4GB以上顯存的顯卡(如GTX 1650)
- 適用場景:低資源設(shè)備部署(如樹莓派、舊款筆記本)、實(shí)時文本生成(聊天機(jī)器人、簡單問答)、嵌入式系統(tǒng)或物聯(lián)網(wǎng)設(shè)備
7B版本
- CPU:8核以上,推薦現(xiàn)代多核CPU
- 內(nèi)存:16GB以上
- 硬盤:8GB以上
- 顯卡:推薦8GB以上顯存的顯卡(如RTX 3070/4060)
- 適用場景:本地開發(fā)測試、中等復(fù)雜度NLP任務(wù)(文本摘要、翻譯)、輕量級多輪對話系統(tǒng)
8B版本
- CPU:8核以上
- 內(nèi)存:16GB以上
- 硬盤:8GB以上
- 顯卡:推薦8GB以上顯存的顯卡(如RTX 4090或A5000)
- 適用場景:需更高精度的輕量級任務(wù)(如代碼生成、邏輯推理)
14B版本
- CPU:12核以上
- 內(nèi)存:32GB以上
- 硬盤:15GB以上
- 顯卡:16GB以上顯存的顯卡(如RTX 4090或A5000)
- 適用場景:企業(yè)級復(fù)雜任務(wù)(合同分析、報告生成)、長文本理解與生成(書籍/論文輔助寫作)
32B版本
- CPU:16核以上(如AMD Ryzen 9或Intel i9)
- 內(nèi)存:64GB以上
- 硬盤:30GB以上
- 顯卡:24GB以上顯存的顯卡(如A100 40GB或雙卡RTX 3090)
- 適用場景:高精度專業(yè)領(lǐng)域任務(wù)(醫(yī)療/法律咨詢)、多模態(tài)任務(wù)預(yù)處理(需結(jié)合其他框架)
70B版本
- CPU:16核以上
- 內(nèi)存:64GB以上
- 硬盤:30GB以上
- 顯卡:40GB以上顯存的顯卡(如多張A100/H800等專業(yè)卡)
- 適用場景:高性能場景、需平衡質(zhì)量與成本
671B版本
- CPU:16核以上
- 內(nèi)存:64GB以上
- 硬盤:30GB以上
- 顯卡:40GB以上顯存的顯卡(如多張A100/H800等專業(yè)卡)
- 適用場景:尖端領(lǐng)域(藥物研發(fā)、復(fù)雜系統(tǒng)模擬),適合云服務(wù)或科研機(jī)構(gòu)
2、我這里下載1.5b的輕量級deepseek模型進(jìn)行演示,如下命令:
ollama run deepseek-r1:1.5b
3、輸入問題,馬上就能收到回答,速度挺快的:
三、安裝圖形化交互界面
1、首先下載一個叫 Cherry Studio的軟件,這個軟件主要用于與AI交互的可視化界面。如下圖。網(wǎng)址: https://cherry-ai.com/download
2、右鍵管理員身份運(yùn)行安裝“Cherry-Studio-0.9.19-setup.exe”軟件即可。
3、安裝好后,桌面雙擊運(yùn)行該軟件,進(jìn)行設(shè)置添加deepseek模型
4、選擇deepseek模型進(jìn)行對話
5、現(xiàn)在就可以用界面跟AI交互啦
總結(jié)
看到這里,相信你對DeepSeek 本地化部署又一定了解了;其實(shí)部署不難,如果你是個人搭建體驗(yàn)的話,也不用再為性能和本地硬件資源發(fā)愁;恰好你有充足的算力和技術(shù)儲備,本地部署也是個非常不錯的選擇。不過,在整個過程中,我想和你分享的不僅僅是這些技術(shù)細(xì)節(jié)。而是一個中國團(tuán)隊能做出世界級大模型,一個需要 +86 才能注冊的大模型。很慶幸,我們能作為中國 AI 技術(shù)進(jìn)步的見證人。當(dāng)然,暫時的領(lǐng)先不是終點(diǎn)。但 DeepSeek 給我們帶來的,是“中國也可以”這份信心。這,才是我們真正要守護(hù)的希望。
以上為個人經(jīng)驗(yàn),希望能給大家一個參考,也希望大家多多支持腳本之家。
- Deepseek R1模型本地化部署+API接口調(diào)用詳細(xì)教程(釋放AI生產(chǎn)力)
- Linux 服務(wù)器本地部署 DeepSeek-R1 大模型并在遠(yuǎn)端Web-UI訪問保姆級教程
- 在linux服務(wù)器本地部署Deepseek及在mac遠(yuǎn)程web-ui訪問的操作
- deepseek本地部署流程(解決服務(wù)器繁忙以及隱私等問題)
- 通過Docker為本地DeepSeek-r1部署WebUI界面的完整教程
- 本地私有化部署DeepSeek模型的詳細(xì)教程
- 在本地快速部署deepseek的操作指南(3分鐘極速部署)
- DeepSeek本地部署+可視化WebUI的實(shí)現(xiàn)(圖文教程)
- DeepSeek本地部署+可視化WebUI的實(shí)現(xiàn)(圖文教程)
- DeepSeek本地部署流程詳細(xì)指南
- 0基礎(chǔ)租個硬件玩deepseek,藍(lán)耘元生代智算云|本地部署DeepSeek?R1模型的操作流程
相關(guān)文章
ollama搭建本地ai大模型并應(yīng)用調(diào)用的操作方法
這篇文章詳細(xì)介紹了如何下載、安裝和使用OLLAMA大模型,包括啟動配置模型、配置UI界面、搭建本地知識庫、配置文件開發(fā)、環(huán)境變量配置以及通過Golang實(shí)現(xiàn)接口調(diào)用的示例2024-11-11selenium使用webdriver.Chrome()報錯的問題解決辦法
這篇文章主要給大家介紹了關(guān)于selenium使用webdriver.Chrome()報錯問題的解決辦法,文中通過圖文將解決的辦法介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考借鑒價值,需要的朋友可以參考下2023-09-09基數(shù)排序算法的原理與實(shí)現(xiàn)詳解(Java/Go/Python/JS/C)
基數(shù)排序(RadixSort)是一種非比較型整數(shù)排序算法,其原理是將整數(shù)按位數(shù)切割成不同的數(shù)字,然后按每個位數(shù)分別比較。本文將利用Java/Go/Python/JS/C不同語言實(shí)現(xiàn)基數(shù)排序算法,感興趣的可以了解一下2023-03-03關(guān)于Interlij 無法使用中文輸入法的解決方法(適用于Interlij全家桶 Linux環(huán)境)
這篇文章主要介紹了關(guān)于Interlij 無法使用中文輸入法的解決方法(適用于Interlij全家桶 Linux環(huán)境),本文通過圖文并茂的形式給大家介紹的非常詳細(xì),對大家的學(xué)習(xí)或工作具有一定的參考借鑒價值,需要的朋友可以參考下2021-02-02mapboxgl?中插值表達(dá)式的應(yīng)用場景分析
interpolate是mapboxgl地圖樣式中用于插值的表達(dá)式,能對顏色和數(shù)字進(jìn)行插值,這篇文章就把?mapboxgl?中interpolate插值工具的常見應(yīng)用場景介紹一下,感興趣的朋友一起看看吧2022-09-092022最新騰訊輕量云?debian?10?安裝pve教程詳解
這篇文章主要介紹了騰訊輕量云?debian?10?安裝pve教程?2022,本文給大家介紹的非常詳細(xì),對大家的學(xué)習(xí)或工作具有一定的參考借鑒價值,需要的朋友可以參考下2022-10-10