通過(guò)Docker為本地DeepSeek-r1部署WebUI界面的完整教程
安裝Docker
訪問(wèn)Docker官網(wǎng)
Docker: Accelerated Container Application
選擇合適的版本進(jìn)行下載安裝
按照默認(rèn)情況安裝即可
打開(kāi)命令行,鍵入docker,如顯示以下信息說(shuō)明Docker安裝成功
配置&檢查
安裝完成后,在“啟用或關(guān)閉Windows功能中”,啟用”適用于Linux的Windows子系統(tǒng)” 、”虛擬機(jī)平臺(tái)”
使用管理員權(quán)限打開(kāi)命令提示符,安裝/更新wsl2:
wsl --set-default-version 2
wsl --update --web-download
安裝/更新wsl2后重啟電腦,進(jìn)入Docker
選擇跳過(guò)登錄直接進(jìn)入Continue without signing in
左下角Engine running說(shuō)明一切正常,可以進(jìn)行圖形化界面的部署
Open WebUI
Open WebUI 是一個(gè)開(kāi)源的、功能豐富的自托管 Web 用戶(hù)界面,專(zhuān)為與大型語(yǔ)言模型(LLMs)交互而設(shè)計(jì),與chatgpt界面相似。它支持完全離線運(yùn)行,兼容多種 LLM 運(yùn)行器,如 Ollama 和 OpenAI API,并提供直觀的聊天界面。其功能強(qiáng)大,支持 Markdown 和 LaTeX、本地 RAG 集成、多語(yǔ)言、多模型對(duì)話、網(wǎng)絡(luò)搜索和圖像生成集成,還具備語(yǔ)音和視頻通話功能,滿足多樣化需求。
Open WebUI 的部署方式靈活,支持通過(guò) Docker 或 Kubernetes 快速安裝,界面響應(yīng)式設(shè)計(jì)適配桌面和移動(dòng)設(shè)備。它為開(kāi)發(fā)者、研究者和企業(yè)提供了便捷的 AI 應(yīng)用部署和訪問(wèn)方式,尤其適合對(duì)數(shù)據(jù)隱私要求較高的場(chǎng)景,能夠快速搭建生成式 AI 應(yīng)用,具有不錯(cuò)的用戶(hù)體驗(yàn)。
https://github.com/open-webui/open-webui
部署Open WebUI
通過(guò)docker run命令在本地主機(jī)進(jìn)行快速部署
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
- docker run:用于創(chuàng)建并啟動(dòng)一個(gè)新的 Docker 容器。
- -d:表示以后臺(tái)模式運(yùn)行容器,容器在后臺(tái)運(yùn)行,不會(huì)阻塞終端。
- -p 3000:8080:將容器內(nèi)的8080 端口映射到宿主機(jī)的 3000 端口。這意味著你可以通過(guò)訪問(wèn)宿主機(jī)的 3000 端口來(lái)訪問(wèn)容器內(nèi)運(yùn)行的應(yīng)用(默認(rèn)是 Open WebUI 的 Web 界面)。
- --add-host=host.docker.internal:host-gateway:在容器的 /etc/hosts 文件中添加一個(gè)條目,將 host.docker.internal 映射到宿主機(jī)的網(wǎng)關(guān)地址。這通常用于在容器內(nèi)部訪問(wèn)宿主機(jī)上的服務(wù),確保容器能夠與宿主機(jī)進(jìn)行通信。
- -v open-webui:/app/backend/data:將宿主機(jī)上的一個(gè)名為 open-webui 的卷(如果不存在則會(huì)自動(dòng)創(chuàng)建)掛載到容器內(nèi)的 /app/backend/data 目錄。這用于持久化存儲(chǔ)容器內(nèi)的數(shù)據(jù),例如模型文件、配置文件等,即使容器被刪除,數(shù)據(jù)也不會(huì)丟失。
- --name open-webui:為容器指定一個(gè)名稱(chēng),這里是 open-webui。這樣可以通過(guò)名稱(chēng)來(lái)管理容器,例如使用 docker stop open-webui 來(lái)停止容器。
- --restart always:設(shè)置容器的重啟策略為“始終重啟”。這意味著無(wú)論容器因何種原因停止,Docker 都會(huì)自動(dòng)重新啟動(dòng)它。
- ghcr.io/open-webui/open-webui:main:指定要運(yùn)行的 Docker 鏡像。這里使用的是ghcr.io/open-webui/open-webui 鏡像的 main 標(biāo)簽,表示從 GitHub Container Registry 獲取最新的主分支版本。
部署完成結(jié)果如下
部署完成后,在Docker的Containers中可以看到Open WebUI
復(fù)制對(duì)應(yīng)的地址
http://localhost:3000/
進(jìn)入U(xiǎn)I界面,開(kāi)始使用
創(chuàng)建管理賬戶(hù),設(shè)置賬號(hào),郵箱,密碼
確認(rèn)更新消息
隨即可在瀏覽器中使用,進(jìn)一步可通過(guò)cpolar進(jìn)行內(nèi)網(wǎng)穿透以供大規(guī)模公網(wǎng)訪問(wèn)
部署效果
基于本地部署的 DeepSeek 能提供高度的靈活性和定制化能力,支持多語(yǔ)言、可擴(kuò)展的插件功能,能夠根據(jù)用戶(hù)需求優(yōu)化性能和配置。此外,本地部署無(wú)需支付訂閱費(fèi)用,降低了長(zhǎng)期使用成本,同時(shí)用戶(hù)完全自主控制模型運(yùn)行和數(shù)據(jù)管理,避免外部服務(wù)中斷風(fēng)險(xiǎn)。適用于創(chuàng)意寫(xiě)作、企業(yè)知識(shí)管理、教育研究等多種場(chǎng)景,能夠高效利用本地資源,實(shí)現(xiàn)高性能和低延遲的交互體驗(yàn)。
以上就是通過(guò)Docker為本地DeepSeek-r1部署WebUI界面的完整教程的詳細(xì)內(nèi)容,更多關(guān)于Docker DeepSeek-r1部署WebUI界面的資料請(qǐng)關(guān)注腳本之家其它相關(guān)文章!
相關(guān)文章
Docker啟動(dòng)容器后自動(dòng)關(guān)閉問(wèn)題解決
在使用Docker創(chuàng)建并啟動(dòng)mysql容器時(shí),發(fā)現(xiàn)mysql容器并沒(méi)有啟動(dòng)而是自動(dòng)關(guān)閉了,本文主要介紹了Docker啟動(dòng)容器后自動(dòng)關(guān)閉問(wèn)題解決,具有一定的參考價(jià)值,感興趣的可以了解一下2024-07-07Docker創(chuàng)建enrollment token錯(cuò)誤異常解析及解決方案
部署完kibana,需要通過(guò)enrollment token方式來(lái)連接elasticsearch,此時(shí)需要在elasticsearch中創(chuàng)建enrollment token,這篇文章主要介紹了Docker創(chuàng)建enrollment token錯(cuò)誤異常解析及解決方案,需要的朋友可以參考下2024-04-04docker創(chuàng)建mongodb容器存儲(chǔ)數(shù)據(jù)步驟詳解
這篇文章主要為大家介紹了docker創(chuàng)建mongodb容器存儲(chǔ)數(shù)據(jù)步驟詳解,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪2023-10-10教你如何將應(yīng)用從docker-compose遷移到k8s中
這篇文章主要介紹了如何將應(yīng)用從docker-compose遷移到k8s中,本文給大家分享一個(gè)專(zhuān)門(mén)的遷移工具,可方便地通過(guò)docker-compose.yaml自動(dòng)生成k8s的yaml部署文件,本文給大家介紹的非常詳細(xì),需要的朋友可以參考下2022-07-07