三步教會(huì)你完全離線搭建openwebui
完全離線linux 版open webui 的搭建
1.在具有網(wǎng)絡(luò)連接的環(huán)境中下載whl
在有網(wǎng)絡(luò)的環(huán)境,使用pip download可以保存所有的依賴包,可以使用-i 指定清華的鏡像源加速下載速度。
# 命令: pip download <package_name> --only-binary=:all: --wheel --platform <platform_tag> --python-version <python_version> # 示例 pip download -d e:tempopenweuiwhi_linux open-webui --only-binary=:all: --platform linux_x86_64 --python-version 311 -i https://pypi.tuna.tsinghua.edu.cn/simple
注意:如果windows要下載linux的還要指定系統(tǒng) --platform
下圖是我依賴截圖其中幾個(gè),我下載后依賴了200多個(gè)其他包:
下載的時(shí)候要注意,兩個(gè)環(huán)境python版本最好一致,因?yàn)楹芏喟且髉ython版本的
比如這里面的311就要求是Python3.11版本
2.拷貝whl 包到無網(wǎng)絡(luò)環(huán)境安裝
進(jìn)入到上述依賴包的文件夾,執(zhí)行安裝,如下:
pip.exe install --no-index --find-links . .open_webui-0.3.28-py3-none-any.whl
該命令會(huì)自動(dòng)的尋找openwebui 在當(dāng)前路徑下的依賴安裝
2.1安裝中的小問題
安裝的時(shí)候報(bào)錯(cuò)版本不符合要求,升級(jí)setuptools和pip(pip版本比較低的時(shí)候,無法安裝其中的tar.gz的文件)
pip install setuptools-75.1.0-py3-none-any.whl python.exe -m pip install pip-24.2-py3-none-any.whl
如果中間遇到某一個(gè)tar.gz的包無法安裝成功,可以解壓縮,進(jìn)入到解壓縮后的目錄,用包中的setup單獨(dú)安裝下:
python.exe setup.py install
然后重新安裝,出現(xiàn)如下就是安裝成功了
pip list也可以看到安裝的open webui了
如果open-webui 在powershell找不到,可以加到環(huán)境變量中:
3.啟動(dòng)
open-webui.exe serve
3.1 啟動(dòng)中的問題
啟動(dòng)的時(shí)候肯定會(huì)報(bào)錯(cuò),如下:
openwebui默認(rèn)需要聯(lián)網(wǎng)下載模型,聯(lián)網(wǎng)環(huán)境連不上hugging face,而我們完全離線的環(huán)境連網(wǎng)絡(luò)都上不去,解決方法如下:
- 從已經(jīng)下載好的聯(lián)網(wǎng)的電腦上拷貝或者提前下載好模型
建議從下載好的電腦上拷貝,方法如下:
python 安裝的openwebui下載的模型一般是保存在C:Users用戶名.cachehuggingfacehubmodels–sentence-transformers–all-MiniLM-L6-v2,拷貝出來傳到無網(wǎng)絡(luò)的環(huán)境即可
下載模型的話需要修改代碼,比較復(fù)雜一些
下載模型的方法如下:官網(wǎng):https://hf-mirror.com/sentence-transformers/all-MiniLM-L6-v2/tree/main
- 修改openwebui的代碼,啟動(dòng)時(shí)從本地環(huán)境加載模型 具體修改的位置可以參考報(bào)錯(cuò),比如加載模型的時(shí)候在下面報(bào)錯(cuò)了:
在上面提示的路徑找到utils.py,打開這個(gè)文件,大致看一下,修改這行為固定地址:
model_repo_path = "D:\install\sentence-transformers\all-MiniLM-L6-v2"
然后再次啟動(dòng),出現(xiàn)如下,就是安裝成功了
默認(rèn)的運(yùn)行端口是 8080,所以啟動(dòng)后,瀏覽器輸入127.0.0.1:8080,就可以使用openwebui了
點(diǎn)注冊(cè),輸入賬號(hào)和密碼,第一個(gè)賬號(hào)默認(rèn)為管理員,open web ui就可以使用了
總結(jié)
到此這篇關(guān)于完全離線搭建openwebui的文章就介紹到這了,更多相關(guān)離線搭建openwebui內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
python3實(shí)現(xiàn)用turtle模塊畫一棵隨機(jī)櫻花樹
今天小編就為大家分享一篇python3實(shí)現(xiàn)用turtle模塊畫一棵隨機(jī)櫻花樹,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過來看看吧2019-11-11解決pytorch 損失函數(shù)中輸入輸出不匹配的問題
這篇文章主要介紹了解決pytorch 損失函數(shù)中輸入輸出不匹配的問題,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2021-06-06python3 實(shí)現(xiàn)自定義切片類為左閉右閉詳情
這篇文章主要介紹了python3 實(shí)現(xiàn)自定義切片類為左閉右閉詳情,文章圍繞主題展開詳細(xì)的內(nèi)容介紹,具有一定的參考價(jià)值,需要的小伙伴可以參考一下2021-12-12python實(shí)現(xiàn)掃描日志關(guān)鍵字的示例
下面小編就為大家分享一篇python實(shí)現(xiàn)掃描日志關(guān)鍵字的示例,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過來看看吧2018-04-04利用python實(shí)現(xiàn)對(duì)web服務(wù)器的目錄探測(cè)的方法
這篇文章主要介紹了利用python實(shí)現(xiàn)對(duì)web服務(wù)器的目錄探測(cè)的方法,文中通過示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2019-02-02python opencv鼠標(biāo)交互操作的實(shí)用指南
最近的工作經(jīng)常需要對(duì)圖像進(jìn)行操作,也需要用鼠標(biāo)對(duì)圖像進(jìn)行各種操作,所以下面這篇文章主要給大家介紹了關(guān)于python opencv鼠標(biāo)交互操作的相關(guān)資料,需要的朋友可以參考下2021-10-10