centos部署open-webui的完整流程記錄
一、open-webui是什么?
Open WebUI 是一個開源的、可自托管的 Web 用戶界面工具,專為與本地或私有化部署的大語言模型(LLM,如 LLaMA、GPT 等)交互而設(shè)計(jì)。它類似于 Ollama WebUI,但更加靈活和可定制,允許用戶通過瀏覽器界面便捷地管理和調(diào)用 AI 模型,適用于個人開發(fā)者、企業(yè)或研究團(tuán)隊(duì)構(gòu)建私有化 AI 應(yīng)用。
二、安裝流程
1.openssl升級
構(gòu)建 Python 3.11 需要openssl 1.1.1或更新版本。
# 安裝常用的工具包 [root@iZ2zeghyb5sxtgurlw3tkmZ ~] yum install -y zlib-devel bzip2-devel openssl-devel ncurses-devel sqlite-devel readline-devel tk-devel gdbm-devel db4-devel libpcap-devel xz-devel libffi-devel [root@iZ2zeghyb5sxtgurlw3tkmZ ~] yum groupinstall "Development Tools" #創(chuàng)建目錄 [root@iZ2zeghyb5sxtgurlw3tkmZ ~] mkdir -p /data/soft/openssl/ #下載安裝包 [root@iZ2zeghyb5sxtgurlw3tkmZ ~]wget https://www.openssl.org/source/openssl-1.1.1w.tar.gz # 解壓壓縮包 [root@iZ2zeghyb5sxtgurlw3tkmZ ~]tar -zxvf openssl-1.1.1w.tar.gz #進(jìn)入解壓目錄 [root@iZ2zeghyb5sxtgurlw3tkmZ ~] cd openssl-1.1.1w #配置編譯安裝目錄 注意查看目錄是否有覆蓋 /usr/local/openssl [root@iZ2zeghyb5sxtgurlw3tkmZ ~]./config --prefix=/usr/local/openssl --openssldir=/usr/local/openssl shared # 編譯安裝 [root@iZ2zeghyb5sxtgurlw3tkmZ ~] make && make install # 設(shè)置擴(kuò)展加載目錄 [root@iZ2zeghyb5sxtgurlw3tkmZ ~] echo "/usr/local/openssl/lib" >> /etc/ld.so.conf # 重新加載擴(kuò)展加載目錄是之生效 [root@iZ2zeghyb5sxtgurlw3tkmZ ~]ldconfig -v [root@iZ2zeghyb5sxtgurlw3tkmZ ~]ldconfig #版本信息查看 [root@iZ2zeghyb5sxtgurlw3tkmZ openssl-1.1.1w]# /usr/local/openssl/bin/openssl version OpenSSL 1.1.1w 11 Sep 2023 [root@iZ2zeghyb5sxtgurlw3tkmZ openssl-1.1.1w]
2.Python3.11安裝
# 創(chuàng)建包的安裝目錄,以及pip臨時目錄 [root@iZ2zeghyb5sxtgurlw3tkmZ]# mkdir -p /data/soft/pyton-packages-tmp [root@iZ2zeghyb5sxtgurlw3tkmZ]# mkdir -p /data/soft/pyton-packages # python3.11安裝目錄 [root@iZ2zeghyb5sxtgurlw3tkmZ]# mkdir -p /data/soft/python3.11 #python壓縮包下載 [root@iZ2zeghyb5sxtgurlw3tkmZ soft]# wget https://www.python.org/ftp/python/3.11.11/Python-3.11.11.tgz #壓縮包解壓 [root@iZ2zeghyb5sxtgurlw3tkmZ soft]# tar -xvf Python-3.11.11.tgz #進(jìn)入到解壓目錄 [root@iZ2zeghyb5sxtgurlw3tkmZ soft]# cd Python-3.11.11 [root@iZ2zeghyb5sxtgurlw3tkmZ Python-3.11.11]# ls # 指定python安裝目錄,以及編譯時使用的openssl [root@iZ2zeghyb5sxtgurlw3tkmZ soft]# ./configure --with-openssl=/usr/local/openssl \ LDFLAGS="-L/usr/local/openssl/lib" \ CPPFLAGS="-I/usr/local/openssl/include" \ --prefix="/data/soft/python3.11"
3.sqlite安裝升級
# 下載安裝sqlite壓縮包 [root@iZ2zeghyb5sxtgurlw3tkmZ soft]# wget https://www.sqlite.org/2024/sqlite-autoconf-3450100.tar.gz # 解壓安裝sqlite壓縮包 [root@iZ2zeghyb5sxtgurlw3tkmZ soft]# tar xvf sqlite-autoconf-3450100.tar.gz # 進(jìn)入解壓安裝目錄 [root@iZ2zeghyb5sxtgurlw3tkmZ soft]# cd sqlite-autoconf-3450100 # 設(shè)置安裝目錄注意安裝目錄下是否有覆蓋 /usr/local [root@iZ2zeghyb5sxtgurlw3tkmZ soft]#./configure --prefix=/usr/local [root@iZ2zeghyb5sxtgurlw3tkmZ soft]# make && make install #設(shè)置庫加載及立即升級 [root@iZ2zeghyb5sxtgurlw3tkmZ soft]# echo "/usr/local/lib" | tee /etc/ld.so.conf.d/sqlite.conf [root@iZ2zeghyb5sxtgurlw3tkmZ soft]# ldconfig # 啟動open-webui不生效需設(shè)置軟連接 [root@iZ2zeghyb5sxtgurlw3tkmZ soft]# cd /usr/bin/ [root@iZ2zeghyb5sxtgurlw3tkmZ soft]# mv sqlite3 sqlite3_old [root@iZ2zeghyb5sxtgurlw3tkmZ soft]# ln -s /usr/local/bin/sqlite3 /usr/bin/sqlite3
4.pip 下載安裝open-webui
#設(shè)置臨時環(huán)境變量 [root@iZ2zeghyb5sxtgurlw3tkmZ Python-3.11.11]export PIP_CACHE_DIR=/data/soft/pyton-packages-tmp #pip下載安裝 指定包下載路徑 [root@iZ2zeghyb5sxtgurlw3tkmZ soft]# /data/soft/python3.11/bin/pip3.11 install open-webui --target=/data/soft/pyton-packages #設(shè)置臨時環(huán)境變量 環(huán)境變量可添加到 家目錄的.bashrc文件中 [root@iZ2zeghyb5sxtgurlw3tkmZ soft]#export PYTHONPATH=/data/soft/pyton-packages/open_webui:$PYTHONPATH #設(shè)置臨時環(huán)境變量 [root@iZ2zeghyb5sxtgurlw3tkmZ soft]#export LD_LIBRARY_PATH=/usr/local/lib:$LD_LIBRARY_PATH # 修改open-webui啟動,執(zhí)行文件新加入__import__('pysqlite3'),sys.modules['sqlite3'] = sys.modules.pop('pysqlite3') [root@iZ2zeghyb5sxtgurlw3tkmZ bin]# cd /data/soft/pyton-packages/bin [root@iZ2zeghyb5sxtgurlw3tkmZ bin]# vim open-webui #修改如下,以及圖示 __import__('pysqlite3') import sys sys.modules['sqlite3'] = sys.modules.pop('pysqlite3') # pip3.11安裝pysqlite3-binary [root@iZ2zeghyb5sxtgurlw3tkmZ soft] /data/soft/python3.11/bin/pip3.11 install pysqlite3-binary # 啟動open-webui [root@iZ2zeghyb5sxtgurlw3tkmZ soft] /data/soft/pyton-packages/bin/open-webui serve
open-webui 執(zhí)行文件修改如下圖所示
open-webui啟動如下圖
總結(jié)
以上就是簡要介紹一下open-webui的安裝過程。本示例安裝過程中將臨時占用系統(tǒng)磁盤11G,永久占用磁盤2G左右。請注意,如果在一個生產(chǎn)環(huán)境或者對穩(wěn)定性要求很高的環(huán)境中操作,建議使用系統(tǒng)的包管理器或者虛擬環(huán)境,以免影響系統(tǒng)中其他的 Python 應(yīng)用程序。此外,根據(jù)你的 Linux 發(fā)行版,可能有更簡單的方法來安裝最新版本的 Python,例如使用conda, pyenv, 或者某些發(fā)行版特定的第三方庫。CentOS 7 及以前版本可能不會支持 Python 3.11 的一些特性。
到此這篇關(guān)于centos部署open-webui的文章就介紹到這了,更多相關(guān)centos部署open-webui內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
Hadoop-3.1.2完全分布式環(huán)境搭建過程圖文詳解(Windows 10)
這篇文章主要介紹了Hadoop-3.1.2完全分布式環(huán)境搭建過程圖文詳解(Windows 10),本文分步驟給大家介紹的非常詳細(xì),具有一定的參考借鑒價值 ,需要的朋友可以參考下2019-07-07chatGPT本地部署、運(yùn)行和接口調(diào)用的詳細(xì)步驟
這篇文章主要介紹了chatGPT本地部署、運(yùn)行和接口調(diào)用的詳細(xì)步驟,文中給大家介紹了cookie?信息寫入?config.json的三種方式,每種方式給大家介紹的非常詳細(xì),需要的朋友可以參考下2023-02-02一文讀懂吞吐量(TPS)、QPS、并發(fā)數(shù)、響應(yīng)時間(RT)概念
這篇文章主要介紹了吞吐量(TPS)、QPS、并發(fā)數(shù)、響應(yīng)時間(RT)概念,在開發(fā)中需要先搞懂這些基礎(chǔ)知識,才能更好運(yùn)用,需要的朋友可以參考下2020-07-07XXencode 編碼,XX編碼介紹、XXencode編碼轉(zhuǎn)換原理與算法
這篇文章主要介紹了XXencode 編碼,XX編碼介紹、XXencode編碼轉(zhuǎn)換原理、算法,需要的朋友可以參考下2016-06-06