Windows本地部署OpenManus并接入Mistral模型的完整教程
前言
最近Manus作為一款強(qiáng)大的本地LLM應(yīng)用平臺(tái)引起了廣泛關(guān)注,但遺憾的是它需要邀請(qǐng)碼才能使用,這讓很多想嘗試的開發(fā)者望而卻步。令人驚喜的是,OpenManus團(tuán)隊(duì)僅用了3小時(shí)就復(fù)刻了一個(gè)功能相似的開源替代方案。這讓我非常興奮,立刻決定嘗試在本地部署OpenManus,并搭配Ollama運(yùn)行的Mistral:latest模型,打造一套完全私有化的AI對(duì)話系統(tǒng)。本文將記錄我在Windows環(huán)境下的完整部署過程,希望能給有類似需求的朋友提供參考。
環(huán)境準(zhǔn)備
首先,我選擇使用Conda來創(chuàng)建一個(gè)獨(dú)立的Python環(huán)境,這樣可以避免依賴沖突問題。
1. 安裝Conda
如果你還沒有安裝Conda,可以先從官網(wǎng)下載Miniconda:Miniconda
這里輸入我們的郵箱,然后點(diǎn)擊Submit提交,隨后會(huì)跳轉(zhuǎn)到安裝頁(yè)面
我下載了Windows 64位的安裝包,安裝過程按默認(rèn)選項(xiàng)一路下一步即可。安裝完成后,打開命令提示符或PowerShell,確認(rèn)安裝成功:
conda --version
2. 創(chuàng)建并激活環(huán)境
接下來創(chuàng)建一個(gè)專用的環(huán)境用于OpenManus:
conda create -n open_manus python=3.12 conda activate open_manus
安裝Ollama
1. 下載并安裝Ollama
前往Ollama官網(wǎng)下載Windows版本的安裝程序。安裝過程很簡(jiǎn)單,雙擊exe文件并按提示完成即可。安裝完成后,Ollama會(huì)在后臺(tái)運(yùn)行,可以在系統(tǒng)托盤找到它的圖標(biāo)。
安裝完成后,打開命令提示符或PowerShell輸入ollama --version
,確認(rèn)安裝成功:
2. 拉取Mistral模型
打開命令提示符,運(yùn)行:
ollama run mistral
這一步會(huì)下載Mistral模型文件,根據(jù)網(wǎng)絡(luò)狀況可能需要一段時(shí)間(文件大約7GB左右)。完成后可以測(cè)試一下:
如果能看到模型返回的回答,說明Ollama工作正常。
安裝OpenManus
1. 克隆倉(cāng)庫(kù)
在激活的conda環(huán)境中,我首先克隆了OpenManus的代碼庫(kù):
git clone https://github.com/mannaandpoem/OpenManus.git cd OpenManus
2. 安裝依賴
pip install -r requirements.txt
這一步可能會(huì)有一些依賴沖突,我遇到了numpy版本的問題,通過以下方式解決:
pip install numpy==1.23.5
然后再次運(yùn)行pip install -r requirements.txt
完成安裝。
3. 配置OpenManus
OpenManus的配置主要在config.yaml
文件中,我復(fù)制了示例配置并進(jìn)行了修改:
copy config\config.example.toml config\config.toml
使用文本編輯器打開config.yaml,將LLM部分配置修改為:
連接OpenManus與Ollama
1. 網(wǎng)絡(luò)配置
確保Ollama的API可以被OpenManus訪問。Ollama默認(rèn)在11434端口提供服務(wù),我檢查了Windows防火墻設(shè)置,確保這個(gè)端口沒有被阻止。
2. 啟動(dòng)服務(wù)
現(xiàn)在可以啟動(dòng)OpenManus服務(wù)了:
python main.py
首次啟動(dòng)時(shí),OpenManus會(huì)嘗試連接Ollama服務(wù)并驗(yàn)證Mistral模型是否可用。在控制臺(tái)上應(yīng)該能看到成功連接的日志信息。
總結(jié)與心得
通過這次本地部署OpenManus和Mistral模型的實(shí)踐,我獲得了一套完全私有化的AI對(duì)話系統(tǒng)。這種開源替代方案不需要像原版Manus那樣等待邀請(qǐng)碼,任何人都可以立即部署使用,真正體現(xiàn)了開源社區(qū)的力量。
與云服務(wù)相比,雖然部署過程更復(fù)雜一些,但數(shù)據(jù)完全在本地,沒有隱私泄露的風(fēng)險(xiǎn),而且沒有API調(diào)用費(fèi)用,非常適合個(gè)人或小團(tuán)隊(duì)使用。
Mistral:latest模型的表現(xiàn)讓我很驚喜,在多數(shù)日常任務(wù)中,它的回答質(zhì)量已經(jīng)可以滿足我的需求,而且本地運(yùn)行的響應(yīng)速度也相當(dāng)不錯(cuò)。
最后,通過Conda管理環(huán)境確實(shí)是個(gè)明智的選擇,它讓我能夠隨時(shí)切換、升級(jí)或回滾環(huán)境,而不影響系統(tǒng)中的其他Python項(xiàng)目。
以上就是Windows本地部署OpenManus并接入Mistral模型的完整教程的詳細(xì)內(nèi)容,更多關(guān)于Windows本地部署OpenManus的資料請(qǐng)關(guān)注腳本之家其它相關(guān)文章!
相關(guān)文章
語(yǔ)言編程花絮內(nèi)建構(gòu)建順序示例詳解
這篇文章主要為大家介紹了語(yǔ)言編程花絮內(nèi)建構(gòu)建順序示例詳解,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪2023-03-03解決使用IDE Run運(yùn)行出錯(cuò)package pack/test is not in GOROOT (/usr/loca
這篇文章主要介紹了解決使用IDE Run運(yùn)行出錯(cuò)package pack/test is not in GOROOT (/usr/local/go/src/pack/test),本文給大家介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2020-11-11skynet.rawcall使用應(yīng)用場(chǎng)景分析
skynet.rawcall 是 Skynet 框架中用于直接傳遞原始二進(jìn)制數(shù)據(jù)的低級(jí)通信接口,適用于需要繞過自動(dòng)序列化/反序列化、手動(dòng)控制內(nèi)存或?qū)崿F(xiàn)高性能傳輸?shù)膱?chǎng)景,下面給大家介紹skynet.rawcall使用應(yīng)用場(chǎng)景分析,感興趣的朋友一起看看吧2025-04-04遠(yuǎn)程過程調(diào)用RPC基本概念及實(shí)現(xiàn)原理
這篇文章介紹了遠(yuǎn)程過程調(diào)用RPC基本概念及實(shí)現(xiàn)原理,對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2022-01-01Ceph分布式存儲(chǔ)集群Pool資源池簡(jiǎn)介及使用小結(jié)
這篇文章主要介紹了Ceph分布式存儲(chǔ)集群Pool資源池的概念以及使用,Pool資源池是Ceph存儲(chǔ)數(shù)據(jù)的邏輯分區(qū),起到Namespace命名空間的作用,本文給大家介紹的非常詳細(xì),需要的朋友參考下吧2022-06-06趁熱打鐵!HTTPGet與HTTPPost的區(qū)別詳解
這篇文章主要介紹了趁熱打鐵!HTTPGet與HTTPPost的區(qū)別詳解,文中通過示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2020-10-10IDEA出現(xiàn)java:程序包javax.servlet不存在問題解決方法
這篇文章主要給大家介紹了關(guān)于IDEA出現(xiàn)java:程序包javax.servlet不存在問題的解決方法,這個(gè)錯(cuò)誤提示意味著你的Java程序中缺少了javax.servlet這個(gè)包,文中通過圖文介紹的非常詳細(xì),需要的朋友可以參考下2023-11-11百度HI QQ和MSN 阿里旺旺貿(mào)易通MSN在線客服在線聊天代碼
有時(shí)候業(yè)務(wù)需要,需要讓客戶更方便的與我們溝通,就可以參考下面的代碼。2010-04-04趣談Unicode、Ascii、utf-8、GB2312、GBK等編碼知識(shí)
這篇文章主要介紹了趣談Unicode、Ascii、utf-8、GB2312、GBK等編碼知識(shí),文章寫的詼諧風(fēng)趣,膜拜啊,需要的朋友可以參考下2014-07-07