Python訪問本地deepseek示例【含deepseek本地部署】
本文實(shí)例講述了Python訪問本地deepseek功能。分享給大家供大家參考,具體如下:
需要下載的軟件
- OllamaSetup.exe(Ollama是一個管理和運(yùn)行大語言模型的開源工具)
- Hollama_0.25.1-win-x64.exe【可選】(Hollama是一個Ollama的可視化工具)
- python-3.13.1-amd64.exe
- VSCodeUserSetup-x64-1.96.4.exe【可選】
安裝步驟
安裝Ollama并運(yùn)行模型DeepSeek
從官網(wǎng)下載相應(yīng)的版本,這里使用的是Windows版本,雙擊執(zhí)行安裝文件默認(rèn)會安裝到C盤,可通過如下方式指定安裝路徑:OllamaSetup.exe /DIR=your path
安裝完畢后運(yùn)行Ollama.exe即可,可通過命令ollama help
查看參數(shù)。其中,應(yīng)先了解以下參數(shù):
- serve,用來啟動ollama(windows上通過安裝包安裝的Ollama會開機(jī)自動啟動,啟動后可以在瀏覽器中查看,地址為:http://127.0.0.1:11434/)
- run 運(yùn)行一個模型(初次運(yùn)行,會自動下載模型)
- list 列出所有模型
- cp 列出正在運(yùn)行的模型
- rm 刪除模型
- help 幫助
安裝完畢并啟動Ollama后,可通過執(zhí)行以下命令下載并運(yùn)行DeepSeek:ollama run deepseek-r1:1.5b
更多模型請見 https://ollama.com/search, 我電腦配置低,故選的是1.5b。
如果一切正常,DeepSeek運(yùn)行起來后是這樣的:
這時候可以發(fā)一些文字并得到反饋了:
可輸入/?
看到幫助信息
安裝Hollama
Hollama也是一個開源軟件,它和ollama的關(guān)系類似于Navicat和Mysql,有了它,就不用在黑糊糊的CMD下面和模型交互了,類似的軟件有還有很多,請參見:https://github.com/ollama/ollama
運(yùn)行起來的效果如下:
試用python調(diào)用
這里列出了可以調(diào)用Ollama服務(wù)的很多類庫:https://github.com/ollama/ollama。 暫使用Python測試:
先安裝模塊:
pip install ollama
用VS Code編寫代碼如下:
import ollama if __name__ == '__main__': res = ollama.chat(model='deepseek-r1:1.5b', stream=False, messages=[{'role': 'user', 'content':'how are you'}]) print(res)
執(zhí)行結(jié)果:
更多關(guān)于Python相關(guān)內(nèi)容可查看本站專題:《Python Socket編程技巧總結(jié)》、《Python正則表達(dá)式用法總結(jié)》、《Python數(shù)據(jù)結(jié)構(gòu)與算法教程》、《Python函數(shù)使用技巧總結(jié)》、《Python字符串操作技巧匯總》、《Python入門與進(jìn)階經(jīng)典教程》及《Python文件與目錄操作技巧匯總》
希望本文所述對大家Python程序設(shè)計(jì)有所幫助。
相關(guān)文章
PyCharm設(shè)置SSH遠(yuǎn)程調(diào)試的方法
這篇文章主要介紹了PyCharm設(shè)置SSH遠(yuǎn)程調(diào)試的方法,小編覺得挺不錯的,現(xiàn)在分享給大家,也給大家做個參考。一起跟隨小編過來看看吧2018-07-07PyTorch線性回歸和邏輯回歸實(shí)戰(zhàn)示例
這篇文章主要介紹了PyTorch線性回歸和邏輯回歸實(shí)戰(zhàn)示例,小編覺得挺不錯的,現(xiàn)在分享給大家,也給大家做個參考。一起跟隨小編過來看看吧2018-05-05