快捷導(dǎo)航

Windows安裝與配置Ollama的圖文教程

更新時(shí)間：2025年03月21日 11:09:04 作者：goomind

本文主要介紹了Windows安裝與配置Ollama的圖文教程,文中通過圖文示例介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧

Windows安裝與配置Ollama

簡介

本節(jié)學(xué)習(xí)如何在 Windows 系統(tǒng)中完成 Ollama 的安裝與配置，主要分為以下幾個(gè)部分:

訪問官網(wǎng)直接完成下載
環(huán)境變量配置
運(yùn)行 Ollama
驗(yàn)證安裝成功??

一、訪問官網(wǎng)直接完成下載

訪問官網(wǎng)主頁

Ollama 下載：https://ollama.com/download

Ollama 官方主頁：https://ollama.com

Ollama 官方 GitHub 源代碼倉庫：https://github.com/ollama/ollama/

在這里插入圖片描述

等待瀏覽器下載文件 OllamaSetup.exe，完成后雙擊該文件，出現(xiàn)如下彈窗，點(diǎn)擊 Install 等待下載完成即可。

在這里插入圖片描述

安裝完成后，可以看到 Ollama 已經(jīng)默認(rèn)運(yùn)行了。

二、環(huán)境變量配置

Ollma可以像其他軟件一樣在電腦上完成一鍵安裝，不同的是，建議按照實(shí)際需求配置下系統(tǒng)環(huán)境變量參數(shù)

參數(shù)	標(biāo)識(shí)與配置
OLLAMA_MODELS	表示模型文件的存放目錄，默認(rèn)目錄為當(dāng)前用戶目錄即 C:\Users%username%.ollama\modelsWindows 系統(tǒng) 建議不要放在C盤，可放在其他盤（如 E:\ollama\models）
OLLAMA_HOST	表示ollama 服務(wù)監(jiān)聽的網(wǎng)絡(luò)地址，默認(rèn)為127.0.0.1如果想要允許其他電腦訪問 Ollama（如局域網(wǎng)中的其他電腦），建議設(shè)置成 0.0.0.0
OLLAMA_PORT	表示ollama 服務(wù)監(jiān)聽的默認(rèn)端口，默認(rèn)為11434如果端口有沖突，可以修改設(shè)置成其他端口（如8080等）
OLLAMA_ORIGINS	表示HTTP 客戶端的請求來源，使用半角逗號(hào)分隔列表如果本地使用不受限制，可以設(shè)置成星號(hào) *
OLLAMA_KEEP_ALIVE	表示大模型加載到內(nèi)存中后的存活時(shí)間，默認(rèn)為5m即 5 分鐘（如純數(shù)字300 代表 300 秒，0 代表處理請求響應(yīng)后立即卸載模型，任何負(fù)數(shù)則表示一直存活）建議設(shè)置成 24h ，即模型在內(nèi)存中保持 24 小時(shí)，提高訪問速度
OLLAMA_NUM_PARALLEL	表示請求處理的并發(fā)數(shù)量，默認(rèn)為1 （即單并發(fā)串行處理請求）建議按照實(shí)際需求進(jìn)行調(diào)整
OLLAMA_MAX_QUEUE	表示請求隊(duì)列長度，默認(rèn)值為512建議按照實(shí)際需求進(jìn)行調(diào)整，超過隊(duì)列長度的請求會(huì)被拋棄
OLLAMA_DEBUG	表示輸出 Debug 日志，應(yīng)用研發(fā)階段可以設(shè)置成1 （即輸出詳細(xì)日志信息，便于排查問題）
OLLAMA_MAX_LOADED_MODELS	表示最多同時(shí)加載到內(nèi)存中模型的數(shù)量，默認(rèn)為1 （即只能有 1 個(gè)模型在內(nèi)存中）

默認(rèn)的模型保存路徑在C盤，我們把路徑更改到有更多可用空間的分區(qū)或目錄，可以更好地管理存儲(chǔ)空間。

添加 OLLAMA_MODELS 環(huán)境變量改變模型存儲(chǔ)的位置。例如 E:\ollama\models
設(shè)置完成后重啟 ollama 或 PowerShell，即可完成更改。

三、運(yùn)行Ollama

命令行語句啟動(dòng)

ollama serve

啟動(dòng) Ollama 時(shí)會(huì)報(bào)錯(cuò)如下，因?yàn)?Windows 系統(tǒng)安裝 Ollama 時(shí)會(huì)默認(rèn)開機(jī)啟動(dòng)，Ollama 服務(wù)默認(rèn)是 http://127.0.0.1:11434

Error: listen tcp 127.0.0.1:11434: bind: Only one usage of each socket address (protocol/network address/port) is normally permitted.

解決方法：

快捷鍵 Win+X 打開任務(wù)管理器，點(diǎn)擊 啟動(dòng)，禁用 Ollama，并在進(jìn)程中結(jié)束 Ollama 的任務(wù)。

在這里插入圖片描述

再次使用 ollama serve打開 Ollama。

驗(yàn)證成功啟動(dòng)：

快捷鍵 Win+R，輸入 cmd，打開命令行終端。
輸入 netstat -aon|findstr 11434 查看占用端口11434的進(jìn)程。

netstat -aon|findstr 11434

輸出： TCP 127.0.0.1:11434 0.0.0.0:0 LISTENING 17556

顯示11434端口被17556進(jìn)程占用

查看該進(jìn)程運(yùn)行的情況，發(fā)現(xiàn) Ollama 已經(jīng)啟動(dòng)。

tasklist|findstr "17556"

輸出如下：ollama.exe 17556 Console 1 31,856 K

四、驗(yàn)證安裝成功??

終端輸入：

ollama -h

輸出如下：即表示安裝成功??

Large language model runner

Usage:
  ollama [flags]
  ollama [command]

Available Commands:
  serve       Start ollama
  create      Create a model from a Modelfile
  show        Show information for a model
  run         Run a model
  pull        Pull a model from a registry
  push        Push a model to a registry
  list        List models
  ps          List running models
  cp          Copy a model
  rm          Remove a model
  help        Help about any command

Flags:
  -h, --help      help for ollama
  -v, --version   Show version information

終端使用Ollama :