基于 Docker 搭建 Anythingllm的詳細過程

更新時間：2025年03月06日 09:11:45 作者：lu_rong_qq

本文詳細介紹了如何在本地Windows 11企業(yè)版上使用Docker搭建和部署Anythingllm,包括Ollama和Docker的安裝步驟,以及配置和使用Anythinllm的具體方法,感興趣的朋友一起看看吧

背景

嘗試搭建一個自己的知識庫增強生成模型（RAG），本文記錄的是完全在本地的搭建流程。但是由于太耗c盤了，跑過之后嘗試轉戰(zhàn)云部署，以防后續(xù)忘記關鍵步驟，遂總結為經(jīng)驗帖。

部署完成后 be like：

配置

系統(tǒng)	Windows 11 企業(yè)版
LLM	Ollama
UI	Anythingllm
部署	本地+Docker

一、Ollama&Docker 安裝

這倆都很簡單，在官網(wǎng)直接下載安裝就好。

注意：Ollama 和 Docker 都是默認下載進 C 盤的（沒有過程中可以瀏覽改地址的那種），加上后續(xù) anythingllm 的鏡像拉取接近 15G。本地部署至少要準備 20G 的 C 盤余額。（似乎可以在安裝完成后遷移到 D 盤，但是作者沒做相關嘗試）

1. Ollama

官網(wǎng)：https://ollama.com/

2. Docker

官網(wǎng)：Docker: Accelerated Container Application Development

二、Anythingllm搭建

基于官方文檔：https://docs.anythingllm.com/installation-docker/local-docker

但是文檔寫的不算詳細，在拉取 Anythingllm

鏡像之前需要先下載三個小組件：yarn、node、PowerShell。

1. nodejs

下載地址：

Node.js — Download Node.js®

Node.js® is a JavaScript runtime built on Chrome's V8 JavaScript engine.

https://nodejs.org/en/download/package-manager/current

2. Yarn

在下載 nodejs 后，可以在 cmd 中執(zhí)行以下命令來安裝 Yarn：

npm install --global yarn

3. PowerShell

文檔里沒說，有一塊代碼必須在 PowerShell 里運行，不能在 cmd 里運行。

下載地址：

Installing PowerShell on Windows - PowerShell | Microsoft Learn

Information about installing PowerShell on Windows

https://learn.microsoft.com/en-us/powershell/scripting/install/installing-powershell-on-windows?view=powershell-7.4

4. Anythingllm

在 cmd 里執(zhí)行以下命令拉取 Anythingllm 的鏡像：

 docker pull mintplexlabs/anythingllm

然后在 PowerShell 里執(zhí)行：

$env:STORAGE_LOCATION="$HOME\Documents\anythingllm"; `
If(!(Test-Path $env:STORAGE_LOCATION)) {New-Item $env:STORAGE_LOCATION -ItemType Directory}; `
If(!(Test-Path "$env:STORAGE_LOCATION\.env")) {New-Item "$env:STORAGE_LOCATION\.env" -ItemType File}; `
docker run -d -p 3001:3001 `
--cap-add SYS_ADMIN `
-v "$env:STORAGE_LOCATION`:/app/server/storage" `
-v "$env:STORAGE_LOCATION\.env:/app/server/.env" `
-e STORAGE_DIR="/app/server/storage" `
mintplexlabs/anythingllm;