DeepSeek-R1 與 AnythingLLM 安裝部署本地知識庫詳細教程

DeepSeek R1是目前最火的大模型,近來有很多朋友問怎么搭建DeepSeek 本地知識庫?今天給大家推薦一個“懶人神器”——AnythingLLM。這是一個全棧應用程序,允許您將任何文檔、資源或內(nèi)容轉(zhuǎn)換為 LLM(大型語言模型)在聊天時可以使用的上下文。使用離線部署的DeepSeek R1,基于AnythingLLM在本地搭建私有知識庫,簡單又好用,完全本地化。下面就整理了AnythingLLM+DeepSeek安裝本地部署教程,僅供參考!
詳細安裝教程
1、安裝Ollama
打開Ollama官方網(wǎng)址:https://ollama.com/download,然后選擇當前系統(tǒng)的版本,下載后直接安裝即可。網(wǎng)上此教程眾多這里就不贅述了。
打開命令行界面,在命令行界面輸入
ollama --version
出現(xiàn)如下顯示說明Ollama安裝成功
2、安裝DeepSeek
在命令行界面輸入:ollama run deepseek-r1:1.5b
可以快速安裝deepseek-r1:1.5b模型,安裝成功后如圖所示
3、安裝AnythingLLM
下載AnythingLLM安裝包,然后雙擊AnythingLLMDesktop.exe進行安裝即可
安裝完成后退出程序
打開軟件主界面,首次啟動會出現(xiàn)Get started,點擊即可
接著直接點擊右箭頭,一直點擊即可
起一個工作區(qū)名稱然后點擊右箭頭進入工作界面
點擊左下角的小扳手,進入設置
依次選擇“人工智能提供商”-“LLM首選項”,然后選擇Ollama,配置模型地址http://127.0.0.1:11434
選擇DeepSeek-R1,token長度4096,然后點擊Save changes即可
點擊剛剛創(chuàng)建的工作區(qū),選擇本地文檔或者網(wǎng)頁鏈接
然后點擊Save and Embed
出現(xiàn)Workspace updated successfully就表示知識庫配置已經(jīng)完成
現(xiàn)在你可以開始你的任意提問了,LLM會結(jié)合自己的知識,以及文檔的內(nèi)容,生成你提問的相應回答。
進入界面,點擊進行測試基礎的模型對話
如果想確認AI回答的知識來源,可以在回答底部點擊Show Citations查看引用的知識
修改中文語言,進入設置,選擇Chinese即可
以上就是小編整理的關于使用DeepSeek-R1 與 AnythingLLM 搭建本地知識庫詳細教程,僅供參考,希望對大家有所幫助!歡迎繼續(xù)關注腳本之家相關軟件教程!
相關文章
如何實現(xiàn)deepseek本地部署?詳細教學deepseek本地環(huán)境搭建及設置
本文將詳細介紹deepseek本地部署的完整步驟,包括從環(huán)境配置到軟件安裝的全程指南,我們將細節(jié)和注意點做了介紹,確保你能夠在短時間內(nèi)完成高效、安全的配置,快速啟動Deep2025-02-04本地部署DeepSeek-R1聯(lián)網(wǎng) 超簡單的DeepSeek離線部署聯(lián)網(wǎng)搜索教程
DeepSeek是近日熱門的AI大型語言模型,目前可實現(xiàn)本地部署版本,那么DeepSeek本地部署后如何實現(xiàn)聯(lián)網(wǎng)?這里要給大家介紹一個插件,簡單快速部署deepseek-r1本地,無需網(wǎng)絡2025-02-06- 過年這幾天,DeepSeek 算是徹底破圈了,火遍大江南北,火到人盡皆知,有不少讀者私信詢問本地部署DeepSeek-R1的電腦配置要求,下面我們就一起看看DeepSeek每個版本的配置要2025-02-07
DeepSeek R1最全本地部署教程 適用于Mac/Windows/Linux平臺
本篇文章將以部署國產(chǎn)最新崛起的 AI 大模型 DeepSeek R1 為例,手把手教你如何利用 Ollama 在本地環(huán)境中快速搭建和運行這些先進的 AI 模型2025-02-07- 本文將通過圖文結(jié)合的方式,詳細介紹 DeepSeek 的安裝、配置、基本使用、高級功能以及實用技巧,幫助你快速上手并掌握這一工具2025-02-08
全新DeepSeek R1 本地部署詳細圖文教程 支持Web-UI 可以斷網(wǎng)使用(附下
DeepSeek全球下載榜單登頂,因為太過火爆了,導致DeepSeek這段時間用的時候幾乎天天崩潰,經(jīng)常出現(xiàn)“服務器繁忙,請稍后再試”的情況,這里為大家?guī)鞤eepSeek R1本地部署2025-02-07DeepSeek服務器繁忙怎么解決?手把手教你本地連接DeepSeek R1告別不響
近期DeepSeek經(jīng)常出現(xiàn)服務器繁忙,請稍后再試的情況,那么DeepSeek服務器繁忙怎么解決呢?本文手把手教你本地連接DeepSeek R1,告別不響應,一起來看看吧2025-02-07看到滿血版價格想想還是算了! 本地部署 DeepSeek 電腦硬件配置清單
針對本地部署DeepSeek大模型的配置需求,需根據(jù)模型規(guī)模(如7B/13B/70B參數(shù))和量化方案進行區(qū)分,以下是三個層級的硬件配置建議2025-02-09- 如果你是內(nèi)容創(chuàng)作者,或者在數(shù)字營銷、數(shù)據(jù)分析等領域工作,提升工作效率和創(chuàng)作水平是必不可少的,而掌握一些強大的創(chuàng)作指令,無疑能讓你事半功倍!今天,我整理了20個Deep2025-02-09
DeepSeek R1 671B 完整版本地部署詳盡教程來了!
關于本地部署,大多數(shù)人使用的是蒸餾后的8B/32B/70B版本,本質(zhì)是微調(diào)后的Llama或Qwen模型,并不能完全發(fā)揮出DeepSeek R1的實力,下面我們就來看看DeepSeek R1 671B 完整版2025-02-09