SpringBoot配置Ollama實現(xiàn)本地部署DeepSeek
前言
隨著人工智能技術的迅猛發(fā)展,越來越多的開發(fā)者希望在本地環(huán)境中部署和調用 AI 模型,以滿足特定的業(yè)務需求。本文將詳細介紹如何在本地環(huán)境中使用 Ollama 配置 DeepSeek 模型,并在 IntelliJ IDEA 中創(chuàng)建一個 Spring Boot 項目來調用該模型。通過這些步驟,您將能夠在本地環(huán)境中高效地運行和測試 AI 模型,提升開發(fā)效率。
詳細步驟
一、本地配置DeepSeek
1.安裝Ollama
Ollama 是一個開源平臺,旨在簡化大型語言模型的本地部署和管理。您可以從 Ollama官網(wǎng)下載適用于 Windows、Linux 或 macOS 的安裝包。
安裝成功后可以使用win+R并輸入cmd打開終端,接著輸入ollama檢查是否安裝成功,如果有輸出對應信息則說明安裝成功了
2.下載對應DeepSeek模型并運行
首先選中想要配置的DeepSeek版本并復制右側指令
將指令復制到終端并進行下載對應版本的DeepSeek,下載完成之后到這個界面,就是下載成功了,可以輸入一些信息進行測試
二、SpringBoot項目調用本地DeepSeek
1.創(chuàng)建springboot項目
具體操作如下:
- 打開 IntelliJ IDEA,選擇 "New Project"。
- 選擇 "Spring Initializr" 作為項目類型。
- 填寫項目的基本信息,如 Group、Artifact 等。
- 在 "Dependencies" 中添加所需的依賴,例如 "Spring Web"。
- 點擊 "Create" 創(chuàng)建項目。
這里我添加了Web和Ollama的依賴,創(chuàng)建成功界面如下
2.添加deepseek對應配置信息
在application.properties中添加下面配置信息
spring.ai.ollama.chat.options.model=deepseek-r1:1.5b spring.ai.ollama.base-url=http://127.0.0.1:11434 spring.ai.ollama.chat.enabled=true server.port=9099
3.編碼調用deepseek
接著創(chuàng)建簡單controller類和service實現(xiàn)類,結構如圖:
對應代碼如下:
controller:
@RestController public class testController { @Autowired private DeepSeekTestService deepSeekTestService; @RequestMapping("/ask1") public String speak(@RequestParam String msg){ return deepSeekTestService.getResponse(msg); } }
service接口:
public interface DeepSeekTestService { String getResponse(String message); }
service實現(xiàn)類
@Service public class DeepSeekServiceImpl implements DeepSeekTestService { private final OllamaChatModel ollamaChatModel; public DeepSeekServiceImpl(OllamaChatModel ollamaChatModel) { this.ollamaChatModel = ollamaChatModel; } @Override public String getResponse(String message) { String response = ollamaChatModel.call(message); return response; } }
4.測試
啟動項目,在瀏覽器的url路徑中輸入對應信息進行測試,這樣一個簡單的springboot對接deepseek項目就完成了!
到此這篇關于SpringBoot配置Ollama實現(xiàn)本地部署DeepSeek的文章就介紹到這了,更多相關SpringBoot 本地部署DeepSeek內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關文章希望大家以后多多支持腳本之家!
相關文章
Java使用WeakHashMap實現(xiàn)緩存自動清理
在 Java 中,內(nèi)存管理是一個重要的話題,尤其是在涉及到緩存的實現(xiàn)時,如果緩存項不再被使用,我們希望它們能被自動清理,而不必手動刪除,WeakHashMap 就是 Java 提供的一種用于緩存和內(nèi)存管理的工具,本文將深入探討如何利用 WeakHashMap 來實現(xiàn)緩存自動清理2025-01-01Java?Cookie與Session實現(xiàn)會話跟蹤詳解
session的工作原理和cookie非常類似,在cookie中存放一個sessionID,真實的數(shù)據(jù)存放在服務器端,客戶端每次發(fā)送請求的時候帶上sessionID,服務端根據(jù)sessionID進行數(shù)據(jù)的響應2022-11-11解決BeanUtils.copyProperties無法成功封裝的問題
這篇文章主要介紹了解決BeanUtils.copyProperties無法成功封裝的問題,具有很好的參考價值,希望對大家有所幫助。如有錯誤或未考慮完全的地方,望不吝賜教2021-06-06SpringBoot項目改為SpringCloud項目使用nacos作為注冊中心的方法
本文主要介紹了SpringBoot項目改為SpringCloud項目使用nacos作為注冊中心,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧2022-04-04Springboot使用RestTemplate調用第三方接口的操作代碼
這篇文章主要介紹了Springboot使用RestTemplate調用第三方接口,我只演示了最常使用的請求方式get、post的簡單使用方法,當然RestTemplate的功能還有很多,感興趣的朋友可以參考RestTemplate源碼2022-12-12