前言

隨著人工智能技術(shù)的迅猛發(fā)展，越來越多的開發(fā)者希望在本地環(huán)境中部署和調(diào)用 AI 模型，以滿足特定的業(yè)務(wù)需求。本文將詳細(xì)介紹如何在本地環(huán)境中使用 Ollama 配置 DeepSeek 模型，并在 IntelliJ IDEA 中創(chuàng)建一個 Spring Boot 項目來調(diào)用該模型。通過這些步驟，您將能夠在本地環(huán)境中高效地運行和測試 AI 模型，提升開發(fā)效率。

詳細(xì)步驟

一、本地配置DeepSeek

1.安裝Ollama

Ollama 是一個開源平臺，旨在簡化大型語言模型的本地部署和管理。您可以從 Ollama官網(wǎng)下載適用于 Windows、Linux 或 macOS 的安裝包。

安裝成功后可以使用win+R并輸入cmd打開終端，接著輸入ollama檢查是否安裝成功，如果有輸出對應(yīng)信息則說明安裝成功了

2.下載對應(yīng)DeepSeek模型并運行

首先選中想要配置的DeepSeek版本并復(fù)制右側(cè)指令

將指令復(fù)制到終端并進(jìn)行下載對應(yīng)版本的DeepSeek，下載完成之后到這個界面，就是下載成功了，可以輸入一些信息進(jìn)行測試

二、SpringBoot項目調(diào)用本地DeepSeek

1.創(chuàng)建springboot項目

具體操作如下：

• 打開 IntelliJ IDEA，選擇 "New Project"。
• 選擇 "Spring Initializr" 作為項目類型。
• 填寫項目的基本信息，如 Group、Artifact 等。
• 在 "Dependencies" 中添加所需的依賴，例如 "Spring Web"。
• 點擊 "Create" 創(chuàng)建項目。

這里我添加了Web和Ollama的依賴，創(chuàng)建成功界面如下

2.添加deepseek對應(yīng)配置信息

在application.properties中添加下面配置信息

spring.ai.ollama.chat.options.model=deepseek-r1:1.5b
spring.ai.ollama.base-url=http://127.0.0.1:11434
spring.ai.ollama.chat.enabled=true
server.port=9099

3.編碼調(diào)用deepseek

接著創(chuàng)建簡單controller類和service實現(xiàn)類，結(jié)構(gòu)如圖：

對應(yīng)代碼如下：
controller:

@RestController
public class testController {

    @Autowired
    private DeepSeekTestService deepSeekTestService;

    @RequestMapping("/ask1")
    public String speak(@RequestParam String msg){
        return deepSeekTestService.getResponse(msg);
    }
}

service接口：

public interface DeepSeekTestService {
    String getResponse(String message);
}

service實現(xiàn)類

@Service
public class DeepSeekServiceImpl implements DeepSeekTestService {

    private final OllamaChatModel ollamaChatModel;

    public DeepSeekServiceImpl(OllamaChatModel ollamaChatModel) {
        this.ollamaChatModel = ollamaChatModel;
    }

    @Override
    public String getResponse(String message) {
        String response = ollamaChatModel.call(message);
        return response;
    }
}

4.測試

啟動項目，在瀏覽器的url路徑中輸入對應(yīng)信息進(jìn)行測試,這樣一個簡單的springboot對接deepseek項目就完成了！

到此這篇關(guān)于SpringBoot配置Ollama實現(xiàn)本地部署DeepSeek的文章就介紹到這了,更多相關(guān)SpringBoot 本地部署DeepSeek內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！

最新評論