如果你是一個 Java 后端開發(fā)2026 年無論如何都繞不開這三個名字Spring AI、LangChain4j、DeepSeek。Spring AI 2.0 把 LLM 接入做成了經典的 Spring 風格LangChain4j 在 Java 生態(tài)里提供了類似 LangChain 的編排能力DeepSeek 則把大模型 API 的成本和效果拉到了非常有競爭力的位置。這篇文章不是概念科普而是一套可以照著敲的保姆級流程從創(chuàng)建 Spring Boot 項目、接入 DeepSeek API到結構化輸出、RAG 向量檢索、批量任務和接口化全部跑通。默認你的環(huán)境是 JDK 17、Spring Boot 3.x用 Maven 管理依賴。DeepSeek 使用云端 API不需要本地顯卡所以顯存、CUDA 這些在這個教程里不是門檻如果你要在本地跑 Qwen 或 DeepSeek 的蒸餾模型那才需要關注 Ollama 和顯存占用。文章會把云端 API 和本地模型兩條路徑都說清楚你按自己的場景選。另外Spring AI Alibaba 值得單獨拿出來看。它對 Qwen 系模型、DashScope、以及 Graph 圖編排提供了更完整的支持很多企業(yè)項目在 Spring AI 基礎上直接疊加它來做私有化 AI 應用。下面按照實際開發(fā)中最常用的接入方式展開每一步都可以直接復制到你的項目里驗證。1. 核心能力速覽能力項說明項目類型Java 生態(tài)大模型應用開發(fā)框架核心功能對話、流式輸出、結構化輸出、RAG、向量存儲、Tool Calling、Agent 編排模型接入DeepSeek API、OpenAI 兼容接口、Ollama 本地模型、Qwen/DashScope主要組件Spring AI 2.0、LangChain4j、Spring AI Alibaba推薦環(huán)境JDK 17、Spring Boot 3.x、Maven 或 Gradle啟動方式Spring Boot 標準啟動內嵌 Tomcat接口能力支持將 AI 能力封裝為 REST API供前端、移動端或外部系統(tǒng)調用批量任務支持異步批處理、任務隊列、失敗重試向量庫支持 Milvus、Elasticsearch、Redis、PGVector 等是否支持本地部署支持可通過 Ollama 部署 Qwen 或 DeepSeek 蒸餾模型適合場景Java 后端接入大模型、私有知識庫、智能客服、AI 應用服務化從這張表格能看出來這套組合解決的不是“怎么調一個模型接口”的問題而是“怎么把大模型能力工程化地放進 Java 后端系統(tǒng)”的問題。如果你之前只用 Python 寫過 AI 腳本Spring AI 2.0 會給你一套更貼近企業(yè)項目習慣的寫法。2. 技術棧分工Spring AI、LangChain4j、DeepSeek、Spring AI Alibaba 各管什么很多初學者容易把這四個概念混在一起。先理清分工后面寫代碼才不會亂。Spring AI 是 Spring 官方推出的 AI 框架目標是讓 Java 開發(fā)者用最小的成本接入大模型。它的核心抽象是ChatClient、EmbeddingModel、VectorStore、ToolCallback等只要配置好模型提供方業(yè)務代碼基本不用改。Spring AI 2.0 相比 1.x 更強調模塊化模型接入、向量數據庫、Agent 編排被拆分得更清楚同時兼容了大量主流模型廠商。LangChain4j 是 Java 生態(tài)里的 LLM 編排框架設計靈感來自 Python 的 LangChain。它擅長做對話記憶管理、結構化輸出、RAG、Tool Calling 和 Agent 流程編排。LangChain4j 和 Spring AI 不是對立關系兩者在功能上有重疊但在工程集成上各有優(yōu)勢。Spring AI 更“Spring 原生”適合深度使用 Spring Boot 的項目LangChain4j 更靈活RAG 和 Agent 示例也更豐富。實際項目里有人只用其中一個也有人在一個系統(tǒng)里同時引入兩者分別承擔不同模塊。DeepSeek 在這套組合里是模型提供方。DeepSeek 的 API 兼容 OpenAI 協議這意味著 Spring AI 和 LangChain4j 里現成的 OpenAI 客戶端稍作配置就能對接。常用的模型名是deepseek-chat和deepseek-reasoner前者適合通用對話后者支持思考模式但調用時要注意處理reasoning_content字段。Spring AI Alibaba 是阿里開源的項目基于 Spring AI 做了大量擴展。它的價值主要有三點第一對 Qwen 通義千問系列模型的接入做了封裝包括文本生成、Embedding、語音等第二提供 DashScope 平臺的適配企業(yè)如果已經用阿里云百煉可以直接對接第三提供了 Graph 圖編排模塊可以用節(jié)點和邊的方式設計 AI 工作流相當于 Java 版的輕量 LangGraph。一句話總結分工Spring AI 2.0 是主框架LangChain4j 是增強型工具集DeepSeek 是背后的模型引擎Spring AI Alibaba 負責把阿里系能力補齊。四個組件可以組合使用也可以按需取舍。3. 環(huán)境準備與前置條件在動手前先把環(huán)境檢查一遍。以下是這套教程的最小環(huán)境清單每一項如果不滿足后面跑起來會出現各種奇怪問題。檢查項要求說明JDK17 及以上Spring Boot 3.x 強制要求 JDK 17Spring Boot3.2 及以上更高版本兼容性更好推薦 3.3構建工具Maven 3.6 或 Gradle 7.5本文示例使用 MavenDeepSeek API Key必選在 DeepSeek 開放平臺創(chuàng)建充值和開通模型服務網絡能訪問 DeepSeek API國內網絡可以直接訪問無需額外手段可選組件Milvus、Elasticsearch、Ollama只有做 RAG 或本地模型時才需要磁盤空間2GB 左右主要是 Maven 依賴和日志若本地跑 Ollama 模型需額外預留 10GBDeepSeek API Key 的申請路徑很簡單打開 DeepSeek 開放平臺完成注冊進入控制臺創(chuàng)建 API Key然后把 Key 保存到本地環(huán)境變量或配置文件中。注意 API Key 只在創(chuàng)建時完整展示一次之后無法再次查看只能重新創(chuàng)建。如果你打算在本地跑 Ollama 模型還要提前安裝 Ollama 客戶端并下載對應的模型比如qwen2.5或 DeepSeek 蒸餾版本。顯存占用取決于模型大小7B 級別模型通常需要 6GB 左右顯存小參數模型可以用 CPU 跑但速度會明顯慢。這里不展開具體數字以你本機實際測試為準。如果你的目標是做 RAG需要準備向量數據庫。Milvus 是比較流行的選擇本地可以用 Docker 快速起一個單機版Elasticsearch 適合已經在用 ES 做搜索的公司可以直接把向量索引和業(yè)務索引統(tǒng)一管理。兩種方案后面我都會給出接入思路。4. 搭建項目并接入 DeepSeek4.1 創(chuàng)建 Spring Boot 項目最簡單的方式是去 Spring Initializr 生成一個基礎項目也可以直接用 IDE 創(chuàng)建。關鍵點是勾選 web 依賴語言選擇 JavaBoot 版本選擇 3.x。4.2 引入 Spring AI 相關依賴DeepSeek 兼容 OpenAI 協議所以 Spring AI 側不需要單獨的 DeepSeek starter直接使用 OpenAI 模塊把 base-url 指向 DeepSeek 即可。先引入 BOM 管理版本再引入具體模塊。properties java.version17/java.version spring-ai.version2.0.0/spring-ai.version /properties dependencyManagement dependencies dependency groupIdorg.springframework.ai/groupId artifactIdspring-ai-bom/artifactId version${spring-ai.version}/version typepom/type scopeimport/scope /dependency /dependencies /dependencyManagement dependencies dependency groupIdorg.springframework.boot/groupId artifactIdspring-boot-starter-web/artifactId /dependency dependency groupIdorg.springframework.ai/groupId artifactIdspring-ai-starter-model-openai/artifactId /dependency /dependencies上面的spring-ai.version是我給的一個示例值實際使用時請去 Maven 中央倉庫查一下當前最新穩(wěn)定版本替換成真實版本號。不要把 2.0.0 當成固定結論Spring AI 迭代很快版本之間可能存在 API 差異。如果要用 LangChain4j可以額外引入它的核心包和 OpenAI 模塊。這里建議先跑通 Spring AI再疊加 LangChain4j避免一開始兩個框架的配置互相干擾。dependency groupIddev.langchain4j/groupId artifactIdlangchain4j/artifactId version${langchain4j.version}/version /dependency dependency groupIddev.langchain4j/groupId artifactIdlangchain4j-open-ai/artifactId version${langchain4j.version}/version /dependencylangchain4j.version同樣需要替換為實際最新版本。4.3 配置 DeepSeek 連接在application.yml中加入以下配置spring: application: name: spring-ai-demo ai: openai: base-url: https://api.deepseek.com api-key: ${DEEPSEEK_API_KEY} chat: options: model: deepseek-chat temperature: 0.7DEEPSEEK_API_KEY建議通過環(huán)境變量注入不要硬編碼在配置文件中。如果你的 DeepSeek 賬號支持/v1路徑也可以把 base-url 寫成https://api.deepseek.com/v1兩種寫法對 OpenAI 兼容客戶端來說通常都能生效。4.4 寫第一個對話接口Spring AI 2.0 的核心對象是ChatClient。在配置類里注入ChatClient.Builder然后構建一個全局的ChatClient實例。package com.example.demo; import org.springframework.ai.chat.client.ChatClient; import org.springframework.context.annotation.Bean; import org.springframework.context.annotation.Configuration; Configuration public class AIConfig { Bean public ChatClient chatClient(ChatClient.Builder builder) { return builder.build(); } }接著寫一個 REST 接口把對話能力暴露出去。package com.example.demo; import org.springframework.ai.chat.client.ChatClient; import org.springframework.web.bind.annotation.GetMapping; import org.springframework.web.bind.annotation.RequestParam; import org.springframework.web.bind.annotation.RestController; RestController public class ChatController { private final ChatClient chatClient; public ChatController(ChatClient chatClient) { this.chatClient chatClient; } GetMapping(/chat) public String chat(RequestParam(defaultValue 你好請介紹一下你自己) String message) { return chatClient.prompt(message) .call() .content(); } }啟動項目后訪問http://127.0.0.1:8080/chat?message你好如果返回一段正常的中文回復說明 Spring AI 2.0 到 DeepSeek 的鏈路已經通了。這是整個教程的“地基”后面所有功能都在這個基礎上擴展。5. 功能測試對話、流式輸出與結構化輸出5.1 流式輸出普通接口一次返回全部內容適合內部工具但做智能客服或前端對話框時流式輸出體驗更好。Spring AI 的流式輸出返回FluxString前端可以用 SSE 方式接收。import org.springframework.ai.chat.client.ChatClient; import org.springframework.web.bind.annotation.GetMapping; import org.springframework.web.bind.annotation.RequestParam; import org.springframework.web.bind.annotation.RestController; import reactor.core.publisher.Flux; RestController public class StreamChatController { private final ChatClient chatClient; public StreamChatController(ChatClient chatClient) { this.chatClient chatClient; } GetMapping(/chat/stream) public FluxString streamChat(RequestParam String message) { return chatClient.prompt(message) .stream() .content(); } }Vue 前端做對話頁面時可以用EventSource或fetch配合ReadableStream接收流式數據。這里給一個簡單的 fetch 思路具體封裝方式看你的前端框架。const response await fetch(/chat/stream?message encodeURIComponent(text)); const reader response.body.getReader(); const decoder new TextDecoder(utf-8); let result ; while (true) { const { done, value } await reader.read(); if (done) break; result decoder.decode(value, { stream: true }); }5.2 多輪對話與上下文數量限制大模型本身是無狀態(tài)的多輪對話需要手動把歷史消息傳給模型。Spring AI 里有兩個方案一是自己維護消息列表二是使用內置的ChatMemory。用內置方案時可以限制上下文數量避免歷史消息無限增長導致 token 費用過高。import org.springframework.ai.chat.memory.MessageWindowChatMemory; import org.springframework.context.annotation.Bean; import org.springframework.context.annotation.Configuration; Configuration public class ChatMemoryConfig { Bean public MessageWindowChatMemory chatMemory() { return MessageWindowChatMemory.builder() .maxMessages(20) .build(); } }這里的maxMessages(20)就是控制上下文窗口條數。20 條是一個保守值具體要看你用的模型上下文長度。如果業(yè)務場景需要更長的記憶可以調大這個值但要注意 token 成本會隨之上升。5.3 結構化輸出默認情況下模型返回的是純文本但我們經常需要把輸出綁定到實體類上比如解析一本書的信息、抽取一篇文章的標題和作者。Spring AI 支持把回復直接映射到 Java 對象。先定義一個實體類package com.example.demo; public record BookInfo( String title, String author, String category, String summary ) { }然后在調用時指定目標類型import org.springframework.ai.chat.client.ChatClient; import org.springframework.web.bind.annotation.GetMapping; import org.springframework.web.bind.annotation.RequestParam; import org.springframework.web.bind.annotation.RestController; RestController public class BookController { private final ChatClient chatClient; public BookController(ChatClient chatClient) { this.chatClient chatClient; } GetMapping(/parse-book) public BookInfo parseBook(RequestParam String text) { return chatClient.prompt(請從下面的文本中抽取書籍信息返回 JSON 格式 text) .call() .entity(BookInfo.class); } }結構化輸出的重點在于提示詞要給出明確的格式約束實體類字段名最好用英文并且加說明性注釋這樣模型的召回率更高。如果返回結果經常解析失敗檢查兩個方向一是實體類字段是否過于復雜且語義模糊二是在提示詞中補充“只返回 JSON不要解釋”之類的約束。LangChain4j 同樣支持結構化輸出并且對復雜嵌套對象的容錯性更好后面章節(jié)會提到。5.4 DeepSeek 思考模式的坑reasoning_content 必須原樣回傳如果你使用deepseek-reasoner模型會在響應里多出一個reasoning_content字段代表模型內部的思考過程。這是 DeepSeek 的一個特色但也容易踩坑。在多輪對話時如果直接把content拼到歷史消息里把reasoning_content丟了下一次請求可能收到 400 錯誤提示思考模式下的reasoning_content必須傳回 API。解決方式是把reasoning_content保存到 assistant 消息中下一輪原樣帶回。在 Spring AI 中可以構造一個通用的消息轉換工具import java.util.HashMap; import java.util.Map; public class DeepSeekMessageBuilder { public static MapString, Object assistantMessageWithReasoning(String content, String reasoningContent) { MapString, Object message new HashMap(); message.put(role, assistant); message.put(content, content); if (reasoningContent ! null) { message.put(reasoning_content, reasoningContent); } return message; } }核心原則是reasoning_content和content必須綁定在同一條 assistant 消息里回傳不能拆開也不能省略。這屬于 DeepSeek 協議層的行為不管用 Spring AI、LangChain4j 還是直接用 HTTP 客戶端調用都要遵守。6. RAG 實戰(zhàn)向量存儲、ES 覆蓋策略、Milvus 混合檢索與重排6.1 為什么需要 RAG大模型的知識截止時間有限企業(yè)內部資料也無法靠訓練塞進模型。RAG檢索增強生成的思路是先把文檔切塊、向量化存進向量數據庫用戶提問時先檢索最相關的片段和問題一起送給模型回答。這樣既控制成本又能保證最新文檔被回答到。6.2 Qwen Embedding 接入向量化這一步通常用專門的 Embedding 模型。這里以阿里云百煉 DashScope 的text-embedding-v3為例在 Spring AI Alibaba 體系里可以像配置 Chat 模型一樣配置 Embedding 模型。dependency groupIdcom.alibaba.cloud.ai/groupId artifactIdspring-ai-alibaba-starter/artifactId version${spring-ai-alibaba.version}/version /dependencyspring: ai: dashscope: api-key: ${DASHSCOPE_API_KEY} embedding: options: model: text-embedding-v3從材料看這是實際項目里比較常見的接入路徑。如果你沒有阿里云百煉的 Key也可以使用本地 Ollama 的 embedding 模型例如nomic-embed-text只是召回效果和延遲會有差異。6.3 文檔寫入 Milvus混合檢索加 RerankLangChain4j 提供了 Milvus 向量存儲實現基礎用法如下import dev.langchain4j.store.embedding.milvus.MilvusEmbeddingStore; MilvusEmbeddingStore embeddingStore MilvusEmbeddingStore.builder() .host(127.0.0.1) .port(19530) .collectionName(java_knowledge) .dimension(1024) .build();dimension必須和 Embedding 模型輸出維度一致不同模型維度不同寫錯了寫入時就會報錯。寫入文檔后查詢時可以做混合檢索同時用關鍵詞和向量相似度召回再用 Rerank 模型對結果重排把最相關的片段排到前面這能明顯提升 RAG 答案質量。重排階段如果使用 DashScope 服務注意在查詢鏈路里增加重排 API 調用并把 TopK 結果截斷后再送進 Prompt?；旌蠙z索加重的流程本身不復雜但每一步的參數都需要觀察實際返回結果來調整不是配好就能永遠最優(yōu)。6.4 ES 向量存儲重復文檔怎么覆蓋用 Spring AI 把文檔向量化后寫入 Elasticsearch 時很容易遇到一個現象同一份 PDF 重復執(zhí)行導入任務ES 里會出現多條重復記錄。原因在于 Spring AI 默認寫入文檔時如果沒有指定穩(wěn)定 id每次都會生成一個新的 UUID重復導入自然產生新記錄。解決辦法是在寫入前給文檔設置穩(wěn)定的業(yè)務 id比如用文件路徑、文檔編號或內容哈希。Spring AI 的Document構造器允許傳入 idimport org.springframework.ai.document.Document; import java.util.List; public class DocumentService { public ListDocument buildDocs(ListString chunks) { return chunks.stream() .map(chunk - new Document(doc- Integer.toHexString(chunk.hashCode()), chunk)) .toList(); } }當同一個 id 再次寫入時ES 向量庫會按 id 執(zhí)行 upsert 語義覆蓋舊文檔而不是追加新文檔。如果某個 id 對應的內容已經不存在還需要主動刪除舊向量避免臟數據殘留。另一種更穩(wěn)妥的方案是在批量任務開頭先按業(yè)務標記刪除本批次對應的舊文檔再執(zhí)行寫入。比如每個文檔寫入時 metadata 里保存batchId清理時按batchId批量刪除。這個策略適合定時重建知識庫的場景。7. 接口 API 化與批量任務7.1 封裝 REST API前面已經寫了一個/chat接口生產環(huán)境通常還會加上對話記錄持久化、用戶維度上下文隔離、token 用量日志。這里給出一個相對完整的接口示例查詢參數和返回結構可以按你公司規(guī)范調整。RestController public class ChatApiController { private final ChatClient chatClient; public ChatApiController(ChatClient chatClient) { this.chatClient chatClient; } PostMapping(/api/chat) public ChatResponse chat(RequestBody ChatRequest request) { String answer chatClient.prompt(request.messages()) .call() .content(); return new ChatResponse(answer, request.sessionId()); } public record ChatRequest(String sessionId, String message) {} public record ChatResponse(String answer, String sessionId) {} }前端 Vue 項目可以對接這個接口也可以對接前面的流式接口。建議流式接口給終端用戶非流式接口給內部系統(tǒng)做異步處理。7.2 批量任務示例批量任務常見于文檔解析、商品文案生成、評論分類等場景。原則是不要在主線程里同步循環(huán)調用模型那樣既慢又容易觸發(fā) API 限流。正確做法是異步提交 任務隊列 失敗重試。import org.springframework.scheduling.annotation.Async; import org.springframework.stereotype.Service; import java.util.ArrayList; import java.util.List; import java.util.concurrent.CompletableFuture; Service public class BatchAIService { private final ChatClient chatClient; public BatchAIService(ChatClient chatClient) { this.chatClient chatClient; } Async(aiTaskExecutor) public CompletableFutureString processOne(String prompt) { try { String result chatClient.prompt(prompt).call().content(); return CompletableFuture.completedFuture(result); } catch (Exception e) { return CompletableFuture.failedFuture(e); } } public ListCompletableFutureString processBatch(ListString prompts) { ListCompletableFutureString futures new ArrayList(); for (String prompt : prompts) { futures.add(processOne(prompt)); } return futures; } }線程池建議單獨配置不要把模型調用塞進 Tomcat 的工作線程。線程池大小可以根據模型 API 的并發(fā)限制來調整如果 DeepSeek 并發(fā)額度不高線程數過大只會增加堆積和超時。8. 資源占用與性能觀察這套組合的性能觀察點和 Python 本地模型不同重點不是顯存而是網絡、超時、并發(fā)、token 用量。如果你只用 DeepSeek 云端 API本機不跑任何模型那么資源占用主要是 JVM 內存和少量網絡 IO普通開發(fā)機完全扛得住。需要在監(jiān)控面板里重點觀察的是API 響應延遲DeepSeek 首次 token 時間是否穩(wěn)定高峰期是否明顯變慢。超時配置默認 HTTP 超時在慢網絡下容易觸發(fā) SocketTimeoutException建議把連接超時設置為 10 秒到 30 秒之間。并發(fā)控制同一賬號并發(fā)過高會觸發(fā)限流返回 429 狀態(tài)碼需要在代碼里做重試和退避。token 用量每次請求的輸入 token 和輸出 token 都建議記錄到日志或數據庫月底對賬和成本評估都靠它。如果你在本地用 Ollama 跑 Qwen 或 DeepSeek 蒸餾模型那么資源和顯存占用才是重點。模型加載后顯存會持續(xù)占用7B 模型大約需要 6GB 左右顯存量化版本會低一些。降低顯存占用的常見手段包括使用量化模型、關閉不用的模型、降低上下文長度、限制并發(fā)數。在 Ollama 里可以通過環(huán)境變量控制模型常駐策略具體以 Ollama 文檔為準。下面是兩個常用指標采集點指標采集方式用途調用耗時在 ChatClient 調用前后記時判斷模型響應是否穩(wěn)定token 消耗從響應對象中讀取 usage 信息成本統(tǒng)計和限流策略429 重試次數在重試攔截器中累積計數判斷并發(fā)額度是否充足JVM 內存Spring Boot Actuator Prometheus防止內存泄漏9. 常見問題與排查方法問題現象可能原因排查方式解決方案調用 DeepSeek 返回 400提示思考模式 reasoning_content 未回傳多輪對話丟棄了 thinking 內容查看請求日志中 assistant 消息結構把 reasoning_content 拼回 assistant 消息后重試啟動后接口一直超時base-url 配置錯誤或網絡不通用 curl 直接測試 DeepSeek API確認 base-url 和 api-key 是否正確對話結果不穩(wěn)定偶爾返回空內容模型參數配置或提示詞約束不夠查看完整響應日志調整 temperature增強提示詞約束重復導入文檔后 ES 記錄越來越多文檔未設置穩(wěn)定 id檢查 Document id 生成邏輯使用業(yè)務 id 并配合刪除舊批次RAG 檢索結果相關度差向量維度不匹配或缺少重排檢查 embedding 維度打印召回結果校準維度加入 rerank 環(huán)節(jié)批量任務跑到一半卡住并發(fā)過高觸發(fā) API 限流查看 429 響應統(tǒng)計降低線程池并發(fā)增加退避重試JDK 版本過低導致依賴沖突JDK 8 無法運行 Spring Boot 3執(zhí)行 java -version 查看版本升級到 JDK 17LangChain4j 和 Spring AI 同時使用時 Bean 沖突兩個框架都掃描了 OpenAI 客戶端查看啟動日志的 Bean 沖突提示配置不同的包掃描路徑或排除自動配置10. 最佳實踐與合規(guī)建議第一API Key 全部走環(huán)境變量或配置中心不要提交到 Git 倉庫。一旦泄露立刻去平臺刪除重建。DeepSeek 開放平臺的后臺可以查看用量建議設置額度告警防止異常調用導致費用飛漲。第二批量任務一定要有日志和任務表。每次任務的輸入、輸出、耗時、token 數記錄清楚失敗任務要有重試機制。批量跑文檔解析時建議先跑 5 條樣本驗證效果再放開全部任務避免大批量失敗后回滾困難。第三涉及 RAG 的文檔導入必須考慮數據版本管理。文檔更新后舊版本向量要及時清理或覆蓋。不要長期堆積無主數據否則檢索結果會越來越差最終影響回答準確性。第四合規(guī)邊界要重視。如果你的業(yè)務涉及用戶上傳的文檔、圖片、錄音或者要處理他人的人臉、聲音、版權內容必須確認有合法授權。企業(yè)內部知識庫接入 AI 時要評估數據是否適合發(fā)送到第三方模型 API敏感數據建議本地部署模型或做脫敏處理。部署測試環(huán)境時先用脫敏數據驗證不要直接把生產數據導進去試。第五任何一個 AI 功能上線前準備一套固定的驗收用例。包括普通問答、多輪連續(xù)性、長文本、異常輸入、空輸入、重復提交等場景。模型輸出有隨機性不能依賴一次測試通過就認定穩(wěn)定至少跑三到五次觀察結果波動。11. 總結與后續(xù)方向這套組合最值得嘗試的點是把大模型能力變成 Java 項目里的普通依賴從配置 DeepSeek 到跑通對話接口只需要幾十分鐘。接下來優(yōu)先驗證這幾個功能流式對話是否能穩(wěn)定推送、結構化輸出解析是否準確、RAG 檢索到你自己的文檔時回答是否靠譜。最容易踩的坑有三個DeepSeek 思考模式下忘記回傳reasoning_content、ES 寫入時沒設置文檔 id 導致重復數據、兩個 AI 框架同時引入后出現 Bean 沖突。后兩者通過配置隔離和穩(wěn)定 id 就能解決。后續(xù)想繼續(xù)深入可以按這個順序擴展先做 Tool Calling讓模型能調用你內部的查詢接口再用 Spring AI Alibaba Graph 編排復雜的多步驟任務最后把批量任務和定時任務結合起來做成一個完整的知識庫自動更新系統(tǒng)。這篇文章建議直接收藏配置代碼都是可以復制改的真正用時拿起來就能跑。