本文整理自 QCon 北京 2026《盧億雷 - DeepResearch XOpenClaw的實(shí)踐路徑與Token成本控制》通過(guò)Ai好記視頻轉(zhuǎn)文字整理以下為精煉整理后的會(huì)議筆記內(nèi)容。這位主講人長(zhǎng)期從事 Infra 相關(guān)工作持續(xù)關(guān)注 AI 與編程領(lǐng)域。本次分享系統(tǒng)地拆解了一個(gè)真實(shí)落地的 DeepResearch 系統(tǒng)與 OpenClaw / Agent 框架結(jié)合內(nèi)容涵蓋行業(yè)現(xiàn)狀、系統(tǒng)架構(gòu)、設(shè)計(jì)理念并重點(diǎn)探討了 Token 成本控制。對(duì)于從事 AI 應(yīng)用工程的開發(fā)者而言其中關(guān)于 Token 成本優(yōu)化的分析指出有 60% 到 80% 的優(yōu)化空間提供了具體的工程思路和參考數(shù)據(jù)。行業(yè)現(xiàn)狀為什么 DeepResearch 是必然趨勢(shì)三個(gè)技術(shù)階段DeepResearch 的出現(xiàn)反映了搜索技術(shù)向自動(dòng)化、智能化研究的演進(jìn)趨勢(shì)。他用三個(gè)階段來(lái)概括傳統(tǒng)搜索階段靠索引技術(shù)RAG 發(fā)展階段靠向量檢索與知識(shí)增強(qiáng)而多輪循環(huán)研究階段則靠自主規(guī)劃與報(bào)告輸出。第三階段的核心是目標(biāo)函數(shù)驅(qū)動(dòng)的實(shí)現(xiàn)邏輯。全流程自動(dòng)化與核心價(jià)值DeepResearch 的核心價(jià)值之一在于其全流程自動(dòng)化能力。用戶不需要手動(dòng)搜索、整理、歸納系統(tǒng)自動(dòng)完成從「提問(wèn)題」到「輸出報(bào)告」的完整閉環(huán)。這正是它區(qū)別于傳統(tǒng)搜索引擎的地方。主要競(jìng)爭(zhēng)者分析當(dāng)前賽道的競(jìng)爭(zhēng)者已經(jīng)很多谷歌 Gemini、OpenAI、Perplexity、Anthropic Claude、XAI Grok 都在做。各自有側(cè)重Gemini 因?yàn)樗阉饕娉錾碚Z(yǔ)言理解和路徑規(guī)劃能力強(qiáng)各家產(chǎn)品特色不同但行業(yè)普遍面臨生成時(shí)間過(guò)長(zhǎng)的挑戰(zhàn)。他舉例說(shuō)明DeepResearch 類任務(wù)通常耗時(shí)較長(zhǎng)影響用戶體驗(yàn)。未來(lái)趨勢(shì)與企業(yè)級(jí)實(shí)現(xiàn)趨勢(shì)是從 Chat 向 Agent 演進(jìn)成本逐步降低、更加民主化同時(shí)生態(tài)競(jìng)爭(zhēng)加劇、差異化明顯。企業(yè)級(jí)要實(shí)現(xiàn) DeepResearch需要可配置的研究流程、多搜索源配置、多租戶隔離、雙模通信保障機(jī)制。DeepResearch 的四大核心難點(diǎn)他把工程難點(diǎn)總結(jié)為四點(diǎn)長(zhǎng)任務(wù)穩(wěn)定性研究過(guò)程可控性多租戶配置復(fù)雜度多格式輸出一致性這四點(diǎn)也是后面架構(gòu)設(shè)計(jì)的落點(diǎn)。OpenClaw 與「龍蝦」理念1、OpenClaw 的前身溯源OpenClaw 的前身是 Manus由華人發(fā)明這也是很多人沒(méi)注意到的背景。它最大的創(chuàng)新點(diǎn)是把「通信方式」做了一次革命所有消息都通過(guò) IM即時(shí)消息通道溝通用 Channel Adapters 實(shí)現(xiàn)分層隔離這讓架構(gòu)異常靈活發(fā)展速度也快。2、LLS 理念創(chuàng)新OpenClaw 背后還有一個(gè) LLS 理念強(qiáng)調(diào)行業(yè)理解的重要性靠知識(shí)庫(kù)和數(shù)據(jù)集支撐。他也坦誠(chéng)demo 環(huán)境和生產(chǎn)環(huán)境之間往往隔著巨大的差距。3、WorkBuddy 實(shí)現(xiàn)要點(diǎn)與難點(diǎn)他分享了一個(gè)叫 WorkBuddy 的實(shí)現(xiàn)提煉出四個(gè)要點(diǎn)Skill 封裝、多模型路由、消息通道適配、本地?cái)?shù)據(jù)安全。同時(shí)也有四個(gè)難點(diǎn)長(zhǎng)任務(wù)與消息通道沖突、多平臺(tái)渲染差異、Token 消耗巨大、并發(fā)與隔離挑戰(zhàn)?？傮w思路是避免重復(fù)造輪子把 DeepResearch 引擎和 LLM 查詢結(jié)合起來(lái)。系統(tǒng)架構(gòu)設(shè)計(jì)1、分層架構(gòu)詳解他展示了一個(gè)真實(shí)項(xiàng)目的分層架構(gòu)圖從上到下是模型層LLM Service 與模型部署、外部搜索服務(wù)層、核心服務(wù)層需求分析、研究規(guī)劃、深度研究與報(bào)告生成、API 網(wǎng)關(guān)與鑒權(quán)層、客戶端層Web 客戶端 SSE 流式模式。2、模型訓(xùn)練與選擇模型部分他談到微調(diào)實(shí)踐FT 與 LM 結(jié)合和模型規(guī)模選擇的考量。強(qiáng)化學(xué)習(xí)成本很高PPO 模型計(jì)算開銷大他提到用 RPO 策略來(lái)優(yōu)化。搜索能力融合方面把 Engine 與模型融合既能降低計(jì)算成本又能提升效果。設(shè)計(jì)理念與四大原則1、三階段設(shè)計(jì)理念設(shè)計(jì)上分三階段數(shù)據(jù)分析、研究規(guī)劃、深度研究與報(bào)告。關(guān)鍵理念包括意圖識(shí)別與拒答判斷明確告知模型不能做的場(chǎng)景這是提升性能的關(guān)鍵策略制定搜索策略很重要循環(huán)檢索與報(bào)告輸出目標(biāo)函數(shù)驅(qū)動(dòng)他戲稱這是AI 解決 NP 問(wèn)題的魅力。2、四大設(shè)計(jì)原則整場(chǎng)的架構(gòu)靈魂是這四個(gè)原則?？膳渲眯匝芯苛鞒炭勺杂膳渲每捎^測(cè)性進(jìn)度可見、中間信息可輸出多租戶隔離賬戶級(jí)數(shù)據(jù)隔離、獨(dú)立鑒權(quán) Token雙模通信輪詢模式和SSE 流式通信兩種模式。3、通信方案選型雙通道是必要的輪詢模式有它的應(yīng)用場(chǎng)景流式模式則適合實(shí)時(shí)性要求高的場(chǎng)景。流式模式也有一些挑戰(zhàn)比如客戶端與服務(wù)端計(jì)費(fèi)口徑不一致、長(zhǎng)時(shí)任務(wù)超時(shí)設(shè)置、網(wǎng)絡(luò)架構(gòu)需要優(yōu)化還有瀏覽器兼容性問(wèn)題不同瀏覽器對(duì) EventSource API 支持不一樣。4、增量?jī)?nèi)容輸出與斷點(diǎn)續(xù)傳長(zhǎng)任務(wù)需要一個(gè)增量?jī)?nèi)容輸出機(jī)制他用斷點(diǎn)續(xù)傳實(shí)現(xiàn)把大文件切片再合并通過(guò) block_id 文件編號(hào)做管理。這也是可觀測(cè)性的落地讓用戶能看到研究進(jìn)度的可視化。5、任務(wù)控制機(jī)制任務(wù)終止和拒答機(jī)制很重要他強(qiáng)調(diào)「及時(shí)止損」研究過(guò)程要能按意圖和路徑動(dòng)態(tài)調(diào)整流程要最小化避免無(wú)意義的消耗。配置體系與平臺(tái)化1、分層架構(gòu)與 Prompt as Code配置體系延續(xù)分層思想模型層分規(guī)劃模型與研究模型集成外部搜索服務(wù)層承擔(dān)意圖識(shí)別、需求澄清與研究規(guī)劃客戶端層則處理端到端交互時(shí)序。這里提出了一個(gè)很有價(jià)值的理念Prompt as Code。他用 CRM 系統(tǒng)舉例通過(guò)自然語(yǔ)言生成應(yīng)用JSON 信息交付規(guī)劃確認(rèn)后執(zhí)行。2、搜索高可靠性的三層配置搜索可靠性是最關(guān)鍵的他用三層配置體系來(lái)實(shí)現(xiàn)默認(rèn)配置、靜態(tài)配置、參數(shù)調(diào)節(jié)配置讓研究流程可定制。3、報(bào)告生成與 Token 管理報(bào)告輸出后Token 管理與數(shù)據(jù)隔離也是重點(diǎn)每個(gè)租戶有獨(dú)立的鑒權(quán) Token配合服務(wù)監(jiān)控與配置保證平臺(tái)化下的安全與穩(wěn)定。Token 優(yōu)化策略把成本當(dāng)作核心工程問(wèn)題1、Token 的價(jià)值認(rèn)知他把 Token 的價(jià)值做了三重拆解數(shù)據(jù)價(jià)值、算力價(jià)值、算法價(jià)值并斷言這是「兵家必爭(zhēng)之地」類比電力和流量。成本構(gòu)成分析則更復(fù)雜包括 Input 與 Output 成本、Embedding 與檢索成本、Cache 機(jī)制還要對(duì)比不同模型的價(jià)格比如 Claude 模型的價(jià)格差異。2、成本優(yōu)化的必要性為什么要重點(diǎn)管 Token因?yàn)?DeepResearch 的 Token 成本能占到總成本的 75%優(yōu)化空間巨大。他舉了一個(gè) Agent 框架的例子月消耗 8000 到 10000 美元對(duì)比人力成本就會(huì)發(fā)現(xiàn)不優(yōu)化不行。尤其要注意的是 Output 成本通常比 Input 更高所以控制 Output 是關(guān)鍵。3、六大優(yōu)化方向他把優(yōu)化策略歸納為六個(gè)方向。請(qǐng)求前優(yōu)化包括語(yǔ)義緩存和 Prompt Cache在請(qǐng)求發(fā)出前就復(fù)用已有結(jié)果。模型路由讓任務(wù)匹配適合的模型用小模型分流簡(jiǎn)單任務(wù)避免一上來(lái)就上昂貴的大模型。壓縮與裁剪這個(gè)技術(shù)難度較高參考 Claude 壓縮策略的變化配合 Memory 機(jī)制優(yōu)化控制上下文體積。Output 精確控制優(yōu)先采用短輸出結(jié)構(gòu)從源頭減少輸出 Token。研究輪次收斂用及時(shí)止損機(jī)制和信息增益閾值讓研究在信息收益不再增加時(shí)主動(dòng)停止避免無(wú)意義的重復(fù)檢索。最后是對(duì)整體優(yōu)化思路的總結(jié)請(qǐng)求前處理、模型性能提升、輸出結(jié)果控制三管齊下。4、優(yōu)化效果數(shù)據(jù)非常硬核他用真實(shí)數(shù)據(jù)證明了這套優(yōu)化的有效性。模型路由上O3-mini 能降低 10 倍成本語(yǔ)義緩存用 Redis/LangCache 能降低 73%Prompt Cache 對(duì)重復(fù)前綴能降低 90%上下文壓縮能降低 80% 成本綜合起來(lái)這套方案整體有 60% 到 80% 的成本降低空間。這個(gè)數(shù)字本身就是這套工程方法論最好的說(shuō)明。5、前沿技術(shù)介紹他還介紹了幾個(gè)前沿方向。提示詞壓縮能帶來(lái) 2 到 5 倍提升且無(wú)損質(zhì)量GPT-4 解碼器與小模型結(jié)合PT 策略模型混合策略能有 98% 的提升效果推測(cè)解碼Draft Model 與 Target Model 結(jié)合的收益尤其突出通圖量提升 100 到 110 倍、延遲降低 60%或通圖量提升 300%、延遲降低 80%取決于配置?？偨Y(jié)與展望他最后總結(jié)了幾個(gè)關(guān)鍵要點(diǎn)雙模通信保障機(jī)制輪詢 SSE 流式結(jié)合三層配置靈活性默認(rèn)、靜態(tài)、參數(shù)配置開源框架集成OpenClaw 與 Agent框架Token 成本降低空間預(yù)期能到 100 倍他舉例 Mooncake開源架構(gòu)硬件軟件架構(gòu)都還有優(yōu)化空間平臺(tái)化多租戶租戶隔離與監(jiān)控未來(lái)方向他看好多 Agent 協(xié)作超越 SaaS 的協(xié)作能力、Agent 通訊能力提升、LLMs 調(diào)度能力、AI 能力整合。整場(chǎng)分享的核心觀點(diǎn)是在 AI 應(yīng)用工程中Token 成本控制應(yīng)作為架構(gòu)設(shè)計(jì)階段的重要考量因素。常見問(wèn)題FAQQDeepResearch 和傳統(tǒng)搜索、RAG 的區(qū)別是什么傳統(tǒng)搜索靠索引RAG 加向量檢索與知識(shí)增強(qiáng)DeepResearch 則是多輪循環(huán)研究能自主規(guī)劃、目標(biāo)函數(shù)驅(qū)動(dòng)、直接輸出報(bào)告實(shí)現(xiàn)「問(wèn)題到報(bào)告」的全流程自動(dòng)化。QOpenClaw 的核心創(chuàng)新點(diǎn)在哪通信方式的革命所有消息通過(guò) IM 通道溝通用 Channel Adapters 實(shí)現(xiàn)分層隔離架構(gòu)靈活、迭代快前身是華人發(fā)明的 Minus。Q系統(tǒng)架構(gòu)怎么分層模型層、外部搜索服務(wù)層、核心服務(wù)層需求分析、研究規(guī)劃、深度研究、API 網(wǎng)關(guān)鑒權(quán)層、客戶端層Web SSE 流式層次清晰。Q四大設(shè)計(jì)原則是什么可配置性、可觀測(cè)性、多租戶隔離、雙模通信輪詢 SSE 流式這是 DeepResearch 穩(wěn)定可靠的基礎(chǔ)。QToken 優(yōu)化能省多少錢真實(shí)數(shù)據(jù)是模型路由降 10 倍、語(yǔ)義緩存降 73%、Prompt Cache 降 90%、上下文壓縮降 80%整體有 60% 到 80% 的成本降低空間。Q為什么輸出 Token 更值得控制因?yàn)?Output 成本通常比 Input 更高控制 Output短輸出結(jié)構(gòu)、輪次收斂、及時(shí)止損是成本優(yōu)化的關(guān)鍵杠桿。以上內(nèi)容由 Ai好記 轉(zhuǎn)錄整理。Ai好記 是一款支持音視頻轉(zhuǎn)圖文筆記的AI知識(shí)庫(kù)工具支持解析B站、小紅書、抖音、小宇宙等平臺(tái)鏈接及本地音視頻文件視頻轉(zhuǎn)文字后自動(dòng)生成精華速覽、思維導(dǎo)圖和結(jié)構(gòu)化圖文筆記幫助你把幾小時(shí)的視頻內(nèi)容變成可搜索、可復(fù)習(xí)的圖文筆記。