最近和幾個做AI應(yīng)用的朋友聊天發(fā)現(xiàn)一個挺有意思的現(xiàn)象大家討論的焦點(diǎn)已經(jīng)從“這個模型能做什么”變成了“我們到底該怎么用它”。是讓它全自動跑還是讓它輔助人是追求極致的無人化還是先讓人能更好地介入和判斷這背后其實(shí)是一個更根本的問題我們開發(fā)AI最終是為了替代人還是為了增強(qiáng)人斯坦福大學(xué)李飛飛教授近期關(guān)于“AI應(yīng)增強(qiáng)人類能動性”的討論恰好點(diǎn)中了這個核心。她強(qiáng)調(diào)AI的目標(biāo)不應(yīng)是取代人類而應(yīng)是增強(qiáng)人類的能力、創(chuàng)造力和能動性。這個觀點(diǎn)聽起來很“正確”甚至有些老生常談但在當(dāng)前AI能力快速迭代、各種“一鍵生成”、“全自動代理”滿天飛的背景下重新審視它卻有著非?，F(xiàn)實(shí)的工程意義。它提醒我們在追逐技術(shù)指標(biāo)和自動化率的同時不能丟掉對“人”在系統(tǒng)中核心位置的思考。1. 從“自動化”到“增強(qiáng)化”一個被忽視的工程范式轉(zhuǎn)變當(dāng)我們談?wù)揂I工程實(shí)踐時無論是模型部署、應(yīng)用開發(fā)還是Agent設(shè)計一個默認(rèn)的潛臺詞往往是“自動化”。我們追求更快的推理速度、更高的準(zhǔn)確率、更長的上下文窗口最終目的似乎都是為了減少人的干預(yù)讓機(jī)器能“自己跑起來”。這當(dāng)然沒錯效率提升是技術(shù)發(fā)展的核心驅(qū)動力。但問題在于當(dāng)我們將“自動化”作為唯一或最高目標(biāo)時很容易陷入幾個工程陷阱黑盒依賴與失控風(fēng)險系統(tǒng)越自動化內(nèi)部決策邏輯就越不透明。當(dāng)出現(xiàn)一個意料之外的錯誤輸出時比如AI生成了一段不合規(guī)的內(nèi)容開發(fā)者很難快速定位是提示詞的問題、模型本身的問題還是數(shù)據(jù)流的問題。系統(tǒng)成了一個“黑盒”人的調(diào)試和干預(yù)能力被削弱了。責(zé)任歸屬模糊在一個全自動的AI工作流中如果最終結(jié)果出了問題責(zé)任在誰是提示詞工程師、模型提供方、數(shù)據(jù)清洗人員還是部署運(yùn)維增強(qiáng)人類能動性的設(shè)計會天然地在關(guān)鍵決策點(diǎn)引入人的確認(rèn)或選擇從而明確責(zé)任鏈條。創(chuàng)造力與判斷力的旁路很多創(chuàng)造性或高價值判斷的工作其過程本身比結(jié)果更重要。比如產(chǎn)品設(shè)計、戰(zhàn)略分析、復(fù)雜代碼審查。全自動化的AI可能給出一個“看起來不錯”的方案但卻跳過了人類在思考過程中產(chǎn)生的洞察、權(quán)衡和靈感火花。這實(shí)際上削弱了人類最核心的能力。李飛飛教授提出的“增強(qiáng)人類能動性”在工程上可以理解為一種范式轉(zhuǎn)變從追求“取代人的操作”轉(zhuǎn)向設(shè)計“放大人的能力”的系統(tǒng)。這意味著我們的架構(gòu)設(shè)計、交互界面、工作流編排都需要重新思考如何讓人保持在“駕駛位”讓AI扮演一個強(qiáng)大的“副駕駛”或“工具集”提供信息、建議、執(zhí)行重復(fù)勞動但把最終的感知、決策和創(chuàng)造權(quán)留給人。2. 增強(qiáng)能動性的三大工程實(shí)踐錨點(diǎn)那么在具體的AI項目開發(fā)中如何落地“增強(qiáng)能動性”這個理念它不能停留在口號上必須轉(zhuǎn)化為可設(shè)計、可編碼、可測試的工程原則。我認(rèn)為有三個關(guān)鍵的錨點(diǎn)。2.1 設(shè)計可解釋與可干預(yù)的交互界面一個增強(qiáng)人的系統(tǒng)首先必須是“可讀”和“可寫”的。這直接體現(xiàn)在用戶與AI的交互界面上。過程透明而非只給結(jié)果不要只展示AI生成的最終答案。對于重要的任務(wù)應(yīng)該同時提供推理鏈Chain-of-Thought、置信度分?jǐn)?shù)、參考的來源片段如RAG中的引用。例如一個AI輔助法律條文檢索的工具不能只給結(jié)論而應(yīng)該高亮出得出該結(jié)論所依據(jù)的具體法律條款原文并說明這些條款與當(dāng)前案例的相關(guān)性。這讓人能夠評估AI判斷的合理性。提供“控制桿”和“選擇權(quán)”將AI的能力參數(shù)化、模塊化暴露給用戶控制。比如在AI繪畫中除了輸入提示詞還應(yīng)提供風(fēng)格強(qiáng)度、構(gòu)圖權(quán)重、隨機(jī)種子等調(diào)節(jié)選項在AI代碼生成中可以提供“更保守/更創(chuàng)新”、“更簡潔/更詳細(xì)”等模式選擇。這相當(dāng)于把AI從一個黑箱生成器變成了一個可由人精細(xì)調(diào)校的樂器。支持漸進(jìn)式細(xì)化與迭代交互應(yīng)該支持“對話式”或“草稿式”的協(xié)作。用戶可以先讓AI生成一個初稿、一個大綱或幾個選項然后在此基礎(chǔ)上提出修改意見“更正式一些”、“第三個方案不錯但把第二部分和第一部分對調(diào)”AI再據(jù)此迭代。這模仿了人類團(tuán)隊協(xié)作的模式人始終是方向的把控者。工程落地示例在設(shè)計一個基于大模型的文檔分析Agent時不要設(shè)計成“上傳文檔 - 等待 - 輸出一份分析報告”。更好的方式是AI先輸出一個報告框架目錄。用戶可以選擇深入查看某個章節(jié)的詳細(xì)分析。AI對每個觀點(diǎn)都附上原文中的證據(jù)引用。用戶可以對某個分析點(diǎn)提出質(zhì)疑或要求補(bǔ)充AI進(jìn)行針對性重分析。最終報告生成前提供一個所有關(guān)鍵結(jié)論和引用的確認(rèn)頁面。2.2 構(gòu)建人機(jī)協(xié)同的混合工作流“增強(qiáng)”意味著人和AI各司其職在同一個工作流中協(xié)同。我們需要識別出流程中哪些環(huán)節(jié)適合AI高效處理哪些環(huán)節(jié)必須由人類主導(dǎo)。AI擅長模式匹配、信息檢索、內(nèi)容生成、重復(fù)性任務(wù)執(zhí)行。例如從海量日志中定位異常模式、從知識庫中快速找到相關(guān)案例、根據(jù)模板生成代碼草稿、批量處理圖片格式轉(zhuǎn)換。人類必須主導(dǎo)價值判斷、倫理權(quán)衡、創(chuàng)造性構(gòu)思、復(fù)雜問題定義、責(zé)任承擔(dān)。例如決定商業(yè)策略的最終方向、審核AI生成內(nèi)容是否符合法規(guī)與公序良俗、提出全新的產(chǎn)品創(chuàng)意、在模糊情境下做出決策。一個增強(qiáng)能動性的工作流會像接力賽一樣設(shè)計交接棒。例如一個智能客服工單處理系統(tǒng)AI第一棒自動分類工單技術(shù)問題/賬單咨詢/投訴、提取關(guān)鍵實(shí)體訂單號、錯誤代碼、從知識庫中檢索標(biāo)準(zhǔn)解決方案草稿。人類交接與決策客服人員收到的是經(jīng)過AI預(yù)處理的工單附帶了分類建議、關(guān)鍵信息和解決方案草稿。人員快速審核AI的預(yù)處理是否正確并基于草稿進(jìn)行個性化修改或判斷是否需要升級處理。AI輔助執(zhí)行人員確認(rèn)回復(fù)方案后AI可以自動填充回復(fù)模板或根據(jù)人員選擇的語氣正式/親切潤色語言。人類最終發(fā)送人員在發(fā)送前做最終確認(rèn)。在這個流程中AI極大地提升了客服人員處理單一工單的效率信息聚合、草稿生成但所有的價值判斷、情感溝通和最終責(zé)任仍然牢牢掌握在人類手中。2.3 將評估與調(diào)試能力賦予開發(fā)者增強(qiáng)能動性不僅針對最終用戶也針對我們這些AI系統(tǒng)的開發(fā)者。一個“增強(qiáng)型”的AI開發(fā)工具鏈應(yīng)該讓開發(fā)者能更輕松地理解、評估和調(diào)試AI組件的行為。超越準(zhǔn)確率的評估體系對于生成式AI不能只看BLEU、ROUGE分?jǐn)?shù)。需要建立一套更能反映“是否對人有用”的評估指標(biāo)例如事實(shí)一致性、無害性、指令遵循程度、輸出多樣性等。同時要設(shè)計方便的人工評估流程將人的反饋如評分、排序、修正快速納入迭代循環(huán)。可觀測性與診斷工具系統(tǒng)需要提供詳細(xì)的日志和追蹤Trace功能記錄AI模型在每個步驟的輸入、輸出、中間結(jié)果以及調(diào)用的工具。當(dāng)出現(xiàn)問題時開發(fā)者能像調(diào)試傳統(tǒng)軟件一樣通過追蹤鏈定位是哪個環(huán)節(jié)的提示詞、數(shù)據(jù)或模型邏輯出了問題。一些開源項目如LangSmith、Phoenix正在這個方向努力?！疤崾驹~即代碼”的工程實(shí)踐將驅(qū)動AI的提示詞Prompt視為需要版本管理、測試、評審的代碼。建立提示詞的單元測試驗(yàn)證給定輸入是否產(chǎn)生期望的輸出或格式、集成測試驗(yàn)證多步工作流的正確性。這能讓提示詞的迭代更可控減少“玄學(xué)調(diào)參”。3. 當(dāng)前熱門AI實(shí)踐中的能動性審視結(jié)合輸入材料中提及的一些熱點(diǎn)方向我們可以具體分析一下其中“增強(qiáng)能動性”的體現(xiàn)或缺失。AI Agent智能體這是能動性問題的前沿陣地。一個設(shè)計良好的Agent應(yīng)該明確自己的邊界在遇到不確定性高或超出預(yù)設(shè)范圍的任務(wù)時主動向人類尋求指導(dǎo)“請示”而不是自行其是導(dǎo)致潛在風(fēng)險。它的目標(biāo)應(yīng)是高效完成人類指派的具體、明確的任務(wù)而不是追求完全自主的“通用智能”。AI編程Cursor, GitHub Copilot這類工具是“增強(qiáng)開發(fā)者能動性”的典范。它們不會直接寫完整應(yīng)用而是在開發(fā)者寫下一行注釋或半個函數(shù)名時提供代碼補(bǔ)全建議。開發(fā)者擁有完全的接受、修改或拒絕的權(quán)利。最佳實(shí)踐是將其用作“超級聯(lián)想工具”和“細(xì)節(jié)實(shí)現(xiàn)助手”而由開發(fā)者掌控整體架構(gòu)和核心邏輯。AI繪畫/視頻/短劇制作在這里能動性體現(xiàn)在“創(chuàng)意引導(dǎo)”而非“創(chuàng)意替代”。AI應(yīng)該是一個強(qiáng)大的素材生成器和風(fēng)格化工具幫助創(chuàng)作者將腦海中的畫面快速可視化進(jìn)行風(fēng)格探索和迭代。但故事的靈魂、分鏡的構(gòu)思、情感的傳遞這些核心創(chuàng)作活動必須由人主導(dǎo)。工具應(yīng)該降低技術(shù)門檻而不是降低創(chuàng)意門檻?！盁o限制”AI聊天與生圖這是一個需要警惕的方向。對“違禁詞”的突破往往伴隨著對內(nèi)容安全、倫理邊界的挑戰(zhàn)。增強(qiáng)能動性不等于賦予AI無限制的自由而是讓人在合理的、安全的框架內(nèi)更有效地利用AI的能力。一個負(fù)責(zé)任的系統(tǒng)應(yīng)該在增強(qiáng)創(chuàng)造力的同時內(nèi)置必要的安全護(hù)欄和倫理考量這本身也是對用戶和社會的一種保護(hù)。模型部署與工程實(shí)踐在追求低延遲、高并發(fā)的模型服務(wù)部署時同樣要考慮能動性。例如在API設(shè)計上除了返回生成結(jié)果是否可以可選地返回生成過程的token概率分布或注意力權(quán)重在流式輸出時是否允許用戶在中途打斷并提供新的指引這些設(shè)計都能讓上游應(yīng)用更好地實(shí)現(xiàn)人機(jī)協(xié)同。4. 從理念到項目一個增強(qiáng)型AI系統(tǒng)的構(gòu)建清單如果你正在啟動或重構(gòu)一個AI項目并希望將“增強(qiáng)人類能動性”作為核心原則可以參考以下清單進(jìn)行設(shè)計和評審目標(biāo)澄清本項目首要目標(biāo)是提升人的效率、創(chuàng)造力、決策質(zhì)量還是完全取代某個人工環(huán)節(jié)項目中哪些環(huán)節(jié)必須保留人類的最終判斷權(quán)、審核權(quán)或創(chuàng)意發(fā)起權(quán)交互設(shè)計用戶能否看到AI得出結(jié)論的關(guān)鍵依據(jù)或推理過程用戶是否能在關(guān)鍵參數(shù)上進(jìn)行調(diào)節(jié)以影響AI的輸出風(fēng)格或傾向工作流是否支持“人類-AI-人類”的多輪交互與迭代而不是一次性輸入輸出工作流設(shè)計是否清晰劃分了AI自動化處理的環(huán)節(jié)和需要人工介入的環(huán)節(jié)在交接點(diǎn)上是否為人類提供了足夠清晰、結(jié)構(gòu)化的信息AI的初步成果、置信度、備選方案以支持快速決策當(dāng)AI遇到高不確定性或超出能力范圍的情況時是否有明確的“向上匯報”Escalation機(jī)制評估與調(diào)試除了傳統(tǒng)準(zhǔn)確率指標(biāo)是否建立了包含有用性、安全性、可控性等維度的評估體系開發(fā)者是否擁有足夠的工具來追蹤和診斷AI組件在整個工作流中的行為是否建立了收集和處理人類反饋正面/負(fù)面的閉環(huán)流程用于持續(xù)優(yōu)化系統(tǒng)倫理與安全系統(tǒng)設(shè)計是否考慮了可能的誤用或有害輸出是否有機(jī)制防止AI在未經(jīng)明確指令的情況下自主做出具有重大影響的決策用戶是否清楚了解AI能力的邊界以及自身需要承擔(dān)的責(zé)任李飛飛教授的觀點(diǎn)之所以在當(dāng)下尤為重要是因?yàn)樗鼮槲覀兛駸岬募夹g(shù)演進(jìn)提供了一個至關(guān)重要的“校準(zhǔn)器”。AI的終極價值不在于建造一個能獨(dú)立運(yùn)行的“硅基生命”而在于打造一面更亮的鏡子、一把更快的錘子、一位更博學(xué)的伙伴——一切旨在映照、延伸和激發(fā)我們自身獨(dú)有的智慧、情感與創(chuàng)造力。作為構(gòu)建者我們的任務(wù)不是編寫取代自己的代碼而是設(shè)計能夠讓我們飛得更高的翅膀。下一次當(dāng)你設(shè)計AI系統(tǒng)的架構(gòu)或交互時不妨先問一句這個設(shè)計是讓我更接近問題的核心還是讓我更遠(yuǎn)離了掌控力