最近看了 Cory Doctorow 聊 AI 與 enshittification 時代的討論我最大的感受不是“AI 太危險”而是“大量技術(shù)工具正在被用到最省事、最不負(fù)責(zé)的地方”。enshittification 這個詞是他提出的直白說就是平臺或內(nèi)容生態(tài)一步步變差先討好用戶再討好商家最后收割所有人。放到 AI 時代這個問題沒有減弱反而被內(nèi)容生產(chǎn)成本的斷崖式下降放大了。這篇不是純觀點文。我想從內(nèi)容生產(chǎn)和工程落地的角度把三件事拆開AI 到底為什么會加速劣質(zhì)化普通用戶怎么識別劣質(zhì) AI 內(nèi)容以及做 AI 工具、做產(chǎn)品、寫博客的人怎么避免自己也變成投毒者。先說結(jié)論模型本身不壞壞的是使用鏈路里的目標(biāo)函數(shù)和人工審核缺位。你用它來降低創(chuàng)作門檻還是用它來批量生產(chǎn)模板文章結(jié)果完全不同。1. 先搞懂 enshittification平臺不是突然變爛的是系統(tǒng)性一步步變爛的1.1 平臺劣化的經(jīng)典路徑Cory Doctorow 的 enshittification 描述的是一個常見過程平臺早期為了吸引用戶和內(nèi)容創(chuàng)作者會給出補(bǔ)貼、流量、好用的工具用戶變多之后平臺開始討好商業(yè)客戶比如廣告主、商家、付費(fèi)開發(fā)者等兩邊都離不開平臺時平臺就開始提高抽成、壓制長尾內(nèi)容、把推薦坑位賣給競價最高的人。這個過程不是陰謀而是商業(yè)模式的自然演化。平臺要對股東負(fù)責(zé)要維持增長要找新的收入來源最終都會在“用戶體驗”和“商業(yè)變現(xiàn)”之間選擇短期收入。放到內(nèi)容生態(tài)里你會看到這些現(xiàn)象搜索結(jié)果里前幾頁越來越多是重復(fù)、空泛的文章。推薦系統(tǒng)不再推薦“對你有用但冷門”的內(nèi)容只推薦“容易讓你點進(jìn)去停留更久”的內(nèi)容?？头肟谠絹碓缴钊斯た头絹碓诫y找AI 客服先是攔截再轉(zhuǎn)接最后問題仍然沒解決。這些現(xiàn)象單獨(dú)看都不致命但疊加起來用戶會發(fā)現(xiàn)整個網(wǎng)絡(luò)變得越來越難用。1.2 AI 時代為什么會被加速AI 模型不直接導(dǎo)致平臺變爛但它把“制造劣質(zhì)內(nèi)容”的成本壓到了近乎為零。以前批量寫低質(zhì)文章需要養(yǎng)寫手、付稿費(fèi)、做偽原創(chuàng)現(xiàn)在用大模型接口就能批量生成。以前做一張假圖需要設(shè)計能力現(xiàn)在輸入提示詞就能出圖。以前做一段營銷話術(shù)需要文案策劃現(xiàn)在生成器一晚上能產(chǎn)出幾百版。我自己的感受是2022 年之前在搜索引擎里找技術(shù)帖子前幾條大概率能解決大部分問題。到 2024 年之后很多搜索詞下出現(xiàn)了大量結(jié)構(gòu)性相似的頁面。正文格式高度一致、開頭有一段空泛概述、中間堆幾個小標(biāo)題、結(jié)尾來一句“總之……”。這類內(nèi)容不能說完全錯誤但它沒有信息增量。更麻煩的是這些內(nèi)容會被搜索引擎索引會被推薦系統(tǒng)抓取會被其他 AI 工具當(dāng)成訓(xùn)練語料。于是生成內(nèi)容進(jìn)入語料庫語料庫又喂給下一代模型下一代模型繼續(xù)生成更模板化的內(nèi)容。這是一個正反饋循環(huán)方向是反的。1.3 真正值得擔(dān)心的不是模型能力而是激勵結(jié)構(gòu)我認(rèn)為做 AI 應(yīng)用開發(fā)、產(chǎn)品經(jīng)理、內(nèi)容運(yùn)營的人應(yīng)該把注意力從“模型強(qiáng)不強(qiáng)”轉(zhuǎn)回“激勵結(jié)構(gòu)對不對”。一個客服機(jī)器人如果只考核“用戶等了多久才轉(zhuǎn)人工”它就會把用戶困在自動回復(fù)里。一個 AI 寫作工具如果只考核“每天能生成多少篇文章”它就會鼓勵用戶批量刷稿。一個推薦系統(tǒng)如果只考核“點擊率和停留時長”它就會拼命推送情緒化、標(biāo)題黨的內(nèi)容。模型不是問題考核指標(biāo)才是問題。這個問題在 AI 時代不是技術(shù)問題而是工程和產(chǎn)品決策問題。2. 三個最容易“AI 劣化”的場景搜索、推薦、客服2.1 搜索場景信息獲取從“找答案”變成“排除噪聲”搜索引擎是最容易被 AI 生成內(nèi)容污染的環(huán)節(jié)。原因是搜索本身就是流量分配器。AI 生成的頁面如果覆蓋了熱門長尾詞就可能排在真實答案前面。實際體驗經(jīng)常是這樣搜一個問題第一條結(jié)果是某個 AI 工具生成的聚合摘要看起來很完整但沒有任何來源。點進(jìn)去之后發(fā)現(xiàn)正文里只是換了幾種說法重復(fù)同樣的話。真實項目經(jīng)驗、具體報錯信息、版本差異全都沒有。判斷一個搜索結(jié)果是否有信息增量我一般看三點有沒有具體的操作系統(tǒng)、軟件版本、運(yùn)行環(huán)境。有沒有作者實測的過程包括失敗記錄和調(diào)整參數(shù)。有沒有明確的出處或數(shù)據(jù)來源。如果三樣都沒有它大概率是 AI 堆出來的模板內(nèi)容。哪怕它語法通順、結(jié)構(gòu)清晰信息價值也很低。2.2 推薦場景長尾內(nèi)容正在消失推薦系統(tǒng)的邏輯是預(yù)測點擊概率。AI 模型可以把點擊率預(yù)測做得越來越準(zhǔn)但代價是內(nèi)容越來越同質(zhì)化。視頻平臺、內(nèi)容平臺、電商平臺都有這個趨勢一個題材火了馬上出現(xiàn)大量模仿內(nèi)容。系統(tǒng)發(fā)現(xiàn)這類內(nèi)容互動率高就會進(jìn)一步加大推薦。冷門但優(yōu)質(zhì)的長尾內(nèi)容因為初始數(shù)據(jù)少很少有機(jī)會進(jìn)入推薦池。我遇到過好幾次類似情況想找一個相對冷門的技術(shù)方案搜索結(jié)果全是入門級教程想找某個特殊業(yè)務(wù)場景的實戰(zhàn)經(jīng)驗翻了很多頁都找不到最后只能去 GitHub issue 或者國外論壇手動翻。這不是 AI 本身的問題是“以點擊率為中心”的內(nèi)容分發(fā)機(jī)制的問題。做 AI 產(chǎn)品的人如果只盯著數(shù)據(jù)指標(biāo)最終會把整個內(nèi)容生態(tài)推向“高點擊但低信息量”的螺旋。2.3 客服場景AI 沒有提升體驗反而增加了溝通成本AI 客服是典型的“看起來效率提升實際操作變差”的案例。企業(yè)上線智能客服后確實減少了人工坐席壓力但用戶體驗經(jīng)常是AI 答非所問轉(zhuǎn)人工入口隱藏很深人工接入后還要重新描述一遍問題。原因在于很多 AI 客服只接了一個知識庫和一套話術(shù)沒有處理復(fù)雜問題的能力也沒有“什么時候該主動轉(zhuǎn)人工”的判斷機(jī)制。它優(yōu)化的目標(biāo)是“降低成本”而不是“解決問題”。正確做法是設(shè)計一條清晰升級鏈路簡單問題AI 直接答給出可驗證的答案。普通問題AI 給出操作步驟并確認(rèn)用戶是否解決。復(fù)雜問題AI 無法確認(rèn)時直接轉(zhuǎn)人工并帶上前文摘要。這個升級鏈路看起來簡單但實際很多產(chǎn)品沒做。原因是轉(zhuǎn)人工需要成本企業(yè)不愿意設(shè)閾值。結(jié)果就是 AI 客服變成了用戶和人工客服之間的屏障。3. 工程視角AI 功能是怎么被“做爛”的3.1 目標(biāo)函數(shù)錯位是根因做 AI 產(chǎn)品時最容易犯的錯誤是只定義“優(yōu)化目標(biāo)”卻沒有定義“約束條件”。舉例來說一個 AI 寫作助手優(yōu)化目標(biāo)是“生成速度”和“文字通順度”約束條件應(yīng)該是“事實正確性”和“信息增量”。但實際工程里事實正確性很難自動評估于是團(tuán)隊往往只做可衡量的部分。最后交付的產(chǎn)品是速度快、通順、但經(jīng)常說空話。做 AI 內(nèi)容審核也有類似問題。如果審核目標(biāo)是“分類準(zhǔn)確率”模型會傾向于把模棱兩可的內(nèi)容分到高頻類別里因為這樣損失函數(shù)最小。至于那條內(nèi)容是否真的合適模型不知道也不負(fù)責(zé)。所以在設(shè)計 AI 功能時我建議把目標(biāo)拆成兩半優(yōu)化目標(biāo) 失敗約束。寧可功能保守一點也不能讓錯誤輸出直接流向用戶。3.2 反饋循環(huán)AI 內(nèi)容正在污染下一代訓(xùn)練數(shù)據(jù)工程上還有一個容易被忽視的問題AI 生成內(nèi)容會回流到訓(xùn)練語料里。你不用刻意去爬只要把公開網(wǎng)頁作為訓(xùn)練語料里面一定已經(jīng)有大量 AI 生成文本。2023 年之后上線的很多內(nèi)容型網(wǎng)站大部分長文都是工具輔助生成的。這些內(nèi)容會被下一輪訓(xùn)練的模型學(xué)習(xí)于是模型會越來越傾向于輸出“看起來正確但缺少實質(zhì)”的文本。這個循環(huán)一旦啟動很難停止。個體只能盡量避免自己成為污染源平臺需要做數(shù)據(jù)清洗判斷內(nèi)容是否包含真實來源模型團(tuán)隊需要保留原始人工語料的快照。實際做的時候我見過比較有效的方法是對爬取語料做“來源分級”只優(yōu)先使用自帶數(shù)據(jù)、技術(shù)文檔、學(xué)術(shù)論文和經(jīng)過審核的百科內(nèi)容。3.3 護(hù)欄缺失生成管線跑通了但沒人檢查輸出很多 AI Agent 項目跑起來之后問題不是模型不會答而是沒有人檢查它答完的結(jié)果。我見過這樣的調(diào)用鏈用戶輸入問題Agent 拆解任務(wù)調(diào)用多個 API匯總答案最終直接展示給用戶。如果中間任何一步拿到了錯誤信息最終答案也跟著錯。出錯時沒有日志沒有溯源沒有人工標(biāo)記。用戶反饋錯誤后產(chǎn)品人員也不知道是模型問題、Prompt 問題、API 參數(shù)問題還是知識庫問題。要避免這種情況工程上至少要加這幾層護(hù)欄輸出溯源每條關(guān)鍵輸出都要關(guān)聯(lián)來源或依據(jù)。日志記錄記錄 Prompt、模型版本、參數(shù)、耗時、結(jié)果摘要。人審兜底高風(fēng)險場景必須有人工審核環(huán)節(jié)。版本回退新模型上線后如果指標(biāo)下降能快速回退舊版本。這些不復(fù)雜但很容易被省略。省掉的后果是功能可以上線但出錯時你完全不知道哪里出了問題。時間久了用戶對產(chǎn)品的信任也會被透支。4. 負(fù)責(zé)任地使用 AI從單條任務(wù)到批量生產(chǎn)都應(yīng)該有質(zhì)量門禁4.1 個人使用AI 寫作、AI 繪畫、AI 編程都要保留人工確認(rèn)環(huán)節(jié)我自己用 AI 工具的經(jīng)驗是可以把 AI 當(dāng)成高效的初稿生成器但不能把 AI 當(dāng)作最終審核人。寫作場景我會先用 AI 生成大綱和初稿然后逐段修改補(bǔ)充真實經(jīng)歷、具體參數(shù)和可復(fù)現(xiàn)步驟。因為我清楚AI 不太可能知道我踩過的坑也不可能自動獲得我的項目背景。它只能把語言組織得通順價值部分必須我來補(bǔ)。繪畫和視頻生成場景我會先做小尺寸樣例檢查文字是否正確、人物比例是否正常、內(nèi)容是否合適。不要一上來就生成多張高分辨率圖片既浪費(fèi)資源也容易在批量生成后才發(fā)現(xiàn)風(fēng)格不一致。AI 編程場景也是一樣。AI 補(bǔ)全的代碼直接跑很容易出現(xiàn)看似合理但邏輯錯誤的情況。我會先看生成的函數(shù)是否被調(diào)用邊界條件是否處理是否有安全風(fēng)險然后再放進(jìn)項目里。尤其是涉及權(quán)限、支付、數(shù)據(jù)刪除的代碼不能盲目相信自動生成。保留人工確認(rèn)環(huán)節(jié)不是效率低下而是對輸出質(zhì)量負(fù)責(zé)。4.2 團(tuán)隊協(xié)作建立內(nèi)容質(zhì)量門禁而不是只考核產(chǎn)量如果團(tuán)隊要做內(nèi)容生產(chǎn)系統(tǒng)建議把流程拆成五段選題規(guī)劃明確內(nèi)容主題、目標(biāo)讀者、預(yù)期信息增量。生成階段AI 負(fù)責(zé)產(chǎn)出初稿或素材可重復(fù)迭代。審核階段人工檢查事實、來源、邏輯、風(fēng)格。發(fā)布階段確認(rèn)標(biāo)題、標(biāo)簽、摘要是否與正文一致。反饋階段看用戶評論、閱讀時長、搜索來源回填到選題庫。很多團(tuán)隊只做了第一、二、四步跳過了審核階段。短期看產(chǎn)量上去了長期看賬號的信任度會下降。搜索引擎會降權(quán)用戶會養(yǎng)成“看到這個站點就跳過”的習(xí)慣。質(zhì)量門禁具體怎么做可以用一個簡單檢查表文章來源是否標(biāo)注了作者或機(jī)構(gòu)。事實來源關(guān)鍵數(shù)據(jù)、引用是否需要外部佐證。時間信息內(nèi)容是否有明確日期或版本。信息增量與搜索結(jié)果前三頁相比有沒有新的角度或細(xì)節(jié)。格式檢查標(biāo)題、代碼塊、圖片是否完整。檢查表不一定要全過但至少要讓審核人有一個統(tǒng)一的判斷標(biāo)準(zhǔn)而不是憑感覺。4.3 工程系統(tǒng)批量任務(wù)要設(shè)計失敗重試、日志和人工審核隊列做 AI 批量任務(wù)時很多人只考慮“能不能跑完”不考慮“結(jié)果如何被消費(fèi)”。這會埋雷。批量生成內(nèi)容如果直接跑 1000 條而不看前 100 條的質(zhì)量最后很可能是 1000 條廢稿。正確順序是先用 5 到 10 條小樣本驗證參數(shù)。檢查輸出格式、語義、長度、質(zhì)量分布。再擴(kuò)大到 100 條左右重點觀察失敗率和異常類型。最后才跑全量并保留日志和中間產(chǎn)物。批量任務(wù)還需要考慮輸出命名和斷點續(xù)跑。如果中斷了能不能從上次位置繼續(xù)如果某條失敗是跳過還是重試任務(wù)結(jié)束后人工該去哪個目錄抽查結(jié)果這些問題看起來瑣碎但真正影響系統(tǒng)是否可用。我自己踩過的坑是批量生成了大量文件沒有唯一標(biāo)識最后無法把錯誤數(shù)據(jù)和原始輸入對應(yīng)上。后來改成每條任務(wù)都帶任務(wù) ID并且輸出文件名包含輸入源和時間戳問題才解決。注意批量生產(chǎn)類任務(wù)永遠(yuǎn)不要只做“成功/失敗”統(tǒng)計。要看成功樣本里的質(zhì)量分布。即便 99% 任務(wù)不報錯也可能有大量低質(zhì)量輸出混在里面。5. 識別 AI 垃圾內(nèi)容一套可復(fù)用的排查鏈路5.1 文本內(nèi)容的特征AI 生成的文本雖然越來越像真人但某些特征還是可以通過人工快速識別大量使用“首先、其次、最后、總之”一類連接詞。每個小節(jié)字?jǐn)?shù)均勻像填充出來的。缺少具體的版本號、報錯信息、時間節(jié)點、真實場景。關(guān)鍵結(jié)論沒有來源也沒有上下文限制。同一關(guān)鍵詞反復(fù)出現(xiàn)句式高度模板化。這些特征單獨(dú)出現(xiàn)時可能只是寫作習(xí)慣但多數(shù)同時出現(xiàn)時內(nèi)容大概率是 AI 直接生成的。5.2 圖片和視頻內(nèi)容的特征AI 生成的圖片通常會在細(xì)節(jié)上露出破綻比如文字邊緣模糊、手指數(shù)量不對、物品結(jié)構(gòu)不合理。視頻的問題更隱蔽常見的是畫面過度平滑、人物動作不自然、口型和語音不同步。但要注意AI 生成工具在快速進(jìn)步靠肉眼識別越來越不可靠。所以在內(nèi)容平臺判斷一張圖或一段視頻是否可信我更建議看上下文是否有明確作者和拍攝/制作時間。是否標(biāo)注了 AI 生成或合成。內(nèi)容本身是否涉及關(guān)鍵事實比如新聞事件、產(chǎn)品發(fā)布、技術(shù)演示。是否有交叉驗證的信息來源。如果是關(guān)鍵事實信息哪怕畫面很真實也應(yīng)該找第二來源確認(rèn)。5.3 作為用戶我應(yīng)該按什么順序排查一條內(nèi)容的可信度我自己會按這個順序來看先看時間內(nèi)容有沒有日期是否已經(jīng)過時。再看來源是官方網(wǎng)站、原文鏈接還是個人博客轉(zhuǎn)載。然后看作者有沒有真實署名是否有相關(guān)背景。接著看細(xì)節(jié)有沒有具體的版本號、代碼、配置、實驗數(shù)據(jù)。最后看結(jié)論是否給出條件和邊界而不是把話說死。如果一條內(nèi)容經(jīng)過這五步仍然站得住那它對我就有價值。如果第一二步就不過關(guān)我基本上會直接忽略。5.4 作為創(chuàng)作者怎么避免被誤傷為“AI 垃圾內(nèi)容”現(xiàn)在很多平臺和搜索引擎都在做 AI 內(nèi)容識別。如果你認(rèn)真寫內(nèi)容卻被系統(tǒng)誤判為批量生成體驗是很差的。我的建議是在正文里保留必要的上下文包括你的使用場景、環(huán)境版本、遇到的問題。不刻意消除寫作痕跡。有些口語化表達(dá)、短句、個人判斷反而是可信度信號。注明參考來源尤其是使用 AI 輔助生成時可以補(bǔ)充說明哪些部分由 AI 生成哪些經(jīng)過人工驗證。避免把同一個文章模板套用到多個主題保持每篇的差異化。注意不要為了“反 AI 檢測”去刻意打亂句式或者插入無關(guān)符號。真正值得做的是讓內(nèi)容更具信息增量而不是通過奇怪的排版騙過機(jī)器。6. 我更愿意怎么看待“AI 與 enshittification 時代”聊到這里很多人可能會覺得那是不是意味著 AI 不值得用我的看法不是這樣。AI 是一個可以把個體能力放大很多倍的工具但它沒有改變一個基本道理你要對最終交付的東西負(fù)責(zé)。寫代碼你要對運(yùn)行結(jié)果負(fù)責(zé)寫文章你要對讀者影響負(fù)責(zé)做產(chǎn)品你要對用戶長期價值負(fù)責(zé)。如果你把 AI 的輸出直接當(dāng)作最終結(jié)果那你其實是在用工具逃避責(zé)任。我做內(nèi)容、做 AI 應(yīng)用項目的經(jīng)驗是凡是把“人工審核”和“質(zhì)量約束”前置到流程里的最后結(jié)果普遍穩(wěn)定。這包括 AI 客服的轉(zhuǎn)人工策略、AI 寫作輔助工具中的來源核對、AI Agent 里的日志和降級鏈路。功能可以簡單但責(zé)任鏈不能斷。所以面對這個時代的正確姿勢不是站在旁邊批評 AI 生成內(nèi)容太多而是先把自己手頭的事情做干凈。寫博客的人多寫真實經(jīng)歷少堆模板話做工具的人在設(shè)計流程時就把審核和溯源放進(jìn)去用 AI 提效的人把省下來的時間花在復(fù)查和質(zhì)量提升上。環(huán)境變爛不是問題問題是有沒有人在關(guān)鍵環(huán)節(jié)守住底線。技術(shù)會繼續(xù)進(jìn)化但內(nèi)容是否有價值、產(chǎn)品是否對用戶負(fù)責(zé)始終要靠人來做決定。