1. 一周論文速覽的整理思路與篩選邏輯每周固定花半天時(shí)間刷目標(biāo)檢測(cè)方向的新論文是我做了快三年的習(xí)慣。這周0927-1003的整理工作照例從幾個(gè)預(yù)印本平臺(tái)的更新列表開始最終篩出12篇值得細(xì)讀的工作其中5篇做了完整精讀和筆記歸檔。整理這件事本身沒(méi)什么技術(shù)含量但篩選邏輯和歸檔結(jié)構(gòu)直接決定了你后續(xù)能不能真正用上這些論文而不是收藏夾里吃灰。先說(shuō)篩選。目標(biāo)檢測(cè)這個(gè)方向現(xiàn)在每周的新投稿量大概在80到150篇之間浮動(dòng)全看等于沒(méi)看。我的第一層過(guò)濾是看標(biāo)題和摘要里的任務(wù)關(guān)鍵詞如果一篇論文的核心貢獻(xiàn)只是把某個(gè)backbone換成另一個(gè)、或者在COCO上刷了0.3個(gè)點(diǎn)直接跳過(guò)。真正值得花時(shí)間的是三類工作提出了新的檢測(cè)范式比如從anchor-based到anchor-free那種級(jí)別的變化、解決了某個(gè)長(zhǎng)期存在的痛點(diǎn)小目標(biāo)、密集場(chǎng)景、開放詞匯、或者給出了非常有說(shuō)服力的消融實(shí)驗(yàn)和可視化分析。第二層過(guò)濾是看實(shí)驗(yàn)設(shè)置的誠(chéng)意。有些論文只在COCO val上跑一遍就敢說(shuō)SOTA連test-dev都不跑這種基本可以判定為灌水。我會(huì)優(yōu)先關(guān)注那些在多個(gè)數(shù)據(jù)集上驗(yàn)證、并且給出了推理速度對(duì)比的工作。畢竟目標(biāo)檢測(cè)不是純分類任務(wù)精度和速度的權(quán)衡才是這個(gè)領(lǐng)域的核心矛盾。第三層是看代碼和權(quán)重是否開源。這周篩出的12篇里有7篇標(biāo)注了代碼即將開源3篇已經(jīng)放出了倉(cāng)庫(kù)鏈接。對(duì)于已經(jīng)開源的我會(huì)直接拉下來(lái)跑一遍推理腳本看看實(shí)際效果和論文里寫的是否一致。這個(gè)習(xí)慣幫我避開了不少“論文很美、代碼很坑”的雷。歸檔結(jié)構(gòu)上我用的是一個(gè)很樸素的Markdown模板每篇論文一個(gè)文件包含標(biāo)題、作者單位只記機(jī)構(gòu)類型不記具體名稱、核心貢獻(xiàn)一句話、方法關(guān)鍵點(diǎn)、實(shí)驗(yàn)結(jié)論、個(gè)人評(píng)價(jià)、可復(fù)現(xiàn)性評(píng)級(jí)。這個(gè)模板看起來(lái)簡(jiǎn)單但堅(jiān)持下來(lái)你會(huì)發(fā)現(xiàn)三個(gè)月后你還能快速回憶起某篇論文到底講了什么而不是只記得“好像在哪看過(guò)”。提示整理論文最忌諱的是只存PDF不寫筆記。我試過(guò)一年后翻自己的收藏夾完全想不起來(lái)某篇論文為什么當(dāng)時(shí)覺得重要。后來(lái)強(qiáng)制自己每篇至少寫三句話總結(jié)情況才好轉(zhuǎn)。這周的整體感受是基于Transformer的檢測(cè)器依然占據(jù)主流但純Transformer架構(gòu)在邊緣設(shè)備上的部署問(wèn)題開始被更多工作關(guān)注。另外開放詞匯檢測(cè)和少樣本檢測(cè)的交叉方向出現(xiàn)了幾篇有意思的工作后面會(huì)詳細(xì)展開。2. 本周核心論文分類精讀2.1 開放詞匯檢測(cè)方向的兩篇代表性工作這周開放詞匯檢測(cè)Open-Vocabulary Detection方向有兩篇工作值得細(xì)看。第一篇的核心思路是用視覺-語(yǔ)言預(yù)訓(xùn)練模型的區(qū)域-文本對(duì)齊能力來(lái)替代傳統(tǒng)的分類頭。具體來(lái)說(shuō)它不再像傳統(tǒng)檢測(cè)器那樣在固定類別上做softmax而是把每個(gè)候選區(qū)域的視覺特征和文本編碼器生成的類別嵌入做相似度匹配。這樣做的好處是推理時(shí)只需要提供新類別的文本描述模型就能直接檢測(cè)不需要重新訓(xùn)練。這篇論文的關(guān)鍵創(chuàng)新在于區(qū)域特征和文本特征的融合方式。之前的工作大多是把區(qū)域特征直接和文本嵌入做點(diǎn)積但這篇論文發(fā)現(xiàn)區(qū)域特征里包含了大量背景噪聲直接匹配會(huì)導(dǎo)致新類別的誤檢率很高。它的解決方案是引入一個(gè)輕量級(jí)的特征凈化模塊用注意力機(jī)制把區(qū)域特征中與文本描述無(wú)關(guān)的部分抑制掉。消融實(shí)驗(yàn)顯示這個(gè)模塊在novel類別上的AP提升了大概4個(gè)點(diǎn)而且?guī)缀鯖](méi)有增加推理延遲。第二篇工作走的是另一條路用偽標(biāo)簽做自訓(xùn)練。它的流程是先用基類訓(xùn)練一個(gè)檢測(cè)器然后用這個(gè)檢測(cè)器在無(wú)標(biāo)注圖像上生成偽標(biāo)簽再用偽標(biāo)簽和基類標(biāo)注一起訓(xùn)練。聽起來(lái)很簡(jiǎn)單但難點(diǎn)在于偽標(biāo)簽的質(zhì)量控制。這篇論文設(shè)計(jì)了一個(gè)不確定性感知的偽標(biāo)簽篩選機(jī)制對(duì)每個(gè)偽框計(jì)算一個(gè)不確定性分?jǐn)?shù)只保留低不確定性的框參與訓(xùn)練。這個(gè)思路在半監(jiān)督檢測(cè)里也有類似的工作但用在開放詞匯場(chǎng)景下效果確實(shí)比直接拿CLIP做零樣本推理要好。兩篇論文的實(shí)驗(yàn)設(shè)置都挺扎實(shí)第一篇在LVIS數(shù)據(jù)集上做了完整的零樣本評(píng)估第二篇在COCO和LVIS上都跑了跨數(shù)據(jù)集實(shí)驗(yàn)。不過(guò)第一篇的代碼還沒(méi)開源第二篇的倉(cāng)庫(kù)已經(jīng)放出來(lái)了我試跑了一下推理速度比論文里寫的慢大概15%可能是我的環(huán)境配置問(wèn)題。對(duì)比維度第一篇特征凈化第二篇偽標(biāo)簽自訓(xùn)練核心思路區(qū)域-文本對(duì)齊特征凈化基類檢測(cè)器偽標(biāo)簽迭代新類別AP較高中等推理速度快中等訓(xùn)練成本低無(wú)需重新訓(xùn)練高需要多輪迭代代碼開源未開源已開源2.2 小目標(biāo)檢測(cè)的改進(jìn)方案小目標(biāo)檢測(cè)這周有一篇工作提出了一個(gè)很實(shí)用的改進(jìn)在特征金字塔的每一層都引入一個(gè)可學(xué)習(xí)的上采樣模塊而不是像FPN那樣只用簡(jiǎn)單的最近鄰插值。這個(gè)想法的出發(fā)點(diǎn)是小目標(biāo)在淺層特征圖上雖然分辨率高但語(yǔ)義信息弱在深層特征圖上語(yǔ)義強(qiáng)但分辨率低。傳統(tǒng)的FPN通過(guò)橫向連接把深層語(yǔ)義傳下來(lái)但上采樣的方式太粗糙導(dǎo)致小目標(biāo)的特征對(duì)齊不夠精確。這篇論文的可學(xué)習(xí)上采樣本質(zhì)上是一個(gè)輕量級(jí)的卷積網(wǎng)絡(luò)輸入是低分辨率特征圖輸出是高分辨率特征圖中間用亞像素卷積PixelShuffle做上采樣。相比雙線性插值這種方式的參數(shù)量增加了不到0.1M但在小目標(biāo)上的AP提升了2到3個(gè)點(diǎn)。論文里還做了一個(gè)很直觀的可視化用可學(xué)習(xí)上采樣生成的特征圖小目標(biāo)的邊緣響應(yīng)明顯更清晰。不過(guò)這篇論文有一個(gè)問(wèn)題它只在COCO上做了實(shí)驗(yàn)而COCO里的小目標(biāo)占比其實(shí)不算特別高。真正的小目標(biāo)檢測(cè) benchmark 應(yīng)該是像VisDrone或者無(wú)人機(jī)航拍數(shù)據(jù)集那種目標(biāo)像素面積普遍小于32x32的場(chǎng)景。我打算下周自己在這個(gè)方向上補(bǔ)一組實(shí)驗(yàn)看看可學(xué)習(xí)上采樣在極端小目標(biāo)場(chǎng)景下是否依然有效。注意小目標(biāo)檢測(cè)的論文一定要看它在什么數(shù)據(jù)集上評(píng)估的。COCO上的小目標(biāo)AP和航拍數(shù)據(jù)集上的小目標(biāo)AP完全是兩回事前者的小目標(biāo)可能還有20x20像素后者可能只有5x5像素。2.3 實(shí)時(shí)檢測(cè)器的輕量化設(shè)計(jì)實(shí)時(shí)檢測(cè)方向這周有一篇工作提出了一個(gè)基于神經(jīng)架構(gòu)搜索的輕量化backbone專門針對(duì)邊緣設(shè)備。它的搜索空間設(shè)計(jì)得挺巧妙不是搜索整個(gè)網(wǎng)絡(luò)而是搜索每個(gè)stage的通道數(shù)和下采樣位置。這樣做的好處是搜索成本低而且搜出來(lái)的結(jié)構(gòu)可以直接替換現(xiàn)有檢測(cè)器的backbone不需要重新設(shè)計(jì)整個(gè)檢測(cè)頭。論文里給出的最優(yōu)結(jié)構(gòu)在驍龍865上跑到了45FPS精度比YOLOv5s高了1.2個(gè)點(diǎn)。不過(guò)我對(duì)這個(gè)結(jié)果持保留態(tài)度因?yàn)檎撐睦餂](méi)有說(shuō)明是否用了TensorRT或者NCNN做推理加速如果只是原生PyTorch在手機(jī)上跑45FPS這個(gè)數(shù)字有點(diǎn)可疑。另外搜索出來(lái)的結(jié)構(gòu)在服務(wù)器GPU上的表現(xiàn)如何論文里也沒(méi)提這讓我懷疑它是不是過(guò)擬合到了移動(dòng)端。另一篇實(shí)時(shí)檢測(cè)的工作走的是知識(shí)蒸餾路線用一個(gè)大模型比如Swin-L級(jí)別的檢測(cè)器去蒸餾一個(gè)小模型。它的創(chuàng)新點(diǎn)在于蒸餾損失的設(shè)計(jì)不是簡(jiǎn)單地讓學(xué)生模型模仿老師的輸出logits而是讓學(xué)生模型模仿老師在特征金字塔每一層上的注意力圖。這個(gè)思路在分類任務(wù)里有人做過(guò)但用在檢測(cè)上效果確實(shí)更好因?yàn)闄z測(cè)任務(wù)對(duì)空間信息更敏感。2.4 基于Transformer的檢測(cè)器新進(jìn)展Transformer檢測(cè)器這周有兩篇值得關(guān)注。第一篇是對(duì)DETR系列的一個(gè)改進(jìn)核心是解決DETR收斂慢的問(wèn)題。DETR的收斂慢主要是因?yàn)樾傺览ヅ湓谟?xùn)練初期不穩(wěn)定導(dǎo)致梯度噪聲大。這篇論文提出了一種漸進(jìn)式匹配策略訓(xùn)練初期先用簡(jiǎn)單的IoU匹配隨著訓(xùn)練進(jìn)行逐漸過(guò)渡到匈牙利匹配。這個(gè)想法很直觀但實(shí)現(xiàn)起來(lái)需要仔細(xì)設(shè)計(jì)過(guò)渡的時(shí)機(jī)和方式。論文里給出的結(jié)果是收斂速度提升了大概30%最終精度和原始DETR持平。第二篇工作關(guān)注的是Transformer檢測(cè)器的部署效率。它發(fā)現(xiàn)DETR類模型在推理時(shí)大部分計(jì)算量花在了encoder的多頭自注意力上而decoder的cross-attention其實(shí)計(jì)算量不大。于是它設(shè)計(jì)了一個(gè)稀疏化的encoder只對(duì)特征圖中響應(yīng)高的區(qū)域做自注意力其余區(qū)域直接跳過(guò)。這個(gè)思路和可變形注意力Deformable Attention有點(diǎn)像但實(shí)現(xiàn)更簡(jiǎn)單不需要額外的偏移量預(yù)測(cè)網(wǎng)絡(luò)。在COCO上稀疏化encoder把推理速度提升了40%精度只掉了0.5個(gè)點(diǎn)。不過(guò)這兩篇論文都有一個(gè)共同的問(wèn)題它們都只在COCO上做了實(shí)驗(yàn)沒(méi)有在更復(fù)雜的場(chǎng)景比如密集人群、遮擋嚴(yán)重下驗(yàn)證。Transformer檢測(cè)器在簡(jiǎn)單場(chǎng)景下表現(xiàn)很好但在復(fù)雜場(chǎng)景下的魯棒性一直是個(gè)問(wèn)號(hào)。3. 精讀論文的完整實(shí)操流程3.1 從摘要到方法快速判斷論文價(jià)值拿到一篇論文我的閱讀順序是摘要 → 圖表 → 方法 → 實(shí)驗(yàn) → 結(jié)論。摘要決定要不要繼續(xù)讀圖表決定這篇論文的核心貢獻(xiàn)是否直觀方法決定技術(shù)深度實(shí)驗(yàn)決定可信度結(jié)論基本不看因?yàn)榻Y(jié)論通常是摘要的復(fù)述。摘要的閱讀重點(diǎn)是找三個(gè)東西任務(wù)是什么、現(xiàn)有方法有什么問(wèn)題、這篇論文提出了什么。如果摘要里只有“我們提出了一個(gè)XXX模塊在COCO上達(dá)到了SOTA”但沒(méi)有說(shuō)清楚為什么需要這個(gè)模塊這篇論文大概率是增量式改進(jìn)優(yōu)先級(jí)可以降低。圖表是判斷論文質(zhì)量的一個(gè)捷徑。好的論文通常有一張整體架構(gòu)圖能讓你在30秒內(nèi)理解方法的輸入輸出和核心模塊。如果架構(gòu)圖畫得含糊不清或者需要讀正文才能看懂說(shuō)明作者自己可能都沒(méi)想清楚。另外可視化結(jié)果圖也很重要比如檢測(cè)結(jié)果的可視化、注意力圖的可視化、特征圖的可視化這些能直觀展示方法的效果。方法部分我會(huì)重點(diǎn)看公式和偽代碼。公式是否簡(jiǎn)潔、變量定義是否清晰、偽代碼是否完整這些都能反映作者的嚴(yán)謹(jǐn)程度。如果方法部分充斥著大量沒(méi)有解釋的符號(hào)和復(fù)雜的公式堆砌但核心思想其實(shí)很簡(jiǎn)單這種論文通常是在故意制造閱讀門檻。實(shí)驗(yàn)部分我關(guān)注三個(gè)點(diǎn)對(duì)比方法是否全面、消融實(shí)驗(yàn)是否充分、是否有失敗案例的分析。對(duì)比方法只跟弱基線比、消融實(shí)驗(yàn)只做一兩個(gè)模塊、沒(méi)有失敗案例分析這三個(gè)問(wèn)題出現(xiàn)任何一個(gè)論文的可信度都要打折扣。3.2 復(fù)現(xiàn)論文的關(guān)鍵步驟與參數(shù)配置復(fù)現(xiàn)一篇論文我的流程是環(huán)境配置 → 數(shù)據(jù)準(zhǔn)備 → 基線復(fù)現(xiàn) → 方法復(fù)現(xiàn) → 結(jié)果對(duì)比。這個(gè)流程看起來(lái)簡(jiǎn)單但每一步都有坑。環(huán)境配置上我一般用conda建一個(gè)獨(dú)立環(huán)境Python版本和PyTorch版本盡量和論文里寫的一致。如果論文沒(méi)寫就去翻它的requirements.txt或者setup.py。CUDA版本也要注意有些論文用的PyTorch版本比較老和新版CUDA不兼容這時(shí)候要么降CUDA版本要么用Docker。數(shù)據(jù)準(zhǔn)備是最容易出問(wèn)題的一步。COCO數(shù)據(jù)集還好標(biāo)準(zhǔn)的下載和解壓流程就行。但有些論文用了自定義的數(shù)據(jù)集劃分或者數(shù)據(jù)增強(qiáng)這些細(xì)節(jié)往往寫在附錄里容易被忽略。我的習(xí)慣是先把論文里提到的所有數(shù)據(jù)相關(guān)配置都列出來(lái)逐條核對(duì)。基線復(fù)現(xiàn)是驗(yàn)證環(huán)境是否正確的重要步驟。如果論文里對(duì)比了YOLOv5我會(huì)先把YOLOv5在相同環(huán)境下跑一遍看看精度是否和論文里寫的一致。如果基線都對(duì)不上那方法復(fù)現(xiàn)的結(jié)果也沒(méi)有參考價(jià)值。方法復(fù)現(xiàn)時(shí)我會(huì)先跑通推理再跑訓(xùn)練。推理腳本通常比較簡(jiǎn)單能快速驗(yàn)證模型結(jié)構(gòu)是否正確。訓(xùn)練腳本涉及的東西多學(xué)習(xí)率、優(yōu)化器、數(shù)據(jù)增強(qiáng)、損失函數(shù)權(quán)重任何一個(gè)參數(shù)不對(duì)都可能導(dǎo)致結(jié)果偏差。我的做法是先用論文里給出的默認(rèn)參數(shù)跑一遍如果結(jié)果差太多再逐個(gè)參數(shù)調(diào)整。提示復(fù)現(xiàn)論文時(shí)學(xué)習(xí)率是最容易出問(wèn)題的參數(shù)。有些論文用的是線性縮放規(guī)則learning rate base_lr * batch_size / 64但沒(méi)在正文里寫清楚。如果你用的batch size和論文不一樣學(xué)習(xí)率也要相應(yīng)調(diào)整。3.3 實(shí)驗(yàn)記錄與結(jié)果對(duì)比的規(guī)范做法實(shí)驗(yàn)記錄我用的是一張Excel表格每行一次實(shí)驗(yàn)列包括實(shí)驗(yàn)編號(hào)、日期、論文名稱、數(shù)據(jù)集、模型配置、學(xué)習(xí)率、batch size、訓(xùn)練輪數(shù)、mAP、AP50、AP75、APs、APm、APl、推理速度、備注。這個(gè)表格看起來(lái)笨但當(dāng)你跑了上百次實(shí)驗(yàn)之后沒(méi)有這張表你根本記不住哪個(gè)配置對(duì)應(yīng)哪個(gè)結(jié)果。結(jié)果對(duì)比時(shí)我堅(jiān)持同一環(huán)境下對(duì)比的原則。有些論文里的結(jié)果是在不同GPU、不同框架、不同數(shù)據(jù)增強(qiáng)下得到的直接拿來(lái)比沒(méi)有意義。我的做法是把所有要對(duì)比的方法都在自己的環(huán)境下跑一遍用相同的數(shù)據(jù)增強(qiáng)和訓(xùn)練輪數(shù)。這樣做雖然費(fèi)時(shí)間但結(jié)果可信。另外推理速度的測(cè)量也要統(tǒng)一。有些論文測(cè)的是GPU上的batch inference速度有些測(cè)的是單張圖片的端到端延遲這兩個(gè)數(shù)字沒(méi)有可比性。我一般會(huì)統(tǒng)一測(cè)單張圖片在相同GPU上的端到端延遲包括預(yù)處理和后處理的時(shí)間。實(shí)驗(yàn)編號(hào)模型數(shù)據(jù)集mAPAPs推理延遲(ms)備注E001基線ACOCO val42.124.318.2官方權(quán)重E002論文BCOCO val43.526.121.5復(fù)現(xiàn)結(jié)果E003論文B改進(jìn)COCO val44.227.822.1自研改進(jìn)3.4 論文筆記的歸檔與檢索方法論文筆記我用的是Markdown Git的方案。每篇論文一個(gè)Markdown文件文件名格式是年份-會(huì)議-一作姓氏-關(guān)鍵詞.md比如2026-arxiv-某作者-開放詞匯檢測(cè).md。文件內(nèi)容用統(tǒng)一的模板包括元信息標(biāo)題、鏈接、代碼鏈接、核心貢獻(xiàn)、方法細(xì)節(jié)、實(shí)驗(yàn)結(jié)果、個(gè)人評(píng)價(jià)、相關(guān)論文。Git倉(cāng)庫(kù)的作用是版本管理和全文檢索。我會(huì)定期用grep或者VS Code的全局搜索找關(guān)鍵詞比如搜“小目標(biāo)”就能找到所有相關(guān)筆記。另外我還會(huì)維護(hù)一個(gè)索引文件按方向分類列出所有論文方便快速瀏覽。這個(gè)方案的好處是完全本地化不依賴任何在線服務(wù)而且Markdown格式通用性強(qiáng)十年后還能打開。壞處是需要自己維護(hù)但每周花10分鐘整理長(zhǎng)期來(lái)看完全值得。4. 常見問(wèn)題與排查技巧實(shí)錄4.1 論文復(fù)現(xiàn)結(jié)果對(duì)不上的排查思路復(fù)現(xiàn)結(jié)果對(duì)不上是家常便飯我總結(jié)了一個(gè)排查順序先查數(shù)據(jù)再查模型最后查訓(xùn)練。數(shù)據(jù)問(wèn)題最常見。比如COCO數(shù)據(jù)集的標(biāo)注文件版本不對(duì)、數(shù)據(jù)增強(qiáng)的隨機(jī)種子沒(méi)固定、圖像預(yù)處理的方式和論文不一致有些論文用RGB有些用BGR。我遇到過(guò)一次論文里寫的mAP是43我復(fù)現(xiàn)出來(lái)只有38查了兩天才發(fā)現(xiàn)是數(shù)據(jù)增強(qiáng)里的RandomResize的尺度范圍設(shè)錯(cuò)了。模型問(wèn)題通常是結(jié)構(gòu)實(shí)現(xiàn)有誤。比如某個(gè)模塊的通道數(shù)寫錯(cuò)了、激活函數(shù)用錯(cuò)了、歸一化的位置不對(duì)。排查方法是逐層對(duì)比輸出維度用torchsummary或者手動(dòng)打印每一層的輸出shape和論文里的描述核對(duì)。訓(xùn)練問(wèn)題包括學(xué)習(xí)率、優(yōu)化器、損失權(quán)重、訓(xùn)練輪數(shù)。學(xué)習(xí)率的問(wèn)題前面說(shuō)過(guò)了優(yōu)化器方面有些論文用SGD有些用AdamW這兩個(gè)的收斂行為差別很大。損失權(quán)重方面檢測(cè)任務(wù)通常有分類損失和回歸損失兩者的權(quán)重比例對(duì)最終精度影響很大論文里如果沒(méi)寫清楚需要自己調(diào)。注意如果排查了一圈還是對(duì)不上先別懷疑自己的實(shí)現(xiàn)去看看論文的GitHub issue區(qū)。很多時(shí)候別人已經(jīng)踩過(guò)同樣的坑而且作者可能已經(jīng)回復(fù)了。4.2 論文代碼運(yùn)行報(bào)錯(cuò)的典型解決方案論文代碼跑不起來(lái)原因通常就那么幾個(gè)依賴版本沖突、CUDA不匹配、路徑配置錯(cuò)誤、缺少預(yù)訓(xùn)練權(quán)重。依賴版本沖突是最煩的。有些論文的requirements.txt寫得很隨意比如torch1.7但實(shí)際上代碼里用了1.9才有的API。我的做法是先看論文里寫的PyTorch版本然后嚴(yán)格按那個(gè)版本裝不要用最新版。CUDA不匹配通常表現(xiàn)為RuntimeError: CUDA error: no kernel image is available for execution on the device。這是因?yàn)镻yTorch編譯時(shí)的CUDA架構(gòu)和你的GPU架構(gòu)不匹配。解決方法是裝對(duì)應(yīng)CUDA版本的PyTorch或者從源碼編譯。路徑配置錯(cuò)誤一般是代碼里硬編碼了絕對(duì)路徑。解決方法是全局搜索/home/或者/data/把路徑改成自己的。缺少預(yù)訓(xùn)練權(quán)重的話去論文的GitHub release頁(yè)面找或者看README里有沒(méi)有下載鏈接。有些論文的權(quán)重放在Google Drive上需要特殊處理才能下載這個(gè)就不展開了。4.3 論文創(chuàng)新點(diǎn)判斷與避坑經(jīng)驗(yàn)判斷一篇論文的創(chuàng)新點(diǎn)是否靠譜我有一個(gè)簡(jiǎn)單的標(biāo)準(zhǔn)如果這個(gè)想法我在讀之前就能想到那它大概率不是真正的創(chuàng)新。真正的創(chuàng)新通常是反直覺的或者需要一定的技術(shù)深度才能實(shí)現(xiàn)。避坑經(jīng)驗(yàn)方面有幾類論文我會(huì)特別警惕。第一類是只刷點(diǎn)不分析的論文mAP漲了但沒(méi)有任何可視化或消融實(shí)驗(yàn)解釋為什么漲。第二類是實(shí)驗(yàn)設(shè)置不透明的論文比如不寫學(xué)習(xí)率、不寫訓(xùn)練輪數(shù)、不寫數(shù)據(jù)增強(qiáng)細(xì)節(jié)。第三類是對(duì)比方法不公平的論文比如自己的方法用了更強(qiáng)的backbone或者更多的訓(xùn)練數(shù)據(jù)但對(duì)比方法用的是原始配置。另外arXiv上的論文沒(méi)有經(jīng)過(guò)同行評(píng)審質(zhì)量參差不齊。我的習(xí)慣是對(duì)于arXiv上的論文先看作者單位只記機(jī)構(gòu)類型如果是知名研究機(jī)構(gòu)的工作可信度會(huì)高一些如果是完全沒(méi)聽過(guò)的機(jī)構(gòu)我會(huì)更謹(jǐn)慎地評(píng)估。問(wèn)題類型典型表現(xiàn)排查方法數(shù)據(jù)問(wèn)題精度整體偏低檢查標(biāo)注版本、增強(qiáng)參數(shù)、預(yù)處理方式模型問(wèn)題輸出shape不對(duì)逐層打印shape對(duì)比論文描述訓(xùn)練問(wèn)題收斂慢或不收斂檢查學(xué)習(xí)率、優(yōu)化器、損失權(quán)重環(huán)境問(wèn)題運(yùn)行時(shí)報(bào)錯(cuò)檢查依賴版本、CUDA版本、路徑配置4.4 高效追蹤目標(biāo)檢測(cè)前沿的實(shí)用技巧追蹤前沿不是每天刷arXiv那樣效率太低。我的做法是建立信息源矩陣預(yù)印本平臺(tái)arXiv、OpenReview 頂會(huì)論文集CVPR、ICCV、ECCV、NeurIPS 幾個(gè)高質(zhì)量的技術(shù)博客 幾個(gè)活躍的GitHub倉(cāng)庫(kù)。預(yù)印本平臺(tái)我一般每周刷兩次每次半小時(shí)只掃標(biāo)題和摘要。頂會(huì)論文集我會(huì)在會(huì)議結(jié)束后集中看重點(diǎn)看oral和highlight的論文。技術(shù)博客我關(guān)注的是那些有實(shí)操經(jīng)驗(yàn)的作者而不是純新聞搬運(yùn)的賬號(hào)。GitHub倉(cāng)庫(kù)我關(guān)注的是那些持續(xù)更新的檢測(cè)框架比如MMDetection、Detectron2、YOLO系列它們的更新日志里經(jīng)常會(huì)有新方法的實(shí)現(xiàn)。另外Twitter或者X上的目標(biāo)檢測(cè)社區(qū)其實(shí)很活躍很多作者會(huì)在上面發(fā)論文的簡(jiǎn)短介紹和可視化結(jié)果。不過(guò)這個(gè)需要你花時(shí)間篩選關(guān)注列表關(guān)注那些真正做研究的人而不是營(yíng)銷號(hào)。最后不要試圖讀完所有論文。目標(biāo)檢測(cè)這個(gè)方向太大了每周的新論文你不可能全部看完。我的策略是精讀5篇泛讀10篇剩下的只看標(biāo)題。精讀的論文要寫筆記、跑代碼、做實(shí)驗(yàn)泛讀的論文只看摘要和圖表剩下的知道有這么個(gè)東西就行。5. 本周整理的個(gè)人體會(huì)這周整理下來(lái)最大的感受是目標(biāo)檢測(cè)的研究重心正在從“刷COCO”轉(zhuǎn)向“解決實(shí)際問(wèn)題”。前幾年大家比的是誰(shuí)在COCO上mAP高現(xiàn)在越來(lái)越多的工作開始關(guān)注開放詞匯、小目標(biāo)、邊緣部署這些更貼近實(shí)際應(yīng)用的方向。這個(gè)趨勢(shì)是好事說(shuō)明這個(gè)領(lǐng)域在成熟。另一個(gè)感受是Transformer檢測(cè)器的部署優(yōu)化開始成為一個(gè)獨(dú)立的研究方向。之前大家只關(guān)心怎么把Transformer檢測(cè)器訓(xùn)得更好現(xiàn)在開始有人關(guān)心怎么讓它跑得更快。這個(gè)轉(zhuǎn)變和當(dāng)年CNN檢測(cè)器從學(xué)術(shù)走向工業(yè)界的過(guò)程很像說(shuō)明Transformer檢測(cè)器正在經(jīng)歷從“能用”到“好用”的過(guò)渡。最后分享一個(gè)我自己的小技巧每周整理完論文后花10分鐘寫一段“本周印象最深的論文和原因”。不用長(zhǎng)兩三句話就行。這個(gè)習(xí)慣堅(jiān)持了半年后我發(fā)現(xiàn)自己對(duì)領(lǐng)域的判斷力明顯提升了因?yàn)槟阍趶?qiáng)迫自己從一堆論文里挑出真正重要的那幾篇而不是被動(dòng)地接收信息。