文章來源：我愛計算機視覺（ID：aicvml）

大家好，今天想和大家聊一篇非常有趣的新工作，來自上海交通大學(xué)和南京農(nóng)業(yè)大學(xué)的研究者們，他們提出了一個名為 ADPretrain 的新框架。簡單來說，這是一個專門為工業(yè)異常檢測（Industrial Anomaly Detection）任務(wù)設(shè)計的“預(yù)訓(xùn)練”方法，旨在解決現(xiàn)有方法過度依賴ImageNet預(yù)訓(xùn)練特征而導(dǎo)致的“水土不服”問題。

• 
  

  論文標(biāo)題 : ADPretrain: Advancing Industrial Anomaly Detection via Anomaly Representation Pretraining

• 作者 : Xincheng Yao, Yan Luo, Zefeng Qian, Chongyang Zhang

• 機構(gòu) : 上海交通大學(xué)，南京農(nóng)業(yè)大學(xué)

• 論文地址 : https://arxiv.org/abs/2511.05245

• 項目地址 : https://github.com/xcyao00/ADPretrain

• 會議 : Accepted by NeurIPS 2025

在工業(yè)生產(chǎn)線上，利用機器視覺來檢測產(chǎn)品瑕疵（即“異?！保┦且豁楆P(guān)鍵技術(shù)。目前，主流的異常檢測（AD）方法大多依賴于在ImageNet上預(yù)訓(xùn)練好的深度學(xué)習(xí)模型來提取特征。

但這里存在兩個核心問題：

1. 目標(biāo)不匹配 ：ImageNet預(yù)訓(xùn)練的目標(biāo)是“分類”，讓模型學(xué)會識別貓、狗、汽車等自然物體，而不是區(qū)分“正?！迸c“異?！钡墓I(yè)品。

2. 數(shù)據(jù)分布差異 ：工業(yè)圖像（比如電路板、藥瓶、金屬螺絲）和ImageNet中的自然圖像在紋理、光照、背景等方面差異巨大。

這兩個問題導(dǎo)致ImageNet預(yù)訓(xùn)練出的特征對于工業(yè)異常檢測任務(wù)來說，并非最優(yōu)解，甚至可能限制了模型的性能上限。

從上圖可以直觀地看到，無論是在MVTecAD還是VisA數(shù)據(jù)集上，使用了ADPretrain的預(yù)訓(xùn)練特征后（虛線），多種異常檢測方法的性能都普遍優(yōu)于使用原始特征（實線），證明了其普適性和有效性。

ADPretrain：為異常檢測而生的預(yù)訓(xùn)練框架

為了解決上述痛點，作者們提出了一個全新的異常表示預(yù)訓(xùn)練框架——ADPretrain。其核心思想是：在一個大規(guī)模的工業(yè)異常檢測數(shù)據(jù)集（RealIAD）上，專門學(xué)習(xí)一種能夠更好地區(qū)分正常與異常樣本的特征表示。

整個框架如上圖所示，它主要包含幾個關(guān)鍵設(shè)計：

基于殘差特征的表示學(xué)習(xí)

為了讓預(yù)訓(xùn)練的特征具有更好的泛化能力，能夠適應(yīng)不同的下游數(shù)據(jù)集，ADPretrain沒有直接使用骨干網(wǎng)絡(luò)輸出的特征。而是借鑒了ResAD的思想，采用了一種名為“殘差特征”（Residual Features）的表示。

具體來說，對于一個輸入特征，模型會從一個“正常樣本特征庫”中找到與之最相似的正常特征，然后將兩者相減，得到殘差特征。這種操作可以有效地剝離掉與類別相關(guān)的通用模式，讓模型更專注于那些“不正?！钡奈⑿〔町?，從而獲得更好的跨類別泛化能力。

創(chuàng)新的對比損失函數(shù)

為了讓模型學(xué)到的特征更具判別力，作者設(shè)計了兩種互補的對比損失函數(shù)（Contrastive Losses），分別從“角度”和“范數(shù)（模長）”兩個維度來拉大正常特征與異常特征之間的距離。

• 角度導(dǎo)向?qū)Ρ葥p失 (Angle-Oriented Contrastive Loss)

  這個損失函數(shù)的目標(biāo)是最大化正常特征與異常特征在特征空間中的夾角。不同于傳統(tǒng)的對比學(xué)習(xí)以原點為中心計算余弦相似度，作者認(rèn)為這會導(dǎo)致特征均勻分布在超球面，不利于區(qū)分類內(nèi)差異。因此，他們提出以所有正常特征的“質(zhì)心” 為中心來計算角度。對于一個特征 ，先計算中心化后的特征 ，再進(jìn)行對比學(xué)習(xí)。其公式如下：

  其中， 和 是來自同一圖像的增廣對（正樣本）， 是溫度超參。 這個指示函數(shù)是關(guān)鍵，它確保了只有標(biāo)簽不同（即一個是正常，一個是異常）的樣本 才會被當(dāng)作負(fù)樣本。這樣，損失函數(shù)會明確地將正常特征與異常特征在角度上推開。

• 范數(shù)導(dǎo)向?qū)Ρ葥p失 (Norm-Oriented Contrastive Loss)

  這個損失函數(shù)則希望在范數(shù)（模長）上區(qū)分正常與異常特征。其靈感源于單分類（One-Class Classification）思想，目標(biāo)是讓所有正常特征的范數(shù)都收縮到一個半徑為 的預(yù)設(shè)超球體內(nèi)，而異常特征的范數(shù)則被推到半徑為 ( , 是一個安全邊界) 的超球體之外。其統(tǒng)一形式的損失函數(shù)如下：

  這里， 表示 是正常特征，對其施加收縮損失 ，將其拉入半徑為 的球內(nèi)。 表示 是異常特征，對其施加擴張損失 ，將其推出半徑為 的球外。

通過這兩個損失函數(shù)的共同優(yōu)化（總損失 ），模型被引導(dǎo)著去學(xué)習(xí)一種“理想”的特征分布：正常特征在角度和范數(shù)上都緊湊地聚集在一起，而異常特征則被推到遠(yuǎn)處，界限分明。

可學(xué)習(xí)鍵/值注意力的特征投影器

在獲得殘差特征后，作者設(shè)計了一個基于Transformer的特征投影器（Feature Projector）來進(jìn)一步優(yōu)化和提煉特征。有趣的是，他們沒有使用標(biāo)準(zhǔn)的自注意力機制，而是提出了一種名為“可學(xué)習(xí)鍵/值注意力”（Learnable Key/Value Attention）的模塊。

該模塊引入了一組可學(xué)習(xí)的“參考表示”作為Key和Value，而輸入特征作為Query。通過Query與這些可學(xué)習(xí)的正常模式參考進(jìn)行交叉注意力計算，再從輸入中減去注意力輸出，可以自適應(yīng)地消除特征中可能殘留的正常模式，從而進(jìn)一步凸顯異常。

實驗效果：顯著且普適的性能提升

為了驗證ADPretrain的威力，作者進(jìn)行了一系列詳盡的實驗。他們將ADPretrain學(xué)到的特征直接替換掉五種主流的基于嵌入的異常檢測方法（如PaDiM、PatchCore等）中的原始特征，并在五個公開數(shù)據(jù)集（MVTecAD, VisA, BTAD等）和五種不同的骨干網(wǎng)絡(luò)（如DINOv2, CLIP等）上進(jìn)行了測試。

實驗結(jié)果非常亮眼。如上表所示，幾乎在所有組合下，使用ADPretrain的特征（標(biāo)記為?）都帶來了顯著的性能提升。例如，在DINOv2-Base骨干網(wǎng)絡(luò)和MVTecAD數(shù)據(jù)集上，PatchCore的圖像級AUROC從95.5%提升到了99.0%；UniAD更是從71.1%飆升至97.1%，提升了驚人的26個百分點。這充分證明了ADPretrain學(xué)習(xí)到的特征表示具有極強的泛化性和優(yōu)越性。

直觀的可視化對比

通過t-SNE對特征進(jìn)行降維可視化，我們可以更直觀地感受到ADPretrain帶來的改變。

上圖展示了VisA數(shù)據(jù)集中“capsules”類別的特征分布。左邊是原始特征，正常（綠色）和異常（紅色）樣本混雜在一起，難以區(qū)分。而右邊使用了ADPretrain的特征后，綠色點簇變得異常緊湊，紅色點則被清晰地分離出來，界限分明。

同樣，在定性結(jié)果上，使用ADPretrain特征的模型能夠更準(zhǔn)確地定位異常區(qū)域，同時有效抑制在正常區(qū)域的誤報。

總結(jié)

總的來說，這篇論文點出了當(dāng)前工業(yè)異常檢測領(lǐng)域一個長期被忽視但至關(guān)重要的問題：預(yù)訓(xùn)練任務(wù)與下游應(yīng)用之間的鴻溝。作者提出的ADPretrain框架，通過在大規(guī)模行業(yè)數(shù)據(jù)集上進(jìn)行專門的表示學(xué)習(xí)，并設(shè)計了巧妙的對比損失來強化正常與異常的區(qū)分，為該領(lǐng)域提供了一種即插即用、效果顯著的“能力升級”方案。這項工作不僅為工業(yè)異常檢測帶來了新的SOTA性能，也為未來研究指明了一個有價值的方向——為特定任務(wù)定制預(yù)訓(xùn)練。

大家對這個方法怎么看？你覺得為特定領(lǐng)域定制預(yù)訓(xùn)練會成為未來的大趨勢嗎？歡迎在評論區(qū)留下你的看法！