基于高效注意力的輕量級光學遙感圖像變化檢測方法技術

本發明專利技術公開了一種基于高效注意力的輕量級光學遙感圖像變化檢測方法，包括如下步驟：首先，對光學遙感圖像進行預處理，得到對應的變化標簽圖；然后對其進行切割得到訓練樣本；再將雙時相圖像進行串聯后通過FOCUS模塊、深度殘差塊、輕量級注意力模塊以得到精細化的不同尺度特征圖，隨后利用多尺度特征融合模塊對得到的多幅特征圖進行聚合以生成變化圖；待訓練結束后，將模型的所有參數信息保存下來；最后將經過預處理的待測樣本輸入至變化檢測模型中，經計算輸出檢測結果圖。本發明專利技術方案利用FOCUS下采樣層、能夠擴大感受野的深度殘差卷積塊、高效的注意力機制和多尺度特征融合模塊以更少的參數和計算量實現變化區域的提取。以更少的參數和計算量實現變化區域的提取。以更少的參數和計算量實現變化區域的提取。

【技術實現步驟摘要】
基于高效注意力的輕量級光學遙感圖像變化檢測方法


[0001]本專利技術涉及光學遙感圖像變化檢測領域，尤其涉及一種基于高效注意力的輕量級光學遙感圖像變化檢測方法。

技術介紹

[0002]遙感圖像變化檢測是利用同一地區不同時間采集的兩幅或多幅遙感圖像進行比較分析獲得變化信息的技術。不同領域對于變化的定義不同，如農業調查、森林監測、城市擴張和災害評估。近年來，隨著衛星遙感技術以及計算機視覺技術的迅速發展，遙感圖像變化檢測正成為一個活躍的研究課題。
[0003]隨著計算機技術的快速發展以及高分辨率光學遙感圖像數據集的不斷增加，國內外學者提出了許多基于深度學習的變化檢測方法?；谏疃葘W習的變化檢測方法具有非線性特征和出色的特征提取能力，從原始圖像中預測像素分類圖和高度語義抽象的空間上下文，模糊了傳統基于像素和基于對象的方法之間的邊界，可以更好地理解復雜場景。基于深度學習的變化檢測方法不需要圖像預處理，不僅減少了人工干預，而且避免了由于預處理而導致的錯誤，因此，基于深度學習的遙感圖像變化檢測方法在解決遙感圖像變化檢測問題方面的使用呈指數增長。目前主流的基于深度學習的變化檢測方法可以大致分為兩類：基于卷積神經網絡(Convolutional Neural Network,CNN)的變化檢測方法和基于Transformer的變化檢測方法。CNN憑借其強大的特征學習能力而在深度學習中被廣泛使用。近年來，已經提出了許多基于CNN的變化檢測方法[1]?
[7]。自注意力機制[8]被廣泛應用于自然語言處理領域以尋找輸入中不同部分之間的相關性。Vision Transformer[9]和Swin Transformer[10]將自注意力機制引入到計算機視覺領域并加以改進?；谧宰⒁饬C制和Transformer的網絡通過非局部自我注意對輸入特征圖的全局距離進行建模?；诖耍S多學者將其引入到變化檢測領域中以獲得更好的變化檢測性能[11
?
13]。
[0004]然而，基于CNN和Transformer的深度學習變化檢測方法仍然存在著一些問題。簡單的模型[1
?
2,7]參數量小、推理速度快，但是其變化檢測的性能低，無法滿足精準識別變化區域的要求。復雜的模型[3
?
6,11
?
13]使用更多的模塊、更龐大的結構和更復雜的訓練過程使得變化檢測能力大幅提高，然而也導致模型參數量高、推理速度緩慢，限制了其應用于大規模遙感圖像處理、工業領域或需要實時性能的應用。

技術實現思路

[0005]本專利技術的目的是提供一種基于高效注意力的輕量級光學遙感圖像變化檢測方法，能夠以0.88MB的參數量和4.75ms的推理速度實現更好的變化檢測性能。
[0006]本專利技術采用的技術方案為：
[0007]A、將雙時相光學遙感圖像依次進行正射校正、圖像配準、圖像拉伸以及圖像數值歸一化預處理，從而得到數據分布一致的遙感圖像；
[0008]B、將步驟A中得到的經過預處理后的雙時相光學遙感圖像，標注遙感圖像中更新
的部分，得到對應的變化標簽圖；
[0009]C、將從步驟B中得到的標簽圖以及步驟A中得到的經過預處理后的雙時相光學遙感圖像，采用同一尺寸對其進行切割，得到訓練樣本；
[0010]D、將訓練樣本中的雙時相遙感圖像進行串聯；
[0011]E、串聯的圖像對通過FOCUS模塊進行下采樣，再將下采樣后的特征圖輸入進深度殘差塊(Depthwise Residual Block，DRB)進行編碼從而提取與變化區域相關的特征圖；
[0012]F、將步驟E中得到的特征圖輸入到高效注意力模塊(Efficient Attention Module,EAM)中，實現對特征圖的細化；
[0013]G、將步驟F中得到的不同尺度的特征輸入到多尺度特征融合模塊(Multiscale Feature Fusion Module,MFFM)中，得到最終的特征圖X；
[0014]H、將最終的融合特征X輸入到由1
×
1卷積組成的預測頭(圖2(c))中并得到訓練樣本的雙時相圖像的預測變化圖；
[0015]I、將二分類交叉熵損失與Dice損失結合形成混合損失函數以計算步驟H中得到的訓練樣本雙時相圖像的預測變化圖與對應的標簽圖之間的損失；
[0016]J、訓練結束后，將訓練好的變化檢測模型的權重參數和超參數都保存下來；
[0017]K、將待檢測的前、后時相遙感圖像依次經正射校正、圖像配準、圖像拉伸以及圖像數值歸一化預處理后，接著采用同一尺寸對其進行切割以獲得待測樣本；
[0018]L、將待測樣本輸入至步驟J中得到的變化檢測模型中，經計算輸出待測樣本的預測變化圖。
[0019]本專利技術以光學遙感圖像變化檢測為應用背景，針對現有的變化檢測方法難以平衡變化檢測性能和模型參數量的問題，提出了一種基于高效注意力的輕量級光學遙感圖像變化檢測方法(Lightweight Change Detection Network,LCDNet)。這種檢測方法能夠以更少的參數量實現更好的變化檢測性能、更快的推理速度。具體的，針對上述問題，本專利技術設計了一個端到端的輕量級變化檢測方法。本專利技術分別從下采樣層、卷積方式、注意力機制、特征融合四個方面進行設計以滿足更少的參數量和更高的變化檢測性能。本專利技術將下采樣層設置在每個編碼層的開始而非結尾來降低模型的參數量。在編碼層開始使用下采樣層會導致部分特征信息的丟失，因此本專利技術引入了在目標檢測領域廣泛使用的FOCUS模塊來解決這一問題。FOCUS模塊能夠既保證信息沒有丟失又實現對特征圖二倍下采樣。本專利技術在網絡中使用大卷積核的深度(Depthwise，DW)卷積既擴大了感受野還大幅壓縮了參數和計算量。為了能夠使網絡更多地關注變化區域提高網絡的變化檢測性能，本專利技術設計了一個高效注意力模塊(EAM)。EAM將快速一維卷積獲得的通道維度權重以及單層二維卷積獲得的空間維度權重進行加和并重新分配權重，以此達到保留通道和空間特征之間的相關性。本專利技術還設計了一個多尺度特征融合模塊(MFFM)，在進行特征融合時僅使用有效的特征流。MFFM能夠以簡單的結構和較低的參數量實現多尺度特征的有效融合。本專利技術方案與傳統算法相比能夠以更少的參數量、更快的推理速度實現更好的變化檢測性能，可以有效解決高性能變化檢測算法難以應用于工業領域或需要實時性能應用的問題。
附圖說明
[0020]為了更清楚地說明本專利技術實施例或現有技術中的技術方案，下面將對實施例或現
有技術描述中所需要使用的附圖作簡單地介紹，顯而易見地，下面描述中的附圖僅僅是本專利技術的一些實施例，對于本領域普通技術人員來講，在不付出創造性勞動的前提下，還可以根據這些附圖獲得其他的附圖。
[0021]圖1為本專利技術的流程示意圖。
[0022]圖2為本專利技術的LCDNet結構圖。
[0023]圖3為本專利技術的高效注意力模塊圖。
具體實施方式<本文檔來自技高網...

【技術保護點】

【技術特征摘要】
1.基于高效注意力的輕量級光學遙感圖像變化檢測方法，其特征在于：包括以下幾個步驟：A、將雙時相光學遙感圖像依次進行正射校正、圖像配準、圖像拉伸以及圖像數值歸一化預處理，從而得到數據分布一致的雙時相光學遙感圖像；B、將步驟A中獲得的經過預處理后的雙時相光學遙感圖像，標注遙感圖像中更新的部分，得到對應的變化標簽圖；C、將從步驟B中得到的變化標簽圖以及步驟A中獲得的經過預處理后的雙時相光學遙感圖像，采用同一尺寸對其進行切割，得到訓練樣本；D、將步驟C中獲得的訓練樣本中的雙時遙感圖像進行串聯；E、串聯的圖像對通過FOCUS模塊進行下采樣，再將下采樣后的特征圖輸入由卷積核大小為3
×
3和5
×
5的DW卷積構成的深度殘差塊進行編碼，從而提取與變化區域相關的特征圖；F、將步驟E中得到的特征圖輸入到高效注意力模塊中，實現對特征圖的細化；G、將步驟F中得到的不同層次的特征輸入到多尺度特征融合模塊中，得到最終的特征圖X；H、將步驟G中獲得的最終融合特征X輸入到由1
×
1卷積組成的預測頭中并得到訓練樣本的雙時相圖像的預測變化圖；I、將二分類交叉熵損失與Dice損失結合形成混合損失函數以計算步驟H中得到的訓練樣本的雙時相圖像的預測變化圖與對應的標簽圖之間的損失；J、訓練結束后，將訓練好的變化檢測模型的權重參數和超參數信息都保存下來；K、將待檢測的前、后時相遙感圖像依次經正射校正、圖像配準、圖像拉伸以及圖像數值歸一化預處理后，接著采用同一尺寸對其進行切割以獲得待測樣本；L、將待測樣本輸入至步驟J中得到的變化檢測模型中，經計算輸出待測樣本的預測變化圖。2.根據權利要求1所述的基于高效注意力的輕量級光學遙感圖像變化檢測方法，其特征在于：所述的步驟F具體包括如下步驟：首先對特征圖F使用平均池化層以生成大小為C
×1×
1和1
×
H
×
W的聚合向量，其中C為通道數，H和W為特征圖的高和寬；接著將一維卷積應用于C
×1×
1的聚合向量以得到通道維度的注意...

【專利技術屬性】
技術研發人員：李軍偉，李世杰，楊偉，金勇，郭凌輝，
申請(專利權)人：河南大學，
類型：發明
國別省市：