大发888游戏平台下载-博客市网站-亚洲太阳开户送98元-正规皇冠投注网

科研動(dòng)態(tài)

基于多約束和損失權(quán)重的變化檢測(cè)

中文題目:基于多約束和損失權(quán)重的變化檢測(cè)

論文題目:Change Detection with Incorporating Multi-Constraints and Loss Weights

錄用期刊/會(huì)議:Engineering Applications of Artificial Intelligence (中科院SCI 2區(qū),JCR Q1,Top)

原文DOI:https://doi.org/10.1016/j.engappai.2024.108163

原文鏈接:https://www.sciencedirect.com/science/article/pii/S095219762400321X

錄用/見(jiàn)刊時(shí)間:2024.01.24

作者列表

1)張成杰 中國(guó)石油大學(xué)(北京)信息科學(xué)與工程學(xué)院/人工智能學(xué)院 控制科學(xué)與工程 碩21

2)劉建偉 中國(guó)石油大學(xué)(北京)信息科學(xué)與工程學(xué)院/人工智能學(xué)院 自動(dòng)化系 教師

摘要:

本文提出了一種用于遙感影像變化檢測(cè)的變化檢測(cè)(CDMC),該網(wǎng)絡(luò)采用了先進(jìn)的基線(xiàn)網(wǎng)絡(luò),即將孿生網(wǎng)絡(luò)和UNet結(jié)合的網(wǎng)絡(luò)架構(gòu),并通過(guò)相似性約束和邊界互補(bǔ)信息約束增強(qiáng)基線(xiàn)網(wǎng)絡(luò)的學(xué)習(xí)能力,解決背景一致性和邊緣噪聲問(wèn)題。相似性約束由兩個(gè)多層感知器組成,這些感知器指導(dǎo)深層特征的背景一致性,并抑制“不感興趣”的變化,例如由位置和照明等環(huán)境因素引起的變化。通過(guò)添加邊界類(lèi)實(shí)現(xiàn)邊界互補(bǔ)信息約束,增強(qiáng)了模型對(duì)“感興趣”目標(biāo)周?chē)淮_定性強(qiáng)的位置的關(guān)注。自適應(yīng)對(duì)偶損失模塊使用可訓(xùn)練參數(shù)為不同的類(lèi)設(shè)置權(quán)值,有效防止模型過(guò)于關(guān)注背景類(lèi),緩解類(lèi)不平衡問(wèn)題。自適應(yīng)加權(quán)損失模塊對(duì)相似約束和邊界互補(bǔ)信息約束的重要性進(jìn)行加權(quán)。本模型與5種主流的變化檢測(cè)方法在BCDD、LEVIR-CD、DSIFN和S2Looking等4個(gè)大型現(xiàn)實(shí)遙感數(shù)據(jù)集上進(jìn)行了比較。實(shí)驗(yàn)結(jié)果表明,該方法具有較好的精度、收斂速度和穩(wěn)定性。通過(guò)對(duì)統(tǒng)計(jì)結(jié)果和可視化結(jié)果的分析,所提出的CDMC減少了假陽(yáng)性樣本的數(shù)量和目標(biāo)周?chē)牟淮_定性。

背景與動(dòng)機(jī):

現(xiàn)有的遙感影像變化檢測(cè)方法在面對(duì)復(fù)雜應(yīng)用場(chǎng)景時(shí)仍面臨一些挑戰(zhàn)。首先,如表1所示,根據(jù)統(tǒng)計(jì)數(shù)據(jù)得出的結(jié)果,現(xiàn)存先進(jìn)方法的檢測(cè)結(jié)果中,假陽(yáng)性樣本比假陰性樣本多,即錯(cuò)誤像素在背景區(qū)域中出現(xiàn)的更多。另一方面,如圖1所示,從可視化結(jié)果可以發(fā)現(xiàn),現(xiàn)存的先進(jìn)方法的檢測(cè)結(jié)果中,“感興趣”的目標(biāo)周?chē)倪吘壴肼暦浅?yán)重,有效的解決該問(wèn)題,可以顯著的優(yōu)化變化檢測(cè)方法的檢測(cè)結(jié)果。


表1 SNUNet在四個(gè)數(shù)據(jù)集上預(yù)測(cè)結(jié)果中假陽(yáng)性樣本和假陰性樣本的數(shù)量統(tǒng)計(jì)

Dataset

LEVIR

BCDD

S2Looking

DSIFN

False Positive

675823

1037232

12732222

1209552

False negative

662120

508429

8514302

507030


圖1 SNUNet在四個(gè)數(shù)據(jù)集上的視覺(jué)結(jié)果

設(shè)計(jì)與實(shí)現(xiàn):

本文提出的基于多約束和損失權(quán)重的變化檢測(cè)方法(CDMC)的結(jié)構(gòu)圖如圖2所示。相似性約束采用了兩個(gè)多層感知器的結(jié)構(gòu)構(gòu)成,對(duì)生成的特征的背景一致性施加約束,緩解由于氣候變化、預(yù)處理校正等原因,不同圖像域之間存在細(xì)微的風(fēng)格差異。對(duì)于邊界互補(bǔ)信息約束,首先將與不變像素相鄰的變化像素設(shè)置為變化的邊界類(lèi),將與變化像素相鄰的不變像素設(shè)置為不變邊界類(lèi)。在“感興趣”的目標(biāo)邊界上總是存在大量的錯(cuò)誤預(yù)測(cè),邊界互補(bǔ)信息有效地增強(qiáng)了邊界附近特征的區(qū)分。

對(duì)于自適應(yīng)對(duì)偶損失模塊,類(lèi)損失權(quán)重在訓(xùn)練過(guò)程中將自適應(yīng)調(diào)整。對(duì)于第類(lèi),軟最大激活函數(shù)層(SoftMax)的輸出為:

圖片.png

然后,引入了交叉熵?fù)p失的一種變體——對(duì)偶損失,對(duì)偶損失同時(shí)關(guān)注了兩類(lèi)損失,而不產(chǎn)生太多偏見(jiàn),且更多地關(guān)注于2-范數(shù)難以區(qū)分的樣例。令真值標(biāo)簽為,預(yù)測(cè)輸出為,自適應(yīng)對(duì)偶損失可以描述為下式:

圖片.png

為了避免手動(dòng)優(yōu)化余弦相似損失和邊界互補(bǔ)信息損失的相對(duì)權(quán)重,我們引入自適應(yīng)權(quán)重?fù)p失模塊,稱(chēng)為自適應(yīng)加權(quán)損失模塊(Adaptive Weight Loss, AWL)。通過(guò)計(jì)算損失的方差不確定性,得到了加權(quán)損失函數(shù)。公式化如下:

圖片.png


圖2 CDMC結(jié)構(gòu)圖

實(shí)驗(yàn)結(jié)果及分析:

對(duì)比實(shí)驗(yàn)的結(jié)果主要以?xún)煞N形式呈現(xiàn),分別是評(píng)價(jià)指標(biāo)的定量比較和變化圖的可視化對(duì)比。如表2所示,本模型在四個(gè)數(shù)據(jù)集上的指標(biāo)均為最優(yōu)。圖3可視化結(jié)果也可以看出,CDMC主要緩解了邊緣噪聲問(wèn)題。消融實(shí)驗(yàn)中,我們對(duì)兩個(gè)約束條件都進(jìn)行了消融對(duì)比,從指標(biāo)結(jié)果可以看出,這兩個(gè)模塊都起到了模型優(yōu)化的作用。最后,我們使用了顯著性分析方法,對(duì)對(duì)比實(shí)驗(yàn)中的結(jié)果進(jìn)行弗里德曼排序,可以看出本模型排名第1。


(1)對(duì)比實(shí)驗(yàn)

表2 不同方法在BCDD、LEVIR、DSIFN和S2Looking數(shù)據(jù)集上的精確率、召回率、F1、和IoU對(duì)比(%)


BCDD

LEVIR

DSIFN

S2Looking

Pre/Rec/F1/IoU

Pre/Rec/F1/IoU

Pre/Rec/F1/IoU

Pre/Rec/F1/IoU

FC-EF

92.70/69.24/79.27/65.66

96.55/68.58/80.20/66.94

72.61/52.73/61.09/43.98

81.36/8.95/7.65/8.77

FC-SC

93.20/7214/81.33/68.53

97.60/69.29/81.04/68.13

66.45/54.21/59.71/42.56

68.27/18.52/13.54/17.05

FC-SD

91.13/74.31/81.87/69.30

97.35/69.16/80.87/67.88

59.67/65.71/62.54/45.50

59.67/15.76/13.19/14.24

SNUNet

85.60/81.49/83.50/71.67

89.18/87.17/88.16/78.83

60.60/72.89/66.18/49.45

27.53/23.47/21.51/14.51

STANet

79.37/85.50/82.32/69.95

83.81/91.00/87.26/77.40

67.71/61.68/64.56/47.66

38.75/56.49/45.97/29.84

CDMC

92.64/89.50/91.04/83.56

93.09/88.07/90.51/82.67

66.08/67.08/66.58/49.90

64.88/58.15/61.34/44.23






圖3 不同方法在BCDD、LEVIR、DSIFN和S2Looking數(shù)據(jù)集上的可視化結(jié)果。從上往下分別是BCDD、LEVIR、DSIFN和S2Looking;(a)變化前圖像,(b)變化后圖像,(c)變化真值圖,(d)CDMC的可視化結(jié)果,(e) SNUNet的可視化結(jié)果,(f) FC-SD的可視化結(jié)果


(2)消融實(shí)驗(yàn)

表3 消融方法在BCDD和LEVIR數(shù)據(jù)集上的精確率、召回率、F1、和IoU對(duì)比(%)

BCDD

LEVIR

Pre/Rec/F1/IoU

Pre/Rec/F1/IoU

CD

61.44/95.95/74.91/59.88

74.94/96.52/84.38/72.97

Without BCI

78.88/93.52/85.58/74.79

75.17/97.20/84.78/73.58

Without similarity

93.43/85.65/89.37/80.79

91.93/88.99/9044/82.54

CDMC

92.64/89.50/91.04/83.56

93.09/88.07/90.51/82.67


(3)弗里德曼排名

表4 弗里德曼排名

Method

Ranking

CDMC

1

FC-EF

5.75

FC-SC

4.75

FC-SD

4.5

SNUNet

2.25

STANet

2.75

結(jié)論:

我們提出了一種基于多約束和損失權(quán)重的變化檢測(cè)模型,在BCDD、LEVIR-CD、DSIFN和S2Looking數(shù)據(jù)集上實(shí)現(xiàn)最優(yōu)的精度、收斂速度和穩(wěn)定性。更準(zhǔn)確地說(shuō),我們的模型在這些數(shù)據(jù)集上的F1和IoU得分分別提高了7.54/11.89、2.35/3.84、0.40/0.45和15.37/14.39分,在指標(biāo)上有顯著的提升。相似性約束指導(dǎo)深層特征的背景一致性,并抑制不感興趣的變化,例如由位置和照明等環(huán)境因素引起的變化。邊界互補(bǔ)信息約束增強(qiáng)了模型對(duì)感興趣目標(biāo)周?chē)淮_定性強(qiáng)的位置的關(guān)注,抑制了邊緣噪聲。此外,自適應(yīng)對(duì)偶損失模塊自動(dòng)更新邊界互補(bǔ)信息損失中的類(lèi)權(quán)重,緩解類(lèi)不平衡。CDMC通過(guò)分析統(tǒng)計(jì)結(jié)果和可視化結(jié)果,確實(shí)減少了誤報(bào)樣本的數(shù)量,抑制了邊緣噪聲,這是實(shí)現(xiàn)顯著提升的主要原因。

通訊作者簡(jiǎn)介:

劉建偉,副教授,教師,學(xué)者。研究領(lǐng)域涉及在線(xiàn)學(xué)習(xí)(包括強(qiáng)化學(xué)習(xí),賭博機(jī)算法,持續(xù)學(xué)習(xí),長(zhǎng)尾學(xué)習(xí));圖像視頻顯著性目標(biāo)檢測(cè),解糾纏表示學(xué)習(xí),光場(chǎng)和神經(jīng)場(chǎng)模型,以及圖像視頻少樣本變化檢測(cè);自然語(yǔ)言理解中的知識(shí)補(bǔ)全,圖神經(jīng)網(wǎng)絡(luò);不平衡數(shù)據(jù)處理;霍克斯點(diǎn)過(guò)程故障預(yù)測(cè)與診斷;非線(xiàn)性預(yù)測(cè)與控制。 是兵器裝備工程學(xué)報(bào)第三屆編輯委員會(huì)委員。歷屆中國(guó)控制會(huì)議(CCC)和中國(guó)控制與決策會(huì)議(CCDC)的程序委員會(huì)委員。擔(dān)任過(guò)80多個(gè)國(guó)際會(huì)議的TPC。