科研動(dòng)態(tài)
基于Transformer增強(qiáng)原型網(wǎng)絡(luò)的潛油電泵小樣本故障診斷
中文題目：基于Transformer增強(qiáng)原型網(wǎng)絡(luò)的潛油電泵小樣本故障診斷
論文題目：Few-shot Fault Diagnosis for Electric Submersible Pump Based on Transformer-enhanced Prototypical Network
錄用會(huì)議：CPCC2025 (CAA A類(lèi)會(huì)議)
作者列表：
1）王亮程 中國(guó)石油大學(xué)（北京）人工智能學(xué)院 本科生
2）李 康 中國(guó)石油大學(xué)（北京）人工智能學(xué)院 自動(dòng)化系教師
3）高小永 中國(guó)石油大學(xué)（北京）人工智能學(xué)院 自動(dòng)化系教師
摘要:
潛油電泵是油田重要的提升工具，實(shí)時(shí)故障診斷是保障經(jīng)濟(jì)效益的重要措施。然而，目前電潛泵故障診斷面臨樣本稀缺、動(dòng)態(tài)數(shù)據(jù)特征提取困難等問(wèn)題。近年來(lái)，元學(xué)習(xí)逐漸成為解決小樣本故障診斷問(wèn)題的潛在方案。為此，我們?cè)诂F(xiàn)有研究成果的基礎(chǔ)上，融合原型網(wǎng)絡(luò)和Transformer的優(yōu)勢(shì)，開(kāi)發(fā)了一套電潛泵故障診斷程序。
背景與動(dòng)機(jī):
在海洋及陸上油田，潛油電泵憑（ESP）借大排量、高揚(yáng)程的優(yōu)勢(shì)已成為人工舉升的主力設(shè)備，然而其長(zhǎng)期運(yùn)行于高溫、高壓、含砂、含硫的極端環(huán)境，故障機(jī)理復(fù)雜且突發(fā)性強(qiáng)；一旦發(fā)生故障，輕則減產(chǎn)停機(jī)，重則引發(fā)井口泄漏、火災(zāi)爆炸等重大事故?，F(xiàn)場(chǎng)運(yùn)維對(duì)實(shí)時(shí)、精準(zhǔn)的故障診斷提出了極高要求，但出于安全規(guī)范，ESP不允許在故障狀態(tài)下長(zhǎng)時(shí)間運(yùn)行，導(dǎo)致可采集的故障樣本數(shù)量極少，且信號(hào)呈現(xiàn)多變量、非線(xiàn)性、強(qiáng)時(shí)序耦合的特點(diǎn)，傳統(tǒng)依賴(lài)大量標(biāo)注數(shù)據(jù)的深度學(xué)習(xí)方法難以直接適用。此外，海上平臺(tái)作業(yè)空間受限、檢修成本高，更加劇了對(duì)“小樣本、高可靠”診斷技術(shù)的迫切需求。因此，本文著眼于元學(xué)習(xí)范式，提出融合Transformer長(zhǎng)程依賴(lài)建模與原型網(wǎng)絡(luò)度量學(xué)習(xí)的TEPN框架，以實(shí)現(xiàn)極少量故障樣本下的快速、準(zhǔn)確診斷，從而保障油田安全高效生產(chǎn)。
設(shè)計(jì)與實(shí)現(xiàn):
本文針對(duì)電潛泵故障樣本稀缺的難題，設(shè)計(jì)并實(shí)現(xiàn)了一套 Transformer-增強(qiáng)原型網(wǎng)絡(luò)（TEPN）：首先提出多變量時(shí)間序列分詞策略（MTST），將原始高維、非線(xiàn)性的 ESP 信號(hào)切分成可嵌入的“時(shí)序補(bǔ)丁”，并引入可學(xué)習(xí)的類(lèi)令牌與位置編碼，適配 Transformer 的輸入格式；隨后堆疊多層 Transformer 編碼器，利用多頭自注意力捕獲跨變量的長(zhǎng)程依賴(lài)，輸出魯棒的故障特征；最后在元學(xué)習(xí)框架下，外循環(huán)通過(guò)大量隨機(jī)采樣的 N-way K-shot 任務(wù)，用負(fù)對(duì)數(shù)似然損失端到端優(yōu)化 Transformer 與嵌入?yún)?shù)，內(nèi)循環(huán)僅用少量支持樣本計(jì)算每類(lèi)原型向量，并以歐氏距離的方式完成查詢(xún)樣本的零梯度分類(lèi)。整個(gè)系統(tǒng)在真實(shí)油田 10 類(lèi)故障數(shù)據(jù)上實(shí)現(xiàn)了 90% 左右的小樣本診斷準(zhǔn)確率，驗(yàn)證了其有效性。
實(shí)驗(yàn)結(jié)果及分析:
實(shí)驗(yàn)在中國(guó)能源發(fā)展有限公司提供的現(xiàn)場(chǎng)電潛泵故障數(shù)據(jù)集上進(jìn)行，共涵蓋10類(lèi)常見(jiàn)故障。按照3-way 3-shot、3-way 5-shot、4-way 3-shot、4-way 5-shot四種典型小樣本設(shè)置測(cè)試，TEPN在四個(gè)子數(shù)據(jù)集上的平均診斷準(zhǔn)確率分別穩(wěn)定在89.3%–94.9%區(qū)間，標(biāo)準(zhǔn)差普遍小于6%，顯示出良好的魯棒性。進(jìn)一步通過(guò)t-SNE可視化可見(jiàn)，Transformer編碼后的特征空間內(nèi)同類(lèi)故障聚類(lèi)緊密、異類(lèi)間邊界清晰；混淆矩陣亦表明各類(lèi)別召回率均衡，無(wú)嚴(yán)重混淆。對(duì)比實(shí)驗(yàn)顯示，TEPN優(yōu)于傳統(tǒng)原型網(wǎng)絡(luò)。
結(jié)論:
本文提出了一種新的ESP系統(tǒng)TEPN技術(shù)。該技術(shù)結(jié)合MTST策略對(duì)ESP數(shù)據(jù)進(jìn)行預(yù)處理，并結(jié)合Transformer編碼器，構(gòu)建了一個(gè)高效的模塊來(lái)學(xué)習(xí)ESP的嵌入特征，從而捕捉ESP變量的長(zhǎng)期依賴(lài)關(guān)系。同時(shí)，該技術(shù)依賴(lài)于原型網(wǎng)絡(luò)的穩(wěn)定性來(lái)應(yīng)對(duì)小樣本的挑戰(zhàn)。最后，基于中國(guó)能源開(kāi)發(fā)有限公司采集的真實(shí)ESP故障數(shù)據(jù)進(jìn)行了全面的對(duì)比實(shí)驗(yàn)，以驗(yàn)證所提方法的有效性。
作者簡(jiǎn)介:
李康，講師，博士，碩士生導(dǎo)師，IEEE Member, 中國(guó)自動(dòng)化學(xué)會(huì)會(huì)員，中國(guó)人工智能學(xué)會(huì)會(huì)員。長(zhǎng)期從事復(fù)雜流程工業(yè)系統(tǒng)安全監(jiān)測(cè)與故障診斷、智能制造及先進(jìn)機(jī)器人感知與交互技術(shù)等相關(guān)教學(xué)與科研工作。