中文題目:SFMixer:長(zhǎng)期時(shí)間序列預(yù)測(cè)的頻域局部周期特征和時(shí)域全局特征建模
論文題目:SFMixer: Local Periodic Features in Frequency Domain and Global Features in Time Domain Modeling for Long-Term Time Series Forecasting
錄用期刊/會(huì)議:CAC2024 (CAA A類(lèi)會(huì)議)
錄用時(shí)間:2024.9.20
作者列表:
1) 吳芃鲯 中國(guó)石油大學(xué)(北京)人工智能學(xué)院 控制科學(xué)與工程 研22級(jí)
2) 劉建偉 中國(guó)石油大學(xué)(北京)人工智能學(xué)院 自動(dòng)化系 教師
3) 韓佳藝 中國(guó)石油大學(xué)(北京)人工智能學(xué)院 控制科學(xué)與工程 博22級(jí)
摘要:
鑒于時(shí)間序列數(shù)據(jù)中復(fù)雜的特征交互關(guān)系,融合局部和全局特征對(duì)于實(shí)現(xiàn)高效的長(zhǎng)期時(shí)間序列預(yù)測(cè)至關(guān)重要。雖然 CNN 擅長(zhǎng)捕捉局部特征,但在使用簡(jiǎn)單或低復(fù)雜度模型架構(gòu)時(shí),往往難以有效提取時(shí)間序列中的全局特征。此外,現(xiàn)有關(guān)于利用頻域信息(特別是局部周期性特征)來(lái)建模時(shí)間序列依賴(lài)性的研究仍然不足。為了解決這些問(wèn)題,我們提出了 SFMixer 模型,該模型通過(guò)改進(jìn)的 CNN 結(jié)構(gòu)和 MLP 網(wǎng)絡(luò),在頻域中建模并整合局部周期性變化(包括局部?jī)?nèi)部和跨局部周期變化),同時(shí)在時(shí)域中捕捉全局特征。SFMixer 在八個(gè)基準(zhǔn)數(shù)據(jù)集上表現(xiàn)優(yōu)于現(xiàn)有方法,并在多元與單變量預(yù)測(cè)實(shí)驗(yàn)中顯著降低了 MSE 和 MAE。此外,SFMixer 展現(xiàn)了更強(qiáng)的時(shí)間信息捕捉能力和更高的訓(xùn)練效率。我們將公開(kāi)模型及代碼。
背景與動(dòng)機(jī):
長(zhǎng)期時(shí)間序列預(yù)測(cè) (LTSF) 在能源管理、交通調(diào)控和金融市場(chǎng)等領(lǐng)域至關(guān)重要。然而,現(xiàn)有模型在捕捉時(shí)間序列的局部和全局特征時(shí)面臨挑戰(zhàn):CNN 模型雖擅長(zhǎng)提取局部特征,但難以有效捕獲全局依賴(lài)關(guān)系,而 Transformer 等模型復(fù)雜度較高且訓(xùn)練成本昂貴。此外,頻域信息在捕捉局部周期性變化中的潛力尚未被充分挖掘。
主要內(nèi)容:
本文提出了 SFMixer 模型,將時(shí)間域的全局特征與頻域的局部周期性特征相結(jié)合。SFMixer 利用改進(jìn)的 CNN 和 MLP 結(jié)構(gòu),通過(guò)快速傅里葉變換(FFT)提取局部頻率變化,并設(shè)計(jì)了頻譜擴(kuò)展模塊與局部周期性提取模塊。實(shí)驗(yàn)表明,在八個(gè)基準(zhǔn)數(shù)據(jù)集上的多元和單變量預(yù)測(cè)任務(wù)中,SFMixer 相較于現(xiàn)有模型顯著降低了 MSE 和 MAE,并展示了更高的預(yù)測(cè)準(zhǔn)確性和訓(xùn)練效率。這一研究為時(shí)間序列預(yù)測(cè)提供了新的思路和解決方案。

圖1 SFMixer的總體框架
結(jié)論:
本研究介紹了一種名為 SFMixer 的創(chuàng)新模型,專(zhuān)為長(zhǎng)期時(shí)間序列預(yù)測(cè) (LTSF) 設(shè)計(jì)。SFMixer 采用 CNN 框架,通過(guò)頻域分析捕捉并預(yù)測(cè)時(shí)間序列數(shù)據(jù)中的局部周期特征。此外,模型利用增強(qiáng)版 MLP 網(wǎng)絡(luò)在時(shí)域中提取全局特征。實(shí)驗(yàn)結(jié)果表明,SFMixer 在預(yù)測(cè)準(zhǔn)確性、時(shí)間信息提取和訓(xùn)練效率方面優(yōu)于現(xiàn)有模型,并驗(yàn)證了引入頻域信息的有效性。
作者簡(jiǎn)介:
劉建偉,教師,學(xué)者。發(fā)表學(xué)術(shù)研究論文280多篇。