簡(jiǎn)介本資源面向計(jì)算機(jī)、電子信息工程、數(shù)學(xué)等專(zhuān)業(yè)的大學(xué)生及算法入門(mén)者提供一套完整的ARIMA-SSA-LSTM時(shí)間序列預(yù)測(cè)實(shí)現(xiàn)方案可用于課程設(shè)計(jì)、期末大作業(yè)或畢業(yè)設(shè)計(jì)。代碼基于Python與TensorFlow編寫(xiě)采用參數(shù)化編程思路參數(shù)可靈活調(diào)整且配有保姆級(jí)注釋幾乎一行一注釋便于零基礎(chǔ)讀者理解建模流程。壓縮包共3個(gè)文件包含2個(gè)CSV數(shù)據(jù)文件與1個(gè)Python源碼文件整體約51KB數(shù)據(jù)與代碼配套齊全可直接運(yùn)行驗(yàn)證。資源將ARIMA、麻雀搜索算法SSA與LSTM相結(jié)合展示了從數(shù)據(jù)讀取、參數(shù)優(yōu)化到預(yù)測(cè)輸出的完整鏈路讀者可據(jù)此掌握組合模型的搭建方法與調(diào)參技巧。目前已有510人學(xué)習(xí)適合希望快速上手時(shí)間序列預(yù)測(cè)實(shí)戰(zhàn)的讀者參考。1. 從一條震蕩的銷(xiāo)量曲線(xiàn)說(shuō)起ARIMA-SSA-LSTM 到底在解決什么去年幫一個(gè)做小家電的朋友看數(shù)據(jù)他手里有 36 個(gè)月的出貨記錄想預(yù)測(cè)未來(lái) 6 個(gè)月。我先用 ARIMA 跑了一版趨勢(shì)抓得還行但每逢大促月份的尖峰全被抹平換成 LSTM 單模型尖峰能咬住一部分可樣本量太小驗(yàn)證集上的曲線(xiàn)抖得像心電圖。這不是模型不行是單一模型對(duì)「線(xiàn)性趨勢(shì) 非線(xiàn)性突變」這種混合結(jié)構(gòu)天然偏科。ARIMA-SSA-LSTM 這套組合就是沖這個(gè)痛點(diǎn)來(lái)的ARIMA 負(fù)責(zé)把線(xiàn)性成分剝出來(lái)SSA奇異譜分析把殘差里的噪聲和周期分量拆開(kāi)、重構(gòu)出更干凈的序列LSTM 再去學(xué)剩下的非線(xiàn)性映射。它適合手里有幾百到幾千條單變量序列、又不想上重型深度模型的從業(yè)者比如銷(xiāo)量、負(fù)荷、流量、GDP 這類(lèi)按時(shí)間排隊(duì)的數(shù)值預(yù)測(cè)。下面我按自己落地的順序把數(shù)據(jù)怎么切、三個(gè)模塊怎么串、參數(shù)怎么調(diào)、哪里最容易翻車(chē)講清楚。2. 數(shù)據(jù)準(zhǔn)備與平穩(wěn)性處理ARIMA 的地基怎么打2.1 時(shí)間序列的四個(gè)前置檢查拿到一列帶時(shí)間戳的數(shù)值別急著往模型里灌。我一般先做四件事確認(rèn)時(shí)間間隔是否等距、檢查缺失值和異常點(diǎn)、看量綱是否需要?dú)w一化、畫(huà)一遍原始曲線(xiàn)和差分曲線(xiàn)。等距是 ARIMA 的硬要求如果原始數(shù)據(jù)是「有單才記一筆」的事件流得先重采樣成固定頻率比如按天求和或按周取均值。缺失值不要直接dropna銷(xiāo)量類(lèi)數(shù)據(jù)缺失往往意味著當(dāng)天真沒(méi)賣(mài)出去填 0 比填均值更合理傳感器類(lèi)數(shù)據(jù)則適合線(xiàn)性插值。異常點(diǎn)用滾動(dòng)中位數(shù)加 3 倍 MAD 判定超過(guò)閾值的先標(biāo)記別急著刪后面 SSA 重構(gòu)時(shí)還能用上。平穩(wěn)性決定了 ARIMA 的差分階數(shù) d。ADF 檢驗(yàn)是常用手段p 值小于 0.05 認(rèn)為平穩(wěn)。但我要提醒一句ADF 對(duì)短序列和強(qiáng)周期序列經(jīng)常誤判最好配合 ACF/PACF 圖一起看。如果 ACF 衰減極慢、PACF 在 1 階后截尾基本就是需要差分的信號(hào)。差分不是越多越好過(guò)度差分會(huì)把序列里的有效信息也差掉一般 d 取 0、1、2 三檔試優(yōu)先 1 階。import pandas as pd import numpy as np from statsmodels.tsa.stattools import adfuller # 讀取數(shù)據(jù)假設(shè)兩列ds(時(shí)間), y(數(shù)值) df pd.read_csv(series.csv, parse_dates[ds]).sort_values(ds) df df.set_index(ds).asfreq(D) # 統(tǒng)一成日頻缺失處補(bǔ) NaT df[y] df[y].interpolate(linear) # 線(xiàn)性插值補(bǔ)缺失 # 異常點(diǎn)標(biāo)記滾動(dòng)中位數(shù) 3倍MAD med df[y].rolling(7, centerTrue).median() mad (df[y] - med).abs().rolling(7, centerTrue).median() df[outlier] (df[y] - med).abs() 3 * 1.4826 * mad # ADF 檢驗(yàn) def adf_report(s, name): r adfuller(s.dropna(), autolagAIC) print(f{name}: stat{r[0]:.3f}, p{r[1]:.4f}, lags{r[2]}) adf_report(df[y], 原始序列) adf_report(df[y].diff(), 一階差分)這段代碼里asfreq(D)把不規(guī)則時(shí)間軸強(qiáng)制對(duì)齊到日頻interpolate(linear)只補(bǔ)數(shù)值不補(bǔ)時(shí)間。MAD 判定用 1.4826 這個(gè)系數(shù)是為了讓 MAD 在正態(tài)分布下與標(biāo)準(zhǔn)差可比這是穩(wěn)健統(tǒng)計(jì)里的常規(guī)做法。ADF 的autolagAIC讓函數(shù)自動(dòng)選滯后階數(shù)比手動(dòng)指定穩(wěn)。跑完看兩個(gè) p 值原始不平穩(wěn)、一階差分平穩(wěn)d 就定 1。2.2 ARIMA 定階別迷信 auto_arima定階我踩過(guò)的坑最多。pmdarima的auto_arima很方便但它默認(rèn)用 AIC 做準(zhǔn)則短序列上容易選出過(guò)大的 p 和 q導(dǎo)致過(guò)擬合。我的習(xí)慣是先用auto_arima給一個(gè)候選范圍再手動(dòng)在 (p,d,q) 的鄰域里用 BIC 和滾動(dòng)驗(yàn)證比一遍。BIC 對(duì)參數(shù)個(gè)數(shù)懲罰更重小樣本下更保守。季節(jié)性明顯的序列比如月度數(shù)據(jù)還要加 (P,D,Q,s) 這組季節(jié)項(xiàng)s 取 12。from statsmodels.tsa.arima.model import ARIMA from sklearn.metrics import mean_absolute_error y df[y].values train, test y[:-12], y[-12:] best None for p in range(0, 4): for q in range(0, 4): try: m ARIMA(train, order(p, 1, q)).fit() pred m.forecast(len(test)) mae mean_absolute_error(test, pred) if best is None or mae best[0]: best (mae, p, q, m) except Exception: continue print(最優(yōu)階數(shù):, best[1], best[2], MAE:, round(best[0], 3))這里用滾動(dòng)外推的方式評(píng)估而不是只看訓(xùn)練集擬合優(yōu)度。order(p,1,q)里的 1 就是前面定下的 d。forecast(len(test))做的是樣本外預(yù)測(cè)比f(wàn)ittedvalues更能反映真實(shí)泛化。如果所有組合的 MAE 都很大說(shuō)明線(xiàn)性部分解釋力有限這恰恰是后面要上 SSA 和 LSTM 的信號(hào)不是失敗。2.3 殘差提取把線(xiàn)性部分「減」出去ARIMA 擬合完真正要交給下游的不是預(yù)測(cè)值而是殘差。殘差 真實(shí)值 ? ARIMA 擬合值它承載了線(xiàn)性模型沒(méi)抓住的非線(xiàn)性結(jié)構(gòu)和周期波動(dòng)。提取時(shí)注意對(duì)齊索引訓(xùn)練段和測(cè)試段要分開(kāi)存別把未來(lái)信息漏進(jìn)訓(xùn)練。殘差序列通常均值接近 0如果還有明顯趨勢(shì)說(shuō)明 d 選小了回去重定階。resid_train train - best[3].fittedvalues resid_test test - best[3].forecast(len(test)) np.save(resid_train.npy, resid_train) np.save(resid_test.npy, resid_test)fittedvalues是樣本內(nèi)一步預(yù)測(cè)forecast是樣本外。兩者相減得到的兩段殘差拼起來(lái)才是完整殘差序列。存成 npy 是為了下一步 SSA 直接讀避免反復(fù)跑 ARIMA。到這里ARIMA 這層地基就算打完了接下來(lái)處理殘差。3. SSA 分解與重構(gòu)殘差里的噪聲和周期怎么拆3.1 奇異譜分析的軌跡矩陣與分組邏輯SSA 的核心是把一維序列嵌成軌跡矩陣再做奇異值分解按奇異值大小把分量分成「趨勢(shì)」「周期」「噪聲」幾組最后對(duì)角平均重構(gòu)回一維。它不像小波那樣需要選基函數(shù)也不像 EMD 那樣容易模態(tài)混疊對(duì)殘差這種信噪比不高的序列比較友好。關(guān)鍵參數(shù)有兩個(gè)窗口長(zhǎng)度 L 和分組方式。L 一般取序列長(zhǎng)度的 1/3 到 1/2太短拆不出周期太長(zhǎng)計(jì)算量陡增且分量之間開(kāi)始混。分組是 SSA 里最像「玄學(xué)」的一步。奇異值從大到小排前幾個(gè)通常對(duì)應(yīng)趨勢(shì)和主周期中間一段對(duì)應(yīng)次周期尾部小奇異值基本是噪聲。我一般畫(huà)一張奇異值譜找那個(gè)明顯拐點(diǎn)拐點(diǎn)之后的重構(gòu)時(shí)直接丟掉。如果拐點(diǎn)不明顯就用分組重構(gòu)后的序列做 ADF 和方差比檢驗(yàn)看保留多少組能讓殘差既平滑又不丟周期。import numpy as np def ssa_decompose(series, L): N len(series) K N - L 1 # 軌跡矩陣 X np.column_stack([series[i:iL] for i in range(K)]) # 奇異值分解 U, s, Vt np.linalg.svd(X, full_matricesFalse) return U, s, Vt, L, K def ssa_reconstruct(U, s, Vt, L, K, groups): groups: 列表的列表每個(gè)子列表是一組要保留的分量索引 recon np.zeros(L K - 1) for g in groups: Xg np.zeros((L, K)) for i in g: Xg s[i] * np.outer(U[:, i], Vt[i, :]) # 對(duì)角平均 for k in range(L K - 1): idx [j for j in range(K) if 0 k - j L] recon[k] np.mean([Xg[k - j, j] for j in idx]) return recon resid np.load(resid_train.npy) L len(resid) // 3 U, s, Vt, L, K ssa_decompose(resid, L) print(奇異值譜:, np.round(s[:10], 3))ssa_decompose里np.column_stack構(gòu)造的是 Hankel 型軌跡矩陣每一列是原序列的一個(gè)滑動(dòng)窗口。np.linalg.svd返回的 s 是降序奇異值。ssa_reconstruct里的對(duì)角平均是 SSA 反變換的標(biāo)準(zhǔn)操作把矩陣元素沿反對(duì)角線(xiàn)取平均還原成一維。groups參數(shù)讓你自由指定保留哪幾組比如[[0,1],[2,3,4]]表示趨勢(shì)組和周期組分開(kāi)重構(gòu)。3.2 分組策略用方差貢獻(xiàn)率代替肉眼判斷肉眼找拐點(diǎn)不穩(wěn)定換個(gè)人看可能結(jié)論就變了。我后來(lái)改成算方差貢獻(xiàn)率每個(gè)奇異值的平方除以總和累計(jì)到 85% 到 95% 之間的那一段就是主分量。剩下的尾部直接歸入噪聲組丟棄。這樣每次跑結(jié)果可復(fù)現(xiàn)也方便寫(xiě)進(jìn)腳本自動(dòng)執(zhí)行。var_ratio s**2 / np.sum(s**2) cum_ratio np.cumsum(var_ratio) keep np.where(cum_ratio 0.90)[0] # 保留累計(jì)貢獻(xiàn)90%的分量 print(保留分量數(shù):, len(keep), 累計(jì)貢獻(xiàn):, round(cum_ratio[keep[-1]], 3)) recon ssa_reconstruct(U, s, Vt, L, K, [list(keep)]) resid_clean resid - recon # 去掉主分量后的噪聲殘差這里keep取累計(jì)貢獻(xiàn)不超過(guò) 90% 的索引意味著把 90% 的能量當(dāng)作「有結(jié)構(gòu)的部分」重構(gòu)出來(lái)剩下的 10% 當(dāng)噪聲。resid_clean是去噪后的殘差它比原始?xì)埐钇交m合喂給 LSTM。注意recon長(zhǎng)度是 LK-1正好等于原序列長(zhǎng)度可以直接相減。3.3 重構(gòu)序列的對(duì)齊與長(zhǎng)度校驗(yàn)SSA 重構(gòu)最容易翻車(chē)的地方是長(zhǎng)度對(duì)不上。軌跡矩陣的維度是 L × K對(duì)角平均后長(zhǎng)度是 L K ? 1而 K N ? L 1所以 L K ? 1 N理論上嚴(yán)絲合縫。但如果你在分組時(shí)對(duì)某些分量做了截?cái)嗷蜓a(bǔ)零長(zhǎng)度就會(huì)漂。我的做法是重構(gòu)完立刻斷言len(recon) len(resid)不等就報(bào)錯(cuò)別讓它悄悄錯(cuò)位到 LSTM 階段才暴露。assert len(recon) len(resid), f長(zhǎng)度不匹配: {len(recon)} vs {len(resid)} resid_clean resid - recon np.save(resid_clean_train.npy, resid_clean)這個(gè)斷言看著簡(jiǎn)單但幫我省過(guò)至少兩次深夜排查。SSA 輸出的resid_clean就是 LSTM 的輸入。到這一步線(xiàn)性部分歸 ARIMA周期和噪聲歸 SSA剩下的非線(xiàn)性映射交給 LSTM。4. LSTM 建模把 SSA 重構(gòu)后的殘差喂進(jìn)網(wǎng)絡(luò)4.1 滑窗構(gòu)造監(jiān)督樣本LSTM 要的是監(jiān)督學(xué)習(xí)格式得把一維序列切成 (樣本, 時(shí)間步, 特征) 的三維張量。滑窗長(zhǎng)度時(shí)間步是個(gè)關(guān)鍵參數(shù)太短學(xué)不到長(zhǎng)依賴(lài)太長(zhǎng)梯度容易消失且樣本數(shù)驟減。經(jīng)驗(yàn)上取序列主周期的 1 到 2 倍比如月度數(shù)據(jù)主周期 12窗口取 12 到 24。步長(zhǎng)一般取 1做數(shù)據(jù)增強(qiáng)時(shí)可以取 2 或 3 增加樣本多樣性。def make_windows(series, window, horizon1): X, y [], [] for i in range(len(series) - window - horizon 1): X.append(series[i:iwindow]) y.append(series[iwindow:iwindowhorizon]) X np.array(X).reshape(-1, window, 1) y np.array(y).reshape(-1, horizon) return X, y resid_clean np.load(resid_clean_train.npy) WINDOW 12 X, y make_windows(resid_clean, WINDOW, horizon1) print(樣本形狀:, X.shape, y.shape)make_windows里reshape(-1, window, 1)的最后一個(gè) 1 是特征維度單變量預(yù)測(cè)就是 1。horizon1表示單步預(yù)測(cè)要多步就把 horizon 調(diào)大y 會(huì)變成二維。注意樣本數(shù) 序列長(zhǎng)度 ? window ? horizon 1窗口越大樣本越少小數(shù)據(jù)集上要權(quán)衡。4.2 網(wǎng)絡(luò)結(jié)構(gòu)與訓(xùn)練參數(shù)結(jié)構(gòu)上我用兩層 LSTM 加一層全連接隱藏單元第一層 64、第二層 32dropout 0.2。優(yōu)化器 Adam學(xué)習(xí)率 1e-3損失 MSE早停 patience 設(shè) 10。批大小 32epoch 上限 200。這些不是金科玉律但作為起點(diǎn)很穩(wěn)。歸一化用 MinMax 把殘差縮到 [0,1]因?yàn)闅埐钣姓胸?fù)標(biāo)準(zhǔn)化到均值 0 方差 1 也可以我傾向 MinMax反歸一化時(shí)不容易出錯(cuò)。import torch import torch.nn as nn class LSTMForecaster(nn.Module): def __init__(self, input_size1, hidden164, hidden232, dropout0.2): super().__init__() self.lstm1 nn.LSTM(input_size, hidden1, batch_firstTrue) self.lstm2 nn.LSTM(hidden1, hidden2, batch_firstTrue) self.drop nn.Dropout(dropout) self.fc nn.Linear(hidden2, 1) def forward(self, x): out, _ self.lstm1(x) out, _ self.lstm2(out) out self.drop(out[:, -1, :]) # 取最后一個(gè)時(shí)間步 return self.fc(out) model LSTMForecaster() opt torch.optim.Adam(model.parameters(), lr1e-3) loss_fn nn.MSELoss()batch_firstTrue讓輸入維度是 (batch, seq, feature)符合習(xí)慣。out[:, -1, :]只取最后一個(gè)時(shí)間步的隱藏狀態(tài)因?yàn)轭A(yù)測(cè)目標(biāo)在窗口末尾之后。兩層 LSTM 堆疊能提取更抽象的時(shí)序模式但層數(shù)再多小數(shù)據(jù)上就開(kāi)始過(guò)擬合了。dropout 加在 LSTM 輸出和全連接之間別加在 LSTM 內(nèi)部PyTorch 的 LSTM 自帶 dropout 參數(shù)只在多層時(shí)生效容易混淆。4.3 訓(xùn)練循環(huán)與早停訓(xùn)練循環(huán)里我固定做三件事每個(gè) epoch 記錄訓(xùn)練和驗(yàn)證損失、驗(yàn)證損失連續(xù) 10 輪不降就停、保存驗(yàn)證損失最低的權(quán)重。這樣即使訓(xùn)練震蕩最后拿到的也是驗(yàn)證集上最好的那個(gè)模型而不是最后一個(gè) epoch 的。from torch.utils.data import TensorDataset, DataLoader X_t torch.tensor(X, dtypetorch.float32) y_t torch.tensor(y, dtypetorch.float32) split int(len(X_t) * 0.8) train_ds TensorDataset(X_t[:split], y_t[:split]) val_ds TensorDataset(X_t[split:], y_t[split:]) train_dl DataLoader(train_ds, batch_size32, shuffleTrue) val_dl DataLoader(val_ds, batch_size32) best_val, patience, wait float(inf), 10, 0 for epoch in range(200): model.train() for xb, yb in train_dl: opt.zero_grad() loss loss_fn(model(xb), yb) loss.backward() opt.step() model.eval() with torch.no_grad(): val_loss np.mean([loss_fn(model(xb), yb).item() for xb, yb in val_dl]) if val_loss best_val: best_val, wait val_loss, 0 torch.save(model.state_dict(), best_lstm.pt) else: wait 1 if wait patience: print(f早停于 epoch {epoch}) breakshuffleTrue只在訓(xùn)練集開(kāi)驗(yàn)證集保持順序。torch.save存的是 state_dict加載時(shí)先實(shí)例化同結(jié)構(gòu)模型再load_state_dict。早停的 patience 設(shè) 10 是經(jīng)驗(yàn)值數(shù)據(jù)噪聲大可以放寬到 15數(shù)據(jù)干凈可以收緊到 5。訓(xùn)練完把驗(yàn)證集預(yù)測(cè)和真實(shí)值畫(huà)在一起看是欠擬合還是過(guò)擬合再?zèng)Q定要不要調(diào)窗口或隱藏單元。4.4 三模型疊加預(yù)測(cè)與反歸一化最終預(yù)測(cè) ARIMA 預(yù)測(cè) SSA 重構(gòu)的 LSTM 預(yù)測(cè)。注意 LSTM 學(xué)的是resid_clean而resid_clean resid ? recon所以 LSTM 輸出的是「去噪后殘差」的預(yù)測(cè)要加回recon再和 ARIMA 相加。順序別搞反這是最容易出錯(cuò)的一步。model.load_state_dict(torch.load(best_lstm.pt)) model.eval() with torch.no_grad(): lstm_pred model(torch.tensor(X_test, dtypetorch.float32)).numpy().flatten() final_pred arima_pred recon_test lstm_predarima_pred是 ARIMA 的樣本外預(yù)測(cè)recon_test是測(cè)試段 SSA 重構(gòu)的主分量lstm_pred是網(wǎng)絡(luò)對(duì)去噪殘差的預(yù)測(cè)。三者相加才是最終值。如果前面歸一化過(guò)這里要先反歸一化再相加或者全程在歸一化空間里加完再反歸一化但三種量的歸一化參數(shù)必須一致否則量綱對(duì)不上。5. 避坑與排查這套組合拳最容易翻車(chē)的五個(gè)地方5.1 現(xiàn)象驗(yàn)證集 MAE 比測(cè)試集還低以為模型很強(qiáng)原因滑窗構(gòu)造時(shí)用了未來(lái)數(shù)據(jù)或者歸一化參數(shù)在劃分訓(xùn)練測(cè)試之前就用全量數(shù)據(jù)算了。這是時(shí)間序列里最經(jīng)典的數(shù)據(jù)泄漏。解決所有統(tǒng)計(jì)量均值、方差、最大最小值只在訓(xùn)練段計(jì)算然后應(yīng)用到驗(yàn)證和測(cè)試段。滑窗的切分要在歸一化之后、但歸一化參數(shù)必須來(lái)自訓(xùn)練段。我習(xí)慣寫(xiě)一個(gè)fit_scaler(train)和transform(scaler, data)分開(kāi)的函數(shù)從代碼結(jié)構(gòu)上杜絕泄漏。5.2 現(xiàn)象SSA 重構(gòu)后序列和原序列幾乎一樣LSTM 學(xué)不到東西原因分組時(shí)保留了太多分量把噪聲也重構(gòu)進(jìn)去了等于沒(méi)去噪?；蛘叽翱?L 取太小軌跡矩陣秩不夠分解不出有效結(jié)構(gòu)。解決檢查累計(jì)方差貢獻(xiàn)率保留到 85% 到 90% 就停別貪多。L 至少取序列長(zhǎng)度的 1/4短序列可以到 1/2。重構(gòu)后算一下和原殘差的相關(guān)系數(shù)如果高于 0.99說(shuō)明基本沒(méi)去掉東西回去調(diào)分組。5.3 現(xiàn)象LSTM 訓(xùn)練損失一直降驗(yàn)證損失從第 3 輪就開(kāi)始漲原因模型容量相對(duì)數(shù)據(jù)量太大或者窗口太長(zhǎng)導(dǎo)致樣本數(shù)太少。小數(shù)據(jù)集上兩層 LSTM 加 64 單元很容易過(guò)擬合。解決先減容量隱藏單元降到 32 和 16層數(shù)降到一層。再加大 dropout 到 0.3 到 0.4。還不行就縮短窗口增加樣本數(shù)。數(shù)據(jù)量少于 500 條時(shí)我一般直接用單層 LSTM 加 32 單元起步別一上來(lái)就堆結(jié)構(gòu)。5.4 現(xiàn)象最終預(yù)測(cè)曲線(xiàn)整體偏移所有點(diǎn)都偏高或偏低原因反歸一化時(shí)用的參數(shù)不對(duì)或者 ARIMA 預(yù)測(cè)和 LSTM 預(yù)測(cè)的量綱沒(méi)對(duì)齊。常見(jiàn)于 ARIMA 用了差分、LSTM 用了歸一化兩者還原順序不一致。解決統(tǒng)一在原始量綱上做加法。具體做法是 ARIMA 預(yù)測(cè)先還原到原始尺度SSA 重構(gòu)也在原始尺度LSTM 輸出反歸一化到原始尺度三者都還原完再相加。別在歸一化空間里混著加。5.5 現(xiàn)象每次跑結(jié)果都不一樣MAE 波動(dòng)超過(guò) 20%原因PyTorch 默認(rèn)隨機(jī)初始化DataLoader 的 shuffle 也帶隨機(jī)性。深度學(xué)習(xí)部分本身就有方差。解決固定隨機(jī)種子torch.manual_seed(42)、np.random.seed(42)DataLoader 的 generator 也設(shè)種子。然后跑 5 次取平均作為最終報(bào)告值。如果 5 次方差仍然很大說(shuō)明模型不穩(wěn)定回去檢查數(shù)據(jù)質(zhì)量和窗口設(shè)置而不是繼續(xù)調(diào)種子。6. 進(jìn)階技巧用滾動(dòng)重訓(xùn)和殘差診斷把誤差再壓一檔模型搭完能跑通只是及格線(xiàn)真正拉開(kāi)差距的是滾動(dòng)重訓(xùn)和殘差診斷。我現(xiàn)在的習(xí)慣是每預(yù)測(cè)一步就把真實(shí)值并入訓(xùn)練集重新擬合 ARIMA 和微調(diào) LSTM這叫 walk-forward validation。它比一次性切分訓(xùn)練測(cè)試更貼近生產(chǎn)環(huán)境因?yàn)樯a(chǎn)上你每天都會(huì)拿到新數(shù)據(jù)。代價(jià)是計(jì)算量成倍增加但小數(shù)據(jù)集上完全扛得住。def walk_forward(y, window, horizon, n_splits): preds, truths [], [] for i in range(n_splits): end len(y) - n_splits i train, test y[:end], y[end:endhorizon] if len(test) horizon: break # 這里復(fù)用前面的 ARIMA SSA LSTM 流程 p full_pipeline(train, horizon) preds.append(p) truths.append(test) return np.array(preds), np.array(truths)full_pipeline把前面所有步驟封成一個(gè)函數(shù)輸入訓(xùn)練序列和預(yù)測(cè)步長(zhǎng)輸出預(yù)測(cè)值。n_splits控制回測(cè)輪數(shù)一般取 5 到 10。跑完算 MAPE 和 RMSE和單次切分的結(jié)果對(duì)比如果滾動(dòng)重訓(xùn)明顯更好說(shuō)明數(shù)據(jù)分布隨時(shí)間漂移生產(chǎn)上必須用滾動(dòng)策略。殘差診斷是另一個(gè)被低估的環(huán)節(jié)。把最終預(yù)測(cè)誤差畫(huà)出來(lái)看有沒(méi)有自相關(guān)。如果誤差的 ACF 在滯后幾階還有顯著尖峰說(shuō)明模型沒(méi)抓干凈還有結(jié)構(gòu)留在誤差里。這時(shí)候可以回到 SSA 階段多保留一組分量或者給 LSTM 加一層注意力。我一般用 Ljung-Box 檢驗(yàn)p 值大于 0.05 就認(rèn)為誤差接近白噪聲可以收手了。from statsmodels.stats.diagnostic import acorr_ljungbox err truths.flatten() - preds.flatten() lb acorr_ljungbox(err, lags[5, 10, 20], return_dfTrue) print(lb)acorr_ljungbox返回每個(gè)滯后階的統(tǒng)計(jì)量和 p 值。如果 10 階 p 值小于 0.05誤差還有自相關(guān)模型沒(méi)榨干。這時(shí)候別急著換模型先回去看 SSA 分組和 ARIMA 階數(shù)往往問(wèn)題出在前兩層。參數(shù)搜索上我最后會(huì)做一輪粗網(wǎng)格ARIMA 的 (p,q) 在 0 到 3 之間、SSA 的 L 在 N/4 到 N/2 之間、LSTM 窗口在 6 到 24 之間各取三檔組合用滾動(dòng)驗(yàn)證的 MAPE 排序。組合數(shù)控制在 50 以?xún)?nèi)不然跑一天都跑不完。排序后取前 5 組人工看預(yù)測(cè)曲線(xiàn)和真實(shí)曲線(xiàn)的貼合度選那個(gè)不僅誤差小、而且拐點(diǎn)也咬得住的。誤差小但曲線(xiàn)平滑得像直線(xiàn)的生產(chǎn)上反而危險(xiǎn)因?yàn)樗淹蛔內(nèi)?。最后說(shuō)個(gè)我自己的習(xí)慣每次上線(xiàn)新數(shù)據(jù)前先拿歷史數(shù)據(jù)做一次「假裝不知道未來(lái)」的回測(cè)把預(yù)測(cè)值和真實(shí)值并排打出來(lái)逐月看偏差方向。如果連續(xù)三個(gè)月同向偏差說(shuō)明模型有系統(tǒng)性偏移得檢查是不是數(shù)據(jù)采集口徑變了而不是模型參數(shù)問(wèn)題。這套流程跑順之后ARIMA-SSA-LSTM 在小樣本單變量預(yù)測(cè)上確實(shí)比單模型穩(wěn)但它不是萬(wàn)能藥數(shù)據(jù)里的突變?nèi)绻麃?lái)自外部事件任何時(shí)序模型都抓不住那得靠外部特征。希望幫到你。本文還有配套的精品資源點(diǎn)擊獲取