隨機過程描述的是一族帶索引的隨機變數。既然索引通常表示時間，那麼一個非常自然的問題是：

這個過程的機率規律本身，會不會隨著時間改變？

當然，如果索引不是時間，比如說座標，就是規律會不會隨著座標而變化。

如果一個隨機過程在不同時間段具有相同或相近的統計規律，我們就會進入隨機過程中的一個核心概念：平穩性（stationarity）。

平穩性不是說一條 sample path 不變化，而是說：

過程背後的統計規律不因時間平移而改變。

1. 平穩性的定義

1.1 一個明顯非平穩的過程

考慮：

Xt=t+ϵtX_t=t+\epsilon_t

其中 ϵt∼N(0,1)\epsilon_t\sim N(0,1)。

那麼 E[Xt]=tE[X_t]=t。隨著時間增加，整個分佈的中心不斷向右移動。

例如 X10X_{10} 大約圍繞 10 波動，而 X100X_{100} 大約圍繞 100 波動。

顯然，第 10 時刻和第 100 時刻的統計規律並不相同，這就是一個非常直接的非平穩過程。

1.2 平穩到底是什麼意思

直覺上，如果我們擷取這個過程的一段：

Xt,Xt+1,Xt+2X_t,X_{t+1},X_{t+2}

然後把觀察視窗整體向後移動 100 個單位：

Xt+100,Xt+101,Xt+102X_{t+100},X_{t+101},X_{t+102}

如果兩段的統計規律完全一樣，那麼這個過程就具有一種時間平移不變性。

這就是平穩性的核心。

注意這裡說的是“統計規律一樣”，不是要求兩段真實取值一樣。

1.3 嚴格平穩

最強的一種定義叫 嚴格平穩（strict stationarity）。

對於任意時間點 t1,…,tnt_1,\dots,t_n，以及任意時間平移 τ\tau，如果：

(Xt1,…,Xtn)(X_{t_1},\dots,X_{t_n})

和

(Xt1+τ,…,Xtn+τ)(X_{t_1+\tau},\dots,X_{t_n+\tau})

具有完全相同的聯合分佈，那麼這個過程就是嚴格平穩的。

也就是說，不管選多少個時間點，只要把它們整體平移，聯合機率結構都不發生變化。

這是一個非常強的條件，因為它要求所有階的聯合分佈都保持不變。

1.4 弱平穩

實際分析中經常使用更弱的條件：弱平穩（weak stationarity），也叫二階平穩。

它通常只要求兩件事：

第一，平均值不隨時間變化，即 E[Xt]=μE[X_t]=\mu。

第二，共變異數只依賴兩個時間點之間的間隔，而不依賴它們具體位於哪裡：

Cov⁡(Xt,Xt+τ)=C(τ)(1)\operatorname{Cov}(X_t,X_{t+\tau})=C(\tau) \tag{1}

所以如果兩個時間點相隔 10 個單位，那麼不管它們是 t=0t=0 和 t=10t=10，還是 t=1000t=1000 和 t=1010t=1010，共變異數都相同。

這就讓很多分析變得簡單，因為原本需要研究兩個變數 s,ts,t 的函數，現在只需要研究一個 lag τ\tau。

2. 常見誤解與典型過程

2.1 平穩不等於“不動”

平穩最容易被誤解成“這個過程基本不變化”。

實際上，一個平穩過程可以在每一個時間點都發生非常劇烈的隨機變化。

例如 i.i.d. 白噪聲：

Xt∼N(0,1)X_t\sim N(0,1)

並且各個時間點相互獨立。

一次 sample path 可能是：

0.3 → -1.7 → 2.1 → 0.4 → -0.9 → ...

它顯然一直在變化。

但每一個時間點的分佈都一樣，不同時間點之間的聯合結構也具有時間平移不變性，所以它是平穩的。

因此：

平穩描述機率規律，而不是具體軌跡是否平滑。

2.2 白噪聲為什麼重要

白噪聲可以看作最簡單的平穩過程之一。

通常假設：

  • E[ϵt]=0E[\epsilon_t]=0；
  • Var⁡(ϵt)=σ2\operatorname{Var}(\epsilon_t)=\sigma^2；
  • 不同時間點之間不相關，常見情況下還會進一步假設獨立。

它沒有趨勢，也沒有明顯的時間記憶。

雖然白噪聲自身看起來很簡單，但很多複雜過程都可以理解成“對白噪聲進行某種變換”。

例如隨機遊走：

Xt=∑i=1tϵiX_t=\sum_{i=1}^t\epsilon_i

就是把一系列隨機增量不斷累積。

2.3 平穩過程和平穩增量不是一回事

這個區別非常重要。

隨機遊走通常不是平穩過程。

假設 ϵt\epsilon_t 的變異數是 σ2\sigma^2，則：

Var⁡(Xt)=tσ2\operatorname{Var}(X_t)=t\sigma^2

隨著 tt 增大，隨機遊走的位置分佈越來越寬，因此 XtX_t 的統計規律在變化。

所以隨機遊走本身不是平穩的。

但它的增量：

Xt+h−XtX_{t+h}-X_t

如果只取決於 hh 而與 tt 無關，就稱它具有平穩增量（stationary increments）。

因此：

  • stationary process：過程本身的統計規律對時間平移不變；
  • stationary increments：相同長度時間段內的變化量具有相同分佈。

布朗運動就是一個典型例子：它本身不是平穩過程，但具有平穩增量。

3. 平穩性的價值與邊界

3.1 為什麼平穩性如此重要

假設我們用過去的資料估計某個隨機過程的規律。

如果這個過程的機率機制一直變化，那麼過去得到的統計量可能很快失效。

平穩性提供了一種重要的可複用性：

過去估計出的統計規律，可以用於描述未來相同型別的時間段。

這也是為什麼經典時間序列分析常常先問：

這個序列是否平穩？

如果存在明顯趨勢、季節性變化或者結構突變，通常需要先做差分、去趨勢或其他處理。

3.2 平穩和長期穩定不是一回事

還有一個常見混淆：stationary 並不等同於“最終趨於某個固定值”。

一個平穩過程可以永遠隨機波動。

同樣，一個非平穩過程也可能在某種變換以後表現出穩定規律。

在 Markov chain 中我們還會遇到 stationary distribution。它和 stationary process 有聯繫，但不是完全相同的概念。

stationary distribution 指的是某個狀態分佈 π\pi 在經過 Markov 轉移以後保持不變，即 πP=π\pi P=\pi。

4. 小結

平穩性關心的是：

平穩性判斷隨機過程的統計規律是否具有時間平移不變性。

嚴格平穩要求完整聯合分佈在時間平移後不變；弱平穩只要求平均值為常數，並且共變異數只依賴時間間隔。

需要特別記住兩點：

  • 平穩不意味著 sample path 不變化；
  • 平穩過程和平穩增量是兩個不同概念。

有了平穩性的概念以後，我們開始能夠描述一個隨機過程“長期統計結構是否穩定”。

但接下來還有一個更基礎的問題：當大量隨機變數不斷累積時，它們為什麼會出現穩定規律？這就會進入大數定律和中心極限定理。