随机过程用索引组织一族随机变量。当索引表示时间时,一个基本问题是:过程的概率规律是否会随时间改变?如果索引表示空间坐标,相同问题则变为概率规律是否随坐标平移而改变。

**平稳性(stationarity)**描述统计规律对时间平移的不变性。平稳过程的样本路径仍然可以不断变化。

1. 平稳性的定义

1.1 一个明显的非平稳过程

考虑 Xt=t+ϵtX_t=t+\epsilon_t,其中 ϵtN(0,1)\epsilon_t\sim N(0,1)。该过程满足 E[Xt]=tE[X_t]=t,因此分布中心会随时间向右移动。X10X_{10} 大致围绕 10 波动,X100X_{100} 大致围绕 100 波动。两个时刻的统计规律不同,所以该过程不平稳。

1.2 时间平移不变性

截取过程的一段 Xt,Xt+1,Xt+2X_t,X_{t+1},X_{t+2},再把观察窗口向后移动 100 个单位,得到 Xt+100,Xt+101,Xt+102X_{t+100},X_{t+101},X_{t+102}

如果两段具有相同的统计规律,过程便具有时间平移不变性。平稳性要求统计规律相同,不要求两段的实际数值相同。

1.3 严格平稳

**严格平稳(strict stationarity)**要求:对于任意 t1,,tnt_1,\dots,t_n 和任意时间平移 τ\tau(Xt1,,Xtn)(X_{t_1},\dots,X_{t_n})(Xt1+τ,,Xtn+τ)(X_{t_1+\tau},\dots,X_{t_n+\tau}) 具有完全相同的联合分布。无论选择多少个时间点,整体平移都不能改变联合概率结构。严格平稳要求所有阶的联合分布保持不变,因此条件很强。

1.4 弱平稳

实际分析经常使用弱平稳(weak stationarity),也称二阶平稳。弱平稳通常要求:

  1. 均值不随时间变化,即 E[Xt]=μE[X_t]=\mu
  2. 协方差只依赖时间间隔,不依赖两个时间点的绝对位置:
Cov(Xt,Xt+τ)=C(τ).(1)\operatorname{Cov}(X_t,X_{t+\tau})=C(\tau). \tag{1}

两个时间点只要相隔相同的距离,就具有相同协方差。原本关于 s,ts,t 的二元函数因此可以简化为关于 lag τ\tau 的一元函数。

2. 常见误解与典型过程

2.1 平稳不表示状态静止

平稳过程可以在每个时间点发生剧烈变化。例如,i.i.d. 白噪声满足 XtN(0,1)X_t\sim N(0,1),并且各个时间点相互独立。一条样本路径可能是 0.3 → -1.7 → 2.1 → 0.4 → -0.9 → ...

样本值不断变化,但每个时间点的分布相同,联合结构也具有时间平移不变性,所以白噪声是平稳的。

平稳性描述概率规律,不描述样本路径是否平滑。

2.2 白噪声的重要性

白噪声通常满足:

  • E[ϵt]=0E[\epsilon_t]=0
  • Var(ϵt)=σ2\operatorname{Var}(\epsilon_t)=\sigma^2
  • 不同时间点不相关,常见模型还会进一步假设独立。

白噪声没有趋势,也没有明显的时间记忆。许多复杂过程可以视为对白噪声进行变换。例如,随机游走 Xt=i=1tϵiX_t=\sum_{i=1}^t\epsilon_i 就是不断累积白噪声增量。

2.3 平稳过程与平稳增量

随机游走通常不是平稳过程。如果 ϵt\epsilon_t 的方差是 σ2\sigma^2,则 Var(Xt)=tσ2\operatorname{Var}(X_t)=t\sigma^2

位置分布随 tt 增大而变宽,因此 XtX_t 的统计规律在变化。

如果增量 Xt+hXtX_{t+h}-X_t 的分布只依赖 hh,不依赖 tt,则过程具有平稳增量(stationary increments)

  • stationary process:过程本身的统计规律对时间平移不变;
  • stationary increments:相同长度区间内的变化量具有相同分布。

Brownian motion 本身不平稳,但具有平稳增量。

3. 平稳性的价值与边界

3.1 平稳性支持从过去推断未来

如果生成数据的概率机制持续变化,从过去估计的统计量可能很快失效。平稳性允许研究者把过去估计的统计规律用于未来同类时间段。

经典时间序列分析通常先检查序列是否平稳。具有趋势、季节变化或结构突变的序列可能需要差分、去趋势或其他预处理。

3.2 平稳不等于收敛到固定值

平稳过程可以永远随机波动。非平稳过程也可能在适当变换后呈现稳定规律。

Markov chain 中的 stationary distribution 与 stationary process 有联系,但含义不同。平稳分布 π\pi 经过 Markov 转移后保持不变:πP=π\pi P=\pi

4. 核心概念

严格平稳要求完整联合分布在时间平移后不变;弱平稳要求均值为常数,并且协方差只依赖时间间隔。

需要区分两个概念:平稳过程的样本路径仍可剧烈变化;平稳过程和平稳增量也不是同一条件。平稳性描述长期统计结构是否稳定,大数定律和中心极限定理则解释大量随机变量累积后为何出现稳定规律。