随机过程描述的是一族带索引的随机变量。既然索引通常表示时间，那么一个非常自然的问题是：

这个过程的概率规律本身，会不会随着时间改变？

当然，如果索引不是时间，比如说坐标，就是规律会不会随着坐标而变化。

如果一个随机过程在不同时间段具有相同或相近的统计规律，我们就会进入随机过程中的一个核心概念：平稳性（stationarity）。

平稳性不是说一条 sample path 不变化，而是说：

过程背后的统计规律不因为时间平移而改变\boxed{\text{过程背后的统计规律不因为时间平移而改变}}

1. 平稳性的定义

1.1 一个明显非平稳的过程

考虑：

Xt=t+ϵtX_t=t+\epsilon_t

其中 ϵt∼N(0,1)\epsilon_t\sim N(0,1)。

那么 E[Xt]=tE[X_t]=t。随着时间增加，整个分布的中心不断向右移动。

例如 X10X_{10} 大约围绕 10 波动，而 X100X_{100} 大约围绕 100 波动。

显然，第 10 时刻和第 100 时刻的统计规律并不相同，这就是一个非常直接的非平稳过程。

1.2 平稳到底是什么意思

直觉上，如果我们截取这个过程的一段：

Xt,Xt+1,Xt+2X_t,X_{t+1},X_{t+2}

然后把观察窗口整体向后移动 100 个单位：

Xt+100,Xt+101,Xt+102X_{t+100},X_{t+101},X_{t+102}

如果两段的统计规律完全一样，那么这个过程就具有一种时间平移不变性。

这就是平稳性的核心。

注意这里说的是“统计规律一样”，不是要求两段真实取值一样。

1.3 严格平稳

最强的一种定义叫 严格平稳（strict stationarity）。

对于任意时间点 t1,…,tnt_1,\dots,t_n，以及任意时间平移 τ\tau，如果：

(Xt1,…,Xtn)(X_{t_1},\dots,X_{t_n})

和

(Xt1+τ,…,Xtn+τ)(X_{t_1+\tau},\dots,X_{t_n+\tau})

具有完全相同的联合分布，那么这个过程就是严格平稳的。

也就是说，不管选多少个时间点，只要把它们整体平移，联合概率结构都不发生变化。

这是一个非常强的条件，因为它要求所有阶的联合分布都保持不变。

1.4 弱平稳

实际分析中经常使用更弱的条件：弱平稳（weak stationarity），也叫二阶平稳。

它通常只要求两件事：

第一，均值不随时间变化，即 E[Xt]=μE[X_t]=\mu。

第二，协方差只依赖两个时间点之间的间隔，而不依赖它们具体位于哪里：

Cov⁡(Xt,Xt+τ)=C(τ)(1)\operatorname{Cov}(X_t,X_{t+\tau})=C(\tau) \tag{1}

所以如果两个时间点相隔 10 个单位，那么不管它们是 t=0t=0 和 t=10t=10，还是 t=1000t=1000 和 t=1010t=1010，协方差都相同。

这就让很多分析变得简单，因为原本需要研究两个变量 s,ts,t 的函数，现在只需要研究一个 lag τ\tau。

2. 常见误解与典型过程

2.1 平稳不等于“不动”

平稳最容易被误解成“这个过程基本不变化”。

实际上，一个平稳过程可以在每一个时间点都发生非常剧烈的随机变化。

例如 i.i.d. 白噪声：

Xt∼N(0,1)X_t\sim N(0,1)

并且各个时间点相互独立。

一次 sample path 可能是：

0.3 → -1.7 → 2.1 → 0.4 → -0.9 → ...

它显然一直在变化。

但每一个时间点的分布都一样，不同时间点之间的联合结构也具有时间平移不变性，所以它是平稳的。

因此：

平稳描述的是概率规律，而不是具体轨迹是否平滑\boxed{\text{平稳描述的是概率规律，而不是具体轨迹是否平滑}}

2.2 白噪声为什么重要

白噪声可以看作最简单的平稳过程之一。

通常假设：

  • E[ϵt]=0E[\epsilon_t]=0；
  • Var⁡(ϵt)=σ2\operatorname{Var}(\epsilon_t)=\sigma^2；
  • 不同时间点之间不相关，常见情况下还会进一步假设独立。

它没有趋势，也没有明显的时间记忆。

虽然白噪声自身看起来很简单，但很多复杂过程都可以理解成“对白噪声进行某种变换”。

例如随机游走：

Xt=∑i=1tϵiX_t=\sum_{i=1}^t\epsilon_i

就是把一系列随机增量不断累积。

2.3 平稳过程和平稳增量不是一回事

这个区别非常重要。

随机游走通常不是平稳过程。

假设 ϵt\epsilon_t 的方差是 σ2\sigma^2，则：

Var⁡(Xt)=tσ2\operatorname{Var}(X_t)=t\sigma^2

随着 tt 增大，随机游走的位置分布越来越宽，因此 XtX_t 的统计规律在变化。

所以随机游走本身不是平稳的。

但它的增量：

Xt+h−XtX_{t+h}-X_t

如果只取决于 hh 而与 tt 无关，就称它具有平稳增量（stationary increments）。

因此：

  • stationary process：过程本身的统计规律对时间平移不变；
  • stationary increments：相同长度时间段内的变化量具有相同分布。

布朗运动就是一个典型例子：它本身不是平稳过程，但具有平稳增量。

3. 平稳性的价值与边界

3.1 为什么平稳性如此重要

假设我们用过去的数据估计某个随机过程的规律。

如果这个过程的概率机制一直变化，那么过去得到的统计量可能很快失效。

平稳性提供了一种重要的可复用性：

过去估计出的统计规律，可以用于描述未来相同类型的时间段。

这也是为什么经典时间序列分析常常先问：

这个序列是否平稳？

如果存在明显趋势、季节性变化或者结构突变，通常需要先做差分、去趋势或其他处理。

3.2 平稳和长期稳定不是一回事

还有一个常见混淆：stationary 并不等同于“最终趋于某个固定值”。

一个平稳过程可以永远随机波动。

同样，一个非平稳过程也可能在某种变换以后表现出稳定规律。

在 Markov chain 中我们还会遇到 stationary distribution。它和 stationary process 有联系，但不是完全相同的概念。

stationary distribution 指的是某个状态分布 π\pi 在经过 Markov 转移以后保持不变，即 πP=π\pi P=\pi。

4. 小结

平稳性关心的是：

随机过程的统计规律是否具有时间平移不变性\boxed{\text{随机过程的统计规律是否具有时间平移不变性}}

严格平稳要求完整联合分布在时间平移后不变；弱平稳只要求均值为常数，并且协方差只依赖时间间隔。

需要特别记住两点：

  • 平稳不意味着 sample path 不变化；
  • 平稳过程和平稳增量是两个不同概念。

有了平稳性的概念以后，我们开始能够描述一个随机过程“长期统计结构是否稳定”。

但接下来还有一个更基础的问题：当大量随机变量不断累积时，它们为什么会出现稳定规律？这就会进入大数定律和中心极限定理。