Markov process 是随机过程中最重要的一类,经常被简化解释成”未来只依赖现在,不依赖过去”。这句话方便记忆,却容易误导:如果 X1X_1 影响 X2X_2X2X_2 又影响 X3X_3X1X_1 明明会通过 X2X_2 间接影响 X3X_3,为什么还能说 X3X_3 不依赖过去?关键在于 Markov 性质说的不是”过去没有影响”,而是在已经知道当前状态以后,过去不会再提供额外信息

1. Markov 性质

1.1 定义:条件独立,不是无记忆

离散时间的一阶 Markov 性质写成 P(Xt+1Xt,Xt1,,X0)=P(Xt+1Xt)P(X_{t+1}\mid X_t,X_{t-1},\dots,X_0)=P(X_{t+1}\mid X_t):已经知道当前状态 XtX_t 时,为了预测下一步 Xt+1X_{t+1},更早的历史 Xt1,Xt2,X_{t-1},X_{t-2},\dots 不再提供额外信息。

考虑 X1X2X3X_1\rightarrow X_2\rightarrow X_3 这条依赖链:一般而言 X1X_1X3X_3 相关(X1⊥̸X3X_1\not\perp X_3)完全可能成立,因为影响会沿着链条传导。但 Markov 性质要求 X1X3X2X_1\perp X_3\mid X_2:一旦 X2X_2 已知,再告诉我们 X1X_1,不会进一步改变对 X3X_3 的条件分布。这叫条件独立概率与统计 2第 4 节讨论过条件分布如何随新信息改变,是理解条件独立的基础。

1.2 用一个两状态例子验证条件独立

假设系统只有 0 和 1 两种状态,每一步有 90% 的概率保持原状态、10% 的概率翻转。若只知道 X1=1X_1=1,确实可以据此推测 X3X_31111\to1\to1 的概率是 0.9×0.9=0.810.9\times0.9=0.811011\to0\to1 的概率是 0.1×0.1=0.010.1\times0.1=0.01,两条路径加总,P(X3=1X1=1)=0.82P(X_3=1\mid X_1=1)=0.82,明显不同于直接翻转一次的概率。

但只要已经知道 X2=0X_2=0P(X3=1X2=0)=0.1P(X_3=1\mid X_2=0)=0.1;这时候即使再告诉我们 X1=1X_1=1,结果仍然是 P(X3=1X2=0,X1=1)=0.1P(X_3=1\mid X_2=0,X_1=1)=0.1,完全不变。真正被切断的是”额外信息”,不是过去对现在的历史影响——过去仍然通过 X2X_2 影响 X3X_3,只是一旦 X2X_2 已知,X1X_1 就不再能补充任何东西。

2. 状态设计决定 Markov 性

2.1 同一个系统,换一种状态表示就能变成 Markov

考虑一个运动物体,若只用当前位置 XtX_t 当作状态,通常不足以预测下一秒的位置,因为还需要知道速度:两辆车当前在同一位置,一辆向东高速行驶、一辆向西高速行驶,下一秒显然会到不同地方,所以”位置过程”本身可能不是 Markov 的。但只要把状态扩充成 St=(Xt,Vt)S_t=(X_t,V_t),同时包含位置和速度,在简单动力学模型里 St+1S_{t+1} 就可能只依赖 StS_t。同一个物理系统在不同状态表示下,可以表现为 Markov 或非 Markov,这是选择状态表示时最容易忽略的一步,也是建模时最常见的错误来源。

2.2 非 Markov 的例子与修补方式

考虑 Xt+1=Xt+Xt1+ϵtX_{t+1}=X_t+X_{t-1}+\epsilon_t:只知道 XtX_t 还无法确定下一步的条件分布,因为 Xt1X_{t-1} 仍提供额外信息,P(Xt+1Xt,Xt1)P(Xt+1Xt)P(X_{t+1}\mid X_t,X_{t-1})\neq P(X_{t+1}\mid X_t),这是一个简单的非一阶 Markov 过程。把状态重新定义为 St=(Xt,Xt1)S_t=(X_t,X_{t-1}) 之后,新的状态过程就会重新变成一阶 Markov——这个技巧几乎可以无限套用:任何 kk 阶 Markov 过程,都能通过把过去 kk 步打包成一个更大的状态,重写成一阶 Markov 形式,代价是状态空间会随 kk 指数增长。

3. Markov chain 与转移矩阵

3.1 一步转移矩阵

时间和状态空间都离散时,得到的是 Markov chain(马尔可夫链)。假设状态空间只有 A,B,CA,B,C,一步转移矩阵可以写成:

P=[0.70.20.10.10.80.10.30.20.5]P= \begin{bmatrix} 0.7 & 0.2 & 0.1\\ 0.1 & 0.8 & 0.1\\ 0.3 & 0.2 & 0.5 \end{bmatrix}

第一行表示目前处于 A 时,下一步仍在 A 的概率是 0.7、转移到 B 是 0.2、转移到 C 是 0.1;每一行之和都等于 1,因为下一步一定会落在某个状态上。

3.2 多步转移:Chapman–Kolmogorov 的具体计算

若已知一步转移矩阵 PP,任意多步以后的转移概率就是 PP 的幂:nn 步转移矩阵等于 PnP^n。以上面的 PP 为例,计算 P2P^2 可得从 A 出发、两步后到 B 的概率 P(X2=BX0=A)=0.32P(X_2=B\mid X_0=A)=0.32。这个数字也可以直接用路径加总验证:两步内经过 A、B、C 三种中间状态到达 B 的概率分别是 0.7×0.2=0.140.7\times0.2=0.14(经过 A)、0.2×0.8=0.160.2\times0.8=0.16(经过 B)、0.1×0.2=0.020.1\times0.2=0.02(经过 C),三者相加正好是 0.14+0.16+0.02=0.320.14+0.16+0.02=0.32。这正是 Chapman–Kolmogorov 方程的具体体现:多步转移概率等于对所有可能的中间状态,把”先到中间状态”和”再到终点”的概率相乘后加总。一个看似复杂的长期随机演化,因此可以完全由局部的一步转移规则组合得到,不需要另外假设任何新规律。

4. 常见误解与模型限制

把 Markov 性质理解成”过去和未来完全无关”是最常见的误解:真正的意思是给定当前状态以后,过去不再提供额外信息,过去仍然可以通过当前状态间接影响未来,只是它的作用已经被压缩在 XtX_t 里。第二个常见错误是状态设计不足:很多”看起来不是 Markov”的系统,其实只是状态选得太窄,补上缺少的信息(例如前述例子里的速度、或更高阶的历史)以后就能重新变成 Markov;但这也代表一阶 Markov 的假设本身可以被任意”作弊”式地满足,真正有意义的问题往往不是”能不能写成 Markov”,而是”用多大的状态空间才能写成 Markov”——状态空间过度膨胀会让估计和计算都变得不切实际。第三个限制是转移概率本身通常假设不随时间改变(时间齐次),若系统的规律本身会随时间演化,就需要额外处理时变转移矩阵,不能直接套用 PnP^n 这个结果。

5. 小结

Markov 性质是条件独立,不是”过去和未来无关”:给定当前状态以后,过去对未来不再提供额外信息,但过去的影响仍然可以沿着 X1X2X3X_1\to X_2\to X_3 这样的链条传导,只是已经被压缩进当前状态。一个过程是不是 Markov,取决于状态怎么定义,这也是 state representation 在 Markov 理论中如此核心的原因。一步转移矩阵可以通过矩阵幂,组合出任意多步以后的转移概率,这个性质也是接下来讨论 Markov chain 长期行为——随机过程 6:马尔可夫链的长期行为里 stationary distribution、recurrent、transient、absorbing state 与 mixing 等概念——的计算基础。