Markov process 是随机过程中最重要的一类,经常被简化解释成”未来只依赖现在,不依赖过去”。这句话方便记忆,却容易误导:如果 影响 , 又影响 , 明明会通过 间接影响 ,为什么还能说 不依赖过去?关键在于 Markov 性质说的不是”过去没有影响”,而是在已经知道当前状态以后,过去不会再提供额外信息。
1. Markov 性质
1.1 定义:条件独立,不是无记忆
离散时间的一阶 Markov 性质写成 :已经知道当前状态 时,为了预测下一步 ,更早的历史 不再提供额外信息。
考虑 这条依赖链:一般而言 和 相关()完全可能成立,因为影响会沿着链条传导。但 Markov 性质要求 :一旦 已知,再告诉我们 ,不会进一步改变对 的条件分布。这叫条件独立,概率与统计 2第 4 节讨论过条件分布如何随新信息改变,是理解条件独立的基础。
1.2 用一个两状态例子验证条件独立
假设系统只有 0 和 1 两种状态,每一步有 90% 的概率保持原状态、10% 的概率翻转。若只知道 ,确实可以据此推测 : 的概率是 , 的概率是 ,两条路径加总,,明显不同于直接翻转一次的概率。
但只要已经知道 ,;这时候即使再告诉我们 ,结果仍然是 ,完全不变。真正被切断的是”额外信息”,不是过去对现在的历史影响——过去仍然通过 影响 ,只是一旦 已知, 就不再能补充任何东西。
2. 状态设计决定 Markov 性
2.1 同一个系统,换一种状态表示就能变成 Markov
考虑一个运动物体,若只用当前位置 当作状态,通常不足以预测下一秒的位置,因为还需要知道速度:两辆车当前在同一位置,一辆向东高速行驶、一辆向西高速行驶,下一秒显然会到不同地方,所以”位置过程”本身可能不是 Markov 的。但只要把状态扩充成 ,同时包含位置和速度,在简单动力学模型里 就可能只依赖 。同一个物理系统在不同状态表示下,可以表现为 Markov 或非 Markov,这是选择状态表示时最容易忽略的一步,也是建模时最常见的错误来源。
2.2 非 Markov 的例子与修补方式
考虑 :只知道 还无法确定下一步的条件分布,因为 仍提供额外信息,,这是一个简单的非一阶 Markov 过程。把状态重新定义为 之后,新的状态过程就会重新变成一阶 Markov——这个技巧几乎可以无限套用:任何 阶 Markov 过程,都能通过把过去 步打包成一个更大的状态,重写成一阶 Markov 形式,代价是状态空间会随 指数增长。
3. Markov chain 与转移矩阵
3.1 一步转移矩阵
时间和状态空间都离散时,得到的是 Markov chain(马尔可夫链)。假设状态空间只有 ,一步转移矩阵可以写成:
第一行表示目前处于 A 时,下一步仍在 A 的概率是 0.7、转移到 B 是 0.2、转移到 C 是 0.1;每一行之和都等于 1,因为下一步一定会落在某个状态上。
3.2 多步转移:Chapman–Kolmogorov 的具体计算
若已知一步转移矩阵 ,任意多步以后的转移概率就是 的幂: 步转移矩阵等于 。以上面的 为例,计算 可得从 A 出发、两步后到 B 的概率 。这个数字也可以直接用路径加总验证:两步内经过 A、B、C 三种中间状态到达 B 的概率分别是 (经过 A)、(经过 B)、(经过 C),三者相加正好是 。这正是 Chapman–Kolmogorov 方程的具体体现:多步转移概率等于对所有可能的中间状态,把”先到中间状态”和”再到终点”的概率相乘后加总。一个看似复杂的长期随机演化,因此可以完全由局部的一步转移规则组合得到,不需要另外假设任何新规律。
4. 常见误解与模型限制
把 Markov 性质理解成”过去和未来完全无关”是最常见的误解:真正的意思是给定当前状态以后,过去不再提供额外信息,过去仍然可以通过当前状态间接影响未来,只是它的作用已经被压缩在 里。第二个常见错误是状态设计不足:很多”看起来不是 Markov”的系统,其实只是状态选得太窄,补上缺少的信息(例如前述例子里的速度、或更高阶的历史)以后就能重新变成 Markov;但这也代表一阶 Markov 的假设本身可以被任意”作弊”式地满足,真正有意义的问题往往不是”能不能写成 Markov”,而是”用多大的状态空间才能写成 Markov”——状态空间过度膨胀会让估计和计算都变得不切实际。第三个限制是转移概率本身通常假设不随时间改变(时间齐次),若系统的规律本身会随时间演化,就需要额外处理时变转移矩阵,不能直接套用 这个结果。
5. 小结
Markov 性质是条件独立,不是”过去和未来无关”:给定当前状态以后,过去对未来不再提供额外信息,但过去的影响仍然可以沿着 这样的链条传导,只是已经被压缩进当前状态。一个过程是不是 Markov,取决于状态怎么定义,这也是 state representation 在 Markov 理论中如此核心的原因。一步转移矩阵可以通过矩阵幂,组合出任意多步以后的转移概率,这个性质也是接下来讨论 Markov chain 长期行为——随机过程 6:马尔可夫链的长期行为里 stationary distribution、recurrent、transient、absorbing state 与 mixing 等概念——的计算基础。