经典动力系统通常写成确定性的微分方程:
给定初始条件以后,未来轨迹原则上唯一确定。
但现实系统常常持续受到不可预测的随机扰动。把这种扰动直接放入连续时间动力系统,就得到 Stochastic Differential Equation(随机微分方程,SDE)。
1. 从 ODE 到 SDE
1.1 从确定性 ODE 到随机动力系统
最简单的思想是:
连续时间下通常写成:
其中:
- 称为 drift;
- 控制 diffusion 强度;
- 是 Brownian motion。
1.2 Drift
表示系统在没有随机噪声时的平均演化方向。
例如:
中的 表示长期平均趋势。
如果 ,过程整体向上漂移;如果 ,则整体向下。
1.3 Diffusion
表示随机扰动。
由于 Brownian increment 的尺度是 ,它和普通微分 有完全不同的数量级。
这也是为什么不能简单把 当作普通导数意义下的“小变化”。
2. Itô calculus
2.1 为什么普通微积分不够
Brownian motion 几乎处处不可导,所以不能把:
当作普通函数使用。
因此需要发展新的积分理论,其中最经典的是:
- Itô integral;
- Stratonovich integral。
这进一步产生 stochastic calculus。
2.2 Itô formula
普通微积分中有 chain rule:
但在 Itô calculus 中,由于 会留下 量级贡献,所以会多出二阶项。
一维 Itô formula 的典型形式是:
这看起来只是一个额外项,但它是随机微积分与普通微积分之间最核心的区别之一。
3. 两个经典模型
3.1 Ornstein–Uhlenbeck process
一个经典 SDE 是:
其中 。
当 时,drift 会把它往下拉;当 时,会往上推。
所以它描述 mean reversion(均值回复)。
OU process 广泛用于:
- 物理中的速度模型;
- 金融利率;
- 噪声过程;
- 动态系统。
3.2 Geometric Brownian motion
金融数学中经典的模型是:
它叫 geometric Brownian motion。
随机扰动大小与当前 成比例,因此特别适合描述正值的乘法型随机增长。
Black–Scholes 模型就以它为基础。
4. 分布演化与概念联系
4.1 Fokker–Planck equation
SDE 描述的是 sample path 如何随机运动。
同一个随机系统也可以从“概率密度如何演化”的角度描述,这会得到 Fokker–Planck equation。
因此随机动力系统有两个互补视角:
- SDE:看单条随机轨迹;
- Fokker–Planck:看整个概率分布随时间演化。
4.2 SDE 和前面概念的关系
到这里,前面的很多内容都汇合了:
- Brownian motion 提供连续随机噪声;
- Markov property 描述状态演化;
- martingale 提供条件期望工具;
- Gaussian process 提供重要随机过程类别;
- stationarity 和 ergodicity 描述长期统计性质。
SDE 相当于把这些概念放进一个连续时间动力系统中。
5. 小结
随机微分方程的核心形式是:
它可以理解为:
从这里继续往后,就会进入 stochastic calculus、Itô integration、Fokker–Planck equation、随机控制和更一般的 diffusion process。