自在学

我们与你共同进步

  • 分类课程
  • 文章
  • 工作台
  • 订阅

  • 关于我们
  • 隐私政策
  • 使用条款

探索

  • 分类课程
  • 文章
  • 工作台
  • 订阅

网站信息

  • 关于我们
  • 隐私政策
  • 使用条款

加入社区

自在学学习社区微信二维码

微信扫码,交流学习

株洲市自在学教育科技有限公司© 2025 - 2026 版权所有

© 2025 - 2026 株洲市自在学教育科技有限公司 版权所有

湘公网安备43020302000292号|湘ICP备2025148919号-1
分类课程工作台文章订阅
分类课程工作台文章价格

随机过程 I:随机系统、马尔可夫链与 Poisson 过程

  1. 01随机过程语言:状态、时间与路径
  2. 02离散时间 Markov 链:矩阵与多步概率
  3. 03状态分类与吸收链:首达、命中与停留时间
  4. 04平稳分布、周期性与遍历性
  5. 05连续时间 Markov 链:等待与生成矩阵
  6. 06Poisson 过程:从局部条件到计数分布
  7. 07更新过程:叠加、稀释与非指数间隔
  8. 08基础排队模型:M/M/1 与 Little 定律
  9. 09更新报酬与综合建模
  10. 10离散鞅直观:公平游戏与停止
正在加载课程章节内容
课程数学随机过程 I:随机系统、马尔可夫链与 Poisson 过程离散鞅直观:公平游戏与停止

10 离散鞅与首达问题

抛一枚公平硬币,正面赢 1 元,反面输 1 元。现在你已经知道前 20 次结果,问第 21 次之后的资金平均会是多少。答案很简单:条件期望等于当前资金。但这句话不代表下一步不会输,也不代表你可以通过聪明地挑选停手时刻把公平游戏变成稳赚游戏。

离散鞅正好把这种“在当前信息下没有条件平均优势”的直觉写成数学语言。本章从信息逐步增加的过程出发,解释条件期望为什么是公平性的核心;然后用停止时间描述“什么时候停手”,在有限边界的首达问题中得到命中概率和平均耗时。涉及停止定理的地方只使用受控、有限的例子,并把一般结论的边界明确标出来。

逐步增加的信息与样本路径树

公平性必须相对于信息来谈

令 F_n 表示时刻 n 已经知道的全部信息。最基本的要求是信息随时间增加:

F_0⊆F_1⊆F_2⊆...。

一个随机变量 M_n 如果在时刻 n 的信息下已经可以确定,就说它适应于这组信息;直观上,观察者在第 n 步不需要偷看未来就能知道 M_n。若每个 M_n 可积,即 E[|M_n|]<∞,并且

E[M_{n+1}|F_n]=M_n,

那么过程 (M_n) 称为离散时间鞅。

等式的左边不是把下一步结果直接算出来,而是在已知 F_n 的条件下,对未来不确定性取平均。右边是当前值,所以鞅说的是:知道现在以后,下一步的条件平均没有系统性上升或下降。

条件期望把未来随机结果压回当前信息

以公平游戏为例,设每步增量 ξ_{n+1} 取 +1 和 -1,概率均为 1/2,且与过去独立。资金过程

M_n=M_0+ξ_1+...+ξ_n

满足

E[M_{n+1}|F_n]=E[M_n+ξ_{n+1}|F_n]=M_n+E[ξ_{n+1}]=M_n。

相邻两步之间的关键只是一行:未来增量与过去独立,且平均为零。若游戏的赢面依赖过去,或每次下注金额由过去改变,就需要重新计算条件期望,不能只因为“每一步看起来公平”就下结论。

鞅不是“每条轨迹都不变”,也不是“不会出现连续亏损”。它只约束条件平均。公平游戏完全可能先连续输很多次;鞅性质表达的是,在这些结果已经发生之后,下一步的平均增量仍为零。

两个离散鞅例子

对称随机游走

令 S_0=i,并令每一步以相同概率向左或向右移动一个单位。取 F_n 为前 n 步的全部信息,则 S_n 是鞅,因为

E[S_{n+1}|F_n]=S_n+E[ξ_{n+1}|F_n]=S_n。

这里 S_n 本身可以是位置、库存差额或账户余额。换一个视角,若每一步增量 ξ_{n+1} 的条件平均为 d 而不是 0,那么

S_n-nd

才可能是鞅。减去的 nd 被称为补偿项:它拿走了可预测的平均漂移,只留下条件平均为零的部分。

补偿后的计数过程

每个时段是否有顾客到达,用独立指标变量 I_k 表示,P(I_k=1)=p。累计到达数为

N_n=I_1+...+I_n。

每一步平均增加 p,所以 N_n 不是鞅;但

M_n=N_n-np

是鞅。验证时只需写

E[M_{n+1}|F_n]=E[N_n+I_{n+1}-(n+1)p|F_n]

=N_n-np+E[I_{n+1}]-p=M_n。

这个形式很有用:观察到的累计数减去按模型预期的累计数,形成一个没有可预测偏差的过程。它不表示每个样本都接近 np,而是表示每一步新增的“意外部分”在条件平均上为零。

累计计数与补偿后鞅的路径对照

1
若独立增量 ξ_{n+1} 满足 E[ξ_{n+1}]=d,哪一个过程体现了去掉可预测漂移后的鞅结构?

停止时间:只看已经发生的事

“等到资金第一次达到 10 元就停”是一个自然的停手规则。把停止时刻记作 τ,它必须满足:对每个 n,事件 {τ≤n} 可以由 F_n 判断。换句话说,到第 n 步时,只使用已经看到的信息,就能知道是否已经停了。这样的 τ 称为相对于 (F_n) 的停止时间。

首次到达某个状态是停止时间。例如

τ={n≥0:S_n∈{0,N}} 的最小值

表示第一次碰到上下边界的时刻。因为到时刻 n 只需检查前 n 步是否已经碰到边界,所以它符合定义。

相反,设硬币游走,规定“如果第 2 步是正面就第 1 步停,否则第 2 步停”。在第 1 步结束时,你还不知道第 2 步,所以“是否在第 1 步前已经决定停下”不能由当时信息判断。这不是停止时间。规则看起来只多看了一步,却已经把未来信息偷偷放进了停手决定。

停止时间与首达边界的路径示意

为了在固定时刻使用鞅的条件期望,常把过程截断为

M_{n∧τ},其中 n∧τ=min(n,τ)。

在每一步,如果还没有停,就按鞅规则走一步;如果已经停,就保持原值。对有界停止时间,或者对有限状态、有限边界中先截断再取极限的受控情形,可以得到

E[M_{n∧τ}]=E[M_0]。

这不是一句“任何时候随便停,平均值都不变”的通行证。它背后需要可积性、停止规则和极限交换等条件;一般停止定理的完整证明超出本章范围。我们只在有限边界的例子里逐项核对这些条件。

用鞅求首达概率

考虑对称随机游走 S_n,从 S_0=i 出发,其中 0<i<N。游走每步向左或向右移动一个单位,到达 0 或 N 就停止。令 τ 是首次到达 {0,N} 的时刻,记

p_i=P_i(S_τ=N)。

我们要找的是先到上边界的概率,而不是某一条路径会怎么走。选择 S_n 作为鞅,是因为在停止时它只剩两个可能值:0 或 N。这种“停下之后变量取很少几个值”的结构,正是方法选择的理由。

上下边界之间的首达概率结构

先在固定时刻 n 截断停止时间,写成 E_i[S_{n∧τ}]=i。在有限区间内,路径不会逃到边界之外,且截断变量有界,所以可以在这个受控范围使用鞅的公平性。
在这个有限边界游走中,τ 以概率 1 发生;让 n 增大后,S_{n∧τ} 走到停止时就是 S_τ。于是得到 E_i[S_τ]=i。这里使用的是有限状态边界带来的受控极限,不把它推广成任意停止时间的结论。
按最后落在哪个边界拆分期望:S_τ=N 的概率是 p_i,S_τ=0 的概率是 1-p_i,所以 E_i[S_τ]=N p_i+0(1-p_i)=Np_i。
令它等于初始位置 i,得到 p_i=i/N。检查边界也合理:从 0 出发命中 N 的概率是 0,从 N 出发则是 1;初始位置越靠近 N,命中 N 的概率越大。

例如 N=10,i=3 时,先到 10 的概率是 3/10。这不是说每条路径有 30% 的“中间状态”,而是许多次独立重复实验中,先触碰上边界的比例趋近于 0.3。

2
对称随机游走从区间内部出发时,越靠近上边界,先到上边界的概率越大。

同一个问题还可以问平均停多久

概率 p_i 只告诉我们先碰哪一边。若想知道平均需要多少步,单独使用 S_n 不够,因为 S_τ 只记录终点,不记录路径长度。一个自然的候选是平方修正后的过程

Q_n=S_n^2-n。

验证它是鞅。因为下一步增量 ξ_{n+1} 取 ±1,有

S_{n+1}^2=(S_n+ξ_{n+1})^2=S_n^2+2S_nξ_{n+1}+1。

在 F_n 下取条件期望,E[ξ_{n+1}|F_n]=0,于是

E[S_{n+1}^2-(n+1)|F_n]=S_n^2-n。

在同一个有限边界首达问题中使用截断与受控极限,可得

E_i[S_τ^2-τ]=i^2。

停下时 S_τ 只有 0 和 N 两种值,所以 E_i[S_τ^2]=N^2p_i=N^2(i/N)=Ni。代回即得

E_i[τ]=Ni-i^2=i(N-i)。

例如 N=10,i=3,平均停止时间为 3×7=21 步。这个结果的形状也值得检查:从边界出发是 0 步;从中间出发通常要走得更久;关于中点 N/2 对称。对大的 N,中间位置的平均停留时间达到约 N^2/4,说明首达问题的时间尺度是平方级,而不是线性级。

首达概率与平均停留时间的对照

有偏游走的一个方法提示

若向右概率为 p、向左概率为 q=1-p,且 p≠q,位置 S_n 不再是鞅,因为每步平均增量为 p-q。这时选择 r=q/p,考察

M_n=r^{S_n}。

给定当前位置 s,下一步的条件平均为

p r^{s+1}+q r^{s-1}=r^s(pr+q/r)=r^s(q+p)=r^s。

因此它是鞅。用同样的有限边界首达思路,可以得到

P_i(S_τ=N)=\frac{1-(q/p)^i}{1-(q/p)^N}。

这里的重点是方法选择:有漂移时,不要机械使用位置本身;寻找一个使“一步条件平均保持不变”的变换。令 p 趋近 1/2 时,这个表达式连续地回到 i/N 的对称情形,但极限化简需要单独处理,不能在 p=q 时直接代入分母为零的式子。

公平性的边界

鞅方法很有力量,也很容易被用过头。

其一,停止时间必须不偷看未来。根据完整路径挑一个“最有利”的时刻,往往已经不是停止时间。

其二,停止后的变量必须能控制。即使 τ 以概率 1 有限,M_τ 的期望也未必能从 M_0 直接推出。对称随机游走从 0 出发,令 τ 为第一次到达 +1 的时刻。这个 τ 确实几乎处处有限,且 S_τ=1,所以 E[S_τ]=1,并不等于 S_0=0。问题在于这个停止时间的期望是无穷,停止前的负向路径没有统一的可积控制;把固定时刻的等式直接推到这个无界停止时刻是不合法的。

其三,鞅只表达条件平均公平,不保证方差小、不保证路径稳定,也不保证一个有限样本会显示出接近 0 的收益。若过程有向下的条件漂移,则对应的是超鞅;若有向上的条件漂移,则对应的是次鞅。判断时应回到条件期望,而不是凭一两条样本路径贴标签。

“我可以等到有利时刻再停,所以公平游戏一定能赚钱”是典型误读。必须同时检查停手规则是否只依赖过去、停止后的变量是否可积,以及是否具备足够的有界性或一致控制。缺少这些条件时,E[M_τ]=E[M_0] 可能根本没有资格写出来。

这个交互位置适合让你同时看许多条公平随机游走路径,逐步增加观察步数,比较“每一步条件平均为零”和“单条路径上下波动”之间的区别。

第二个交互位置适合调整起点、上下边界和左右概率,观察首达概率及平均停留时间。改变参数后,先用 i/N 或 i(N-i) 做对称情形的预测,再判断有偏情形为什么需要换鞅。

练习

题 1(巩固)。 设 I_1,I_2,... 独立,P(I_k=1)=0.4,N_n=I_1+...+I_n。证明 N_n-0.4n 是鞅,并说明 N_n 本身为什么不是鞅。

取 F_n=σ(I_1,...,I_n)。由于 I_{n+1} 与 F_n 独立,且 E[I_{n+1}]=0.4,有 E[N_{n+1}-0.4(n+1)|F_n]=N_n+0.4-0.4n-0.4=N_n-0.4n,所以补偿过程是鞅。对 N_n 本身,E[N_{n+1}|F_n]=N_n+0.4,不是 N_n,它有可预测的向上漂移。

题 2(变式)。 对称随机游走在 {0,8} 内从 i=2 出发,到达任一边界就停止。求先到 8 的概率和平均停止步数。

有限边界下可使用位置鞅和平方修正鞅。先到上边界的概率为 i/N=2/8=1/4;平均停止步数为 i(N-i)=2×6=12 步。检查:起点离 0 较近,所以先到 8 的概率小于一半;平均时间为正且量级合理。

3
下列哪些规则是相对于前 n 步信息的停止时间?

题 3(迁移)。 某计数过程每步独立以概率 p 增加 1,否则保持不变。写出一个自然的鞅,并解释它表示什么。

若增量为 I_k,则 N_n=Σ_{k=1}^n I_k,且每步条件平均增量为 p。自然的鞅是 M_n=N_n-np。它表示实际累计数减去模型按平均速率预期的累计数;当前信息给定后,下一步这个偏差的条件平均不再系统性增加或减少。

题 4(边界判断)。 对称随机游走从 0 出发,令 τ 为第一次到达 +1 的时刻。有人写下 E[S_τ]=E[S_0]=0。指出这一步的问题,不必证明 τ 几乎处处有限。

问题是把固定时刻的鞅等式未经条件检查就推广到了无界停止时间。虽然停止后 S_τ=1,但该停止时间的期望为无穷,停止前的路径没有足够的一致可积控制,不能直接交换“取极限”和“取期望”。因此不能从鞅性质推出 E[S_τ]=0。

4
对称随机游走从 i 出发,在 0 和 N 之间首达任一边界时,先到 N 的概率是 ____。

小结:把“公平”放回条件里

离散鞅的核心等式是 E[M_{n+1}|F_n]=M_n。它把当前信息固定下来,只平均未来尚未揭晓的部分。补偿项可以去掉可预测漂移,平方修正项可以把路径长度编码进过程;选对鞅后,有限边界的停止问题会变成对停止时取值的代数计算。

首达概率的计算依靠有限边界和可控停止。停止时间的直观边界同样重要:不能偷看未来,不能默认无界停止可以直接代入,不能把“每步平均公平”误说成“每条路径没有风险”。遇到新问题时,先写清 F_n 知道什么,再核对条件期望,最后才决定是否值得引入停止时间和鞅。

上一章更新报酬与综合建模