0%

随机过程笔记(五)——泊松过程与布朗运动

  我们之前讨论的问题都处在离散时间的框架下,即随机序列\((\rm X_t)\)\(\rm t\)只能取正整数。现在让我们跳出这一框架,讨论更一般的,连续时间的随机过程。具体而言,我们从两个著名的随机过程——泊松过程和布朗运动出发,来一窥连续时间随机过程的不同之处。 # 泊松过程的定义和性质

  泊松过程自然离不开泊松分布,一个随机变量\(\rm X\)服从参数为\(\lambda\)的随机分布是指
\[\rm \mathbb{P}(X=k)=e^{-\lambda}{\lambda^k\over k!},k\geq 0\] 我们用\(\rm p_\lambda(k)\)表示这个概率,泊松分布来自于二项分布的极限,用以描述某一时间段内事件发生的总量。我们从离散时间中提取一些特质来描述连续时间随机过程。
定义\(\rm (X_t)_{t\geq 0}\)为随机过程,
(1)如果对任何\(\rm 0\leq t_1\lt t_2\lt\cdots\lt t_n\),有\(\rm X_{t_n}-X_{t_{n-1}},\cdots,X_{t_2}-X_{t_1},X_{t_1}\)独立,则称\(\rm X\)为独立增量过程。
(2)如果对任何\(\rm t,s\gt 0\)\(\rm X_{t+s}-X_{s}\)\(\rm X_t-X_0\)同分布则称\(\rm X\)为平稳增量过程。
如果\(\rm X\)既是独立增量过程又是平稳增量过程,称其为平稳独立增量过程。
  上述平稳独立增量过程类似于离散时间中的Markov性,但连续时间下构造本身相当困难,不如离散时间简便。同时连续时间的样本轨道是一个关于时间的函数,因而有更多性质可以讨论,比如连续性,光滑性等。但还是让我们先来看一些泊松过程的标准定义:
定义\(\lambda\gt0\)随机过程\(\rm N=(N_t:t\geq 0)\)被称为泊松过程,如果他满足:
(1)\(\rm N_0=0\) a.s.
(2)是平稳独立增量过程
(3)\(\forall \rm t\gt s\geq0,N_t-N_s\)服从\(\lambda\rm (t-s)\)的泊松分布
(4)轨道右连续
  这里轨道右连续是指几乎所有样本轨道右连续。我们希望考察泊松过程的存在性,但正如之前所说,连续时间的构造并不容易,因此让我们先假设他存在,研究下泊松过程的性质,进而在这些性质的指导下给出泊松分布存在性的构造。
  定义表明\(\rm N_t-N_s\)为非负整数,于是自然地认为\(\rm N_t\)取非负整数且关于\(\rm t\)递增但这件事并没有那么简单。注意\(\rm N_t-N_s\)服从泊松分布给出的是\(\rm \mathbb{P}(N_t-N_s\geq 0)=1\)也即不满足该事件的集合为零测集,但这不能推广到\(\rm \mathbb{P}(N_t-N_s\geq0,\forall t\gt s\geq 0)=1\)因为不可数个零测集的并不一定零测。于是我们诉诸右连续来解决这个问题,因而给出如下定理:
定理5.1.1 存在概率为1的事件\(\Omega_0\)使\(\forall \omega\in\Omega_0\)\(\rm N_t(\omega)\)为一个零点为零的取非负整数值的递增右连续且有左极限的函数。
证明 上面分析中提到的问题,我们通过右连续解决,具体来说就是先证明在正有理数集上满足,再由右连续给出正实数上结果。事实上,由于正有理数对\(\rm (t,s)\)可数,根据可数个零测集的并仍零测得到存在这样的\(\Omega_0\)满足要求,进而由右连续给出引理结论(左极限存在显然)。
  这个引理也说明,泊松过程几乎所有样本轨道再任何有限事件内只有有限个跳跃,将跳跃依次记为\(\rm S_1,S_2,\cdots,S_n,\cdots\),也称为更新时间。在跳跃点\(\rm S_n\)上,跳跃度为\(\rm N_{S_n}-N_{S_n-}\)为正整数,下面我们证明跳跃度只能为1。
定理5.1.2 \(\mathbb{P}(\rm N_{S_n}-N_{S_n-}\geq 2)=0\)
证明 只需证\(\mathbb{P}(\rm N_{S_n}-N_{S_n-}\geq 2\)\(\rm 0\lt S_n\leq1)=0\)实际上根据独立增量性,\(\forall \rm m\geq1\)我们有
\[ \begin{align*} \mathbb{P}(\rm N_{S_n}-N_{S_n-}\geq 2,0\lt S_n\leq1)&=\rm \sum_{j=1}^m\mathbb{P}(\rm N_{S_n}-N_{S_n-}\geq 2,S_n\in({j-1\over m},{j\over m}])\\ &\leq \rm \sum_{j=1}^m\mathbb{P}(\rm N_{j\over m}-N_{j-1\over m}\geq 2)\\ &=\rm m\mathbb{P}(N_{1\over m}\geq 2) \end{align*} \] 根据泊松分布的表达式,我们得到当\(\rm m\to\infty\)时右边趋于0,于是得证。
  了解了跳跃度固定以后,接下来让我们研究一下跳跃(或更新)的间隔时间\(\rm T_n:=S_n-S_{n-1},n\geq1\)具体而言,我们给出以下定理
定理5.1.3 \(\{\rm T_n:n\geq 1\}\)是独立同分布的,且都服从参数为\(\lambda\)的指数分布。
证明 具体思路是对一般的\(\rm (T_1,T_2,\cdots,T_k)\)计算其联合分布,如果始终有\(\mathbb{P}(\rm T_1\gt t_1,T_2\gt t_2 ,\cdots,T_k\gt t_k)=\Pi_{i=1}^ke^{-\lambda t_i}\),则结论自然成立。具体来说,我们先计算\(\rm (S_n)\)的联合分布的概率密度函数,进而求解上述概率。
  \(\rm (S_1,S_2,\cdots,S_k)\)联合分布的值域为\(\rm G=\{(y_1,\cdots,y_k)\in\mathbb{R}^k:0\lt y_1\lt\cdots\lt y_k\}\)我们考虑\(\rm G\)中矩形\(\rm (s_1,t_1]\times(s_2,t_2]\times\cdots\times(s_k,t_k]\),则我们有\(\rm 0\lt s_1\leq t_1\lt s_2\leq t_2\lt\cdots\lt s_k\leq t_k\)我们自然考虑\(\rm (S_1,S_2,\cdots,S_k)\)落在这个矩形中所要满足的条件。不难注意到这一事件等价于\(\rm N_{s_1}=0,N_{t_1}-N_{s_1}=1,N_{s_2}-N_{t_1}=0,\cdots,N_{s_k}-N_{t_{k-1}}=0,N_{t_k}-N_{s_k}\geq 1\)于是由独立增量性得到
\[ \begin{align*} &\mathbb{P}(\rm (S_1,S_2,\cdots,S_k)\in (s_1,t_1]\times(s_2,t_2]\times\cdots\times(s_k,t_k])\\ &=\rm \mathbb{P}(N_{s_1}=0)\mathbb{P}(N_{t_1}-N_{s_1}=1)\cdots\mathbb{P}(N_{s_k}-N_{t_{k-1}}=0)\mathbb{P}(N_{t_k}-N_{s_k}\geq 1)\\ &=\rm e^{-\lambda(s_1+s_2-t_1+\cdots+s_k-t_{k-1})}\cdot\Pi_{i=1}^{k-1}(t_i-s_i)\cdot\lambda^{k-1}e^{-\lambda(t_1-s_1+\cdots+t_{k-1}-s_{k-1})}(1-e^{-\lambda(t_k-s_k)})\\ &=\rm \lambda^{k-1}\Pi_{i=1}^{k-1}(t_i-s_i)(e^{-\lambda s_k}-e^{-\lambda t_k})\\ &=\rm \int_{(y_1,\cdots,y_k)\in(s_1,t_1]\times(s_2,t_2]\times\cdots\times(s_k,t_k]}\lambda^ke^{-\lambda y_k}dy_1\cdots dy_k \end{align*} \] 再注意到由矩形生成的\(\sigma\)-代数恰是\(\rm G\)上的Borel代数,故随机向量\((\rm S_j:1\leq j\leq k)\)分布密度函数为
\[\rm p(y_1,\cdots,y_k)=\lambda^ke^{-\lambda y_k}1_{\{0\leq y_1\lt\cdots\lt y_k\}}\] 我们通过这个结论来计算\(\rm (T_1,\cdots,T_k)\)的联合分布。只需计算\(\mathbb{P}(\rm T_1\gt t_1,\cdots,T_k\gt t_k)\)即可。 \[ \begin{align*} \mathbb{P}(\rm T_1\gt t_1,\cdots,T_k\gt t_k)&=\mathbb{P}(\rm S_1\gt t_1,S_2-S_1\gt t_2,\cdots,S_k-S_{k-1}\gt t_k)\\ &=\rm \int_{y_1\gt t_1,y_2-y_1\gt t_2,\cdots,y_k-y_{k-1}\gt t_k}\lambda^ke^{-\lambda y_k}dy_1\cdots dy_k\\ &=\rm \Pi_{i=1}^ke^{-\lambda t_i} \end{align*} \] 综上,我们证明了每个\(\rm T_n\)都服从参数为\(\lambda\)的指数分布,且\(\{\rm T_n\}\)相互独立。
  我们基于刚刚的讨论来构造泊松过程:设有概率空间\((\Omega,\mathcal{F},\mathbb{P})\)和服从参数为\(\lambda\)的指数分布的独立同分布随机序列\(\{\rm T_n:n\geq1\}\);定义\(\rm S_0:=0,S_n=\sum_{j=1}^n T_j\);然后再定义\(\rm N_t:=\inf\{k\geq0:S_{k+1}\gt t\}=\sup\{k\geq0:S_k\leq t\}\)\(\rm N_t=k\)当且仅当\(\rm S_k\leq t\lt S_{k+1}\)显然右连续。我们接下来证明其为Poisson过程。
定理5.1.2 该过程\(\rm N=(N_t)\)是参数为\(\lambda\)的Poisson过程。
证明 这个定理看起来很显然,我们已经看到泊松过程的跳跃间隔时间内是独立同分布的指数序列,反之这样一个序列\(\rm S=(S_n)\)唯一给出了一个随机过程\(\rm N=(N_t)\),所以我们已经做完了吗?似乎不太对,上述论证是在假设泊松分布存在的基础上完成的,换言之如果有这样一个分布他一定和我们构造的同分布,但我们还是缺乏存在性的论证。要证明上面的定理,需要计算\(\rm N\)的有限维分布。
  首先从\(\rm (T_n)\)出发容易验证\(\rm (S_1,\cdots,S_n)\)的联合密度就是我们之前看到的,于是自然有以下结论
\(\rm 1\leq k_1\lt k_2\lt\cdots\lt k_n\),则\(\rm (S_{k_1},\cdots,S_{k_n})\)的联合密度为
\[\rm \Pi_{j=1}^n{(y_j-y_{j-1})^{k_j-k_{j-1}-1}\over (k_j-k_{j-1}-1)!}\lambda^{k_n}e^{-\lambda y_n}1_{\{0\leq y_1\lt\cdots\lt y_n\}}\] 其中\(\rm y_0=0,k_0=0\)
  于是还是结合\(\rm N_{t_j}=k_j\iff S_{k_j}\leq t_j\lt S_{k_j+1}\)得到\(\rm N\)的有限维分布
\[\rm \mathbb{P}(N_{t_j}=k_j,1\leq j\leq n)=p_{\lambda t_1}(k_1)p_{\lambda (t_2-t_1)}(k_2-k_1)\cdots p_{\lambda (t_n-t_{n-1})}(k_n-k_{n-1})\] 于是得到结论。

布朗运动的定义与构造