Poisson 过程及其推广

2.1 时齐 Poisson 过程

2.1.1 定义与说明

定义 若随机过程 {N(t),t≥0} 满足以下条件, 则称为 时齐 Poisson 过程.

  1. 是计数过程, 且 N(0)=0.

  2. 是独立增量过程.

  3. 具有增量平稳性, 即

    ∀s,t≥0,n∈N:P[N(s+t)−N(s)=n]=P[N(t)=n].
  4. 对任意 t>0 和充分小的 Δt>0, 有

{P{N(t+Δt)−N(t)=1}=λΔt+o(Δt),P{N(t+Δt)−N(t)≥2}=o(Δt).

其中 λ>0 称为 强度常数.

备注

2.1.2 与 Poisson 分布的关系

定理 2.1.1 若 {N(t),t≥0} 为 Poisson 过程, 则

∀s,t≥0:P{N(s+t)−N(s)=k}=(λt)kk!e−λt,k∈N.

即 N(t+s)−N(s)∼P(λt).

证明

定理 2.1.1' 随机过程 {N(t),t≥0} 可用以下条件等价定义为时齐泊松过程,

  1. 是计数过程, 且 N(0)=0.

  2. 是独立增量过程.

  3. ∀s,t≥0,N(s+t)−N(s)∼P(λt).

证明

 

2.2 Poisson 过程与指数分布

2.2.1 发生时间的概率分布

对于计数过程 {N(t),t≥0}, 定义随机变量

S0=0,Sn=inf{t∣N(t)=n},n≥1,Xn=Sn−Sn−1,n≥1.

于是下列事件等价

{N(t)≥n}={Sn≤t}{N(t)=n}={Sn≤t<Sn+1}={Sn≤t}−{Sn+1≤t}

若该计数过程是时齐 Poisson 过程, 则 Sn 的分布函数与概率密度函数为

P{Sn≤t}=P{N(t)≥n}=1−∑k=0n−1(λt)kk!e−λt,fSn(t)=ddtP{Sn≤t}=λ(λt)n−1(n−1)!e−λtI{t≥0}.

备注 实际上 Sn∼Ga(n,λ) (Gamma 分布).

2.2.2 与指数分布的关系

定理 2.2.1 计数过程 {N(t),t≥0} 是 Poisson 过程的充要条件是 {Xn,n≥1} 独立同分布 E(λ).

证明

备注 由定理的证明过程可知, (S1,S2,⋯,Sn) 的 j.p.d.f. 为

g(t1,t2,⋯,tn)=λne−λtnI{0<t1<t2<⋯<tn}.

 

2.3 剩余寿命与年龄

2.3.1 剩余寿命与年龄及其分布

定义 对于计数过程 {N(t),t≥0}, 定义

定理 2.3.1 设 {N(t),t≥0} 是参数为 λ 的 Poisson 过程, 则

  1. W(t)∼E(λ), 即

    P{W(t)≤x}=(1−e−λx)I{x≥0}.
  2. V(t) 是截尾指数分布, 即

    P{V(t)≤x}={1−e−λx,0≤x<t,1,x≥t.
证明

2.3.2 Poisson 过程等价定义

定理 2.3.2 对于计数过程, 若非负 r.v. Xn (n≤1) 独立同分布 F(x), 则 ∀x≥0,t≥0:

P{W(t)>x}=1−F(x+t)+∫0tP{W(t−u)>x}dF(u).
证明

定理 2.3.3 (K.L.Chung) 若 ∀t≥0, 有 W(t) 与 Xn (n≥1) 同分布 F(x), 且 F(0)=0, 则 {N(t),t≥0} 为 Poisson 过程.

证明

备注 该定理可用于检验 Poisson 过程.

 

2.4 到达时间的条件分布

2.4.1 引理与顺序统计量

即给定 N(t)=n 时, S1,S2,⋯,Sn 的条件分布.

定理 2.4.1 设 {N(t),t≥0} 是 Poisson 过程, 则

∀(0<s<t):P{X1≤s∣N(t)=1}=st.
证明

引理 (顺序统计量的分布) 设非负随机变量 Y1,Y2,⋯,Yn 独立同分布, 密度函数为 f(y), 则其顺序统计量 Y(1)≤Y(2)≤⋯≤Y(n) 的联合密度函数为

f(y1,y2,⋯,yn)={n!∏i=1nf(yi),0<y1<y2<⋯<yn,0,其它.
证明

例子 若 Yi 独立同均匀分布 R(0,t), 则其顺序统计量 Y(1),⋯,Y(n) 的 j.p.d.f. 为

f(y1,y2,⋯,yn)=n!tnI{0<y1<y2<⋯<yn≤t}.

2.4.2 到达时间的条件分布

定理 2.4.2 设 {N(t),t≥0} 为 Poisson 过程, 则事件相继发生的时间 S1,S2,⋯,Sn 在已知 N(t)=n 下的条件概率密度为

f(t1,t2,⋯,tn)=n!tnI{0<t1<t2<⋯<tn≤t}.
证明

定理 2.4.3 设 {N(t),t≥0} 为计数过程, 时间间隔 {Xn,n≥1} 独立同分布 F(x), 且 F(0)=0. 若

∀(0≤s≤t):P{X1≤s∣N(t)=1}=st,

则 {N(t),t≥0} 为 Poisson 过程.

证明

定理 2.4.4 设 {N(t),t≥0} 为计数过程, 时间间隔 {Xn,n≥1} 独立同分布 F(x), 且 F(0)=0. 若 E[Xn]<∞, 且

∀n∈N+,0≤s≤t:P{Sn≤s∣N(t)=n}=(st)n.

则 {N(t),t≥0} 为 Poisson 过程.

备注 这是定理 2.4.3 的弱化版本. 利用以上结果, 检验 Poisson 过程时不需要知道参数 λ.

2.4.3 Poisson 过程的应用

例 1 设到达火车站的顾客流遵照参数为 λ 的 Poisson 流 {N(t),t≥0}, 火车 t 时刻离开车站, 求在 [0,t] 到达车站的顾客等待时间总和的期望值.

解

例 2 设一系统在 [0,t] 内承受的冲击数 {N(t),t≥0} 是参数为 λ 的 Poisson 流. 第 i 次冲击受的损失为 Di, 设 {Di,i≥1} 独立同分布, 与 {N(t),t≥0} 独立. 且损失随时间按负指数衰减, 即 t=0 时损失为 D, 在 t 时损失为 De−αt,α>0. 并且损失是可加的, 那么在 t 时刻的损失之和为

ξ(t)=∑i=1N(t)Die−α(t−Si),

其中 Si 为第 i 次冲击到达的时刻. 试求 E[ξ(t)].

解 1

解 2

2.4.4 到达时间的函数期望

定理 2.4.5 设 {N(t),t≥0} 是参数为 λ 的 Poisson 过程, Sk,k≥1 为其到达时刻, 则对任意可积函数 f 有

E[∑n=1∞f(Sn)]=λ∫0+∞f(t)dt.
证明

 

2.5 模拟、检验与参数估计

2.5.1 Poisson 过程的轨道模拟

下述步骤可得到 {N(t),t≥0} 的一条轨道.

  1. 生成随机数 {Un∼R(0,1),n≥1}.

  2. 令 Xk=−ln⁡Ukλ, 则 {Xn,n≥1} 独立同指数分布 E(λ).

  3. 令 S0=0,Sn=∑k=1nXk.

  4. 令 N(t)=∑n=0∞nI{Sn≤t<Sn+1}.

2.5.2 Poisson 过程的假设检验

欲检验 {N(t),t≥0} 是否为 Poisson 过程, 可以检验下述问题之一:

  1. 检验 {Xn,n≥1} 是否独立同指数分布 E(λ).

  2. ∀t>0, 检验 W(t) 与 Xn(n≥1) 是否同分布.

  3. ∀t>0, 检验在 N(t)=1 时是否有 S1∼R(0,t).

  4. 给定 T>0, 检验在 N(T)=n 下是否有 (S1,S2,⋯,Sn)∼R(0,T)n 的次序统计量.


其中最后一种方法最简单, 以此为例:

假设 H0:{N(t),t≥0} 是 Poisson 过程.

令 σn=∑k=1nSk, 则当 H0 成立时, 有

E{σn∣N(T)=n}=E[∑i=1ny(i)]=E[∑i=1nyi]=nT2.D{σn∣N(T)=n}=D[∑i=1ny(i)]=D[∑i=1nyi]=nT212.

于是由中心极限定理, 得

limn→∞P{σn−nT/2Tn/12≤x | N(T)=n}=Φ(x)=12π∫−∞xe−t22dt.

2.5.3 Poisson 过程的参数估计

1 极大似然估计

设 {N(t),t≥0} 为 Poisson 过程, 给定 T, 若 N(T)=n 且 Si=ti (i=1,2,⋯,n), 则似然函数为

L(t1,t2,⋯,tn;λ)=λne−λT.

注意上式与 T 有关, 因为 n 是 T 的函数. 令 dLdλ=0, 即得极大似然估计为

λ^=nT.

2 区间估计

设 {N(t),t≥0} 为 Poisson 过程, 对于固定的 n, 注意到 Sn∼Ga(n,λ), 于是 2λSn∼χ2n2.

从而得到 λ 的置信度为 1−α 的区间估计为

[χ2n2(α2)2Sn,χ2n2(1−α2)2Sn].

 

2.6 非时齐 Poisson 过程

2.6.1 定义与说明

定义 若随机过程 {N(t),t≥0} 满足以下条件, 则称为 非时齐 Poisson 过程,

  1. 是计数过程, 且 N(0)=0.

  2. 是独立增量过程.

  3. 对任意 t>0 和充分小的 Δt>0, 有

{P{N(t+Δt)−N(t)=1}=λ(t)Δt+o(Δt),P{N(t+Δt)−N(t)≥2}=o(Δt).

其中 {λ(t)>0,t≥0} 称为 强度函数.

备注

2.6.2 任意时段的概率分布

定理 2.6.1 若 {N(t),t≥0} 是非时齐具有强度函数 {λ(t)>0,t≥0} 的 Poisson 过程, 则

∀s,t≥0,n∈N:P{N(s+t)−N(s)=n}=[m(s+t)−m(s)]nn!em(s)−m(s+t).
证明

2.6.3 时齐与非时齐的转换

定理 2.6.2 时齐 Poisson 过程与非时齐 Poisson 过程可如下相互转化:

  1. 设 {N(t),t≥0} 是具有强度函数 {λ(s)>0,s≥0} 的非时齐 Poisson 过程. 令 m(t)=∫0tλ(s)ds, 并定义反函数

m−1(u)=inf{t>0∣m(t)≥u≥0},

则 {M(u)=N(m−1(u))},u≥0 是参数为 λ=1 的时齐 Poisson 过程.

  1. 设 {M(u),u≥0} 是参数为 λ=1 时齐 Poisson 过程. 若给定强度函数 {λ(t)>0,t≥0}, 令 m(t)=∫0tλ(s)ds, 则 {N(t)=M(m(t)),t≥0} 是具有上述强度函数的非时齐 Poisson 过程.

证明

 

2.7 复合 Poisson 过程

定义 设 {N(t),t≥0} 为 Poisson 过程, 随机变量 Yi 独立同分布 Y, 且 {N(t),t≥0} 与 {Yi,i≥1} 独立, 则

{X(t)=∑i=1N(t)Yi,t≥0}

称为 复合 Poisson 过程 (Compound Poisson Process).

定理 2.7.1 如上定义, 并设 Y 的矩母函数为 ϕY(u), 则 X(t) 的矩母函数、期望与方差分别为

ϕX(u)=eλt(ϕY(u)−1),E[X(t)]=λtE[Y],D[X(t)]=λtE[Y2].
证明

定义 若随机变量序列 {ρi∈N+,i≥1} 独立同分布, 且与 Poisson 过程 {N(t),t≥0} 独立, 则

{X(t)=∑i=1N(t)ρi,t≥0}

称为 平稳无后效流.

 

2.8 条件 Poisson 过程

定义 设随机变量 Λ 的分布函数为 G(x) (x≥0), 且在 Λ=λ 时, 计数过程 {N(t),t≥0} 是参数为 λ 的 Poisson 过程, 即

P{N(s+t)−N(s)=n∣Λ=λ}=(λt)nn!e−λt.

则称 {N(t),t≥0} 为 条件 Poisson 过程.

备注 这里的 {N(t),t≥0} 不是增量独立的过程, 并且有

P{N(s+t)−N(s)=n}=∫0+∞(λt)nn!e−λtdG(λ).

 

2.9 更新过程

2.9.1 定义与说明

定义 设取值非负的随机变量 {Xk,k≥1} 独立同分布 F(x) (x≥0), 且 F(0)<1, 令 Sn=I{n>0}∑k=1nXk, 则

{N(t)=sup{n∣Sn≤t},t≥0}

称为 更新过程, 且 m(t)=E[N(t)] 称为 更新函数.

备注

2.9.2 到达时间概率分布的性质

定理 2.9.1

∀m,n∈N+:Fm+n(t)≤Fm(t)Fn(t).

证明

定理 2.9.2

∀t≥0:m(t)=∑n=1∞Fn(t).
证明

推论 若对 ∀t≥0:F(t)<1, 则

m(t)≤F(t)1−F(t).
证明

2.9.3 更新函数与更新方程

定理 2.9.3 ∀t≥0, m(t) 满足下列 更新方程:

m(t)=F(t)+∫0tm(t−u)dF(u).
证明

定理 2.9.4 F(t) 与 m(t) 是一一对应的, 实际上, 它们的 L-S 变换有如下关系

m^(s)=F^(s)1−F^(s).
证明

 

2.10 若干极限定理与基本更新定理

2.10.1 更新过程的极限定理

定理 2.10.1

P{limn→∞Snn=μ:=E[Xn]}=1.

备注 由强大数定律即得. 上式又可记作 limn→∞Snn=μ.

推论 1

P{limn→∞Sn=+∞}=1.
证明

推论 2

∀t≥0:m(t)=∑n=1∞Fn(t)<+∞.
证明

定理 2.10.2

P{N(∞)=∞}=1.
证明

定理 2.10.3 (更新过程强大数定律)

P{limt→∞N(t)t=1μ}=1.
证明

2.10.2 Markov 停时与 Wald 等式

定义 设 {Xn,n≥1} 为随机序列, T 为非负整数随机变量, 若对于 ∀n∈N, 事件 {T=n} 仅依赖于 X1,X2,⋯,Xn, 而与 Xn+1,Xn+2,⋯ 独立, 则称 T 关于 {Xn,n≥1} 是 停时 (Stopping time, 或 Markov time).

定理 2.10.4 (Wald 等式) 设 {Xn,n≥1} 独立同分布 X, 期望 μ=E(Xn)<∞, 且 T 关于 {Xn,n≥1} 是停时, 期望 E(T)<∞, 则

E(∑n=1TXn)=E(X)E(T).
证明

例 1 若 {Xn,n≥1} 独立同 B(n0,p0), 且 N∈N+ 则

T=min{n | ∑i=1nXi=N}

关于 {Xn,n≥1} 是停时, 且

E(T)=E(∑n=1TXn)E(X)=Tn0p0.

例 2 设 {Xn,n≥1} 独立同分布, 其分布列为

X−11P1−pp

则 T=min{n | ∑i=1nXi=1} 关于 {Xn,n≥1} 是停时.

当 p>0.5 时, 由第三章可知 E(T)<∞, 从而 E(T)=1p−q.

当 p≤0.5 时, E(X)≤0, 从而 Wald 等式不再成立, 于是 E(T)=∞.


推论 当 E[Xn]=μ<∞ 时,

E[SN(t)+1]=μ[m(t)+1].
证明

2.10.3 基本更新定理

定理 2.10.5 (基本更新定理)

limt→∞m(t)t=1μ.
证明

 

2.11 更新方程与关键更新定理

2.11.1 更新方程及其定理

定义 设已知函数 a(t) 与分布函数 F(t), 若未知函数 A(t) 满足以下积分方程,

A(t)=a(t)+∫0tA(t−x)dF(x)=a(t)+(A∗F)(t).

则称之为 更新方程,

定理 2.11.1 设 a(t) 为有界函数, F(t) 为分布函数, 则更新方程的解存在且唯一, 其解在有限区间上有界. 若记

Fn(t)={F(t),n=1,∫0tFn−1(t−x)dF(x),n≥2.m(t)=∑n=1∞Fn(t),

则解 A(t) 可表示为

A(t)=a(t)+∫0ta(t−x)dm(x)=a(t)+(a∗m)(t).
证明

2.11.2 Blackwill 定理

定义 非负随机变量 X 称为是 格点的 (Lattice), 如果

∃d≥0:∑n=0∞P{X=nd}=1.

并且满足上式的最大的 d 称为 X 的 周期.

备注 若 X 是格点的, 则其分布函数 F 是格点的.

定理 2.11.2 (Blackwill 定理) 设 F(x) 为非负随机变量的分布函数,

Fn={F,n=1,Fn−1∗F,n≥2.m(t)=∑n=1∞Fn(t).
  1. 如果 F 是非格点的, 则

∀a≥0:limt→∞[m(t+a)−m(t)]=aμ.
  1. 如果 F 是格点的, 且周期为 d, 则

limn→∞[m((n+1)d)−m(nd)]=dμ.

2.11.3 关键更新定理

定义 设 h 是定义在 [0,+∞) 上的函数, 令

m―n(δ)=inf(n−1)δ≤t≤nδh(t),m―n(δ)=sup(n−1)δ≤t≤nδh(t),

若 ∀δ>0, ∑n=1∞m―n(δ) 和 ∑n=1∞m―n(δ) 有限, 且

limδ→0δ∑n=1∞m―n(δ)=limδ→0δ∑n=1∞m―n(δ),

则称 h(t) 是 直接 Riemann 可积 的.

备注 单调且绝对可积的函数是直接黎曼可积的.

定理 2.11.3 (关键更新定理) 设 F 是均值为 μ 的非负随机变量的分布函数, F(0)<1, 且 a(t) 是直接 Riemann 可积的, A(t) 是下述更新方程的解.

A(t)=a(t)+∫0tA(t−x)dF(x).
  1. 若 F 是非格点的, 则

limt→∞A(t)={1μ∫0+∞a(t)dt,μ<∞.0,μ=∞.
  1. 若 F 是周期为 d 的格点的, 则

∀c>0:limn→∞A(c+nd)={dμ∑n=0∞a(c+nd),μ<∞.0,μ=∞.

推论 1 记剩余寿命 rt=SN(t)+1−t, 令 Az(t)=P{rt>z}, 则 A(t) 满足更新方程

Az(t)=1−F(t+z)+∫0tAz(t−x)dF(x).

且有如下极限

∀z>0:limt→∞Az(t)=μ−1∫x+∞[1−F(y)]dy.
证明

2.11.4 交错更新过程

定义 设随机向量序列 {(Zn,Yn),n≥1} 独立同分布, 即 Zn i.i.d. Z, Yn i.i.d. Y, 且二者不一定独立. 记 Xn=Zn+Yn, S0=0, Sn=∑i=1nXi, N(t)=sup{n∈N∣Sn≤t}, 则 {N(t),t≥0} 为更新过程. 记

ζt={1,Sn≤t<Sn+Zn+1,0,Sn+Zn+1≤t<Sn+1.

则称 {ζt,t≥0} 为 交错更新过程.

定理 2.11.4 设 H(t),G(t),F(t) 分别为 Zn,Yn,Xn 的分布函数, 且 P(t)=P{ζt=1}, Q(t)=P{ζt=0}. 若 E(Xn)<∞, 且 F 非格点, 则

limt→∞P(t)=E(Z)E(Z)+E(Y)=E(Z)E(X),limt→∞Q(t)=E(Y)E(Z)+E(Y)=E(Y)E(X).
证明

2.11.5 更新报酬过程

定义 设更新过程 {N(t),t≥0} 的时间间隔 Xn (n≥1) 分布为 F, 每当一次更新发生时, 得到一个报酬 Rn≤0, 且 {Rn,n≥1} 独立同分布. 并设 {(Xn,Rn),n≥1} 独立同分布, 其中 Rn 可以依赖于 Xn. 则

{R(t)=∑n=1N(t)Rn,t≥0}

称为 更新报酬过程.

备注 当更新过程为 Poisson 过程时, 更新报酬过程为复合 Poisson 过程.

定理 2.11.5 若 E(R)=E(Rn)<∞,E(X)=E(Xn)<∞, 则

  1. limt→∞R(t)t=E(R)E(X).

  2. limt→∞E(R(t))t=E(R)E(X).

证明