分枝过程是近几十年概率论研究的热点课题，包括Galton-Watson过程、连续时间马氏分枝过程、年龄依赖分枝过程、多物种分枝过程, Dawson-Watanabe超过程及测度值分枝过程等.分枝过程相关问题的研究有深刻的理论意义, 一方面可探讨分枝过程的概率性质^[1], 另一方面通过建立分枝机制等方法, 利用分枝过程的性质解决相关的随机游动^[2-5]、随机图、随机树^[6]等问题.分枝过程有广泛的应用价值, 在物种繁衍、核子裂变、细胞分裂等现象^[7]及传染病学^[8]的研究中, 可通过研究分枝过程随机数学模型解决实际问题.近年来，多物种分枝过程^[9]、随机环境与变环境中的分枝过程^[10]、分枝随机游动与带移民的分枝过程^[11]等成为研究的热点问题.

1 拟解决的问题

本文研究Galton-Watson过程{Z_n, n=0, 1, 2, …}，这是一类离散时间的单物种分枝过程，已有很完善的理论框架和诸多经典结论.假设每代粒子以概率分布{p_k, k=0, 1, 2, …}独立产生后代, 概率生成函数.令m表示每个粒子平均产生的后代个数, q表示灭绝概率.

是非负鞅，W_n在分枝过程极限性质的研究中有很重要的作用.Doob^[12]发现存在随机变量W, 使得在上临界情形m>1, 由Kesten-Stigum定理知, 当EZ₁lnZ₁ < ∞时, EW=1.由于W是非退化的, 在(0, +∞)上是绝对连续的, 将其连续的密度函数记为ω(x).为了证明W_n=Z_n/mⁿ以指数收敛的速度趋向于W，Athreya等^[1]研究了密度函数ω(x)的Lipschitz连续性.假设q=0 (对q>0的情形, 研究方法类似), 定义.注意到, 因此δ>0.研究密度函数ω(x)的Lipschitz连续时, 给出了ω(x)的Lipschitz连续的阶^[1]:

若EZ₁lnZ₁ < ∞，则对任意的ε>0, ω(x)在[ε, ∞)中是Lipschitz连续的，阶为δ′=min(δ, 1).

但是在其证明推导的过程中，需要δ≠1.也就是说，依其证明，只能得到δ≠1时, ω(x)是Lipschitz连续的，其阶为δ′=min(δ, 1).

本文对该定理的证明及结论进行了修正和补充，研究密度函数ω(x)的Lipschitz连续性，得到阶的精细刻画:

定理1  假设m>1, EZ₁lnZ₁ < ∞, q=0，则

1) 若δ≠1，则对任意的ε>0, ω(x)在[ε, ∞)中是Lipschitz连续的，阶为δ′=min(δ, 1)^[1].也就是说，, 存在常数c，使得,有

(1)

式中： .

2) 若δ=1，则对任意的ε>0, ω(x)在[ε, ∞)中是Lipschitz连续的，阶为 .即, 存在常数c，使得, 有

定理1  是在Kesten-Stigum定理的基础上，推导出的Galton-Watson过程鞅极限的密度函数的Lipschitz连续性.此外，Seneta-Heyde定理也是关于鞅收敛性质的经典定理.对随机环境中的分枝过程，Tanny^[13]研究了相应的Kesten-Stigum定理和Seneta-Heyde定理；Hong等^[14]研究了均值无穷情形下鞅的极限性质.

2 式(1)证明的修正^[1]

首先叙述文献[1]中的证明, 在证明细节中说明文献[1]中的证明需加以修正的地方.

令,记W的特征函数为，有极限性质:

引理1  当 m>1，EZ₁lnZ₁ < ∞, q=0时，对实数u, 有

式中：一致连续，当m>1，EZ₁lnZ₁ < ∞时，有|ψ′(u)|≤1.

由引理1   知是可积的，xω(x)是密度函数，由Fourier逆变换(反演公式)知：

对任意的y₁, y₂>0, 有

(2)

由于ψ′可积, 故对第一部分I₁存在常数c₁, 使得

(3)

为估计第二部分I₂，首先将积分区域分为两部分：的补集.

当u∈A时，由微分中值定理知，存在常数c₂,使得，故

(4)

当δ≥1时，由文献[1]可知:

(5)

其中c′为常数.

式(5)仅在δ>1时才成立, 这是因为在式(4)中，有

由ψ′可积知:

由引理1知:

只有当δ>1时, 才有收敛.因此只有δ>1时，式(5)才成立.

当δ>1时，结合(4)可知:

(6)

其中c₃为常数.

当δ < 1时，由引理1与式(4)可知:

其中c₄为常数.

当δ < 1时,

(7)

结合式(6)和式(7)可知，对u∈A，当δ≠1时，有

(8)

其中常数c₅=max(c₃, c₂·c₄).

对于，由引理1知:

(9)

其中常数.

结合式(2)，式(3)，式(8)和式(9)，推导出当δ≠1时，，有

因此存在常数c，使得

其中阶δ′=min(δ, 1).定理1中的1)得证.

3 定理1中2)的证明

当δ=1时，对式(2)中的第一部分I₁同样有式(3)成立.为估计第二部分I₂，将积分区域分为

和 (A′的补集)

当u∈A′时，由于

故存在常数c₇，使得

(10)

当时，有

(11)

其中常数c₈=4M.

结合式(2)，式(3)，式(10)和式(11)知:当δ=1时，，有

为使ω(x)的Lipschitz连续性尽可能强，取|y₂-y₁|的阶为max(1, min(1-δ₀, δ₀)).此时 .定理1中的2)得证.

4 说明

在定理1的证明过程中，为估计第二部分I₂，若采取不同积分区域的分割方法，依旧无法在不区分δ取值的情况下，得到Lipschitz连续性的阶.例如将积分区域分为

1) 对u∈A，由于,

故

由于|u|≤1，ψ′可积，故存在常数，使得

(12)

2) 对，若，有

若 ,有

但是

所以存在常数，使得

因此对，有

其中.

由于

再由引理1知:

只有，即δ>1时，才有收敛.δ>1时, min(δ, 1)=1.因此存在常数，使得

(13)

3) 结合式(2)，式(3)，式(12)和式(13)，当δ>1时，对任意的有

也就是说当δ>1时，对任意的ε>0，ω(x)在中Lipschitz连续的阶为δ′=1=min(δ, 1).这也验证了定理1成立.