第十一章 平稳过程

11.1 严平稳过程

11.1.1 严平稳过程的定义

对于任意实数 \(\varepsilon\)，如果随机过程 \(\{X(t), t\in T\}\) 的任意 \(n\) 维分布满足：

\[\begin{aligned} & F(x_1, x_2, ..., x_n; t_1, t_2, ..., t_n)\\ = & F(x_1, x_2, ..., x_n; t_1 + \varepsilon, t_2 + \varepsilon, ..., t_n + \varepsilon) \end{aligned} \quad (n = 1, 2, ...) \]

（严平稳条件）

则 \(X(t)\) 称为严，强或狭义平稳过程。

若参数 \(t\) 表示“时间”，则严平稳过程的任何有限维概率分布不随时间的平移而变化。

11.1.2 严平稳过程的性质

1. 状态离散的随机过程 \(X(t)\) 的严平稳条件

\[\begin{aligned} & P\{X(t_1) = x_1, X(t_2) = x_2, ..., X(t_n) = x_n \}\\ = & P\{X(t_1 + \varepsilon) = x_1, X(t_2+\varepsilon) = x_2, ..., X(t_n+\varepsilon) = x_n \} \end{aligned} \]

2. 状态连续的随机过程 \(X(t)\) 的严平稳条件

\[f(x_1, ..., x_n; t_1, ..., t_n) = f(x_1, ..., x_n; t_1 + \varepsilon, ..., t_n + \varepsilon) \]

3. 特殊地，取 \(\varepsilon = -t_1, t_2 - t_1 = \tau\)

• 一维分布函数

\[F(x_1; t_1) = F(x_1; t_1 + \varepsilon) = F(x_1; 0) = F(x_1) \]

• 二维分布函数

\[\begin{aligned} F(x_1, x_2; t_1; t_2) &= F(x_1, x_2; t_1+\varepsilon,t_2+\varepsilon)\\ & = F(x_1, x_2; 0, \tau)\\ & = F(x_1, x_2, \tau) \end{aligned} \]

• 一维分布函数 \(F(x)\)：不依赖于参数 \(t\)

• 二维分布函数 \(F(x_1, x_2; \tau)\)：仅依赖于参数间距 \(\tau = t_2 - t_1\)，而与 \(t_1, t_2\) 本身无关

11.2.3 严平稳过程的数字特征

\[\begin{aligned} & \mu_X(t) = E[X(t)] = \int_{-\infty}^{+\infty}xf(x)\,dx = \mu_X\\ & \Psi_X^2(t) = E[X^2(t)] = \int_{-\infty}^{+\infty}x^2f(x)\,dx = \Psi^2_X\\ & \sigma^2_X(t) = D[X(t)] = \Psi_X^2 - \mu_X^2 = \sigma_X^2 \end{aligned} \]

\[\begin{aligned} R(t, t + \tau) & = E[X(t)X(t+\tau)]\\ & = \int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty}x_1x_2f(x_1, x_2; \tau)\,dx_1dx_2\\ & = R_X(\tau) \end{aligned} \]

\[\begin{aligned} C_X(t, t+\tau) & = R(t, t + \tau) - \mu_X(t)\mu_X(t+\tau)\\ & = R_X(\tau) - \mu^2_X = C_X(\tau) \end{aligned} \]

定理

设 \(\{X(t), t\in T\}\) 是严平稳过程，如果过程的二阶矩存在，那么

• \(\mu_X, \sigma_X^2, \Psi_X^2\) 均为常数，与参数 \(t\) 无关；
• \(R_X(\tau), C_X(\tau)\) 仅依赖于 \(\tau\)

注：

这一性质也称为数字特征的平稳性

11.2 宽平稳过程

11.2.1 宽平稳过程的定义

设随机过程 \(X(t)\)，对于任意 \(t\in T\)，满足：

1. \(E[X^2(t)]<+\infty\)
2. \(E[X(t)] = \mu_X\) 是常数
3. \(E[X(t)X(t+\tau)] = R_X(\tau)\) 仅依赖于 \(\tau\)，而与 \(t\) 无关

则称 \(X(t)\) 为宽，弱或广义平稳过程，简称平稳过程。

参数集 \(T\) 为可列集的平稳过程，又称为平稳序列，或称平稳时间序列。

11.2.2 严平稳过程与宽平稳过程的关系

1. 宽平稳过程不一定是严平稳过程
2. 严平稳过程不一定是宽平稳过程
   • 存在二阶矩的严平稳过程必定是宽平稳过程

二阶矩 \(E[X^2(t)]<+\infty\) 存在的随机过程称为二阶矩过程。

---

两个平稳过程的关系：平稳相关

设 \(\{X(t), t \in T_1\}\) 和 \(\{Y(t), t \in T_2\}\) 是两个平稳过程，如果互相关函数 \(E[X(t)Y(t+\tau)]=R_{XY}(\tau)\) 仅是参数间距 \(\tau\) 的函数，则称 \(\{X(t), t \in T_1\}\) 和 \(\{Y(t), t \in T_2\}\) 平稳相关，或称它们是联合平稳的。此时：

\[\begin{aligned} C_{XY}(\tau) & = \mathrm{cov}(X(t), Y(t+\tau))\\ & = E[X(t)Y(t+\tau)]-E[X(t)]E[Y(t+\tau)]\\ & = R_{XY}(\tau) - \mu_X\mu_Y \end{aligned} \]

定义：

\[\rho_{XY}(\tau) = \dfrac{C_{XY}(\tau)}{\sqrt{C_X(0)\cdot C_Y(0)}} \]

称为标准互协方差函数。

11.3 正态平稳过程

11.3.1 正态过程的概念

1. 正态随机变量的有关知识

一维正态随机变量 \(X\sim N(\mu, \sigma^2)\)，概率密度

\[f(x)=\dfrac{1}{\sigma\sqrt{2\pi}} \exp\{-\dfrac{(x-\mu)^2}{2\sigma^2}\} \]

二维正态随机变量 \((X,Y)\sim N(\mu_1,\sigma_1^2; \mu^2, \sigma_2^2; \rho)\)

\[f(x, y) =\ \dfrac{1}{2\pi\sigma_1\sigma_2\sqrt{1-\rho^2}} \exp\{-\dfrac{1}{2(1-\rho^2)} [\dfrac{(x-\mu_1)^2}{\sigma^2_1} -\dfrac{2\rho(x-\mu_1)(y-\mu_2)}{\sigma_1\sigma_2} +\dfrac{(y-\mu_2)^2}{\sigma_2^2}]\} \]

\(n\) 维正态分布 \((X_1, X_2, ..., X_n)\) 的概率密度

\[f(x_1, x_2, ..., x_n) = \dfrac{1}{(2\pi)^{\frac{n}{2}}(\det C)^{\frac{1}{2}}} \exp\{-\dfrac{1}{2}(x-\mu)^T C^{-1} (x-\mu) \} \]

其中：

\[x = \left( \begin{array} &x_1\\x_2\\\vdots\\x_n \end{array} \right) \quad \mu = \left( \begin{array} $\mu_1\\\mu_2\\\vdots\\\mu_n \end{array} \right) \]

协方差矩阵 \(C=(C_{ij})_{n\times n}\quad C_{ij} = Cov(X_i, X_j)\)

2. 正态过程的定义

如果随机过程 \(\{X(t), t\in T\}\)，对任意正整数 \(n\)，\(\forall t_1, t_2, ..., t_n \in T\)，\((X(t_1), X(t_2), ..., X(t_n))\) 服从正态分布，则称 \(X(t)\) 为 正态过程，又称高斯(Gauss)过程。

3.

设 \(\{X(t), t \in T\}\) 为正态过程，则：

\[\begin{aligned} & \forall t_1 \in T, X(t_1) \sim N(\mu_X (t_1), \sigma^2_X(t_1))\\ & \forall t_1, t_2 \in T, (X(t_1),X(t_2)) \sim N (\mu_X(t_1), \sigma^2_X(t_1); \mu_X(t_2), \sigma^2_X(t_2); \rho) \end{aligned} \]

\[\rho = \dfrac{C_X(t_1, t_2)} {\sqrt{\sigma^2_X(t_1)} \cdot\sqrt{\sigma^2_X(t_2)}} \]

4. 独立正态过程：

如果 \(\{X(t), t \in T\}\) 是正态过程，同时又是独立过程，则称 \(X(t)\) 为独立正态过程。

5.

正态过程 \(\{X(t), t \in T\}\)，如果 \(T\) 是可列集，\(T=\{t_1, t_2, ..., t_n, ...\}\)，记 \(X(t)=X_t\)，那么 \(\{X_t, t = t_1, t_2, ..., t_n, ...\}\) 是正态序列。

6. 正态过程是二阶矩过程

设 \(\{X(t), t \in T\}\) 是正态过程，\(X(t)\) 服从正态分布，则：

\[\Psi^2_X(t) = E[X^2(t)] \]

必存在，即二阶矩存在。

11.3.2 正态平稳过程

1. 定义

如果正态过程 \(X(t)\) 又是（广义）平稳过程，则称 \(X(t)\) 为正态平稳过程。

2. 定理

设 \(X(t)\) 是正态过程，则 \(X(t)\) 为严平稳过程 \(\Leftrightarrow\) 宽平稳过程。

11.4 遍历过程（经历过程）

11.4.1 时间均值和时间相关函数

设随机过程 \(\{X(t), t\in T = (-\infty, +\infty)\}\)

固定 \(e\in S\)，样本函数 \(X(e,t)=x(t)\)，\(x(t)\) 在区间 \([-l,l]\;(l>0)\) 上的函数平均值定义为：

\[\overline{x(t)} = \dfrac{1}{2l}\int^l_{-l}x(t)\,dt \]

\(x(t)\) 在 \((-\infty, +\infty)\) 上的函数平均值定义为：

\[\overline{x(t)} = \lim\limits_{l \to +\infty} \dfrac{1}{2l}\int^l_{-l}x(t)\,dt \]

当 \(e\) 变化时，

\[\overline{x(t)} = \overline{X(e,t)} = \lim\limits_{l \to +\infty} \dfrac{1}{2l}\int^l_{-l}X(e, t)\,dt \]

是随机过程 \(X(t)\) 对于参数 \(t\) 的平均值，称为随机过程 \(X(t)\)的时间均值。

---

\(\forall t, \tau \in (-\infty, +\infty)\)，有：

\[\begin{aligned} \overline{X(t)X(t + \tau)} = & \overline{X(e, t)X(e, t + \tau)}\\ = & \lim\limits_{l \to +\infty} \dfrac{1}{2l} \int^l_{-l} X(e, t)X(e, t + \tau)\,dt \end{aligned} \]

称为随机过程 \(X(t)\) 的时间相关函数。

随机过程 \(\{X(t), t \in T = [0, +\infty)\}\)

\[\begin{aligned} &\overline{X(t)} = \lim\limits_{l \to +\infty} \dfrac{1}{l} \int_0^l X(e, t)\, dt\\ &\overline{X(t)X(t + \tau)} = \lim\limits_{l \to +\infty} \dfrac{1}{l} \int_0^l X(e, t)X(e, t + \tau)\, dt \end{aligned} \]

11.4.2 各态遍历性

1. 定义

设 \(X(t)\) 是一个平稳过程，\(T=(-\infty, +\infty)\) 或 \(T=[0, +\infty)\)

1. 如果 \(P\{\overline{X(t)} = E[X(t)] = \mu_X\} = 1\)
   则称过程 \(X(t)\) 的均值具有各态遍历性；
2. 如果 \(P\{\overline{X(t)X(t + \tau)} = E[X(t)X(t + \tau)] = R_X(\tau)\} = 1\)
   则称过程 \(X(t)\) 的自相关函数具有各态遍历性

均值和自相关函数都具有各态遍历性的平稳过程称为遍历过程，或者说，该过程具有遍历性。

2. 平稳过程均值各态遍历性的判别定理

引理：

设 \(\{X(t),-\infty<t<+\infty\}\) 是一个平稳过程，则它的时间均值的数学期望和方差分别为：

\[E[\overline{X(t)}] = \mu_X = E[X(t)]\\ D[\overline{X(t)}] = \lim\limits_{l \to +\infty} \dfrac{1}{l}\int_0^{2l}(2 - \dfrac{\tau}{2l}) [R_X(\tau) - \mu^2_X]\,d\tau \]

均值各态遍历性判别定理：

平稳过程 \(\{X(t), -\infty<t<+\infty\}\) 的均值具有各态遍历性的充要条件是：

\[D[\overline{X(t)}] = \lim\limits_{l \to +\infty} \int_0^{2l} (1 - \dfrac{\tau}{2l})[R_X(\tau) - \mu^2_X]\,d\tau = 0 \]