Слабая сходимость мер. Принцип инвариантности

Докажите, что меры $\delta_{x_{n}}$, заданные на борелевской $\sigma$-алгебре метрического пространства $(\mathrm{S}, \rho )$, имеют слабый предел тогда и только тогда, когда существует такой элемент $x \in \mathrm{S}$, что $x_{n} \stackrel{\rho }{\longrightarrow } x$ при $n \rightarrow \infty$ (тогда $\delta_{x_{n}} \Rightarrow \delta_{x}$ при $n \rightarrow \infty )$.

Докажите, что $\mathbb {Q}_{n} \Rightarrow \mathbb {Q}$ при $n \rightarrow \infty$ (меры заданы на $\mathscr {B}(\mathrm{S})$, где $(\mathrm{S}, \rho )$ — метрическое пространство) тогда и только тогда, когда свойство (1) выполнено для всех действительных ограниченных липшицевых функций, т.е. таких функций $f: S \rightarrow \mathbb {R}$, что

Из теоремы Скорохода легко вытекает (с учетом известных фактов о сходимости п.н.), что $\mathbb {E}\left[X_{n}\right] \rightarrow \mathbb {E}\left[X\right]$, если $\mathrm{S} = \mathbb {R}, X_{n} \stackrel{\mathscr {D}}{\rightarrow } X$ и если семейство $\left\{ X_{n}, n \geqslant 1\right\}$ равномерно интегрируемо. Этот результат полезен для следующего упражнения.

Пусть функция $f: \mathrm{S} \rightarrow \mathrm{V}$, где $\mathrm{S}, \mathrm{V}$ — метрические пространства (измеримость $f$ не предполагается). Покажите, что множество $D_{f} = \left\{ x : \text{функция } f \text{ разрывна в точке } x\right\} \in \mathscr {B}(\mathrm{S})$. Докажите, что $\mathbb {Q}_{n} \Rightarrow \mathbb {Q}$ тогда и только тогда, когда свойство (1) выполнено для любой ограниченной функции $f \in \mathscr {B}(\mathrm{S}) \mid \mathscr {B}(\mathbb {R})$ такой, что $\mathbb {Q}\left(D_{f}\right) = 0$.

Пусть $S$ есть пространство $\mathbb {R}^{m}$ с евклидовой метрикой. Будет ли верно, что $\mathbb {Q}_{n} \Rightarrow \mathbb {Q}$, если свойство (1) выполняется для функций $f \in C_{0}^{\infty }\left(\mathbb {R}^{m}\right)$, т.е. для всех бесконечно дифференцируемых функций с компактным носителем?

Лемма 6 (Улам). Пусть (S, $\rho )$ — польское пространство и Q — мера на $\mathscr {B}(\mathrm{S})$. Тогда для каждого $B \in \mathscr {B}(\mathrm{S})$ и любого $\varepsilon > 0$ существует компакт $K_{\varepsilon } \subset B$ такой, что $\mathbb {Q}\left(B \backslash K_{\varepsilon }\right) < \varepsilon$.

Доказательство. Для $n \in \mathbb {N}$ в силу сепарабельности $\mathrm{S} = \bigcup_{m = 1}^{\infty } B_{1 / n}\left(y_{n, m}\right)$, где $B_{\varepsilon }(y) = \left\{ x \in \mathrm{S}: \rho (x, y) < \varepsilon \right\}$, а точки $y_{n, m}, m = 1,2, \ldots$, образуют $1 / n$-сеть (т.е. для любого $y \in \mathrm{S}$ можно указать точку $y_{n, m}$, такую что $\left.\rho \left(y, y_{n, m}\right) < 1 / n\right)$. При фиксированном $\varepsilon > 0$ выберем $j_{n}$ так, чтобы $\mathbb {Q}\left(\bigcup_{m = 1}^{j_{n}} B_{1 / n}\left(y_{n, m}\right)\right) > 1-\varepsilon 2^{-n-1}$. Положим $R_{\varepsilon } = \bigcap_{n = 1}^{\infty } \bigcup_{m = 1}^{j_{n}} B_{1 / n}\left(y_{n, m}\right)$. Тогда для замыкания $\left[R_{\varepsilon }\right]$ множества $R_{\varepsilon }$ име- ем

Множество $\left[R_{\varepsilon }\right]$ — компакт, так как в полном пространстве оно замкнуто и вполне ограничено (т.е. для любого $\varepsilon > 0$ существует конечная $\varepsilon$-сеть); например, $2 / n$-сетью могут служить точки $y_{n, m}, m = 1, \ldots , j_{n}$. По лемме 4 главы I существует замкнутое множество $F_{\varepsilon } \subset B$ такое, что $\mathbb {Q}\left(B \backslash F_{\varepsilon }\right) < \varepsilon / 2$. Тогда $K_{\varepsilon } = F_{\varepsilon } \cap \left[R_{\varepsilon }\right]$ есть компакт как пересечение замкнутого множества с компактом и $\mathbb {Q}\left(B \backslash K_{\varepsilon }\right) < \varepsilon$.

Заметим, что для $S = \mathbb {R}^{q}$ вместо $\left[R_{\varepsilon }\right]$ в доказательстве леммы 6 можно взять замкнутый шар достаточно большого радиуса, однако в бесконечномерном нормированном пространстве замкнутый шар не является компактом.

Определение слабой сходимости (1) применяется и для любых конечных (необязательно вероятностных) мер. В этой связи предлагается упражнение

Пусть $\mathbb {Q}, \mathbb {Q}_{n}\left(n \geqslant 1\right)$ — конечные меры на $(\mathrm{S}, \mathscr {B}(\mathrm{S}))$. Докажите, что теорема 1 останется верной, если к ее условиям добавить требование $\mathbb {Q}_{n}\left(\mathrm{~ S}\right) \rightarrow \mathbb {Q}\left(\mathrm{S}\right)$ при $n \rightarrow \infty$.

Определение 8. В измеримом пространстве $(\mathrm{S}, \mathscr {A})$ класс множеств $\mathscr {G} \subset \mathscr {A}$ называется классом, определяющим меру, если равенство любых двух мер на $\mathscr {G}$ влечет их равенство на $\mathscr {A}$. Пусть $\mathrm{S}$ — метрическое пространство. Класс множеств $\mathscr {M} \subset \mathscr {B}(\mathrm{S})$ называется классом, определяющим (слабую) сходимость, если для любой последовательности мер $\mathbb {Q}, \mathbb {Q}_{1}, \mathbb {Q}_{2}, \ldots$ такой, что $\mathbb {Q}_{n}\left(B\right) \rightarrow \mathbb {Q}\left(B\right)$ при всех $B \in \mathscr {M}$ с $\mathbb {Q}\left(\partial B\right) = 0$, имеем $\mathbb {Q}_{n} \Rightarrow \mathbb {Q}$.

Покажите, что класс множеств, определяющий (слабую) сходимость, является классом, определяющим меру. Объясните, почему обратное утверждение не обязано выполняться.

(сравните с упражнением 6 и примером 1) Докажите, что в польском пространстве $\mathbb {R}^{\infty }$, снабженном метрикой вида

борелевская $\sigma$-алгебра совпадает с цилиндрической, а сходимость $\mathbb {Q}_{n} \Rightarrow \mathbb {Q}$ при $n \rightarrow \infty$ имеет место тогда и только тогда, когда слабо сходятся все конечномерные распределения. Иначе говоря, класс цилиндров в $\mathbb {R}^{\infty }$ одновременно является классом, определяющим и меру, и сходимость.

Пример 2 (доказательство формулы (IV.19)). По центральной предельной теореме $S_{n} / \sqrt{n} \stackrel{\mathscr {M}}{\rightarrow } \xi \sim \mathrm{N}(0,1)$ при $n \rightarrow \infty$ и, следовательно, $\left|S_{n}\right| / \sqrt{n} \stackrel{\mathscr {P}}{\rightarrow }\left|\xi \right|$ согласно теореме 2. Кроме того, последовательность $\left\{ \left|S_{n}\right| / \sqrt{n}\right\}_{n \geqslant 1}$ равномерно интегрируема, поскольку для нее при $\gamma = 2$ выполнено условие (III.53). Поэтому $\mathbb {E}\left[\left|S_{n}\right|\right] / \sqrt{n} \rightarrow \mathbb {E}\left[\left|\xi \right|\right] = \sqrt{2 / \pi }, n \rightarrow \infty$.

Для случайного вектора $\xi$ в $\mathbb {R}^{m}$ пусть $F_{\xi }$ и $\varphi_{\xi }$ обозначают соответственно функцию распределения и характеристическую функцию (см. § 14 главы I). В курсе теории вероятностей доказывается

Теорема 13 (см., например, [85; т. 1, с. 414]). Соотношение $\xi_{n} \stackrel{\mathscr {D}}{\rightarrow } \xi$ для случайных векторов в $\mathbb {R}^{m}$ равносильно любому из следующих двух условий:

1. $F_{\xi_{n}}(x) \rightarrow F_{\xi }(x)$ при $n \rightarrow \infty$ в каждой точке $x \in \mathbb {R}^{m}$, в которой непреривна функция $F_{\xi }$;

2. $\varphi_{\xi_{n}}(\lambda ) \rightarrow \varphi_{\xi }(\lambda )$ при $n \rightarrow \infty$ для каждого $\lambda \in \mathbb {R}^{m}$. Кроме того, еслидля случайных векторов $\xi_{n}$ в $\mathbb {R}^{m}$ имеет место сходимость $\varphi_{\xi_{n}}(\lambda ) \rightarrow \varphi (\lambda )$ при всех $\lambda \in \mathbb {R}^{m}$, где функция $\varphi$ непрерывна в точке $0 \in \mathbb {R}^{m}$, то $\varphi (\cdot ) = \varphi_{\xi }(\cdot )$ для некоторого случайного вектора $\xi$ и $\xi_{n} \xrightarrow {\mathscr {P}} \xi$ при $n \rightarrow \infty$.

(метод Крамера-Уолда). Докажите, что $\xi_{n} \stackrel{\mathscr {D}}{\rightarrow } \xi$ в $\left(\mathbb {R}^{m}, \mathscr {B}\left(\mathbb {R}^{m}\right)\right)$ тогда и только тогда, когда $\left(a, \xi_{n}\right) \stackrel{\mathscr {D}}{\rightarrow }(a, \xi )$ при $n \rightarrow \infty$ для каждого неслучайного вектора $a \in \mathbb {R}^{m}$, где $(\cdot , \cdot )$ — скалярное произведение в $\mathbb {R}^{m}$.

Это упражнение показывает, как можно сводить изучение слабой сходимости случайных векторов в $\mathbb {R}^{m}$ к изучению слабой сходимости случайных величин.

В связи с теоремой 13 заметим, что понятие характеристической функции для меры на $\left(\mathbb {R}^{m}, \mathscr {B}\left(\mathbb {R}^{m}\right)\right)$ допускает естественное обобщение на более общие пространства. Так, пусть S — действительное сепарабельное банахово пространство, $\mathrm{S}^{*}$ — сопряженное пространство (т.е. пространство непрерывных линейных функционалов на $S$ ) и $\mathscr {P}(\mathrm{S})$ — пространство вероятностных мер на $\mathscr {B}(\mathrm{S})$.

Определение 9. Характеристическим функционалом меры $\mathbb {Q} \in \mathscr {P}(\mathrm{S})$ (или случайного элемента $X: \Omega \rightarrow \mathrm{S}, X \in \mathscr {F} \mid \mathscr {B}(\mathrm{S})$, такого, что $\operatorname {Law}(X) = \mathbb {Q}$ ) называется отображение $\varphi_{\mathbb {Q}}: \mathrm{S}^{*} \rightarrow \mathbb {C}$, задаваемое формулой

где $\left\langle y, x^{*} \right\rangle$ обозначает действие линейного функционала $x^{*}$ на элемент $y \in \mathrm{S}$.

Пусть $\mathscr {C}$ — совокупность цилиндрических множеств в $\mathrm{S}$, т.е. множеств вида

где $B \in \mathscr {B}\left(\mathbb {R}^{n}\right), z_{1}^{*}, \ldots , z_{n}^{*} \in \mathrm{S}^{*}$.

(сравните с теоремой 13). Покажите, что $\mathscr {C}$ порождает $\mathscr {B}(\mathrm{S})$. Докажите, что если $\mathbb {Q}_{n} \Rightarrow \mathbb {Q}$ в $\mathscr {P}(\mathrm{S})$, то $\varphi_{\mathbb {Q}_{n}} \rightarrow \varphi_{\mathbb {Q}}$ поточечно. Обратно, пусть $\varphi_{\mathbb {Q}_{n}} \rightarrow \varphi$ поточечно, где $\varphi : \mathrm{S}^{*} \rightarrow \mathbb {C}$ и семейство $\left\{ \mathbb {Q}_{n}, n \geqslant 1\right\}$ плотно. Тогда $\varphi = \varphi_{\mathbb {Q}}$ для некоторого $\mathbb {Q} \in \mathscr {P}(\mathrm{S})$ и $\mathbb {Q}_{n} \Rightarrow \mathbb {Q}$.

С помощью теоремы 13 главы III докажите принцип инвариантности (теорему 8) для схемы серий, порожденной последовательностью независимых одинаково распределенных величин с нулевым средним и единичной дисперсией.

Результаты о слабой сходимости сумм независимых случайных величин в схеме серий приводят к следующему утверждению.

Теорема 14 (Дуб). Пусть прочесс $X = \left\{ X_{t}, t \geqslant 0\right\}$ принимает при каждом $t$ значения в $\mathbb {R}^{m}$ и имеет независимые приращения. Если траектории процесса непрерывны п.н., то прочесс $Y = \left\{ Y_{t} = X_{t}-X_{0}, t \geqslant 0\right\}$ является гауссовским. При этом для $0 \leqslant s \leqslant t < \infty$

где $M: \mathbb {R}_{+} \rightarrow \mathbb {R}^{m}$ и $G: \mathbb {R}_{+} \rightarrow \mathbb {R}^{m^2}$ — непрерывные функции.

Если в условиях этой теоремы величина $X_{0}$ имеет вырожденное распределение, то и сам процесс $\left\{ X_{t}, t \geqslant 0\right\}$ будет гауссовским. Если процесс $X$ удовлетворяет условию теоремы 14 на отрезке $[a, b]$, то ее утверждение справедливо для процесса $\left\{ Y_{t} = X_{t}-X_{a}, t \in [a, b]\right\}$. (Достаточно ввести процесс $\tilde{X}_{t} = X_{t+a}$ для $t \in [0, b-a]$ и $\widetilde{X}_{t} = X_{b}$ при $t \geqslant b$.) Технически довольно сложное доказательство теоремы 14 и ряда вспомогательных утверждений, представляющих самостоятельный интерес, отнесено в приложение 3.

Покажем, как, применяя принцип инвариантности (теорему 8), можно найти распределение функционала $\sup W(t)$. Согласно формуле (III.34) это распределение $t \in [0,1]$

совпадает с распределением случайной величины $\left|W(1)\right|$. Для иного доказательства этого свойства построим случайные ломаные $S_{n}(\cdot )$ по сериям величин $X_{n, i} = X_{i} / \sqrt{n}, i = 1, \ldots , n$, где $X_{1}, X_{2}, \ldots$ независимы, одинаково распределены и

(сравните со следствием 1 главы III). Докажите, что для любого целого неотрицательного числа $j$

где $S_{0} = 0, S_{k} = X_{1}+\cdots +X_{k}, k \geqslant 1$, а $X_{1}, X_{2}, \ldots$ — введенные выше величины.

Теперь заметим, что для каждого $z > 0$

где $j_{n}$ — наименьшее целое число, большее или равное $z \sqrt{n}$, другими словами, $j_{n} = -\left[-z \sqrt{n}\right]$, где $\left[\cdot \right]$ — целая часть числа. Пользуясь центральной предельной теоремой и учитывая равномерную сходимость функций распределения нормированных сумм к функции распределения стандартного нормального закона, получаем, что для любого $z > 0$

где $\xi \sim \mathrm{N}(0,1)$.

Полезно отметить, что использованное свойство равномерной сходимости функций распределения в общем случае формулируется следующим образом.

Пусть $\xi_{n} \xrightarrow {\mathscr {D}} \xi$, где $\xi , \xi_{n}, n \geqslant 1$, действительные случайные величины, причем функция $F_{\xi }(x)$ непрерывна на $\mathbb {R}$. Тогда

Для получения из соотношений (43) и (44) искомого результата (III.34), описывающего распределение максимума броуновского движения на отрезке $[0,1]$, остается выполнить простое упражнение:

Докажите, что для введенньх перед упражнением 11 двузначных величин $X_{i}$, $i \in \mathbb {N}$, и их сумм $S_{k} = X_{1}+\cdots +X_{k}, k \geqslant 1$, имеем

Теперь обратимся к более общему результату, нежели (III.34), описывающему совместное распределение величин $m = \inf_{t \in [0,1]} W(t), M = \sup_{t \in [0,1]} W(t)$ и $W(1)$.

Пусть, по-прежнему, $X_{1}, X_{2}, \ldots$ — независимые одинаково распределенные случайные величины, $\mathbb {P}\left(X_{1} = -1\right) = \mathbb {P}\left(X_{1} = 1\right) = 1 / 2$ и $S_{0} = 0, S_{k} = X_{1}+\cdots +X_{k}$, $k \geqslant 1$. Обозначим $m_{n} = \min_{0 \leqslant k \leqslant n} S_{k}, M_{n} = \max_{0 \leqslant k \leqslant n} S_{k}$.

Введем непрерывное отображение $h: C[0,1] \rightarrow \mathbb {R}^{3}$,

В силу теорем 2 и 8 имеем

где $S_{n}(t), 0 \leqslant t \leqslant 1$, — случайная ломаная с узлами $\left(k / n, S_{k} / \sqrt{n}\right), k = 0, \ldots , n$. Более сложные рассуждения, чем приведенные выше для нахождения распределения $M$, позволяют с помощью предельного перехода (45) установить следующий результат (см., например, [2; с. 113-115], [7; с. 18-21]).

Теорема 15. Для $a < 0 < b, a < r < s < b u \xi \sim \mathrm{N}(0,1)$ имеем

Приведем еще несколько результатов о слабой сходимости и компактности распределений процессов с непрерывными траекториями.

Теорема 16 (Прохоров; см., например, [146; с. 259]). Пусть $X, X^{(n)}(n \geqslant 1)$ — случайные элементы со значениями в пространстве $C(T, \mathrm{~ S})$, где $T$ — компакт, a S — польское пространство. Соотношение $X^{(n)} \stackrel{\mathscr {D}}{\rightarrow } X$ справедливо тогда и только тогда, когда конечномерные распределения процессов $X^{(n)}$ слабо сходятся к конечномерным распределениям процесса $X(n \rightarrow \infty )$ и

$\Delta \left(X^{(n)}, \delta \right)$ — модуль непрерывности случайной функции $X^{(n)}$.

Рассмотрим теперь пространство $C(T, \mathrm{~ S})$, где $\mathrm{S}$ — метрическое пространство, а $T$ — локально компактное хаусдорфово пространство со второй аксиомой счетности (последнее означает, что в пространстве имеется счетная база). Снабдим $C(T, \mathrm{~ S})$ топологией равномерной сходимости на компактах,введя метрику

где $x = (x(t), t \in T), y = (y(t), t \in T) \in C(T, \mathrm{~ S})$, а $T$ представимо в виде

Докажите, что $X^{(n)} \stackrel{\mathscr {P}}{\rightarrow } X$ во введенном выше пространстве $C(T, \mathrm{~ S})$ тогда и только тогда, когда $X_{\mid K}^{(n)} \stackrel{\mathscr {M}}{\rightarrow } X_{\mid K}$ в $C(K, \mathrm{~ S})$ для любого компакта $K \subset T$; здесь, как и прежде, $Y_{\mid K}$ означает сужение функции $Y = \left\{ Y_{t}, t \in T\right\}$ до функции $Y_{\mid K} = \left\{ Y_{t}, t \in K\right\}$.

Этот результат, упражнение 8 и теорема 8 приводят к следующему утверждению.

Пусть $\xi_{1}, \xi_{2}, \ldots$ — независимые одинаково распределенные случайные векторы в $\mathbb {R}^{m}$, для которых $\mathbb {E}\left[\xi_{1}\right] = 0, \mathbb {E}\left[\left\| \xi_{1}\right\|^{2}\right] < \infty$, где $\left\| \cdot \right\|$ — евклидова норма. Тогда процессы

где $\left[\cdot \right]$ — целая часть числа, сходятся по распределению при $n \rightarrow \infty$ в пространстве $C\left([0, \infty ), \mathbb {R}^{m}\right)$ к стандартному $m$-мерному броуновскому движению, домноженному на константу.

Пусть $X^{(n)}, n \geqslant 1,$ — непрерывные процессы на $\mathbb {R}^{d}$ со значениями при каждом $t \in \mathbb {R}^{d}$ в метрическом пространстве $\mathrm{S}$. Докажите, что распределения этих процессов плотны в $C\left(\mathbb {R}^{d}, \mathrm{~ S}\right)$, если для некоторых констант $\alpha , \beta > 0$

где $\left\| \cdot \right\|$ — некоторая норма в $\mathbb {R}^{d}$.

По изложенной выше схеме изучения слабой сходимости в пространстве $C(T, \mathrm{~ S})$ может быть также проведено исследование слабой сходимости в пространствах Скорохода $D\left([0,1]^{q}\right)$ и $D\left([0, \infty )^{q}\right), q \geqslant 1$. Эти пространства состоят из функций, определенных соответственно на $[0,1]^{q}$ и $[0, \infty )^{q}$, принимающих действительные значения и таких, что они непрерывны сверху в каждой точке и в каждой точке $t \neq 0$ имеют предел снизу (предел функции $f$ сверху в $q$-мерной точке $t = \left(t_{1}, \ldots , t_{q}\right.$ ) означает, что берется предел $f(s)$ при $s \rightarrow t$ для $s \neq t$ таких, что $s_{k} \geqslant t_{k}, k = 1, \ldots , q$; аналогично определяется предел снизу). Введенные пространства с помощью специальным образом заданных метрик могут быть превращены в польские, в них также вводится аналог модуля непрерывности.

По сравнению с пространствами непрерывных функций пространства Скорохода обладают следующими преимуществами. В этих пространствах близкими оказываются не только функции, получающиеся "малой деформацией" в области их значений, но и функции, получающиеся "малой деформацией" временно́зо аргумента $t$ (например, функции $f_{x}(t) = \mathbf{1}_{[x, \infty )}(t)$ и $f_{y}(t) = \mathbf{1}_{[y, \infty )}(t)$ не сближаются в пространстве $C$ при $x \rightarrow y$, но сближаются в пространстве $D$ ).

С данным кругом вопросов можно ознакомиться в [2] и [26].

В связи с вышесказанным рассмотрим следующую модель случайно блуждающей частицы. Пусть $Y_{1}^{(a)}, Y_{2}^{(a)}, \ldots$ — независимые одинаково распределенные величины и

Пусть $\xi_{1}^{(\lambda )}, \xi_{2}^{(\lambda )}, \ldots$ — независимые величины, экспоненциально распределенные с параметром $\lambda > 0$, причем последовательности $\left\{ Y_{n}^{(a)}\right\}$ и $\left\{ \xi_{m}^{(\lambda )}\right\}$ независимы при всех $a$ и $\lambda$. Предположим, что состояния частицы изменяются на $a$ или $-a$ в моменты $\tau_{k}^{(\lambda )} = \sum_{j = 1}^{k} \xi_{j}^{(\lambda )}, k = 1,2, \ldots$ (в момент $t = 0$ частица находится в нуле). Точнее говоря, пусть в момент $\tau_{k}^{(\lambda )}$ координата частицы равна $\sum_{j = 1}^{k} Y_{j}^{(a)}$, это состояние сохраняется на промежутке $\left[\tau_{k}^{(\lambda )}, \tau_{k+1}^{(\lambda )}\right)$ и, таким образом, положение частицы в момент $t$ описывает процесс $X_{t}^{(a, \lambda )} = \sum_{j \leqslant N_{\lambda }(t)} Y_{j}^{(a)}, t \geqslant 0$, где $N_{\lambda }(t) = \max \left\{ k: \tau_{k}^{(\lambda )} \leqslant t\right\}$ (считаем $\left.N_{\lambda }(0) = 0, X_{0}^{(a, \lambda )} = 0\right)$. Процесс $N = \left\{ N_{\lambda }(t), t \geqslant 0\right\}$ является пуассоновским согласно теореме 2 главы II).

Исследуйте сходимость конечномерных распределений процессов $X^{(a, \lambda )}$ при условии, что $a \rightarrow 0$ и $\lambda \rightarrow \infty$ таким образом, что $a^{2} \lambda = \sigma^{2} > 0$ (т.е. величина смещения уменьшается и соударения учащаются). Будут ли процессы $X^{(a, \lambda )}$ слабо сходиться в пространстве $D[0, \infty )$ ?

Замечание 3. Изложенный в данной главе метод доказательства предельных теорем, основанный на идеях плотности и конечномерной сходимости, "хорошо работает" тогда, когда предельный процесс является относительно простым (например, процессом с независимыми приращениями). В тех же случаях, когда предельный процесс является более сложным (например, процессом диффузионного типа, марковским процессом, мартингалом, семимартингалом), полезно применение мартингальных методов (см., например, [26]) или методов, опирающихся на аппарат марковских полугрупп (см., например, [91]).

Наряду с принципом инвариантности Донскера-Прохорова, относящимся к слабой сходимости распределений процессов, в теории случайных процессов важную роль играют сильные принципы инвариантности, в которых рассматривается не близость распределений процессов, а близость их траекторий.

Пусть задана последовательность независимых (или должным образом "слабо зависимых") величин $\xi_{1}, \xi_{2}, \ldots$ со значениями в $\mathbb {R}$ (или в $\mathbb {R}^{m}$, или даже в некотором банаховом пространстве). Тогда можно перейти к новой последовательности величин $\eta_{1}, \eta_{2}, \ldots$, заданной, вообще говоря, на другом вероятностном пространстве вместе с некоторым броуновским движением $W = \left\{ W(t), t \geqslant 0\right\}$ так, что (при справедливости ряда условий) будут выполнены следующие два свойства: $\operatorname {Law}\left(\xi_{1}, \xi_{2}, \ldots \right) = \operatorname {Law}\left(\eta_{1}, \eta_{2}, \ldots \right)$ и п. н.

где $h$ — некоторая неслучайная положительная функция. Запись (48) означает существование для п. в. $\omega \in \Omega$ такого $C(\omega ) > 0$, что

Вместо (48) рассматриваются также соотношения вида

означаюшие, что $\left|\sum_{k \leqslant t} \eta_{k}-W(t)\right| / g(t) \rightarrow 0$ при $t \rightarrow \infty$ для п. в. $\omega \in \Omega$, где $g$ — некоторая неслучайная функция. Приведем один из результатов, относящихся к этому кругу вопросов.

Теорема 17 (Штрассен, [188]). Пусть $\xi_{1}, \xi_{2}, \ldots$ — независимые одинаково распределенные случайные величины такие, что $\mathbb {E}\left[\xi_{1}\right] = 0$ и $\mathbb {E}\left[\xi_{1}^{2}\right] = 1$. Тогда справедливо соотношение (49) с $g(t) = (t \ln \ln t)^{1 / 2}, t > e$.

Данное в [188] доказательство этой теоремы основано на представлении Скорохода (см. (III.78)). Другой мощный метод получения оценок типа (48), так называемый “венгерский метод", был предложен Й. Комлошем, П. Майором и Г. Тушнади [152]. Заметим также, что наряду с аппроксимациями сумм $\sum_{k \leqslant t} \eta_{k}$ винеровским процессом (как в (48), (49)) используются также приближения с помощью специальным образом построенных последовательностей гауссовских величин [122].

Из курса теории вероятностей известно, что даже для действительных случайных величин при исследовании асимптотических задач важен правильный выбор типа сходимости. Так, согласно центральной предельной теореме для независимых одинаково распределенных величин $X_{k}, k \geqslant 1$, со средним 0 и дисперсией 1 , имеем $n^{-1 / 2} \sum_{k = 1}^{n} X_{k} \stackrel{\mathscr {D}}{\rightarrow } X$ при $n \rightarrow \infty$, где $X \sim \mathrm{N}(0,1)$. В то же время, как в этом нетрудно убедиться, не существует случайной величины $Y$ такой, что $n^{-1 / 2} \sum_{k = 1}^{n} X_{k} \xrightarrow {\mathbb {P}} Y$ при $n \rightarrow \infty$ (а значит, нельзя говорить о пределе рассматриваемых нормированных сумм ни почти наверное, ни в среднем). В этой связи обсудим некоторые типы сходимости вероятностных мер на измеримых пространствах ( $\mathrm{S}, \mathscr {A})$.

Основная идея здесь заключается в том, чтобы обеспечить определенную близость интегральных функционалов $\left\langle f, Q_{n} \right\rangle$ к $\left\langle f, Q \right\rangle$ для функций $f$ из тех или иных классов функций.

Пусть $\mathrm{S}$ — польское пространство. Обозначим $\mathbf{B}(\mathrm{S}, \mathbb {R})$ пространство, состоящее из ограниченных $\mathscr {A} \mid \mathscr {B}(\mathbb {R})$ — измеримых функций $f: \mathrm{S} \rightarrow \mathbb {R}$, снабженное нормой $\left\| \cdot \right\|_{\infty }$. Пусть $\mathscr {P} = \mathscr {P}(\mathrm{S})$ — пространство вероятностных мер на $(\mathrm{S}, \mathscr {A})$. Определим расстояние по вариации $\left\| \cdot \right\|$ между мерами $\mathbb {P}, \mathbb {Q} \in \mathscr {P}$ формулой

Проверьте, что $\nu (\mathbb {P}, \mathbb {Q}) \equiv \left\| \mathbb {P}-\mathbb {Q}\right\|$ является расстоянием на $\mathscr {P}$, которое метризует топологию равномерной сходимости на $\mathscr {P}$, задаваемую системой окрестностей $U(\mathbb {Q}, \delta ) = \left\{ \mathbb {P} \in \mathscr {P}: \nu (\mathbb {P}, \mathbb {Q}) < \delta \right\}$, где $\mathbb {Q} \in \mathscr {P}, \delta > 0$ (о топологических пространствах см. $[35$; гл. $2, \S 5])$.

Докажите, что для расстояния по вариации справедлива следующая формула: $\left\| \mathbb {P}-\mathbb {Q}\right\| = 2 \sup_{A \in \mathscr {A}}\left|\mathbb {P}\left(A\right)-\mathbb {Q}\left(A\right)\right|$.

Пусть меры $\mathbb {P}, \mathbb {Q} \in \mathscr {P}$ и пусть $\mathbb {P}$ и $\mathbb {Q}$ абсолютно непрерывны относительно некоторой меры $\lambda \in \mathscr {P}$ (такая "доминирующая" мера существует, достаточно взять $\lambda = (\mathbb {P}+\mathbb {Q}) / 2)$. Обозначим $p = d \mathbb {P} / d \lambda , q = d \mathbb {Q} / d \lambda$ производные Радона-Никодима мер $\mathbb {P}$ и $\mathbb {Q}$ по мере $\lambda$. Докажите, что $\left\| \mathbb {P}-\mathbb {Q}\right\| = \left\| p-q\right\|_{L^{1}(\lambda )}$, где $L^{1}(\lambda ) = L^{1}(\mathrm{~ S}, \mathscr {A}, \lambda )$. Покажите, что $\nu (\mathbb {P}, \mathbb {Q}) \leqslant 2$, причем равенство достигается только если $\mathbb {P}-\mathbb {Q}$ (меры сингулярны, т. е. имеется $A \in \mathscr {A}$ такое, что $\mathbb {P}\left(A\right) = 1$ и $\mathbb {Q}\left(A\right) = 0)$.

Докажите, что ( $\mathscr {P}(\mathrm{S}), \nu )$ — полное метрическое пространство и что это пространство несепарабельно, если S — несчетно. Что можно сказать о сепарабельности $(\mathscr {P}(\mathrm{S}), \nu )$, если $\mathrm{S}$ — конечно или счетно?

Используя расстояние по вариации, можно дать следующий вариант теоремы Пуассона об аппроксимации биномиальных вероятностей.

Теорема 18. Пусть $S_{n} = \sum_{k = 1}^{n} X_{k}$, где $X_{1}, \ldots , X_{n}$ — независимые величины, $\mathbb {P}\left(X_{k} = 1\right) = p_{k}, \mathbb {P}\left(X_{k} = 0\right) = 1-p_{k}, 0 < p_{k} < 1, k = 1, \ldots , n$. Пусть $Y$ — пуассоновская случайная величина с параметром $\lambda = p_{1}+\cdots +p_{n}$. Тогда

для любого $B \subset \mathbb {R}$.

Доказательство этого результата можно найти, например, в [192; с. 39]; в [85; т. 1, c. 87,479 ] указаны также уточнения приведенной оценки.

В приложениях часто полезна следующая теорема.

Теорема 19 (Шеффе; см., например, [2; с. 306]). Пусть $\mathbb {Q}_{n}, n \in \mathbb {N} \cup \infty$, — такие меры на измеримом пространстве $(\mathrm{S}, \mathscr {A})$, что $\mathbb {Q}_{n} \ll \lambda$ для некоторой $\sigma$-конечной меры $\lambda$ на (S, $\mathscr {A})$. Пусть $d \mathbb {Q}_{n} / d \lambda \rightarrow d \mathbb {Q}_{\infty } / d \lambda$ n. н. по мере $\lambda$. Тогда $\mathbb {Q}_{n}$ сходится $\kappa \mathbb {Q}_{\infty }$ по вариации.

$\mathrm{C}$ расстоянием по вариации тесно связано расстояние Какутани-Хеллингера, определяемое, с учетом обозначений в упражнении 20 , формулой

Проверьте, что $d(\mathbb {P}, \mathbb {Q})$ — метрика на $\mathscr {P}(\mathrm{S})$, значения которой не зависят от выбора доминирующей меры $\lambda$.

Заметим, что

где для $\alpha \in (0,1)$ интеграл Хеллингера определяется формулой

По поводу разнообразных применений, использующих метрику $d(\mathbb {P}, \mathbb {Q})$ и интегралы Хеллингера $H(\alpha ; \mathbb {P}, \mathbf{Q})$, см., например, [85; т. 1, гл. III, § 9, 10].

Теорема 20 (Штрассен). Пусть $\mathbb {P}, \mathbb {Q} \in \mathscr {P}(\mathrm{S})$, где $\mathrm{S}$ — польское пространство. Тогда для метрики Леви-Прохорова верно следующее равенство:

Рассмотрим банахово пространство $B L$ ограниченных действительных липшицевых функций на польском пространстве $\mathrm{S}$, снабженное нормой $\left\| f\right\|_{B L} = \left\| f\right\|_{\infty }+L(f)$, см. (41). Докажите, что функция

задает метрику на $\mathscr {P}(\mathrm{S})$, сходимость в которой также эквивалентна слабой сходимости. Более того, для любых $\mathbb {P}, \mathbb {Q} \in \mathscr {P}(\mathrm{S})$ имеют место неравенства

где $h(t) = 2 t^{2} /(t+2), t \geqslant 0$.

Теорема 21 (Штрассен, см., например, [27; с. 59]). Пусть (S, $\rho$ ) — польское пространство. Метрика Леви-Прохорова $\pi$ является минимальной метрикой для метрики Ки Фан є (метризующей сходимость по вероятности), т. е.

где нижняя грань берется по всем парам случайных величин (X,Y) (каждая пара задана на своем вероятностном пространстве $(\Omega , \mathscr {F}, \mathbb {P})$ ) так, что $\operatorname {Law}(X) = \mathbb {P}, \operatorname {Law}(Y) = \mathbb {Q} u$

Соотношение (51) иллюстрирует идею каплинг-метода (иначе — метода "соединения") для оценки расстояния $\pi (\mathbb {P}, \mathbb {Q})$, состоящего в подборе пар случайных элементов $(X, Y)$ с заданными маргинальными распределениями, таких, что при этом $X$ и $Y$ близки по вероятности в метрике $\rho$. С общей теорией каплинг-метода и его разнообразными приложениями можно ознакомиться по монографиям $[159,190]$.

Использованию различных метрик в предельных теоремах для сумм независимых случайных величин, а также для описания устойчивости стохастических моделей, посвящены монографии $[27,175]$.

Отметим также, что метрический подход является весьма полезным в теории случайных процессов. Например, при широких условиях этот подход позволяет получить оптимальную оценку скорости сходимости в принципе инвариантности Донскера-Прохорова.

Предположим, что $X_{n, i}\left(i = 1, \ldots , m_{n} ; n \geqslant 1\right)$ — последовательность серий невырожденных случайных величин, независимых в каждой серии, для которых $\mathbb {E}\left[X_{n, i}\right] = 0, \mathbb {E}\left[\left|X_{n, i}\right|^{s}\right] < \infty$ при некотором $s > 2$. Будем считать $X_{n, i}$ нормированными так, что $\sum_{i = 1}^{m_{n}} \sigma_{n, i}^{2} = 1$, где $\sigma_{n, i}^{2} = \operatorname {Var}\left[X_{n, i}\right]$. Положим $L_{n, s} = \sum_{i = 1}^{m_{n}} \mathbb {E}\left[\left|X_{n, i}\right|^{s}\right]$. Эта величина назьвается дробъю Ляпунова (при отсутствии условия нормировки соответствующая величина определялась бы как дробь $\left.L_{n, s} = \sum_{i = 1}^{m_{n}} \mathbb {E}\left[\left|X_{n, i}-\mathbb {E}\left[X_{n, i}\right]\right|^{s}\right] /\left(\sum_{i = 1}^{m_{n}} \sigma_{n, i}^{2}\right)^{s / 2}\right)$. Легко видеть, что условие Ляпунова

влечет условие Линдеберга (18). Полезно отметить, что условие Линдеберга является не только достаточным, но и необходимым для выполнения центральной предельной теоремы (см. приложение 3 ), если слагаемые $X_{n, i}$ удовлетворяют (22). Используется (см. [50, с. 102]) и "условие бесконечной малости":

Необходимые и достаточные условия выполнения центральной предельной теоремы без предположения (52) можно найти в $[27,85]$.

Теорема 22 (Боровков). Пусть для серий независимых центрированных случайных величин $X_{n, i}, i = 1, \ldots , m_{n}, n \geqslant 1$, при некотором $s \in (2,3]$

а также $\sum_{i = 1}^{m_{n}} \operatorname {Var}\left[X_{n, i}\right] = 1, n \geqslant 1$. Тогда для случайных ломаных $S_{n}(\cdot )$, фигурирующих в теореме 8, справедлива следующая оценка:

где $\mathbb {P}_{n}$ — распределение случайной ломаной $S_{n}(\cdot ), \mathbb {W}$ — мера Винера в $C[0,1]$, и с — некоторый множитель, не зависящий от $n$.

Подробное доказательство этого результата вместе с библиографическими ссылками и необходимым вспомогательным материалом можно найти в [7] (там же разобран пример Т. Арака, показывающий, что оценка (53) оптимальна с точностью до выбора постоянного множителя $c$ ). Для $s = 3$ доказательство приведено в [4].

В заключение этого раздела затронем вопрос, относящийся к случайным мерам.

Пусть S — локально компактное хаусдорфово пространство со второй аксиомой счетности и $M(\mathrm{~ S})$ — пространство локально конечных мер $\mu = \mu (\cdot )$ на борелевской $\sigma$-алгебре $\mathscr {B}(\mathrm{S})$ (т.е. пространство мер, являющихся конечными на ограниченных множествах пространства S), снабженное топологией, в которой непрерывны отображения

для функций $f$ из класса $C_{K}^{+}$непрерывных неотрицательных функций с компактным носителем.