Задачи

Пусть $X_{n}$ имеет функцию плотности

Относительно каких видов сходимости $X_{n}$ сходится при $n \rightarrow \infty$?

(i) Предположим, что $X_{n} \xrightarrow {\text{ п.н. }} X$ и $Y_{n} \xrightarrow {\text{ п.н. }} Y$.

Пусть $g: \mathbb {R} \rightarrow \mathbb {R}$ — непрерывная функция. Покажите, что $g\left(X_{n}\right) \xrightarrow {\mathrm{P}} g(X)$, если $X_{n} \xrightarrow {\mathrm{P}} X$.

Пусть $Y_{1}, Y_{2}, \ldots$ — независимые одинаково распределённые величины, каждая из которых может принимать любое значение из $\left\{ 0,1, \ldots , 9\right\}$ с равной вероятностью $\frac{1}{10}$. Пусть $X_{n} = \sum_{i = 1}^{n} Y_{i} 10^{-i}$. Используя характеристические функции, покажите, что $X_{n}$ сходится по распределению к равномерному распределению на [0, 1]. Выведите отсюда, что $X_{n} \xrightarrow {\text{ п.н. }} Y$ для некоторой $Y$, равномерно распределённой на $[0,1]$.

Пусть $N(t)$ — пуассоновский процесс с постоянной интенсивностью на $\mathbb {R}$.

Докажите, что $n^{-1} \sum_{i = 1}^{n} X_{i} \xrightarrow {\text{ п.н. }} 0$, если $X_{i}$ — независимые одинаково распределённые величины с нулевыми средними, такие что $\mathbb {E}\left[X_{1}^{4}\right] < \infty$.

Покажите, что $X_{n} \xrightarrow {\text{ п.н. }} X$, если $\sum_{n} \mathbb {E}\left[\left|X_{n}-X\right|^{r}\right] < \infty$ при некотором $r > 0$.

Покажите, что если $X_{n} \xrightarrow {\mathrm{D}} X$, то $a X_{n}+b \xrightarrow {\mathrm{D}} a X+b$ для любых вещественных $a$ и $b$.

Покажите, что $X_{n} \xrightarrow {\mathrm{P}} 0$ тогда и только тогда, когда

Говорят, что последовательность $\left\{ X_{n}\right\}$ сходится по Коши в среднем квадратичном, если $\mathbb {E}\left[\left(X_{n}-X_{m}\right)^{2}\right] \rightarrow 0$ при $m, n \rightarrow \infty$. Покажите, что $\left\{ X_{n}\right\}$ сходится в среднем квадратичном к некоторому пределу $X$ тогда и только тогда, когда она сходится по Коши в среднем квадратичном. Верен ли соответствующий результат для других видов сходимости?

Предположим, что $\left\{ X_{n}\right\}$ — последовательность некоррелированных величин с нулевыми средними и равномерно ограниченными дисперсиями. Покажите, что $n^{-1} \sum_{i = 1}^{n} X_{i} \xrightarrow {\text{ с.к. }} 0$.

Пусть $X_{1}, X_{2}, \ldots$ — независимые одинаково распределённые случайные величины с общей функцией распределения $F$, и предположим, что $F(x) < 1$ при всех $x$. Пусть $M_{n} = \max \left\{ X_{1}, X_{2}, \ldots , X_{n}\right\}$, и предположим, что существует строго возрастающая неограниченная положительная последовательность $a_{1}, a_{2}, \ldots$, такая что $\mathbb {P}\left(M_{n} / a_{n} \leq x\right) \rightarrow H(x)$ для некоторой функции распределения $H$. Будем считать, что $H$ непрерывна и $0 < H(1) < 1$; существенно более слабых условий достаточно, но они вносят дополнительные трудности.

Пусть $X_{1}, X_{2}, \ldots , X_{n}$ — независимые одинаково распределённые случайные величины с распределением Коши. Покажите, что $M_{n} = \max \left\{ X_{1}, X_{2}, \ldots , X_{n}\right\}$ таково, что $\pi M_{n} / n$ сходится по распределению, причём предельная функция распределения задаётся как $H(x) = e^{-1 / x}$ при $x \geq 0$.

Пусть $X_{1}, X_{2}, \ldots$ — независимые одинаково распределённые случайные величины, общая характеристическая функция $\phi$ которых удовлетворяет $\phi^{\prime }(0) = i \mu$. Покажите, что $n^{-1} \sum_{j = 1}^{n} X_{j} \xrightarrow {\mathrm{P}} \mu$.

Расстояние по полной вариации $d_{\mathrm{TV}}(X, Y)$ между двумя случайными величинами $X$ и $Y$ определяется как

где супремум берётся по всем (измеримым) функциям $u: \mathbb {R} \rightarrow \mathbb {R}$, таким что $\left\| u\right\|_{\infty } = \sup_{x}\left|u(x)\right|$ удовлетворяет $\left\| u\right\|_{\infty } = 1$.

Пусть $g: \mathbb {R} \rightarrow \mathbb {R}$ — ограниченная непрерывная функция. Покажите, что

Пусть $X_{n}$ и $Y_{m}$ — независимые случайные величины, имеющие пуассоновское распределение с параметрами $n$ и $m$ соответственно. Покажите, что

Пусть $X_{1}, X_{2}, \ldots$ — случайные величины, удовлетворяющие $\operatorname {Var}\left[X_{n}\right] < c$ при всех $n$ и некоторой константе $c$. Покажите, что последовательность подчиняется слабому закону, в том смысле, что $n^{-1} \sum_{1}^{n}\left(X_{i}-\mathbb {E}\left[X_{i}\right]\right)$ сходится по вероятности к $0$, если коэффициенты корреляции удовлетворяют одному из следующих условий:

(i) $\rho \left(X_{i}, X_{j}\right) \leq 0$ при всех $i \neq j$,

(ii) $\rho \left(X_{i}, X_{j}\right) \rightarrow 0$ при $\left|i-j\right| \rightarrow \infty$.

Пусть $X_{1}, X_{2}, \ldots$ — независимые случайные величины с общей функцией плотности

где $c$ — константа. Покажите, что $X_{i}$ не имеют среднего, но $n^{-1} \sum_{i = 1}^{n} X_{i} \xrightarrow {\mathrm{P}} 0$ при $n \rightarrow \infty$. Покажите, что сходимость не имеет места почти наверное.

Пусть $X_{n}$ — евклидово расстояние между двумя точками, выбранными независимо и равномерно из $n$-мерного единичного куба. Покажите, что $\mathbb {E}\left[X_{n}\right] / \sqrt{n} \rightarrow 1 / \sqrt{6}$ при $n \rightarrow \infty$.

Пусть $X_{1}, X_{2}, \ldots$ — независимые случайные величины, равномерно распределённые на $[-1,1]$. Покажите, что

Пусть $X_{1}, X_{2}, \ldots$ — независимые случайные величины, каждая $X_{k}$ из которых имеет функцию вероятности, заданную как

Покажите, что $U_{n} = \sum_{1}^{n} X_{i}$ удовлетворяет $U_{n} / \sqrt{n} \xrightarrow {\mathrm{D}} N(0,1)$, но $\operatorname {Var}\left[U_{n} / \sqrt{n}\right] \rightarrow 2$ при $n \rightarrow \infty$.

Пусть $X_{1}, X_{2}, \ldots$ — случайные величины, и пусть $N_{1}, N_{2}, \ldots$ — случайные величины, принимающие значения в положительных целых числах, такие что $N_{k} \xrightarrow {\mathrm{P}} \infty$ при $k \rightarrow \infty$. Покажите, что:

(i) если $X_{n} \xrightarrow {\mathrm{D}} X$ и $X_{n}$ независимы от $N_{k}$, то $X_{N_{k}} \xrightarrow {\mathrm{D}} X$ при $k \rightarrow \infty$,

(ii) если $X_{n} \xrightarrow {\text{ п.н. }} X$, то $X_{N_{k}} \xrightarrow {\mathrm{P}} X$ при $k \rightarrow \infty$.

Мешок содержит красные и зелёные шары. Из мешка вынимают шар, отмечают его цвет, а затем возвращают в мешок вместе с новым шаром того же цвета. Изначально мешок содержал по одному шару каждого цвета. Если $R_{n}$ обозначает число красных шаров в мешке после $n$ добавлений, покажите, что $S_{n} = R_{n} /(n+2)$ является мартингалом. Выведите отсюда, что отношение числа красных шаров к числу зелёных сходится почти наверное к некоторому пределу при $n \rightarrow \infty$.

Пусть $\left\{ X_{i}: i \geq 1\right\}$ — независимые одинаково распределённые случайные величины с нулевым средним и конечной положительной дисперсией $\sigma^{2}$, и пусть $S_{n} = \sum_{1}^{n} X_{i}$. Предположим, что целочисленный случайный процесс $M(t)$ удовлетворяет $t^{-1} M(t) \xrightarrow {\mathrm{P}} \theta$ при $t \rightarrow \infty$, где $\theta$ — положительная константа. Покажите, что

Не следует предполагать, что процесс $M$ независим от $X_{i}$.

Пусть $X_{1}, X_{2}, \ldots$ — независимые случайные величины с нулевыми средними, и $S_{n} = X_{1}+X_{2}+\cdots +X_{n}$. Пусть $M_{n} = \max_{1 \leq k \leq n}\left|S_{k}\right|$, и покажите, что $\mathbb {E}\left[S_{n}^{2} I_{A_{k}}\right] > c^{2} \mathbb {P}\left(A_{k}\right)$, где $A_{k} = \left\{ M_{k-1} \leq c < M_{k}\right\}$ и $c > 0$. Выведите отсюда неравенство Колмогорова:

Пусть $X_{1}, X_{2}, \ldots$ — независимые случайные величины с нулевыми средними, и пусть $S_{n} = X_{1}+X_{2}+ \cdots +X_{n}$. Используя неравенство Колмогорова или теорему о сходимости мартингалов, покажите, что:

(i) $\sum_{i = 1}^{\infty } X_{i}$ сходится почти наверное, если $\sum_{k = 1}^{\infty } \mathbb {E}\left[X_{k}^{2}\right] < \infty$,

(ii) если существует возрастающая вещественная последовательность $(b_{n})$, такая что $b_{n} \rightarrow \infty$ и удовлетворяющая неравенству $\sum_{k = 1}^{\infty } \mathbb {E}\left[X_{k}^{2}\right] / b_{k}^{2} < \infty$, то $b_{n}^{-1} \sum_{k = 1}^{\infty } X_{k} \xrightarrow {\text{ п.н. }} 0$ при $n \rightarrow \infty$.

Марковская цепь $X_{0}, X_{1}, \ldots , X_{n}$ имеет начальное распределение $f_{i} = \mathbb {P}\left(X_{0} = i\right)$ и переходную матрицу $\mathbf{P}$. Функция логарифмического правдоподобия $\lambda (\mathbf{P})$ определяется как $\lambda (\mathbf{P}) = \log \left(f_{X_{0}} p_{X_{0}, X_{1}} p_{X_{1}, X_{2}} \cdots p_{X_{n-1}, X_{n}}\right)$. Покажите, что:

Эргодическая теорема в дискретном времени. Пусть $X$ — неприводимая марковская цепь с дискретным временем, и пусть $\mu_{i}$ — среднее время возвращения в состояние $i$. Пусть $V_{i}(n) = \sum_{r = 0}^{n-1} I_{\left\{ X_{r} = i\right\} }$ — число посещений состояния $i$ до момента $n-1$, и пусть $f$ — произвольная ограниченная функция на $S$. Покажите, что:

Эргодическая теорема в непрерывном времени. Пусть $X$ — неприводимая возвратная марковская цепь с непрерывным временем, с генератором $\mathbf{G}$ и конечными средними временами возвращения $m_{j}$.

Предположим, что последовательности $\left\{ X_{n}: n \geq 1\right\}$ и $\left\{ Y_{n}: n \geq 1\right\}$ хвостово эквивалентны, то есть $\sum_{n = 1}^{\infty } \mathbb {P}\left(X_{n} \neq Y_{n}\right) < \infty$. Покажите, что:

Пусть $\left\{ X_{n}: n \geq 1\right\}$ — независимые случайные величины. Покажите, что $\sum_{n = 1}^{\infty } X_{n}$ сходится п.н., если при некотором $a > 0$ все три следующих ряда сходятся:

(a) $\sum_{n} \mathbb {P}\left(\left|X_{n}\right| > a\right)$

(b) $\sum_{n} \operatorname {Var}\left[X_{n} I_{\left\{ \left|X_{n}\right| \leq a\right\} }\right]$

(c) $\sum_{n} \mathbb {E}\left[X_{n} I_{\left\{ \left|X_{n}\right| \leq a\right\} }\right]$.

Пусть $\left\{ X_{n}: n \geq 1\right\}$ — независимые случайные величины с непрерывной общей функцией распределения $F$. Будем называть $X_{k}$ рекордным значением последовательности, если $X_{k} > X_{r}$ при $1 \leq r < k$, и обозначим через $I_{k}$ индикаторную функцию события, что $X_{k}$ — рекордное значение.

Пусть $\left\{ X_{n}: n \geq 1\right\}$ — последовательность независимых случайных величин с $\mathbb {P}\left(X_{n} = 1\right) = \mathbb {P}\left(X_{n} = -1\right) = \frac{1}{2}$. Сходится ли ряд $\sum_{r = 1}^{n} X_{r} / r$ п.н. при $n \rightarrow \infty$?

Формула Стирлинга для гамма-функции. Пусть $X$ имеет гамма-распределение $\Gamma (1, s)$. Рассматривая интеграл функции плотности $Y = (X-s) / \sqrt{s}$, покажите, что $\Gamma (s) \sim \sqrt{2 \pi } s^{s-\frac{1}{2}} e^{-s}$ при $s \rightarrow \infty$. [Указание: может оказаться полезным, что

если $u^{\prime }(x)$ строго положительна и возрастает.]

Пусть $c_{1}, c_{2}, \ldots$ — вещественные числа, пусть $X_{1}, X_{2}, \ldots$ — независимые случайные величины с функцией вероятности $f(1) = f(-1) = \frac{1}{2}$, и пусть $S_{n} = \sum_{r = 1}^{n} c_{r} X_{r}$. Обозначим

Пусть $X$ и $Y$ — случайные величины со средним $0$, дисперсией $1$ и корреляцией $\rho$. Покажите, что при $\epsilon > 0$

где $x \vee y = \max \left\{ x, y\right\}$. [Указание: если $\left|t\right| \leq 1$, функция $g(x, y) = \left(x^{2}-2 t x y+y^{2}\right) /\left(\epsilon^{2}\left(1-t^{2}\right)\right)$ неотрицательна и, более того, удовлетворяет $g(x, y) \geq 1$, когда $\left|x\right| \vee \left|y\right| \geq \epsilon$.]

Хвост пуассоновского распределения, шары по ячейкам. Пусть $X$ имеет пуассоновское распределение с параметром 1.