Законы больших чисел

Докажите теорему 8.1.3 и следствие 8.1.4.

Пусть $\left\{ X_{n}\right\}_{n \geq 1}$ — последовательность случайных величин на вероятностном пространстве $(\Omega , \mathcal{F}, P)$ такая, что для некоторого $m \in \mathbb {N}$ и для каждого $i = 1, \ldots , m$, $\left\{ X_{i}, X_{i+m}, X_{i+2 m}, \ldots \right\}$ одинаково распределены и попарно независимы. Далее, предположим, что $\mathbb {E}\left[\left|X_{1}\right|+\cdots +\left|X_{m}\right|\right] < \infty$. Покажите, что

Пусть $f$ — ограниченная измеримая функция на $[0,1]$, непрерывная в точке $\frac{1}{2}$. Вычислите $\lim_{n \rightarrow \infty } \int_{0}^{1} \int_{0}^{1} \cdots \int_{0}^{1} f\left(\frac{x_{1}+x_{2}+\cdots +x_{n}}{n}\right) d x_{1} d x_{2} \ldots d x_{n}$.

Покажите, что если $\mathbb {P}\left(\left|X\right| > \alpha \right) < \frac{1}{2}$ для некоторого действительного числа $\alpha$, то любая медиана $X$ должна лежать в интервале $[-\alpha , \alpha ]$.

Докажите теорему 8.3.4, используя первое неравенство Колмогорова (теорема 8.3.1 (a)).

Пусть $\left\{ X_{n}\right\}_{n \geq 1}$ — последовательность н.о.р. случайных величин с $\mathbb {E}\left[\left|X_{1}\right|^{\alpha }\right]< \infty$ для некоторого $\alpha > 0$. Выведите необходимое и достаточное условие на $\alpha$ для почти наверной сходимости ряда $\sum_{n = 1}^{\infty } X_{n} \sin 2 \pi n t$ для всех $t \in (0,1)$.

Покажите, что для любой заданной последовательности случайных величин $\left\{ X_{n}\right\}_{n \geq 1}$ существует последовательность действительных чисел $\left\{ a_{n}\right\}_{n \geq 1} \subset (0, \infty )$ такая, что $\frac{X_{n}}{a_{n}} \rightarrow 0$ п.н.

Пусть $\left\{ X_{n}\right\}_{n \geq 1}$ — последовательность независимых случайных величин с

для некоторого $a_{n} \in \left(0, \frac{1}{3}\right)$ и $\beta \in \mathbb {R}$. Покажите, что $\sum_{n = 1}^{\infty } X_{n}$ сходится тогда и только тогда, когда $\sum_{n = 1}^{\infty } a_{n} < \infty$.

Пусть $\left\{ X_{n}\right\}_{n \geq 1}$ — последовательность н.о.р. случайных величин с $\mathbb {E}\left[\left|X_{1}\right|^{p}\right]= \infty$ для некоторого $p \in (0,2)$. Тогда $\mathbb {P}\left(\limsup_{n \rightarrow \infty }\left|n^{-1 / p} \sum_{i = 1}^{n} X_{i}\right| = \infty \right) = 1$.

Для любой случайной величины $X$ и любого $r \in (0, \infty ), \mathbb {E}\left[\left|X\right|^{r}\right] < \infty$ тогда и только тогда, когда $\sum_{n = 1}^{\infty } n^{r-1}(\log n)^{r} \mathbb {P}\left(\left|X\right| > n \log n\right) < \infty$.

Пусть $\left\{ X_{n}\right\}_{n > 1}$ — последовательность независимых случайных величин с $\mathbb {E}\left[X_{n}\right] = 0, \mathbb {E}\left[X_{n}^{2}\right] = \sigma_{n}^{2}, s_{n}^{2} = \sum_{j = 1}^{n} \sigma_{j}^{2} \rightarrow \infty$. Тогда покажите, что для любого $a > \frac{1}{2}$,

Покажите, что для $p \in (0,2), p \neq 1$, выполняется (4.12).

Пусть $Y_{i} = x_{i} \beta +\epsilon_{i}, i \geq 1$, где $\left\{ \epsilon_{n}\right\}_{n \geq 1}$ — последовательность н.о.р. случайных векторов, $\left\{ x_{n}\right\}_{n \geq 1}$ — последовательность констант, а $\beta \in \mathbb {R}$ — константа (параметр регрессии). Пусть $\hat{\beta }_{n} = \sum_{i = 1}^{n} x_{i} Y_{i} / \sum_{i = 1}^{n} x_{i}^{2}$ обозначает (метода наименьших квадратов) оценку $\beta$. Пусть $n^{-1} \sum_{i = 1}^{n} x_{i}^{2} \rightarrow c \in (0, \infty )$ и $\mathbb {E}\left[\epsilon_{1}\right] = 0$.

(Строго состоятельное оценивание.) Пусть $\left\{ X_{i}\right\}_{i \geq 1}$ — случайные величины на некотором вероятностном пространстве $(\Omega , \mathcal{F}, P)$ такие, что (i) для некоторого целого $m \geq 1$ семейства $\left\{ X_{i}: i \leq n\right\}$ и $\left\{ X_{i}: i \geq n+m\right\}$ независимы для каждого $n \geq 1$, и (ii) распределение $\left\{ X_{i+j} ; 0 \leq j \leq k\right\}$ не зависит от $i$ для всех $k \geq 0$.

(Нормальные числа). Напомним, что в разделе 4.5 было показано, что для любого целого положительного $p > 1$ и для любого $0 \leq \omega \leq 1$ можно записать $\omega$ в виде

где для каждого $i, X_{i}(\omega ) \in \left\{ 0,1,2, \ldots , p-1\right\}$. Напомним также, что такое разложение единственно, за исключением $\omega$ вида $q / p^{n}, q = 1,2, \ldots , p^{n}-1$, $n \geq 1$, в этом случае существуют ровно два разложения, одно из которых периодическое. В дальнейшем для таких $\omega$ в (8.2) используется периодическое разложение. Число $\omega$ в $[0,1]$ называется нормальным относительно целого числа $p$, если для каждой конечной последовательности $a_{1} a_{2} \ldots a_{k}$, где $k \geq 1$ — целое положительное число и $a_{i} \in \left\{ 0,1,2, \ldots , p-1\right\}$ для $1 \leq i \leq k$, относительная частота $\frac{1}{n} \sum_{i = 1}^{n} \delta_{i}(\omega )$, где

сходится к $p^{-k}$ при $n \rightarrow \infty$. Число $\omega$ в $[0,1]$ называется абсолютно нормальным, если оно нормально относительно $p$ для каждого целого $p > 1$. Покажите, что множество $A$ всех чисел $\omega$ в $[0,1]$, являющихся абсолютно нормальными, имеет меру Лебега единица.

Покажите, что для последовательности восстановления $\left\{ S_{n}\right\}_{n = 0}^{\infty }$, если $\mathbb {P}\left(X_{1} > 0\right) > 0$, то $\lim_{n \rightarrow \infty } S_{n} = \infty$ п.н.

Проверьте, что последовательность $\left\{ Y_{n}\right\}_{n \geq 0}$ в примере 8.5.2 и процесс $\left\{ Y(t): t \geq 0\right\}$ в примере 8.5.3 оба являются регенерирующими.

Покажите, что отображение $T$ в примере 8.6.4 раздела 8.6 сохраняет меру.

Пусть $T$ — сохраняющее меру отображение на вероятностном пространстве $(\Omega , \mathcal{F}, P)$. Покажите, что $A$ почти $T$-инвариантно относительно $P$ тогда и только тогда, когда существует множество $A_{1}$ такое, что $A_{1} = T^{-1} A_{1}$ и $\mathbb {P}\left(A \triangle A_{1}\right) = 0$.

Покажите, что функция $h: \Omega \rightarrow \mathbb {R}$ является $\mathcal{I}$-измеримой тогда и только тогда, когда $h(\omega ) = h(T \omega )$ для всех $\omega$, где $\mathcal{I}$ — $\sigma$-алгебра $T$-инвариантных множеств.

Рассмотрим пространство последовательностей $\left(\mathbb {R}^{\infty }, \mathcal{B}\left(\mathbb {R}^{\infty }\right)\right)$. Покажите, что $A \in \mathcal{B}\left(\mathbb {R}^{\infty }\right)$, инвариантное относительно одностороннего сдвига $T$, влечёт, что $A$ принадлежит хвостовой $\sigma$-алгебре.

В примере 8.6.7 раздела 8.6 покажите, что $\left\{ Z_{i}\right\}_{i \geq 1}$ — стационарная последовательность, не являющаяся эргодической.

В замечании 8.6.5 докажите теорему Шеннона-Макмиллана-Бреймана непосредственно для случая цепи Маркова.

Пусть $\left\{ X_{i}\right\}_{i \geq 1}$ — н.о.р. $\operatorname {Ber}\left(1/2\right)$ случайные величины. Пусть

Пусть $\left\{ X_{n}\right\}_{n \geq 1}$ — последовательность попарно независимых одинаково распределённых случайных величин с $\mathbb {P}\left(X_{1} \leq x\right) = F(x), x \in \mathbb {R}$. Зафиксируем $0 < p < 1$. Предположим, что $F\left(\zeta_{p}+\epsilon \right) > p$ для всех $\epsilon > 0$, где

Покажите, что $\hat{\zeta }_{n} \equiv F_{n}^{-1}(p) \equiv \inf \left\{ x: F_{n}(x) \geq p\right\}$ сходится к $\zeta_{p}$ п.н., где $F_{n}(x) \equiv n^{-1} \sum_{i = 1}^{n} I\left(X_{i} \leq x\right), x \in \mathbb {R}$ — эмпирическая функция распределения $X_{1}, \ldots , X_{n}$.

Пусть $\left\{ X_{i}\right\}_{i \geq 1}$ — случайные величины такие, что $\mathbb {E}\left[X_{i}^{2} \right] < \infty$ для всех $i \geq 1$. Предположим, что $\frac{1}{n} \sum_{i = 1}^{n} \mathbb {E}\left[X_{i}\right] \rightarrow 0$ и $a_{n} \equiv \frac{1}{n^{2}} \sum_{j = 0}^{n}(n-j) v(j) \rightarrow 0$ при $n \rightarrow \infty$, где $v(j) = \sup_{i}\left|\operatorname {Cov}\left[ X_{i}, X_{i+j} \right]\right|$.

Пусть $\left\{ X_{i}\right\}_{i \geq 1}$ — н.о.р. случайные величины с функцией распределения $F(\cdot )$. Пусть $F_{n}(x) \equiv \frac{1}{n} \sum_{i = 1}^{n} I\left(\bar{X}_{i} \leq x\right)$ — эмпирическая функция распределения. Предположим, что $x_{n} \rightarrow x_{0}$ и $F(\cdot )$ непрерывна в точке $x_{0}$. Покажите, что $F_{n}\left(x_{n}\right) \rightarrow F\left(x_{0}\right)$ п.н.

Пусть $p$ — целое положительное число $> 1$. Пусть $\left\{ \delta_{i}\right\}_{i \geq 1}$ — н.о.р. случайная величина с распределением $\mathbb {P}\left(\delta_{1} = j\right) = p_{j}, 0 \leq j \leq p-1, p_{j} \geq 0, \sum_{0}^{p-1} p_{j} = 1$. Пусть $X = \sum_{i = 1}^{\infty } \frac{\delta_{i}}{p^{2}}$. Покажите, что

(Случайный AR-ряд). Пусть $\left\{ X_{n}\right\}_{n \geq 0}$ — последовательность случайных величин такая, что

где последовательность $\left\{ \left(\rho_{n}, \epsilon_{n}\right)\right\}_{n \geq 1}$ н.о.р. и независима от $X_{0}$.

(Итерированные случайные функции). Пусть $(\mathbb {S}, \rho )$ — полное сепарабельное метрическое пространство. Пусть $(G, \mathcal{G})$ — измеримое пространство. Пусть $f: G \times \mathbb {S} \rightarrow \mathbb {S}$ — $\langle \mathcal{G} \times \mathcal{B}(\mathbb {S}), \mathcal{B}(\mathbb {S})\rangle$-измеримая функция. Пусть $(\Omega , \mathcal{F}, P)$ — вероятностное пространство, и пусть $\left\{ \theta_{i}\right\}_{i \geq 1}$ — н.о.р. $G$-значные случайные величины на $(\Omega , \mathcal{F}, P)$. Пусть $X_{0}$ — $\mathbb {S}$-значная случайная величина на $(\Omega , \mathcal{F}, P)$, независимая от $\left\{ \theta_{i}\right\}_{i \geq 1}$. Определим $\left\{ X_{n}\right\}_{n \geq 0}$ по схеме случайной итерации,

(Обобщение теоремы Гливенко-Кантелли (теорема 8.2.4) на многомерный случай). Пусть $\left\{ X_{n}\right\}_{n \geq 1}$ — последовательность попарно независимых одинаково распределённых случайных векторов, принимающих значения в $\mathbb {R}^{k}$, с функцией распределения $F(x) \equiv \mathbb {P}\left(X_{11} \leq x_{1}, X_{12} \leq x_{2}, \ldots , X_{1 k} \leq x_{k}\right)$, где $X_{1} = \left(X_{11}, X_{12}, \ldots , X_{1 k}\right)$ и $x = \left(x_{1}, x_{2}, \ldots , x_{k}\right) \in \mathbb {R}$. Пусть $F_{n}(x) \equiv \frac{1}{n} \sum_{i = 1}^{n} I\left(X_{i} \leq x\right)$ — эмпирическая функция распределения, основанная на $\left\{ X_{i}\right\}_{1 \leq i \leq n}$. Покажите, что $\sup \left\{ \left|F_{n}(x)-F(x)\right|: x \in \mathbb {R}\right\} \rightarrow 0$ п.н.