Независимость

Пусть $B$ — непустое собственное подмножество $A$. Покажите, что семейства $\mathcal{X}_{B}$ и $\mathcal{X}_{B^{c}}$ независимы, т.е. $\sigma$-алгебры $\sigma \left\langle \mathcal{X}_{B}\right\rangle$ и $\sigma \left\langle \mathcal{X}_{B^{c}}\right\rangle$ независимы относительно $P$.

Пусть $\left\{ B_{\gamma }: \gamma \in \Gamma \right\}$ — разбиение $A$ на непустые собственные подмножества $B_{\gamma }$. Покажите, что семейство $\sigma$-алгебр $\left\{ \sigma \left\langle \mathcal{X}_{B_{\gamma }}\right\rangle : \gamma \in \Gamma \right\}$ независимо относительно $P$.

Покажите, что $\left\{ X_{i}\right\}_{i \geq 1}$ — н.о.р. бернуллиевские $\left(\frac{1}{2}\right)$ случайные величины, т.е. $\mathbb {P}\left(X_{1} = 0\right) = \frac{1}{2} = \mathbb {P}\left(X_{1} = 1\right)$. (Указание: пусть $s_{i} \in \left\{ 0,1\right\} , i = 1,2, \ldots , k, k \in \mathbb {N}$. Покажите, что множество $\left\{ \omega : 0 < \omega < 1, X_{i}(\omega ) = s_{i}, 1 \leq i \leq k\right\}$ является интервалом длины $2^{-k}$.)

Покажите, что

являются независимыми равномерно распределёнными на $(0,1)$ случайными величинами.

Используя тот факт, что множество $\mathbb {N} \times \mathbb {N}$ узлов решётки $(m, n)$ находится во взаимно однозначном соответствии с самим $\mathbb {N}$, постройте последовательность $\left\{ Y_{i}\right\}_{i \geq 1}$ н.о.р. равномерно распределённых на $(0,1)$ случайных величин такую, что для каждого $j$, $Y_{j}$ является функцией от $\left\{ X_{i}\right\}_{i \geq 1}$.

Для любой функции распределения $F$ покажите, что случайная величина $X(\omega ) \equiv F^{-1}(\omega )$ имеет функцию распределения $F$, где

Пусть $\left\{ F_{i}\right\}_{i \geq 1}$ — последовательность функций распределения на $\mathbb {R}$. Используя (c), постройте последовательность $\left\{ Z_{i}\right\}_{i \geq 1}$ независимых случайных величин на $(\Omega , \mathcal{F}, P)$ такую, что $Z_{i}$ имеет функцию распределения $F_{i}, i \geq 1$.

Покажите, что функция распределения случайной величины $W \equiv \sum_{i = 1}^{\infty } \frac{2 X_{i}}{3^{i}}$ является функцией Кантора (ср. раздел 4.5).

Пусть $p > 1$ — целое положительное число. Для каждого $\omega \in (0,1)$ пусть $\omega \equiv \sum_{i = 1}^{\infty } \frac{V_{i}(\omega )}{p^{i}}$ — необрывающееся $p$-ичное разложение $\omega$. Покажите, что $\left\{ V_{i}\right\}_{i \geq 1}$ н.о.р., и определите распределение $V_{1}$.

Покажите, что $\left\{ \tau_{k+1}-\tau_{k}: k \geq 1\right\}$ н.о.р. и независимы от $\tau_{1}$.

Покажите, что

для всех $k \geq 2, i = 0,1$, где $P_{i}$ обозначает распределение вероятностей при $X_{1} = i$ п.н. (Указание: покажите, что $\sum_{k = 1}^{\infty } \mathbb {P}\left( \tau_{1} > k \mid X_{1} = i \right) < \infty$ для $i = 0,1$, и используйте лемму Бореля-Кантелли.)

Покажите также, что $\mathbb {E}_{i}\left[e^{\theta_{0} \tau_{1}}\right] < \infty$ для некоторого $\theta_{0} > 0, i = 0,1$, где $E_{i}$ обозначает математическое ожидание относительно $P_{i}$.

Покажите, что для любого $p > 0$,

Покажите, что это неверно, если $X_{1}$ и $X_{2}$ не являются независимыми. (Указание: используйте теорему Фубини, чтобы заключить, что $\mathbb {E}\left[\left|X_{1}+X_{2}\right|^{p}\right]< \infty$ влечёт, что $\mathbb {E}\left[\left|X_{1}+x_{2}\right|^{p}\right]< \infty$ для некоторого $x_{2}$, и, следовательно, $\mathbb {E}\left[\left|X_{1}\right|^{p}\right]< \infty$.)

Покажите, что если $\mathbb {E}\left[X_{1}^{2}+X_{2}^{2}\right] < \infty$, то

Приведите пример, показывающий, что (3.4) не обязательно влечёт независимость $X_{1}$ и $X_{2}$. Покажите также, что если $X_{1}$ и $X_{2}$ принимают только по два значения каждая и выполняется (3.4), то $X_{1}$ и $X_{2}$ независимы.

Покажите, что если

для всех $a_{1}, b_{1}, a_{2}, b_{2}$ из всюду плотного множества $D$ в $\mathbb {R}$, то $X_{1}$ и $X_{2}$ независимы. (Указание: покажите, что (3.5) влечёт, что совместная функция распределения $\left(X_{1}, X_{2}\right)$ является произведением маргинальных функций распределения $X_{1}$ и $X_{2}$, и используйте следствие 7.1.2.)

Пусть $f_{i}: \mathbb {R} \rightarrow \mathbb {R}, i = 1,2$ — две взаимно однозначные функции такие, что и $f_{i}$, и $f_{i}^{-1}$ борелевски измеримы, $i = 1,2$. Покажите, что $X_{1}$ и $X_{2}$ независимы тогда и только тогда, когда $f_{1}\left(X_{1}\right)$ и $f_{2}\left(X_{2}\right)$ независимы. Заключите, что $X_{1}$ и $X_{2}$ независимы тогда и только тогда, когда $e^{X_{1}}$ и $e^{X_{2}}$ независимы.

Пусть $X_{1}$ и $X_{2}$ — две независимые ограниченные случайные величины. Покажите, что

где $p_{1}(\cdot )$ и $p_{2}(\cdot )$ — многочлены.

Покажите, что если $X_{1}$ и $X_{2}$ — ограниченные случайные величины и (3.6) выполняется для всех многочленов $p_{1}(\cdot )$ и $p_{2}(\cdot )$, то $X_{1}$ и $X_{2}$ независимы. (Указание: используйте факты, что (i) непрерывные функции на ограниченном замкнутом интервале $[a, b]$ можно равномерно приблизить многочленами, и (ii) для любого интервала $(c, d) \subset [a, b]$, любой случайной величины $X$ и $\epsilon > 0$ существует непрерывная функция $f$ на $[a, b]$ такая, что $\mathbb {E}\left[\left|f(X)-I_{(c, d)}(X)\right|\right]< \epsilon$, при условии \mathbb {P}\left(X = c или d\right) = 0.

Покажите, что $R$ является хвостовой случайной величиной. (Указание: заметьте, что

)

Покажите, что если $\mathbb {E}\left[\log \left|X_{1}\right|\right]^{+} = \infty$, то $R = 0$ п.н., а если $\mathbb {E}\left[\log \left|X_{1}\right|\right]^{+} < \infty$, то $R \geq 1$ п.н. (Указание: примените леммы Бореля-Кантелли к $A_{n} = \left\{ \left|X_{n}\right| > \lambda^{n}\right\}$ для каждого $\lambda > 1$.)

Покажите, что $\lim_{n \rightarrow \infty } \frac{X_{n}}{n} = 0$ п.н. тогда и только тогда, когда $\mathbb {E}\left[\left|X_{1}\right|\right]< \infty$. (Указание: $\mathbb {E}\left[\left|X_{1}\right|\right]< \infty \Longleftrightarrow \sum_{n = 1}^{\infty } \mathbb {P}\left(\left|X_{n}\right| > \epsilon n\right) < \infty$ для всех $\epsilon > 0.$)

Покажите, что $\mathbb {E}\left[\log \left|X_{1}\right|\right]^{+} < \infty$ тогда и только тогда, когда

Если $\mathbb {E}\left[\left|X_{1}\right|^{\alpha }\right]< \infty$ для некоторого $\alpha \in (0, \infty )$, то покажите, что

(Указание: зафиксируйте $\epsilon > 0$. Пусть $A_{n} = \left\{ \left|X_{n}\right| > \epsilon n^{1 / \alpha }\right\}$. Примените первую лемму Бореля-Кантелли.)

Покажите, что если $\left\{ X_{i}\right\}_{i \geq 1}$ н.о.р. и удовлетворяют (3.7) для некоторого $\alpha > 0$, то $\mathbb {E}\left[\left|X_{1}\right|^{\alpha }\right]< \infty$. (Указание: примените вторую лемму Бореля-Кантелли.)

Покажите, что распределение $\mu$ величины $Y$ является свёрткой $\mu_{1} * \mu_{2}$, определённой как

(ср. задачу 5.12).

Покажите, что если $X_{1}$ имеет непрерывное распределение, то и $Y$ имеет непрерывное распределение.

Покажите, что если $X_{1}$ имеет абсолютно непрерывное распределение, то и $Y$ имеет абсолютно непрерывное распределение, и что плотность $Y$ задаётся формулой

где $f_{X_{1}}(x) \equiv \left(\frac{d \mu_{1}}{d m}\right)(x)$ — плотность вероятности $X_{1}$.

$Y$ имеет дискретное распределение тогда и только тогда, когда и $X_{1}$, и $X_{2}$ дискретны.

Покажите, что если $\left|\rho \right| < 1$ и $\mathbb {E}\left[\log \left|\epsilon_{1}\right|\right]^{+} < \infty$, то

к некоторому пределу $\hat{X}_{\infty }$.

Покажите, что при гипотезе (a), для любой ограниченной непрерывной функции $h: \mathbb {R} \rightarrow \mathbb {R}$ и для любого распределения $X_{0}$

(Указание: покажите, что для каждого $n \geq 1, X_{n}-\rho^{n} X_{0}$ и $\hat{X}_{n}$ имеют одинаковое распределение.)

Пусть $\left\{ X_{i}\right\}_{i = 1}^{n}$ — случайные величины на вероятностном пространстве $(\Omega , \mathcal{F}, P)$, и пусть $\mathbb {P}\left(X_{1}, X_{2}, \ldots , X_{n}\right)^{-1}(\cdot )$ доминируется произведением мер $\mu \times \mu \times \cdots \times \mu$, где $\mu$ — $\sigma$-конечная мера на $(\mathbb {R}, \mathcal{B}(\mathbb {R}))$ с производной Радона-Никодима $f\left(x_{1}, x_{2}, \ldots , x_{n}\right)$. Покажите, что $\left\{ X_{i}\right\}_{i = 1}^{n}$ независимы относительно $P$ тогда и только тогда, когда $f\left(x_{1}, x_{2}, \ldots , x_{n}\right) \equiv \prod_{i = 1}^{n} h_{i}\left(x_{i}\right)$ для всех $\left(x_{1}, x_{2}, \ldots , x_{n}\right) \in \mathbb {R}$, где для каждого $i, h_{i}: \mathbb {R} \rightarrow \mathbb {R}$ борелевски измерима.

Используя (a), покажите, что если $\left(X_{1}, X_{2}\right)$ имеет абсолютно непрерывное распределение с плотностью $f\left(x_{1}, x_{2}\right)$, то $X_{1}$ и $X_{2}$ независимы тогда и только тогда, когда

где $f_{i}(\cdot )$ — плотность $X_{i}$.

Используя (a) или иначе, заключите, что если $X_{i}, i = 1,2$ — обе дискретные случайные величины, то $X_{1}$ и $X_{2}$ независимы тогда и только тогда, когда

для всех $a$ и $b$.

Предположим, что существуют события $A_{1}, A_{2}, \ldots , A_{k}$, независимые в совокупности, с $0 < \mathbb {P}\left(A_{i}\right) < 1, i = 1,2, \ldots , k$. Покажите, что $\left|\Omega \right| \geq 2^{k}$, где для любого множества $A,\left|A\right|$ — число элементов в $A$.

Пусть $\left\{ X_{i}\right\}_{i = 1}^{k}$ — независимые случайные величины такие, что $X_{i}$ принимает $n_{i}$ различных значений с положительной вероятностью. Покажите, что $\left|\Omega \right| \geq \prod_{j = 1}^{k} n_{i}$.

Покажите, что существует вероятностное пространство $(\Omega , \mathcal{F}, P)$ такое, что $\left|\Omega \right| = 2^{k}$, и $k$ независимых в совокупности событий $A_{1}, A_{2}, \ldots , A_{k}$ в $\mathcal{F}$ таких, что $0 < \mathbb {P}\left(A_{i}\right) < 1, i = 1,2, \ldots , k$.

Пусть $\Omega \equiv \left\{ \left(x_{1}, x_{2}\right): x_{1}, x_{2} \in \mathbb {R}, x_{1}^{2}+x_{2}^{2} \leq 1\right\}$ — единичный круг в $\mathbb {R}^{2}$. Пусть $\mathcal{F} \equiv \mathcal{B}(\Omega )$ — борелевская $\sigma$-алгебра в $\Omega$, а $P =$ нормированная мера Лебега, т.е. $\mathbb {P}\left(A\right) \equiv \frac{m(A)}{\pi }, A \in \mathcal{F}$. Для $\omega = \left(x_{1}, x_{2}\right)$ пусть

а $(R(\omega ), \theta (\omega ))$ — полярное представление $\omega$. Покажите, что случайные величины $R$ и $\theta$ независимы, но $X_{1}$ и $X_{2}$ — нет.

Сформулируйте и установите обобщение вышесказанного на единичную сферу в $\mathbb {R}^{3}$.

Покажите, что для любой перестановки $\sigma$ множества $(1,2,3)$

Покажите, что для любого $i = 1,2,3$

Сформулируйте и докажите обобщение (a) и (b) на случайные величины $\left\{ X_{i}: 1 \leq i \leq n\right\}$ такие, что совместное распределение $\left(X_{1}, X_{2}, \ldots , X_{n}\right)$ совпадает с распределением $\left(X_{\sigma (1)}, X_{\sigma (2)}, \ldots , X_{\sigma (n)}\right)$ для любой перестановки $\sigma$ множества $\left\{ 1,2, \ldots , n\right\}$, и $\mathbb {P}\left(X_{1} = x\right) = 0$ для всех $x \in \mathbb {R}$.