Условное распределение

Предположим, что $g_{1}$ и $g_{2}$ — отображения из $(X, \mathcal{A})$ в ($y, \mathcal{B}$), с произведение-измеримыми графиками. Определим $\psi_{i}(x) = \left(x, g_{i}(x)\right)$. Пусть $P_{i} = \psi_{i}\left(\mu_{i}\right)$, для вероятностных мер $\mu_{i}$ на $\mathcal{A}$. Пусть $P = \alpha_{1} P_{1}+\alpha_{2} P_{2}$, для констант $\alpha_{i} > 0$ с $\alpha_{1}+\alpha_{2} = 1$. Пусть $X$ обозначает координатное отображение на пространство $X$. Покажите, что условное распределение вероятностей $P_{x}$ сосредоточено на точках $\left(x, g_{1}(x)\right)$ и $\left(x, g_{2}(x)\right)$. Найдите условные вероятности, приписанные каждой точке.

Пусть $Q$ — неатомическая вероятностная мера на $\mathcal{B}(\mathbb {R})$ с соответствующей функцией распределения $F$. Пусть $\mathbb {Q} = Q^{n}$ — совместное распределение $n$ независимых наблюдений $x_{1}, \ldots , x_{n}$ из $Q$. Определим $T\left(x_{1}, \ldots , x_{n}\right): = \max_{i \leq n} x_{i}$.

Покажите, что $(T, \mu ))$-дезинтеграция $\Lambda = \left\{ \lambda_{t}: t \in \mathcal{T}\right\}$ сигма-конечной меры $\lambda$ может быть выбрана в виде вероятностного ядра тогда и только тогда, когда сигма-конечная мера $\mu$ равна образу меры $T \lambda$.

Для семейств вероятностных мер $\mathcal{P}$ и $Q$, определённых на одной и той же сигма-алгебре, определим $\alpha_{2}(\mathcal{P}, Q)$ как равное $\sup \left\{ \alpha_{2}(P, Q): P \in \mathcal{P}, Q \in \mathcal{Q}\right\}$, где $\alpha_{2}$ обозначает аффинность Хеллингера, как в разделе 3.3. Обозначим через $\mathcal{P} \otimes \mathcal{P}$ множество $\left\{ P_{1} \otimes P_{2}: P_{i} \in \mathcal{P}\right\}$, а через $\operatorname {co}(\mathcal{P} \otimes \mathcal{P})$ его выпуклую оболочку. Покажите, что $\alpha_{2}(\operatorname {co}(\mathcal{P} \otimes \mathcal{P}), \operatorname {co}(\mathcal{Q} \otimes \mathbb {Q})) \leq \alpha_{2}(\operatorname {co}(\mathcal{P}), \operatorname {co}(\mathcal{Q}))^{2}$ следующими шагами. Обозначим через $A$ величину $\alpha_{2}(\operatorname {co}(\mathcal{P}), \operatorname {co}(Q))$.

Пусть $\mathbb {P}$ — мера Лебега на $\mathcal{F}$, борелевской сигма-алгебре $[0,1]$. Пусть $\mathcal{G}$ обозначает сигма-алгебру, порождённую всеми одноточечными множествами в $[0,1]$.

Пусть $X$ — интегрируемая случайная величина, а $Z$ — $\mathcal{G}$-измеримая случайная величина, для которой $X Z$ интегрируема. Покажите, что $\mathbb {E}\left[X Z\right] = \mathbb {E}\left[Y Z\right]$, где $Y = \mathbb {E}\left[X \mid \mathcal{G}\right]$.

Предположим, что $X_{n} \in \mathcal{M}^{+}(\mathcal{F})$. Покажите, что $\mathbb {E}\left[\liminf_{n} X_{n} \mid \mathcal{G}\right] \leq \liminf_{n} \mathbb {E}\left[X_{n} \mid \mathcal{G}\right]$ почти наверное, для каждой под-сигма-алгебры $\mathcal{G}$.

Предположим, что $X_{n} \rightarrow X$ почти наверное, с $\left|X_{n}\right| \leq H$ для интегрируемой $H$. Покажите, что $\mathbb {E}\left[X_{n} \mid \mathcal{G}\right] \rightarrow \mathbb {E}\left[X \mid \mathcal{G}\right]$ почти наверное.

Предположим, что $\mathbb {E}\left[X^{2}\right] < \infty$. Покажите, что $\operatorname {Var}\left[X\right] = \operatorname {Var}\left[\mathbb {E}\left[X \mid \mathcal{G}\right]\right]+\mathbb {E}\left[\operatorname {Var}\left[X \mid \mathcal{G}\right]\right]$.

Пусть $X$ — интегрируемая случайная величина на вероятностном пространстве $(\Omega , \mathcal{F}, \mathbb {P})$. Пусть $\mathcal{G}$ — под-сигма-алгебра $\mathcal{F}$, содержащая все $\mathbb {P}$-пренебрежимые множества. Покажите, что $X$ является $\mathcal{G}$-измеримой тогда и только тогда, когда $\mathbb {E}\left[X W\right] = 0$ для каждой ограниченной случайной величины $W$ с $\mathbb {E}\left[W \mid \mathcal{G}\right] = 0$ почти наверное. (Сравните с соответствующим утверждением для квадратично интегрируемых случайных величин: $Z \in \mathcal{L}^{2}(\mathcal{G})$ тогда и только тогда, когда она ортогональна каждой квадратично интегрируемой $W$, ортогональной $\mathcal{L}^{2}(\mathcal{G})$.)

Пусть $S_{0}, S_{1}, \ldots , S_{N}$ — случайные векторы, а $\mathcal{F}_{0} \subseteq \mathcal{F}_{1} \subseteq \ldots \subseteq \mathcal{F}_{N} \subseteq \mathcal{F}$ — сигма-алгебры, такие что $S_{i}$ является $\mathcal{F}_{i}$-измеримой для каждого $i$. Пусть $\epsilon , \alpha$ и $\beta$ — положительные числа, для которых $\beta \mathbb {P}\left(\left|S_{N}-S_{i}\right| \leq (1-\alpha )\left|S_{i}\right| \mid \mathcal{F}_{i}\right) \geq \left\{ \left|S_{i}\right| > \epsilon \right\}$ почти наверное. Покажите, что $\mathbb {P}\left(\max_{i}\left|S_{i}\right| > \epsilon \right) \leq \beta \mathbb {P}\left(\left|S_{N}\right| > \alpha \epsilon \right)$.

Предположим, что $P$ — вероятностная мера на $(X, \mathcal{A})$ с плотностью $p(x)$ относительно вероятностной меры $\lambda$. Пусть $Q$ равна образу $T P$, а $\mu$ равна $T \lambda$, для измеримого отображения $T$ в ($\mathcal{T}, \mathcal{B}$). Не предполагая существования дезинтеграций или условных распределений, покажите

Для каждой выпуклой функции $\psi$ на вещественной прямой существует счётное семейство линейных функций, для которых $\psi (x) = \sup_{i \in \mathbb {N}}\left(a_{i}+b_{i} x\right)$ для всех $x$ (см. приложение C). Используя это представление, докажите условную форму неравенства Йенсена: если $X$ и $\psi (X)$ обе интегрируемы, то $\mathbb {E}\left[\psi (X) \mid \mathcal{G}\right] \geq \psi \left(\mathbb {E}\left[X \mid \mathcal{G}\right]\right)$ почти наверное.

Пусть $P$ — вероятностная мера на $\mathcal{B}\left(\mathbb {R}^{2}\right)$, инвариантная относительно вращений $S_{\theta }$ для плотного множества $\Theta_{0}$ углов. Покажите, что она инвариантна относительно всех вращений.

Найдите аргумент, основанный на инвариантности, который даёт условные распределения из упражнения $\langle 5 \rangle$.

Упражнение 5: Пусть $\mathbb {P}$ обозначает меру Лебега на $\mathcal{B}\left([0,1]^{2}\right)$. Пусть $T(x, y) = \max (x, y)$. Условные распределения вероятностей $\left\{ \mathbb {P}_{t}\right\}$ для $\mathbb {P}$ при условии $T$ равномерны на множествах $\left\{ T = t\right\}$.

Пусть $Q$ — семейство вероятностных мер на сигма-алгебре $\mathcal{A}$, доминируемое фиксированной сигма-конечной мерой $\lambda$. То есть, каждая $Q$ из $Q$ имеет плотность $\delta_{Q}$ относительно $\lambda$. Покажите, что $Q$ также доминируется вероятностной мерой вида $v = \sum_{j = 1}^{\infty } 2^{-j} Q_{j}$, с $Q_{j} \in Q$ для каждого $j$, следуя этим шагам.

Пусть $\mathcal{P}_{\Theta } = \left\{ \mathbb {P}_{\theta }: \theta \in \Theta \right\}$ — семейство вероятностных мер на $\mathcal{F}$, доминируемое сигма-конечной мерой $\lambda$. Предположим, что $\mathcal{G}_{0}$ — слабо достаточная под-сигма-алгебра, и $\mathcal{G}_{0} \subseteq \mathcal{G}_{1}$ для другой сигма-алгебры $\mathcal{G}_{1} \subseteq \mathcal{F}$. Покажите, что $\mathcal{G}_{1}$ также слабо достаточна, следуя этим шагам.

Пусть $\mathcal{P}_{\Theta } = \left\{ \mathbb {P}_{\theta }: \theta \in \Theta \right\}$ — семейство вероятностных мер, доминируемое сигма-конечной мерой $\lambda$. Предположим, что $T$ — сильно достаточная статистика для $\mathcal{P}$, означающая, что существует вероятностное ядро $\left\{ P_{t}: t \in \mathcal{T}\right\}$, являющееся условным распределением для каждой $\mathbb {P}_{\theta }$ при условии $T$. Покажите, что существуют версии плотностей $d \mathbb {P}_{\theta } / d \lambda$ вида $g(T \omega , \theta ) h(\omega )$, следуя этим шагам.

Пусть $\mathcal{P}_{\Theta } = \left\{ \mathbb {P}_{\theta }: \theta \in \Theta \right\}$ — семейство вероятностных мер, доминируемое сигма-конечной мерой $\lambda$. Предположим, что $T$ — сильно достаточная статистика для $\mathcal{P}$. Предположим, что $T^{*}$ — другая статистика, принимающая значения в множестве $\mathcal{T}^{*}$, снабжённом счётно-порождённой сигма-алгеброй $\mathcal{B}^{*}$, содержащей одноточечные множества, такая что $\sigma (T) \subseteq \sigma \left(T^{*}\right)$. Покажите, что $T$ может быть записана как измеримая функция от $T^{*}$. Выведите с помощью критерия факторизации, что $T^{*}$ также сильно достаточна.

Пусть $(X, \mathcal{A}, P)$ — вероятностное пространство, и пусть $\mathbb {P}$ равна $P^{n}$, $n$-кратной произведению-мере на $\mathcal{A}^{\mathbb {N}}$. Для каждого $x$ в $X$ пусть $\delta (x)$ обозначает точечную массу в $x$. Для $\mathbf{x}$ в $X^{n}$ пусть $T(\mathbf{x})$ обозначает так называемую эмпирическую меру, $n^{-1} \sum_{i \leq n} \delta \left(x_{i}\right)$. Интуитивно, если нам дана мера $T(\mathbf{x})$, условное распределение для $\mathbb {P}$ должно приписывать массу $1 / n$ ! каждой из $n$ ! перестановок $\left(x_{1}, \ldots , x_{n}\right)$. Формализуйте эту интуицию, построив ($T, T \mathbb {P}$)-дезинтеграцию для $\mathbb {P}$. Предупреждение: не так просто, как кажется. Что такое $(\mathcal{T}, \mathcal{B})$ для этой задачи? Что происходит, если эмпирическая мера не сосредоточена на $n$ различных точках? Как следует определить $\mathbb {P}_{t}$, когда $t$ не соответствует возможной реализации эмпирической меры?