12

Многомерные нормальные распределения

[8/0%]
Показать
LaTeX
Задача 12.1

Пусть V0V_{0} и V1V_{1} — положительно определённые матрицы. Для 0≤θ≤10 \leq \theta \leq 1 пусть gθg_{\theta } обозначает плотность N(0,(1−θ)V0+θV1)N\left(0,(1-\theta ) V_{0}+\theta V_{1}\right) на Rn\mathbb {R}^{n}. Покажите, что

∂gθ∂θ=12∑j,kΔj,k∂2gθ∂zj∂zk где Δ:=V1−V0 \frac{\partial g_{\theta }}{\partial \theta } = \frac{1}{2} \sum _{j, k} \Delta _{j, k} \frac{\partial ^{2} g_{\theta }}{\partial z_{j} \partial z_{k}} \quad \text{ где } \Delta : = V_{1}-V_{0}

следуя этим шагам.

?
(i)

Используйте обращение Фурье, чтобы показать, что gθ(x)=(2π)−n∫exp⁡(−ix′t−12t′Vθt)dtg_{\theta }(x) = (2 \pi )^{-n} \int \exp \left(-i x^{\prime } t-\frac{1}{2} t^{\prime } V_{\theta } t\right) d t.

(ii)

Обоснуйте дифференцирование под знаком интеграла, чтобы показать, что

∂gθ(x)∂θ=(2π)−n∫∂∂θexp⁡(−ix′t−12t′(θΔ+V0)t)dt=(2π)−n∫−12t′Δtexp⁡(−ix′t−12t′(θΔ+V0)t)dt \begin{aligned} \frac{\partial g_{\theta }(x)}{\partial \theta } & = (2 \pi )^{-n} \int \frac{\partial }{\partial \theta } \exp \left(-i x^{\prime } t-\frac{1}{2} t^{\prime }\left(\theta \Delta +V_{0}\right) t\right) d t \\ & = (2 \pi )^{-n} \int -\frac{1}{2} t^{\prime } \Delta t \exp \left(-i x^{\prime } t-\frac{1}{2} t^{\prime }\left(\theta \Delta +V_{0}\right) t\right) d t \end{aligned}

и

∂2gθ(x)∂xj∂xk=(2π)−n∫∂2∂xj∂xkexp⁡(−ix′t−12t′(θΔ+V0)t)dt=(2π)−n∫(−itj)(−itk)exp⁡(−ix′t−12t′(θΔ+V0)t)dt. \begin{aligned} \frac{\partial ^{2} g_{\theta }(x)}{\partial x_{j} \partial x_{k}} & = (2 \pi )^{-n} \int \frac{\partial ^{2}}{\partial x_{j} \partial x_{k}} \exp \left(-i x^{\prime } t-\frac{1}{2} t^{\prime }\left(\theta \Delta +V_{0}\right) t\right) d t \\ & = (2 \pi )^{-n} \int \left(-i t_{j}\right)\left(-i t_{k}\right) \exp \left(-i x^{\prime } t-\frac{1}{2} t^{\prime }\left(\theta \Delta +V_{0}\right) t\right) d t . \end{aligned}
(iii)

Соберите члены.

Задача 12.2

Предположим, что XnX_{n} имеет многомерное нормальное распределение и Xn⇝XX_{n} \leadsto X. Покажите, что XX также имеет многомерное нормальное распределение.

?
Задача 12.3

Пусть Z1,Z2,…Z_{1}, Z_{2}, \ldots — независимые случайные величины, каждая распределена N(0,1)N(0,1). Покажите, что распределение Mn:=max⁡i≤nZiM_{n}: = \max_{i \leq n} Z_{i} концентрируется в основном в диапазоне порядка (log⁡n)−1/2(\log n)^{-1 / 2}, следуя этим шагам. Определим αn:=(2log⁡n)1/2\alpha_{n}: = (2 \log n)^{1 / 2} и Ln=12log⁡log⁡nL_{n} = \frac{1}{2} \log \log n.

?
(i)

Вспомните (Приложение D), что функция хвоста Φˉ(x):=P(N(0,1)>x)\bar{\Phi }(x): = \mathbb {P}\left(N(0,1) > x\right) убывает как ϕ(x)/x\phi (x) / x при x→∞x \rightarrow \infty, в том смысле, что отношение этих двух функций стремится к 1. Для фиксированной константы CC определим xn:=αn−(C+Ln)/αnx_{n}: = \alpha_{n}-\left(C+L_{n}\right) / \alpha_{n}. Покажите, что log⁡(nΦˉ(xn))\log \left(n \bar{\Phi }\left(x_{n}\right)\right) сходится к C0:=C−12log⁡(4π)C_{0}: = C-\frac{1}{2} \log (4 \pi ) при n→∞n \rightarrow \infty.

(ii)

Выведите, что log⁡P(Mn≤xn)=nlog⁡(1−Φˉ(xn))→e−C0\log \mathbb {P}\left(M_{n} \leq x_{n}\right) = n \log \left(1-\bar{\Phi }\left(x_{n}\right)\right) \rightarrow e^{-C_{0}}.

(iii)

Выведите, что αn(Mn−αn)+Ln\alpha_{n}\left(M_{n}-\alpha_{n}\right)+L_{n} сходится по распределению при n→∞n \rightarrow \infty.

Задача 12.4

Пусть XX и YY — случайные величины, для которых как P(X>x)≤P(Z>x)\mathbb {P}\left(X > x\right) \leq \mathbb {P}\left(Z > x\right), так и P(X≤−x)≤P(Z≤−x)\mathbb {P}\left(X \leq -x\right) \leq \mathbb {P}\left(Z \leq -x\right), для всех x≥0x \geq 0. Покажите, что E[exp⁡(tX)]≤E[exp⁡(tY)]\mathbb {E}\left[\exp (t X)\right] \leq \mathbb {E}\left[\exp (t Y)\right] для всех неотрицательных tt.

?
Задача 12.5

Пусть AA — замкнутое подмножество R2\mathbb {R}^{2} с сечениями Ay:={x∈R:(x,y)∈A}A_{y}: = \left\{ x \in \mathbb {R}:(x, y) \in A\right\}, имеющими гауссову меру g(y):=γ1Ayg(y): = \gamma_{1} A_{y}. Пусть BB обозначает 1-сдвиг, как в Лемме ⟨14⟩\langle 14 \rangle.

Лемма 14: Для замкнутого множества A⊆R2A \subseteq \mathbb {R}^{2} с сечениями Ay:={x∈R:(x,y)∈A}A_{y}: = \left\{ x \in \mathbb {R}:(x, y) \in A\right\} определим h(y)h(y) соотношением Φ(h(y)):=γ1Ay\Phi (h(y)): = \gamma_{1} A_{y} (Φ\Phi — стандартная нормальная функция распределения), и пусть B:={(x,y):x≤h(y)}B: = \left\{ (x, y): x \leq h(y)\right\} — 1-сдвиг множества AA --- множество, полученное сдвигом и растяжением каждого xx-сечения множества AA в полубесконечный интервал с той же γ1\gamma_{1}-мерой, так что yy-сечения множества BB имеют ту же γ1\gamma_{1}-меру, что и соответствующие сечения AA. Тогда BB является улучшением AA: γ2B≥γ2A\gamma_{2} B \geq \gamma_{2} A и γ2Br≤γ2Ar\gamma_{2} B^{r} \leq \gamma_{2} A^{r} для всех r≥0r \geq 0 (где ArA^{r} обозначает rr-окрестность AA).

?
(i)

Если yn→yy_{n} \rightarrow y, покажите, что lim⁡sup⁡Ayn≤Ay\lim \sup A_{y_{n}} \leq A_{y}, в смысле поточечной сходимости индикаторных функций. (Если x∈Aynx \in A_{y_{n}} бесконечно часто, выведите, что (x,y)∈A(x, y) \in A.)

(ii)

Если yn→yy_{n} \rightarrow y, используйте лемму Фату, чтобы доказать, что lim sup⁡g(yn)≤g(y)\limsup g\left(y_{n}\right) \leq g(y).

(iii)

Если (xn,yn)∈B\left(x_{n}, y_{n}\right) \in B и (xn,yn)→(x,y)\left(x_{n}, y_{n}\right) \rightarrow (x, y), покажите, что x≤g(y)x \leq g(y), то есть (x,y)∈B(x, y) \in B.

Задача 12.6

Сведите одномерную версию Теоремы ⟨7⟩\langle 7 \rangle к случаю, когда AA является конечным объединением интервалов, следуя этим шагам. Пусть Φ(α):=γ1A\Phi (\alpha ): = \gamma_{1} A.

Теорема 7: Гауссова мера окрестности ArA^{r} минимизируется, при заданном значении γkA\gamma_{k} A, выбором AA в качестве замкнутого полупространства. В более общем виде, γkAr≥Φ(r+a)\gamma_{k} A^{r} \geq \Phi (r+a), для любого борелевского подмножества AA пространства Rk\mathbb {R}^{k} с γkA≥Φ(a)\gamma_{k} A \geq \Phi (a).

?
(i)

Покажите, что достаточно доказать, что γAr+δ≥Φ(r+α)\gamma A^{r+\delta } \geq \Phi (r+\alpha ) для каждого δ>0\delta > 0, поскольку Ar+δ↓ArA^{r+\delta } \downarrow A^{r} при убывании δ\delta до нуля.

(ii)

Определим открытое множество G:={x:d(x,A)<δ}G: = \left\{ x: d(x, A) < \delta \right\}. Покажите, что γG>α\gamma G > \alpha. Указание: множество G\AˉG \backslash \bar{A} открыто.

(iii)

Покажите, что существует счётное семейство {Ji}\left\{ J_{i}\right\} непересекающихся замкнутых интервалов, для которого γ1(G\∪iJi)=0\gamma_{1}\left(G \backslash \cup_{i} J_{i}\right) = 0.

(iv)

Выберите NN так, чтобы замкнутое множество AN:=∪i≤NJiA_{N}: = \cup_{i \leq N} J_{i} имело γ1\gamma_{1}-меру больше Φ(α)\Phi (\alpha ). Покажите, что утверждение Теоремы для ANA_{N} влечёт γAr+δ≥Φ(r+α)\gamma A^{r+\delta } \geq \Phi (r+\alpha ).

Задача 12.7

(Неравенство Слепиана (1962)) Пусть X=(X1,…,Xn)X = \left(X_{1}, \ldots , X_{n}\right) и Y=(Y1,…,Yn)Y = \left(Y_{1}, \ldots , Y_{n}\right) оба имеют центрированные многомерные нормальные распределения с Var⁡[Xj]=Var⁡[Yj]\operatorname {Var}\left[X_{j}\right] = \operatorname {Var}\left[Y_{j}\right] для каждого jj и E[XjXk]≤E[YjYk]\mathbb {E}\left[X_{j} X_{k}\right] \leq \mathbb {E}\left[Y_{j} Y_{k}\right] для всех j≠kj \neq k. Докажите, что P(∪j{Xj>αj})≥P(∪j{Yj>αj})\mathbb {P}\left(\cup_{j}\left\{ X_{j} > \alpha_{j}\right\} \right) \geq \mathbb {P}\left(\cup_{j}\left\{ Y_{j} > \alpha_{j}\right\} \right) для всех вещественных чисел α1,…,αn\alpha_{1}, \ldots , \alpha_{n}.

?
Задача 12.8

Пусть SS — неотрицательная случайная величина с P(S>M+r)≤C0exp⁡(−12r2/σ2)\mathbb {P}\left(S > M+r\right) \leq C_{0} \exp \left(-\frac{1}{2} r^{2} / \sigma^{2}\right) для всех r≥0r \geq 0, для положительных констант C0,MC_{0}, M и σ2\sigma^{2}.

?
(i)

Покажите, что E[exp⁡(αS2)]=1+∫0∞2yαexp⁡(αy2)P(S>y)dy\mathbb {E}\left[\exp \left(\alpha S^{2}\right)\right] = 1+\int_{0}^{\infty } 2 y \alpha \exp \left(\alpha y^{2}\right) \mathbb {P}\left(S > y\right) d y.

(ii)

Для α<1/(2σ2)\alpha < 1 /\left(2 \sigma^{2}\right) докажите, что E[exp⁡(αS2)]<∞\mathbb {E}\left[\exp \left(\alpha S^{2}\right)\right] < \infty.