11

Экспоненциальные хвосты и закон повторного логарифма

[5/0%]
Показать
LaTeX
Задача 11.1

Пусть XX имеет распределение Bin⁡(n,p)\operatorname {Bin}(n, p). Определим q:=1−pq: = 1-p. Для 0≤x≤nq0 \leq x \leq n q покажите, что

P(X≥np+x)≤exp⁡(−x22npq(qψ(xnp)+pψ(−xnq)))≤exp⁡(−x22npqψ(x(q−p)npq)) \begin{align} \mathbb {P}\left(X \geq n p+x\right) & \leq \exp \left(-\frac{x^{2}}{2 n p q}\left(q \psi \left(\frac{x}{n p}\right)+p \psi \left(\frac{-x}{n q}\right)\right)\right) \\ & \leq \exp \left(-\frac{x^{2}}{2 n p q} \psi \left(\frac{x(q-p)}{n p q}\right)\right) \end{align}
?
Задача 11.2

Пусть X1,…,XnX_{1}, \ldots , X_{n} — независимые случайные величины с E[Xi]:=pi\mathbb {E}\left[X_{i}\right]: = p_{i} и 0≤Xi≤10 \leq X_{i} \leq 1 для каждого ii. Пусть p:=(p1+⋯+pn)/n=:1−qp: = \left(p_{1}+\cdots +p_{n}\right) / n = : 1-q. Покажите, что

P(∑i≤nXi≥np+x)≤exp⁡(−x22npqψ(x(q−p)npq)) для 0≤x≤nq \mathbb {P}\left(\sum _{i \leq n} X_{i} \geq n p+x\right) \leq \exp \left(-\frac{x^{2}}{2 n p q} \psi \left(\frac{x(q-p)}{n p q}\right)\right) \quad \text{ для } 0 \leq x \leq n q
?
Задача 11.3

Предположим, что XX имеет распределение Пуассона (λ\lambda).

?
(i)

Путём прямой минимизации exp⁡(−t(λ+x))E[exp⁡(tX)]\exp (-t(\lambda +x)) \mathbb {E}\left[\exp (t X)\right] по R+\mathbb {R}^{+}, докажите, что

P(X≥λ+x)≤exp⁡(−x22λψ(xλ)) \mathbb {P}\left(X \geq \lambda +x\right) \leq \exp \left(-\frac{x^{2}}{2 \lambda } \psi \left(\frac{x}{\lambda }\right)\right)
(ii)

Выведите ту же оценку хвоста с помощью предельного перехода в биномиальной оценке из Задачи [1].

Задача 11.4

Для каждой случайной величины XX с конечной дисперсией и каждой константы MM покажите, что Var⁡[τ(X,M)]≤Var⁡[X]\operatorname {Var}\left[\tau (X, M)\right] \leq \operatorname {Var}\left[X\right], где τ\tau определяется как в ⟨26⟩\langle 26 \rangle: для константы M>0M > 0, τ(x,M):=−M{x<−M}+x{∣x∣≤M}+M{x>M}\tau (x, M): = -M\left\{ x < -M\right\} +x\left\{ \left|x\right| \leq M\right\} +M\left\{ x > M\right\} — усечение xx до [−M,M][-M, M].

?
Задача 11.5

Пусть {Xn}\left\{ X_{n}\right\} — последовательность независимых, одинаково распределённых двумерных случайных векторов с E[Xi]=0\mathbb {E}\left[X_{i}\right] = 0 и Var⁡[Xi]=I2\operatorname {Var}\left[X_{i}\right] = I_{2}. Определим Sn=X1+…+XnS_{n} = X_{1}+\ldots +X_{n}.

?
(i)

Покажите, что lim⁡sup⁡∣Sn∣/Ln≤1\lim \sup \left|S_{n}\right| / L_{n} \leq 1 почти наверное.

(ii)

Покажите, что с вероятностью единица последовательность Sn/LnS_{n} / L_{n} посещает каждое открытое подмножество единичного шара {∣x∣<1}\left\{ \left|x\right| < 1\right\} бесконечно часто. Указание: спроецируйте трёхмерные случайные векторы.