27

Центральная предельная теорема

[21/33%]
Показать
LaTeX
Задача 27.1

Докажите Теорему 23.2 с помощью характеристических функций. Указание: используйте (27.5), чтобы сравнить характеристическую функцию ∑k=1rnZnk\sum_{k=1}^{r_{n}} Z_{n k} с exp⁡[∑kpnk(eit−1)]\exp \left[\sum_{k} p_{n k}\left(e^{i t}-1\right)\right].

?
Задача 27.2

Если {Xn}\left\{ X_{n}\right\} независимы и все XnX_{n} имеют одинаковое распределение с конечным первым моментом, то n−1Sn→E[X1]n^{-1} S_{n} \rightarrow \mathbb {E}\left[X_{1}\right] с вероятностью 1 (Теорема 22.1), так что n−1Sn⇒E[X1]n^{-1} S_{n} \Rightarrow \mathbb {E}\left[X_{1}\right]. Докажите последний факт с помощью характеристических функций. Указание: используйте (27.5).

?
Задача 27.3

Для пуассоновской величины YλY_{\lambda } со средним λ\lambda покажите, что (Yλ−λ)/λ⇒N\left(Y_{\lambda }-\lambda \right) / \sqrt{\lambda } \Rightarrow N при λ→∞\lambda \rightarrow \infty. Покажите, что (22.3) не выполняется при t=1t=1.

?
Задача 27.4

Предположим, что ∣Xnk∣≤Mn\left|X_{n k}\right| \leq M_{n} с вероятностью 1 и Mn/sn→0M_{n} / s_{n} \rightarrow 0. Проверьте условие Ляпунова, а затем условие Линдеберга.

?
Задача 27.5

Предположим, что случайные величины в любой отдельной строке треугольного массива одинаково распределены. К чему сводятся условия Линдеберга и Ляпунова?

?
Задача 27.6

Предположим, что Z1,Z2,…Z_{1}, Z_{2}, \ldots независимы и одинаково распределены со средним 0 и дисперсией 1, и пусть Xnk=σnkZkX_{n k}=\sigma_{n k} Z_{k}. Запишите условие Линдеберга и покажите, что оно выполняется, если max⁡k≤rnσnk2=o(∑k=1rnkσnk2)\max_{k \leq r_{n}} \sigma_{n k}^{2}=o\left(\sum_{k=1}^{r_{n k}} \sigma_{n k}^{2}\right).

?
Задача 27.7

Постройте пример, в котором условие Линдеберга выполняется, а условие Ляпунова — нет.

?
Задача 27.8

22.9↑22.9 \uparrow Докажите центральную предельную теорему для числа рекордов RnR_{n} до момента nn.

?
Задача 27.9

6.3↑6.3 \uparrow Пусть SnS_{n} — число инверсий в случайной перестановке nn элементов. Докажите центральную предельную теорему для SnS_{n}.

?
Задача 27.10

δ\delta-метод. Предположим, что Теорема 27.1 применима к {Xn}\left\{ X_{n}\right\}, так что nσ−1(Xˉn−c)⇒N\sqrt{n} \sigma^{-1}\left(\bar{X}_{n}-c\right) \Rightarrow N, где Xˉn=n−1∑k=1nXk\bar{X}_{n}=n^{-1} \sum_{k=1}^{n} X_{k}. Используя Теорему 25.6, как в Примере 27.2, покажите, что если f(x)f(x) имеет ненулевую производную в точке cc, то n(f(Xˉn)−f(c))/σ∣f′(c)∣⇒N\sqrt{n}\left(f\left(\bar{X}_{n}\right)-f(c)\right) / \sigma \left|f^{\prime }(c)\right| \Rightarrow N: величина Xˉn\bar{X}_{n} приближённо нормальна со средним cc и стандартным отклонением σ/n\sigma / \sqrt{n}, а f(Xˉn)f\left(\bar{X}_{n}\right) приближённо нормальна со средним f(c)f(c) и стандартным отклонением ∣f′(c)∣σ/n\left|f^{\prime }(c)\right| \sigma / \sqrt{n}. Пример 27.2 — это случай f(x)=1/xf(x)=1 / x.

?
Задача 27.11

Предположим, что независимые XnX_{n} имеют плотность ∣x∣−3|x|^{-3} вне (−1,+1)(-1,+1). Покажите, что (nlog⁡n)−1/2Sn⇒N(n \log n)^{-1 / 2} S_{n} \Rightarrow N.

?
Задача 27.12

Асимптотическая нормальность может иметь место, даже если моментов вообще не существует. Постройте простой пример.

?
Задача 27.13

Пусть dn(ω)d_{n}(\omega ) — двоичные цифры точки ω\omega, выбранной случайно из единичного интервала. Для набора (u1,…,uk)(u_{1}, \ldots , u_{k}) из 0 и 1 пусть Nn(u1,…,uk;ω)N_{n}\left(u_{1}, \ldots , u_{k} ; \omega \right) — число m≤nm \leq n, для которых (dm(ω),…,dm+k−1(ω))=(u1,…,uk)\left(d_{m}(\omega ), \ldots , d_{m+k-1}(\omega )\right)=\left(u_{1}, \ldots , u_{k}\right). Докажите центральную предельную теорему для Nn(u1,…,uk;ω)N_{n}\left(u_{1}, \ldots , u_{k} ; \omega \right). (См. Задачу 6.12.)

?
Задача 27.14

Центральная предельная теорема для случайного числа слагаемых. Пусть X1,X2,…X_{1}, X_{2}, \ldots — независимые, одинаково распределённые случайные величины со средним 0 и дисперсией σ2\sigma^{2}, и пусть Sn=X1+⋯+XnS_{n}=X_{1}+\cdots +X_{n}. Для каждого положительного tt пусть νt\nu_{t} — случайная величина, принимающая положительные целые значения; она не обязана быть независимой от XnX_{n}. Предположим, что существуют положительные константы ata_{t} и θ\theta, такие что

at→∞,νtat⇒θ a_{t} \rightarrow \infty , \quad \frac{\nu _{t}}{a_{t}} \Rightarrow \theta

при t→∞t \rightarrow \infty. Следующими шагами покажите, что

Sνtσνt⇒N,Sνtσθat⇒N.(27.27) \frac{S_{\nu _{t}}}{\sigma \sqrt{\nu _{t}}} \Rightarrow N, \quad \frac{S_{\nu _{t}}}{\sigma \sqrt{\theta a_{t}}} \Rightarrow N. \tag {27.27}
?
(a)

Покажите, что можно считать θ=1\theta =1, а ata_{t} целыми.

(b)

Покажите, что достаточно доказать второе соотношение в (27.27).

(c)

Покажите, что достаточно доказать (Sνt−Sat)/at⇒0\left(S_{\nu_{t}}-S_{a_{t}}\right) / \sqrt{a_{t}} \Rightarrow 0.

(d)

Покажите, что

P(∣Sνt−Sat∣≥ϵat)≤P(∣νt−at∣≥ϵ3at)+P(max⁡∣k−at∣≤ϵ3at∣Sk−Sat∣≥ϵat), \begin{aligned} \mathbb {P}\left(\left|S_{\nu _{t}}-S_{a_{t}}\right| \geq \epsilon \sqrt{a_{t}}\right) \leq & \mathbb {P}\left(\left|\nu _{t}-a_{t}\right| \geq \epsilon ^{3} a_{t}\right) \\ & +\mathbb {P}\left(\max _{\left|k-a_{t}\right| \leq \epsilon ^{3} a_{t}}\left|S_{k}-S_{a_{t}}\right| \geq \epsilon \sqrt{a_{t}}\right), \end{aligned}

и заключите из неравенства Колмогорова, что последняя вероятность не превосходит 2ϵσ22 \epsilon \sigma^{2}

Задача 27.15

21.2123.1023.14↑21.21 \quad 23.10 \quad 23.14 \uparrow Центральная предельная теорема в теории восстановления. Пусть X1,X2,…X_{1}, X_{2}, \ldots — независимые, одинаково распределённые положительные случайные величины со средним mm и дисперсией σ2\sigma^{2}, и, как в Задаче 23.10, пусть NtN_{t} — наибольшее nn, при котором Sn≤tS_{n} \leq t. Следующими шагами докажите, что

Nt−tm−1σt1/2m−3/2⇒N \frac{N_{t}-t m^{-1}}{\sigma t^{1 / 2} m^{-3 / 2}} \Rightarrow N
?
(a)

Используя результаты Задач 21.21 и 23.10, покажите, что (SNt−t)/t⇒0\left(S_{N_{t}}-t\right) / \sqrt{t} \Rightarrow 0.

(b)

Покажите, что достаточно доказать, что

Nt−SNtm−1σt1/2m−3/2=−(SNt−mNt)σt1/2m−1/2⇒N. \frac{N_{t}-S_{N_{t}} m^{-1}}{\sigma t^{1 / 2} m^{-3 / 2}}=\frac{-\left(S_{N_{t}}-m N_{t}\right)}{\sigma t^{1 / 2} m^{-1 / 2}} \Rightarrow N.
(c)

Покажите (Задача 23.10), что Nt/t⇒m−1N_{t} / t \Rightarrow m^{-1}, и примените теорему из Задачи 27.14.

Задача 27.16

Покажите с помощью интегрирования по частям, что

12π∫x∞e−u2/2du∼12π1xe−x2/2(27.28) \frac{1}{\sqrt{2 \pi }} \int _{x}^{\infty } e^{-u^{2} / 2} d u \sim \frac{1}{\sqrt{2 \pi }} \frac{1}{x} e^{-x^{2} / 2} \tag {27.28}

при x→∞x \rightarrow \infty.

?
Задача 27.17

↑\uparrow Предположим, что X1,X2,…X_{1}, X_{2}, \ldots независимы и одинаково распределены со средним 0 и дисперсией 1, и предположим, что an→∞a_{n} \rightarrow \infty. Формально объединив центральную предельную теорему и (27.28), получите

P(Sn≥ann)∼12π1ane−an2/2=e−an2(1+ζn)/2(27.29) \mathbb {P}\left(S_{n} \geq a_{n} \sqrt{n}\right) \sim \frac{1}{\sqrt{2 \pi }} \frac{1}{a_{n}} e^{-a_{n}^{2} / 2}=e^{-a_{n}^{2}\left(1+\zeta _{n}\right) / 2} \tag {27.29}

где ζn→0\zeta_{n} \rightarrow 0, если an→∞a_{n} \rightarrow \infty. Случай, когда это действительно так, см. Теорему 9.4.

?
Задача 27.18

21.2↑21.2 \uparrow Формула Стирлинга. Пусть Sn=X1+⋯+XnS_{n}=X_{1}+\cdots +X_{n}, где XnX_{n} независимы и каждая имеет распределение Пуассона с параметром 1. Докажите последовательно.

?
(a)

E[(Sn−nn)−]=e−n∑k=0n(n−kn)nkk!=nn+(1/2)e−nn!\mathbb {E}\left[\left(\frac{S_{n}-n}{\sqrt{n}}\right)^{-}\right]=e^{-n} \sum_{k=0}^{n}\left(\frac{n-k}{\sqrt{n}}\right) \frac{n^{k}}{k!}=\frac{n^{n+(1 / 2)} e^{-n}}{n!}.

(b)

(Sn−nn)−⇒N−\left(\frac{S_{n}-n}{\sqrt{n}}\right)^{-} \Rightarrow N^{-}.

(c)

E[(Sn−nn)−]→E[N−]=12π\mathbb {E}\left[\left(\frac{S_{n}-n}{\sqrt{n}}\right)^{-}\right] \rightarrow \mathbb {E}\left[N^{-}\right]=\frac{1}{\sqrt{2 \pi }}.

(d)

n!∼2πnn+(1/2)e−nn!\sim \sqrt{2 \pi } n^{n+(1 / 2)} e^{-n}.

Задача 27.19

Пусть ln(ω)l_{n}(\omega ) — длина серии нулей, начинающейся с nn-го места в двоичном разложении точки ω\omega, выбранной случайно из единичного интервала; см. Пример 4.1.

?
(a)

Покажите, что l1,l2,…l_{1}, l_{2}, \ldots является α\alpha-перемешивающей последовательностью, где αn=4/2n\alpha_{n}=4 / 2^{n}.

(b)

Покажите, что ∑k=1nlk\sum_{k=1}^{n} l_{k} приближённо нормально распределена со средним nn и дисперсией 6n6 n.

Задача 27.20

Докажите, что при гипотезах Теоремы 27.4 Sn/n→0S_{n} / n \rightarrow 0 с вероятностью 1. Указание: используйте (27.25).

?
Задача 27.21

26.126.29↑26.1 \quad 26.29 \uparrow Пусть X1,X2,…X_{1}, X_{2}, \ldots независимы и одинаково распределены, и предположим, что общее для XnX_{n} распределение сосредоточено на [0,2π][0,2 \pi ] и не является решётчатым. Пусть Sn=X1+⋯+XnS_{n}=X_{1}+\cdots +X_{n}, где сумма приведена по модулю 2π2 \pi. Покажите, что Sn⇒US_{n} \Rightarrow U, где UU равномерно распределена на [0,2π][0,2 \pi ].

?