Приложение II

Дополнения и задачи

[112/57%]
Показать
LaTeX
§
Задача 1.1

Плотность точки попадания (X,Y)(X, Y) в круглую мишень задаётся формулой

f(x,y)=c(R−x2+y2)дляx2+y2≤R2. f(x, y) = c(R - \sqrt{x^{2} + y^{2}}) \qquad \text{для} \quad x^{2} + y^{2} \leq R^{2}.

Найдите, (а) константу cc, (б) вероятность pp того, что точка попадания окажется в круге радиуса a<Ra < R с центром в начале координат.

?
(a)
(b)
Задача 1.2

Случайные величины X,YX, Y удовлетворяют линейному соотношению

aX−bY=c, aX - bY = c,

где a,b,ca, b, c — константы. Найдите, (а) корреляцию ρ(X,Y)\rho (X, Y) и (б) отношение σx/σy\sigma_{x}/\sigma_{y} стандартных отклонений.

?
(a)
(b)
Задача 1.3

Матрица рассеяния (дисперсий--ковариаций) трёхмерного нормального распределения равна

(σij)=[52−2263−238]. (\sigma _{ij}) = \begin{bmatrix} 5 & 2 & -2 \\ 2 & 6 & 3 \\ -2 & 3 & 8 \end{bmatrix}.

Если μx=μy=μz=0\mu_{x} = \mu_{y} = \mu_{z} = 0, найдите плотность f(x,y,z)f(x, y, z) и её максимум.

?
Задача 1.4

Совместная плотность XX и YY задаётся формулой

f(x,y)=ye−y(x+1),x>0,y>0. f(x, y) = ye^{-y(x+1)}, \qquad x > 0, \quad y > 0.

Найдите, (а) маргинальные плотности XX и YY, и (б) условную функцию распределения FX(x∣y)F_{X}(x \mid y) величины XX при условии Y=yY = y.

?
(a)
(b)
Задача 1.5

Предположим, что случайная величина XX совпадает со случайной величиной XiX_{i} с вероятностью pip_{i}, то есть,

P(X=Xi)=piиE[Xi]=mi,i=1,2,…. \mathbb {P}\left(X = X_{i}\right) = p_{i} \qquad \text{и} \qquad \mathbb {E}\left[X_{i}\right] = m_{i}, \qquad i = 1, 2, \ldots .

Покажите, что

Var⁡[X]=∑ipiVar⁡[Xi]+Var⁡[M], \operatorname {Var}\left[X\right] = \sum _{i} p_{i} \operatorname {Var}\left[X_{i}\right] + \operatorname {Var}\left[M\right],

где P(M=mi)=pi\mathbb {P}\left(M = m_{i}\right) = p_{i} (i=1,2,…)(i = 1, 2, \ldots ).

?
Задача 1.6

Случайный вектор (X,Y,Z)(X, Y, Z) имеет плотность f(x,y,z)f(x, y, z). X,Y,ZX, Y, Z можно наблюдать только одновременно. Наблюдение дало значения u,v,wu, v, w без знания соответствия между ними и X,Y,ZX, Y, Z. Найдите вероятность того, что X=uX = u, Y=vY = v и Z=wZ = w.

?
Задача 1.7

Совместная функция распределения F(x,y)F(x, y) случайных величин XX и YY задаётся формулой

F(x,y)=sin⁡xsin⁡y,0≤x≤π/2,0≤y≤π/2. F(x, y) = \sin x \sin y, \qquad 0 \leq x \leq \pi /2, \quad 0 \leq y \leq \pi /2.

Найдите, (а) функцию плотности f(x,y)f(x, y), и (б) матрицу рассеяния.

?
(a)
(b)
Задача 1.8

Нормальная плотность точки A=(X1,X2,X3)A = (X_{1}, X_{2}, X_{3}) задаётся формулой

f(x,y,z)=1(2π)3/2σ1σ2σ3exp⁡{−12(x2σ12+y2σ22+z2σ32)}. f(x, y, z) = \frac{1}{(2\pi )^{3/2}\sigma _{1}\sigma _{2}\sigma _{3}} \exp \left\{ -\frac{1}{2}\left(\frac{x^{2}}{\sigma _{1}^{2}} + \frac{y^{2}}{\sigma _{2}^{2}} + \frac{z^{2}}{\sigma _{3}^{2}}\right)\right\} .

Какова вероятность того, что AA попадёт в эллипсоид с главными полуосями E1,E2,E3E_{1}, E_{2}, E_{3} вдоль осей Ox,Oy,OzOx, Oy, Oz, где E1,E2,E3E_{1}, E_{2}, E_{3} — вероятные ошибки X,Y,ZX, Y, Z соответственно, т.е.,

P(∣X∣<E1)=P(∣Y∣<E2)=P(∣Z∣<E3)=1/2. \mathbb {P}\left(\left|X\right| < E_{1}\right) = \mathbb {P}\left(\left|Y\right| < E_{2}\right) = \mathbb {P}\left(\left|Z\right| < E_{3}\right) = 1/2.
?
Задача 1.9

Вектор (X,Y)(X, Y) имеет равномерное распределение в эллипсе

x2a2+y2b2≤1. \frac{x^{2}}{a^{2}} + \frac{y^{2}}{b^{2}} \leq 1.

Найдите:

?
(a)

маргинальные распределения XX и YY;

(b)

условные распределения XX при условии Y=yY = y, и условные распределения YY при условии X=xX = x;

(c)

Cov⁡[X,Y]=σxy\operatorname {Cov}\left[ X, Y \right] = \sigma_{xy}.

Независимы ли X,YX, Y?

Задача 1.10

Точка (X,Y,Z)(X, Y, Z) равномерно распределена в шаре x2+y2+z2≤R2x^{2} + y^{2} + z^{2} \leq R^{2}. Найдите плотность ZZ и условную плотность f(x,y∣z)f(x, y \mid z). Обобщите на nn-мерный шар.

?
Задача 1.11

Даны fY(y)f_{Y}(y), E[X∣y]\mathbb {E}\left[ X \mid y \right], Var⁡[X∣y]\operatorname {Var}\left[ X \mid y \right]; найдите E[X]\mathbb {E}\left[X\right] и Var⁡[X]\operatorname {Var}\left[X\right].

?
Задача 1.12

Вектор (X,Y)(X, Y) имеет нормальную плотность

f(x,y)=ce−4x2−6xy−9y2. f(x, y) = ce^{-4x^{2} - 6xy - 9y^{2}}.

Найдите плотности fX(x)f_{X}(x), fY(y)f_{Y}(y), fX(x∣y)f_{X}(x \mid y), fY(y∣x)f_{Y}(y \mid x) и константу cc.

?
Задача 1.13

Предположим, что X→\overrightarrow {X} имеет сферически симметричное nn-мерное распределение, т.е. с плотностью f(x12+⋯+xn2)f(x_{1}^{2} + \cdots + x_{n}^{2}). Докажите, что плотность gg «обобщённой χ2\chi^{2}-величины» U=X→′X→U = \overrightarrow {X}'\overrightarrow {X} задаётся формулой

g(u)=12Cnf(u)un/2−1, g(u) = \tfrac {1}{2}C_{n}f(u)u^{n/2-1},

где CnC_{n} — «поверхностная» площадь nn-мерной сферы, т.е.

Cn=2πn/2Γ(n/2). C_{n} = \frac{2\pi ^{n/2}}{\Gamma (n/2)}.
?
Задача 1.14

(Продолжение задачи 1.13.) Для n=2n = 2 покажите, что полярные координаты (R,θ)(R, \theta ), где

X=Rcos⁡θ,Y=Rsin⁡θ, X = R\cos \theta , \qquad Y = R\sin \theta ,

независимы, θ\theta равномерно распределена на [0,2π)[0, 2\pi ), а RR имеет плотность (ср. задачу 221)

h(r)=2πrf(r2). h(r) = 2\pi r f(r^{2}).
?
Задача 1.15

(Продолжение задачи 1.14.) Покажите, что коэффициент корреляции, основанный на единственном наблюдении (X,Y)(X, Y), т.е.

r0=XYX2+Y2 r_{0} = \frac{XY}{X^{2} + Y^{2}}

имеет плотность

f(r0)=1π11−r02,−1<r0<1. f(r_{0}) = \frac{1}{\pi } \frac{1}{\sqrt{1 - r_{0}^{2}}}, \qquad -1 < r_{0} < 1.
?
Задача 1.16

(Продолжение задачи 1.15.) Если X→=(X1,…,Xn)′\overrightarrow {X} = (X_{1}, \ldots , X_{n})' есть N(0,In)\mathscr {N}\left(0, I_{n}\right), и X→\overrightarrow {X} разбит на kk подвекторов X(1),…,X(k)X_{(1)}, \ldots , X_{(k)} с v1,v2,…,vkv_{1}, v_{2}, \ldots , v_{k} компонентами соответственно, покажите, что (X(1)′X(1),…,X(k)′X(k))/∣X∣2(X_{(1)}'X_{(1)}, \ldots , X_{(k)}'X_{(k)})/\left|X\right|^{2} имеет распределение Дирихле (см. (5.11)) с плотностью f(t1,…,tk−1)f(t_{1}, \ldots , t_{k-1}), приведённой ниже.

Формула (5.11), распределение Дирихле: для x1,…,xkx_{1}, \ldots , x_{k} с ∑i=1k+1xi=1\sum_{i=1}^{k+1} x_{i} = 1, xi≥0x_{i} \geq 0,

f(x1,…,xk)=Γ(n1+⋯+nk+1)Γ(n1)+⋯+Γ(nk+1)∏i=1k+1xini−1. f(x_{1}, \ldots , x_{k}) = \frac{\Gamma (n_{1} + \cdots + n_{k+1})}{\Gamma (n_{1}) + \cdots + \Gamma (n_{k+1})} \prod _{i=1}^{k+1} x_{i}^{n_{i}-1}.

Искомая здесь плотность f(t1,…,tk−1)f(t_{1}, \ldots , t_{k-1}) равна

f(t1,…,tk−1)=Γ(n2)∏i=1kΓ(vk2)(1−t1−⋯−tk−1)(vk/2)−1∏i=1k−1ti(vi/2)−1, f(t_{1}, \ldots , t_{k-1}) = \frac{\Gamma \left(\dfrac {n}{2}\right)}{\displaystyle \prod _{i=1}^{k} \Gamma \left(\dfrac {v_{k}}{2}\right)} (1 - t_{1} - \cdots - t_{k-1})^{(v_{k}/2)-1} \prod _{i=1}^{k-1} t_{i}^{(v_{i}/2)-1}, ti≥0,∑ti<1. t_{i} \geq 0, \quad \sum t_{i} < 1.

Отсюда, при v1=v2=⋯=vs=1v_{1} = v_{2} = \cdots = v_{s} = 1, vs+1=n−sv_{s+1} = n - s (k=s+1)(k = s+1),

(∣X1∣,∣X2∣,…,∣Xk∣)∣X∣ \frac{(\left|X_{1}\right|, \left|X_{2}\right|, \ldots , \left|X_{k}\right|)}{\left|X\right|}

имеет плотность

f0(v1,…,vk)=Γ(n2)2kΓ(n−k2)π(1−v12−⋯−vk2)((n−k)/2)−1,vi≥0,∑i=1kvi2<1, f_{0}(v_{1}, \ldots , v_{k}) = \frac{\Gamma \left(\dfrac {n}{2}\right) 2^{k}}{\Gamma \left(\dfrac {n-k}{2}\right)\pi } (1 - v_{1}^{2} - \cdots - v_{k}^{2})^{((n-k)/2)-1}, \qquad v_{i} \geq 0, \quad \sum _{i=1}^{k} v_{i}^{2} < 1,

а плотность (X1,…,Xk)/∣X∣≡(U1,U2,…,Uk)(X_{1}, \ldots , X_{k})/\left|X\right| \equiv (U_{1}, U_{2}, \ldots , U_{k}) равна

f0(u1,…,uk)2kесли∑i=1kui2<1. \frac{f_{0}(u_{1}, \ldots , u_{k})}{2^{k}} \qquad \text{если} \quad \sum _{i=1}^{k} u_{i}^{2} < 1.

Это распределение любого kk-мерного подвектора nn-мерного вектора

U→=(U1,…,Un) \overrightarrow {U} = (U_{1}, \ldots , U_{n})

равномерно распределённого на (поверхности) единичной сферы

x12+⋯+xn2=1. x_{1}^{2} + \cdots + x_{n}^{2} = 1.
?
Задача 1.17

(Продолжение задачи 1.16.) В общем случае, если X→\overrightarrow {X} имеет сферическое распределение (см. задачу 1.13), поскольку оно инвариантно относительно вращений в nn-мерном пространстве, распределение направления X→/∣X∣\overrightarrow {X}/\left|X\right| совпадает с распределением U→\overrightarrow {U} и не зависит от его длины ∣X∣\left|X\right| (для любого сферического распределения с P(∣X∣=0)=0\mathbb {P}\left(\left|X\right| = 0\right) = 0).

Отсюда заключите, что результаты задачи 1.16 верны, если X→\overrightarrow {X} — произвольный сферически симметричный случайный вектор.

?
Задача 1.18

Пусть X,YX, Y — случайные величины с

E[X]=μ,E[Y]=η,Var⁡[X]=σ12,Var⁡[Y]=σ22,Cov⁡[X,Y]=σ12. \mathbb {E}\left[X\right] = \mu , \qquad \mathbb {E}\left[Y\right] = \eta , \qquad \operatorname {Var}\left[X\right] = \sigma _{1}^{2}, \qquad \operatorname {Var}\left[Y\right] = \sigma _{2}^{2}, \qquad \operatorname {Cov}\left[ X, Y \right] = \sigma _{12}.

Найдите приближённую формулу для

E[g(X,Y)],Var⁡[g(X,Y)], \mathbb {E}\left[g(X, Y)\right], \quad \operatorname {Var}\left[g(X, Y)\right],

используя линейное разложение g(x,y)g(x, y) в окрестности точки (μ,η)(\mu , \eta ) (с точностью до моментов второго порядка). Обобщите результат на nn случайных величин.

?
Задача 1.19

XX и YY — независимые одинаково распределённые случайные величины с плотностью

f(x)=2π1−x2,0≤x≤1. f(x) = \frac{2}{\pi \sqrt{1 - x^{2}}}, \qquad 0 \leq x \leq 1.

Используя задачу 1.18, найдите E[Z]\mathbb {E}\left[Z\right] и Var⁡[Z]\operatorname {Var}\left[Z\right], где

Z=arctan⁡XY. Z = \arctan \frac{X}{Y}.
?
Задача 1.20

Основная частота струны определяется формулой

Ω=12FmL, \Omega = \frac{1}{2}\sqrt{\frac{F}{mL}},

где FF — натяжение, mm — масса струны, а LL — её длина. Если масса считается постоянной, а F,LF, L — случайные величины с E[F]=f\mathbb {E}\left[F\right] = f, E[L]=l\mathbb {E}\left[L\right] = l, Var⁡[F]=σf2\operatorname {Var}\left[F\right] = \sigma_{f}^{2}, Var⁡[L]=σl2\operatorname {Var}\left[L\right] = \sigma_{l}^{2} и Cov⁡[F,L]=σfl\operatorname {Cov}\left[ F, L \right] = \sigma_{fl}, найдите приближение для дисперсии Ω\Omega.

?
Задача 1.21

Пусть вектор (X,Y)(X, Y) имеет плотность f(x,y)f(x, y). Определим комплексные переменные

Z=X+iY,Zt=Zeit, Z = X + iY, \qquad Z_{t} = Ze^{it},

и Zt=ZeitZ_{t} = Ze^{it}. Докажите, что для того чтобы все ZtZ_{t} имели одинаковое распределение, необходимо, чтобы f(x,y)=g(x2+y2)f(x, y) = g(x^{2} + y^{2}) для некоторой плотности gg (см. задачу 1.13).

?
Задача 1.22

Если X→\overrightarrow {X} имеет плотность ff, как в задаче 1.13, покажите, что

Y→=μ→+AX→(A — невырожденная постоянная матрица размера n×n) \overrightarrow {Y} = \overrightarrow {\mu } + A\overrightarrow {X} \qquad \text{(}A\text{ — невырожденная постоянная матрица размера }n \times n\text{)}

имеет плотность вида

c∣Λ∣−1/2f((y→−μ→)′Λ−1(y→−μ→)),Λ=AA′, c\left|\Lambda \right|^{-1/2}f((\overrightarrow {y} - \overrightarrow {\mu })'\Lambda ^{-1}(\overrightarrow {y} - \overrightarrow {\mu })), \qquad \Lambda = AA',

и характеристическую функцию вида

eit′μψ(t′Λt)для некоторой функции ψ. e^{it'\mu }\psi (t'\Lambda t) \qquad \text{для некоторой функции } \psi .
?
Задача 1.23

Пусть ρij=ρ(Xi,Xj)\rho_{ij} = \rho (X_{i}, X_{j}) — коэффициент корреляции между Xi,XjX_{i}, X_{j} для i,j=1,…,ni, j = 1, \ldots , n. Для n=3n = 3 и ρ12=ρ13=ρ23=ρ\rho_{12} = \rho_{13} = \rho_{23} = \rho какие значения может принимать ρ\rho?

?
Задача 1.24

Если pp-мерный вектор X→\overrightarrow {X} имеет распределение N(μ,Λ)\mathscr {N}\left(\mu , \Lambda \right), покажите, что квадратичная форма

χ2=(X→−μ→)′Λ−1(X→−μ→) \chi ^{2} = (\overrightarrow {X} - \overrightarrow {\mu })'\Lambda ^{-1}(\overrightarrow {X} - \overrightarrow {\mu })

имеет распределение χp2\chi_{p}^{2} с pp степенями свободы и плотностью, задаваемой (ср. задача 1.13)

?
Задача 1.25

Энтропия HH многомерного распределения с плотностью f(x→)f(\overrightarrow {x}) определяется формулой

H(f)=−E[log⁡f(X→)]=−∫⋯∫f(x→)log⁡f(x→) dx→. H(f) = -\mathbb {E}\left[\log f(\overrightarrow {X})\right] = -\int \cdots \int f(\overrightarrow {x}) \log f(\overrightarrow {x}) \, d\overrightarrow {x}.

Докажите, что для нормального распределения из задачи 1.24

H=log⁡[(2πe)p/2∣Λ∣−1/2]. H = \log \left[(2\pi e)^{p/2}\left|\Lambda \right|^{-1/2}\right].
?
Задача 1.26

Если X→\overrightarrow {X} имеет распределение N(μ,Λ)\mathscr {N}\left(\mu , \Lambda \right) с плотностью ff, найдите плотность gg случайной величины

Y=f(X→). Y = f(\overrightarrow {X}).
?
Задача 1.27

Если X→=(X1,…,Xn)\overrightarrow {X} = (X_{1}, \ldots , X_{n}) равномерно распределён в симплексе TT:

x1+x2+⋯+xn≤1,xi≥0,i=1,…,n, x_{1} + x_{2} + \cdots + x_{n} \leq 1, \qquad x_{i} \geq 0, \qquad i = 1, \ldots , n,

покажите, что плотность X→\overrightarrow {X} равна

f(x→)=n!дляx→∈T. f(\overrightarrow {x}) = n! \qquad \text{для} \quad \overrightarrow {x} \in T.

Покажите, что (n−1)(n-1)-мерные маргинальные распределения также являются частными случаями распределения Дирихле (5.11).

Формула (5.11), распределение Дирихле: для x1,…,xkx_{1}, \ldots , x_{k} с ∑i=1k+1xi=1\sum_{i=1}^{k+1} x_{i} = 1, xi≥0x_{i} \geq 0,

f(x1,…,xk)=Γ(n1+⋯+nk+1)Γ(n1)+⋯+Γ(nk+1)∏i=1k+1xini−1. f(x_{1}, \ldots , x_{k}) = \frac{\Gamma (n_{1} + \cdots + n_{k+1})}{\Gamma (n_{1}) + \cdots + \Gamma (n_{k+1})} \prod _{i=1}^{k+1} x_{i}^{n_{i}-1}.
?
§
Задача 2.1

Два человека стреляют по мишени, каждый делает nn выстрелов. Используя производящие функции, найдите вероятность pp того, что у них будет одинаковое число попаданий, если вероятность попадания в мишень при каждом выстреле равна 0.50.5 для каждого из них.

?
Задача 2.2

Чтобы получить звание чемпиона по шахматам, соперник должен набрать не менее 12.512.5 очков из максимально возможных 2424. В случае ничьей (12:1212:12) действующий чемпион сохраняет звание. Вероятность выигрыша партии одинакова для каждого из двух игроков и равна половине вероятности ничьей. Найдите:

?
(a)

вероятность pchp_{\mathrm{ch}} того, что действующий чемпион сохранит звание, а также вероятность popp_{\mathrm{op}} того, что соперник станет чемпионом;

(b)

вероятность pp того, что в матче будет сыграно 2020 партий.

Задача 2.3

В лотерее билеты пронумерованы от 000000000000 до 999999999999 и все они равновероятны. Какова вероятность pp того, что сумма цифр выбранного номера равна 2121?

?
Задача 2.4

Докажите, что распределение Паскаля при r→∞r \to \infty и rq→λrq \to \lambda сходится к распределению Пуассона с параметром λ\lambda.

?
Задача 2.5

Пусть X,Y,ZX, Y, Z — независимые случайные величины, каждая из которых принимает значения 1,2,…,n1, 2, \ldots , n с одинаковой вероятностью (равномерно). Найдите P(X+Y=2Z)\mathbb {P}\left(X + Y = 2Z\right), используя их совместную производящую функцию G(t1,t2,t3)G(t_{1}, t_{2}, t_{3}).

?
Задача 2.6

В задаче 315 положим

qn,k=P(Sn≤k). q_{n,k} = \mathbb {P}\left(S_{n} \leq k\right).

Найдите производящую функцию Q(t)Q(t) величины qn,kq_{n,k} при заданном nn и, следовательно, саму qn,kq_{n,k}.

?
Задача 2.7

(Продолжение задачи 2.6.) Пусть kk и mm стремятся к бесконечности так, что k/m→xk/m \to x. Найдите предел qn,kq_{n,k}.

?
Задача 2.8

Найдите плотности распределений с характеристическими функциями

φ1(t)=1+it1+t2,φ2(t)=1−it1+t2. \varphi _{1}(t) = \frac{1+it}{1+t^{2}}, \qquad \varphi _{2}(t) = \frac{1-it}{1+t^{2}}.
?
Задача 2.9

Найдите моменты распределения Лапласа с характеристической функцией

φ(t)=11+t2. \varphi (t) = \frac{1}{1+t^{2}}.
?
Задача 2.10

Определите распределение с характеристической функцией

φ(t)=12e−it−1. \varphi (t) = \frac{1}{2e^{-it} - 1}.
?
Задача 2.11

Найдите характеристическую функцию Y=aF(X)+bY = aF(X) + b, где XX — непрерывная случайная величина, а FF — её функция распределения.

?
Задача 2.12

Вектор ξ=(X1,…,Xn)\xi = (X_{1}, \ldots , X_{n}) имеет nn-мерное нормальное распределение с E[Xi]=a\mathbb {E}\left[X_{i}\right] = a, Var⁡[Xi]=σ2\operatorname {Var}\left[X_{i}\right] = \sigma^{2} (i=1,…,n)(i = 1, \ldots , n) и ковариациями

Cov⁡[Xi,Xi+1]=ρσ2,i=1,2,…,n−1, \operatorname {Cov}\left[ X_{i}, X_{i+1} \right] = \rho \sigma ^{2}, \qquad i = 1, 2, \ldots , n-1, Cov⁡[Xi,Xj]=0при∣i−j∣>1. \operatorname {Cov}\left[ X_{i}, X_{j} \right] = 0 \qquad \text{при} \quad \left|i-j\right| > 1.

Найдите характеристическую функцию ξ\xi.

?
Задача 2.13

Пусть φ(t)\varphi (t) — характеристическая функция случайной величины XX с E[X2]=μ2′\mathbb {E}\left[X^{2}\right] = \mu_{2}'.

?
(a)

Докажите, что

ψ(t)=−1μ2′φ′′(t) \psi (t) = -\frac{1}{\mu _{2}'}\varphi ''(t)

является характеристической функцией.

(b)

Заключите, что

ψ0(t)=(1−t2)e−t2/2 \psi _{0}(t) = (1-t^{2})e^{-t^{2}/2}

является характеристической функцией.

Задача 2.14

Покажите, что

a(t)={1−(∣t∣/π),для ∣t∣<π,0,для ∣t∣>π, a(t) = \begin{cases} 1 - (\left|t\right|/\pi ), & \text{для } \left|t\right| < \pi , \\ 0, & \text{для } \left|t\right| > \pi , \end{cases}

является характеристической функцией случайной величины XX, и определите соответствующее распределение.

?
Задача 2.15

Пусть X1,X2,X3X_{1}, X_{2}, X_{3} — независимые N(0,1)\mathscr {N}\left(0, 1\right). Найдите характеристическую функцию пары Z1,Z2Z_{1}, Z_{2}, где

Z1=X2X3,Z2=X1X3. Z_{1} = X_{2}X_{3}, \qquad Z_{2} = X_{1}X_{3}.

Отсюда получите характеристическую функцию Z1Z_{1}. Независимы ли Z1,Z2Z_{1}, Z_{2}?

?
Задача 2.16

Найдите распределения, соответствующие характеристическим функциям

φ1(t)=1cosh⁡t,φ2(t)=1sinh⁡t,φ3(t)=1cosh⁡2t. \varphi _{1}(t) = \frac{1}{\cosh t}, \qquad \varphi _{2}(t) = \frac{1}{\sinh t}, \qquad \varphi _{3}(t) = \frac{1}{\cosh ^{2} t}.
?
Задача 2.17

Покажите, что

P(s1,s2)=p0r(1−p1s1−p2s2)−r, P(s_{1}, s_{2}) = p_{0}^{r}(1 - p_{1}s_{1} - p_{2}s_{2})^{-r},

с положительными параметрами и p0+p1+p2=1p_{0} + p_{1} + p_{2} = 1 является производящей функцией вероятностей пары (X,Y)(X, Y), так что маргинальные распределения XX и YY, а также X+YX + Y, являются отрицательными биномиальными.

?
Задача 2.18

Пусть "раунд" состоит из последовательности испытаний Бернулли до первой неудачи. Найдите производящую функцию и функцию вероятности общего числа SkS_{k} успехов в kk раундах.

?
Задача 2.19

(Продолжение задачи 2.18.) Пусть GG — число последовательных раундов вплоть до nn-го успеха (т.е. nn-й успех происходит в течение GG-го раунда). Найдите распределение GG, а также

E[G],Var⁡[G]. \mathbb {E}\left[G\right], \operatorname {Var}\left[G\right].
?
Задача 2.20

(Продолжение задачи 2.19.) Рассмотрим две независимые последовательности бернуллиевских величин с параметрами p1p_{1} и p2p_{2} соответственно, или двух игроков с "мастерством" p1p_{1} и p2p_{2} соответственно. Докажите, что каждому игроку потребуется одинаковое число раундов (испытаний) до NN-го успеха (ничья) с вероятностью

(p1p2)N∑v=1∞(N+v−2v−1)(q1q2)v−1 (p_{1}p_{2})^{N} \sum _{v=1}^{\infty } \binom {N+v-2}{v-1}(q_{1}q_{2})^{v-1} =(p1p2)N(1−q1q2)1−2N∑k=0N−1(N−1k)(q1q2)k. = (p_{1}p_{2})^{N}(1 - q_{1}q_{2})^{1-2N} \sum _{k=0}^{N-1} \binom {N-1}{k}(q_{1}q_{2})^{k}.
?
Задача 2.21

Покажите, что характеристическая функция β\beta-плотности (2.10) равна

Γ(p+q)Γ(p)∑j=0∞Γ(p+j)(it)jΓ(p+q+j)Γ(j+1). \frac{\Gamma (p+q)}{\Gamma (p)} \sum _{j=0}^{\infty } \frac{\Gamma (p+j)(it)^{j}}{\Gamma (p+q+j)\Gamma (j+1)}.

Формула (2.10), бета-плотность на (0,1)(0,1) с параметрами p,q>0p, q > 0:

f(x)=Γ(p+q)Γ(p)Γ(q)xp−1(1−x)q−1,0<x<1. f(x) = \frac{\Gamma (p+q)}{\Gamma (p)\Gamma (q)} x^{p-1}(1-x)^{q-1}, \qquad 0 < x < 1.
?
Задача 2.22

Покажите, что характеристическая функция плотности из задачи 1.13 имеет вид φ(t12+t22+⋯+tn2)\varphi (t_{1}^{2} + t_{2}^{2} + \cdots + t_{n}^{2}) (см. задачу 1.21). Если

φ(t12+⋯+tn2)=∏i=1nφ(ti2),(*) \varphi (t_{1}^{2} + \cdots + t_{n}^{2}) = \prod _{i=1}^{n} \varphi (t_{i}^{2}), \tag {*}

то есть X1,X2,…,XnX_{1}, X_{2}, \ldots , X_{n} независимы, докажите, что X→\overrightarrow {X} имеет распределение N(0,I)\mathscr {N}\left(0, I\right). Другими словами, сферически симметричный случайный вектор имеет независимые компоненты тогда и только тогда, когда он многомерно нормален.

?
§
Задача 3.1

Найдите плотность

Y=+∣X∣, Y = +\sqrt{\left|X\right|},

где X∼N(0,1)X \sim N(0, 1).

?
Задача 3.2

XX имеет равномерное распределение на (0,1)(0, 1). Найдите плотность случайной величины YY, определённой выражением

X=12{1+22π∫0Yexp⁡{−t22} dt}. X = \frac{1}{2}\left\{ 1 + \frac{2}{\sqrt{2\pi }} \int _{0}^{Y} \exp \left\{ -\frac{t^{2}}{2}\right\} \, dt\right\} .
?
Задача 3.3

Случайные величины XX и YY связаны соотношением

X=∫−∞Yf(t) dt, X = \int _{-\infty }^{Y} f(t) \, dt,

где f(t)≥0f(t) \geq 0 удовлетворяет условию

∫−∞∞f(t) dt=1. \int _{-\infty }^{\infty } f(t) \, dt = 1.

Докажите, что если XX равномерна на (0,1)(0, 1), то f(t)f(t) является плотностью YY (см. задачу 227).

?
Задача 3.4

Пусть XX и YY — независимые случайные величины. Докажите, что произведение XYXY имеет одно и то же распределение, если:

?
(a)

XX и YY имеют распределение N(0,1)N(0, 1); или

(b)

XX имеет распределение N(0,1)N(0, 1), а YY имеет плотность

f(y)=ye−y2/2,y≥0(плотность χ2; см. (2.11)). f(y) = ye^{-y^{2}/2}, \qquad y \geq 0 \qquad (\text{плотность } \chi _{2}\text{; см. (2.11)}).
Задача 3.5

Корни уравнения x2+Yx+Z=0x^{2} + Yx + Z = 0 следуют нормальному распределению (−1,1)(-1, 1). Найдите плотность коэффициентов YY и ZZ (ср. задачу 222).

?
Задача 3.6

Пусть f(x,y,z)f(x, y, z) — плотность точки (X,Y,Z)(X, Y, Z) в трёхмерном пространстве и

R2=X2+Y2+Z2,θ=arcsin⁡YR. R^{2} = X^{2} + Y^{2} + Z^{2}, \qquad \theta = \arcsin \frac{Y}{R}.

Какова плотность пары (R,θ)(R, \theta )?

?
Задача 3.7

XX и YY — независимые нормальные N(0,σ2)N(0, \sigma^{2}). Найдите распределение

?
(a)

Z=X/∣Y∣Z = X/\left|Y\right|;

(b)

W=∣X∣/YW = \left|X\right|/Y.

Задача 3.8

XX и YY — независимые случайные величины с равномерным распределением на (0,a)(0, a). Найдите распределение Z=X/YZ = X/Y и исследуйте существование моментов ZZ.

?
Задача 3.9

Совместная плотность X,YX, Y равна

f(x,y)=e−yдля0≤x≤y<∞. f(x, y) = e^{-y} \qquad \text{для} \quad 0 \leq x \leq y < \infty .
?
(a)

Найдите маргинальные распределения XX, YY и условное распределение YY при заданном XX.

(b)

Из величин XX, YY, Y−XY - X и X/YX/Y какие попарно независимы?

(c)

В условном распределении YY при X=xX = x определите интервал (y,y+a)(y, y + a) так, чтобы

Q(a)=P(y≤Y≤y+a) Q(a) = \mathbb {P}\left(y \leq Y \leq y + a\right)

было максимальным. Эти интервалы при переменном xx определяют зону BB. Какова вероятность зоны, то есть

P((X,Y)∈B)=P(B)? \mathbb {P}\left((X, Y) \in B\right) = \mathbb {P}\left(B\right)?
Задача 3.10

X,YX, Y — независимые экспоненциальные величины, каждая с плотностью

f(t)=θe−θt,t≥0.(1) f(t) = \theta e^{-\theta t}, \qquad t \geq 0. \tag {1}
?
(a)

Найдите совместную условную плотность X,YX, Y при условии X≤YX \leq Y (упорядоченная выборка из двух наблюдений).

(b)

Пусть X1≤X2≤X3≤X4X_{1} \leq X_{2} \leq X_{3} \leq X_{4} — упорядоченная выборка из (1). Какова плотность f1f_{1} пары (X1,X2)(X_{1}, X_{2}) и какова условная плотность f2f_{2} пары (X3,X4)(X_{3}, X_{4}) при заданной (X1,X2)(X_{1}, X_{2})? Какой вывод можно сделать?

Задача 3.11

Если случайные величины XiX_{i} независимы и имеют распределение N(a+bti,σ2)N(a + bt_{i}, \sigma^{2}) (i=1,…,n)(i = 1, \ldots , n), где tit_{i} — постоянные с ∑i=1nti=0\sum_{i=1}^{n} t_{i} = 0, найдите:

?
(a)

совместное распределение X1,…,XnX_{1}, \ldots , X_{n};

(b)

совместное распределение

X‾=1n∑i=1nXiиb=∑i=1ntiXi/∑i=1nti2. \overline{X} = \frac{1}{n} \sum _{i=1}^{n} X_{i} \qquad \text{и} \qquad b = \sum _{i=1}^{n} t_{i} X_{i} \bigg/ \sum _{i=1}^{n} t_{i}^{2}.
Задача 3.12

(Продолжение задачи 3.11.) С помощью подходящего ортогонального преобразования X=(X1,…,Xn)′\mathbf{X} = (X_{1}, \ldots , X_{n})', скажем, Y=0X\mathbf{Y} = 0\mathbf{X} (00 — ортогональная матрица размера n×nn \times n), докажите, что случайные величины X‾\overline{X}, bb и ∑i=1n(Xi−X‾−bti)2\sum_{i=1}^{n} (X_{i} - \overline{X} - bt_{i})^{2} полностью независимы. Заключите, что ∑i=1n(Xi−X‾−bti)2/σ2\sum_{i=1}^{n} (X_{i} - \overline{X} - bt_{i})^{2}/\sigma^{2} имеет распределение χ2\chi^{2} с n−2n - 2 степенями свободы.

?
Задача 3.13

XX и YY совместно нормальны с E[X]=E[Y]=0\mathbb {E}\left[X\right] = \mathbb {E}\left[Y\right] = 0, Var⁡[X]=Var⁡[Y]=1\operatorname {Var}\left[X\right] = \operatorname {Var}\left[Y\right] = 1 и Corr⁡[X,Y]=ρ\operatorname {Corr}\left[ X, Y \right] = \rho, ∣ρ∣<1\left|\rho \right| < 1. Рассмотрим полярные координаты R=X2+Y2R = \sqrt{X^{2} + Y^{2}} и θ=tan⁡−1(Y/X)\theta = \tan^{-1}(Y/X). Покажите, что θ\theta имеет плотность (ср. задачи 220, 221)

f(θ)=1−ρ22π(1−ρsin⁡2θ),0<θ<2π. f(\theta ) = \frac{\sqrt{1 - \rho ^{2}}}{2\pi (1 - \rho \sin 2\theta )}, \qquad 0 < \theta < 2\pi .
?
Задача 3.14

Случайный вектор X=(X1,…,Xk)\mathbf{X} = (X_{1}, \ldots , X_{k}) имеет плотность

f(x)=Γ((k+n)/2)Γ(k/2)(kπ)k/2[1+(x−μ)′Λ−1(x−μ)]−(n+k)/2. f(\mathbf{x}) = \frac{\Gamma ((k+n)/2)}{\Gamma (k/2)(k\pi )^{k/2}} [1 + (\mathbf{x} - \boldsymbol {\mu })' \Lambda ^{-1} (\mathbf{x} - \boldsymbol {\mu })]^{-(n+k)/2}.

Если Λ=I\Lambda = I и k=1k = 1, это распределение Стьюдента с nn степенями свободы. Если Λ=Ik\Lambda = I_{k}, то XX имеет сферически симметричное tt-распределение (см. задачу 1.13). Покажите, что:

?
(a)

E[X]=μ\mathbb {E}\left[\mathbf{X}\right] = \boldsymbol {\mu }.

(b)

X\mathbf{X} имеет то же распределение, что и

μ+Λ1/2Z/χn2, \boldsymbol {\mu } + \Lambda ^{1/2} \mathbf{Z}/\chi _{n}^{2},

где Z\mathbf{Z} имеет распределение N(0,Ik)N(0, I_{k}) и независима от χn2\chi_{n}^{2}. Отсюда заключите (ср. задача 1.24), что

F=1kχn2(X−μ)′Λ−1(X−μ)имеет распределениеFk,n. F = \frac{1}{k\chi _{n}^{2}} (\mathbf{X} - \boldsymbol {\mu })' \Lambda ^{-1} (\mathbf{X} - \boldsymbol {\mu }) \quad \text{имеет распределение} \quad F_{k,n}.
(c)

При n→∞n \to \infty

X→LZ. \mathbf{X} \overset {L}{\to } \mathbf{Z}.
Задача 3.15

Пусть f(x)f(x) обозначает плотность случайной величины XX. Если f(⋅)f(\cdot ) монотонна и ограничена, то f(X)f(X) имеет равномерное распределение тогда и только тогда, когда XX имеет (отрицательное) экспоненциальное распределение.

?
§
Задача 4.1

Счётчик Гейгера--Мюллера регистрирует частицу, испущенную радиоактивным источником, с вероятностью 10−410^{-4}.

?
(a)

Предположив, что за некоторый период источник испустил 3×1043 \times 10^{4} частиц, найдите вероятность того, что будет зарегистрировано более двух частиц.

(b)

Сколько частиц должно быть испущено, чтобы хотя бы четыре частицы были зарегистрированы с вероятностью 0.990.99?

Задача 4.2

В некоторых странах западной Европы, начиная с семнадцатого века и вплоть до Первой мировой войны, была распространена следующая государственная лотерея: из 90 номеров вытягивалось 5, и игрок имел право поставить, скажем, сумму aa на один или несколько номеров; если все выбранные им номера оказывались среди 5 вытянутых, то он выигрывал сумму, определяемую следующим образом: 15a15a, если он ставил на один номер, 270a270a, если он ставил на 2 номера, 500a500a, если он ставил на 3 номера, 75,000a75{,}000a, если он ставил на 4 номера, и 1,000,000a1{,}000{,}000a, если он ставил на 5 номеров.

?
(a)

Каков ожидаемый выигрыш игрока, поставившего на 1, 2, 3, 4 и 5 номеров?

(b)

Пусть 100 000 игроков поставили на 3 номера; какова вероятность того, что выиграют хотя бы 10 игроков?

Задача 4.3

Используя формулу Стирлинга, докажите, что при λ→∞\lambda \to \infty и постоянном kk имеет место локальная предельная теорема о приближении функции вероятности Пуассона нормальной функцией

λ∣λkk!e−λ−12πλexp⁡{−12λ(k−λ)2}∣→0. \sqrt{\lambda } \left|\frac{\lambda ^{k}}{k!} e^{-\lambda } - \frac{1}{\sqrt{2\pi \lambda }} \exp \left\{ -\frac{1}{2\lambda }(k - \lambda )^{2}\right\} \right| \to 0.
?
Задача 4.4

Если Xn→PcX_{n} \overset {P}{\to } c и ff непрерывна в точке cc, то f(Xn)→Pf(c)f(X_{n}) \overset {P}{\to } f(c).

?
Задача 4.5

Пусть {Xn,n≥1}\left\{ X_{n}, n \geq 1\right\} — последовательность случайных величин с E[Xn]=θ\mathbb {E}\left[X_{n}\right] = \theta и Var⁡[Xn]=σ2(θ)\operatorname {Var}\left[X_{n}\right] = \sigma^{2}(\theta ), где параметр θ\theta принимает значения в некотором интервале. Докажите, что если σn2(θ)→0\sigma_{n}^{2}(\theta ) \to 0, то

E[g(Xn)]→g(θ) \mathbb {E}\left[g(X_{n})\right] \to g(\theta )

для любой ограниченной непрерывной функции gg.

?
Задача 4.6

(Продолжение задачи 4.5.) Если FnF_{n} — "биномиальное" распределение с

σn2(θ)=θ(1−θ)n, \sigma _{n}^{2}(\theta ) = \frac{\theta (1 - \theta )}{n},

а gg определена на [0,1][0, 1], то полином Бернштейна

∑k=0ng(kn)(nk)θk(1−θ)n−k⟶n→∞g(θ)(1) \sum _{k=0}^{n} g\left(\frac{k}{n}\right) \binom {n}{k} \theta ^{k} (1 - \theta )^{n-k} \underset {n \to \infty }{\longrightarrow } g(\theta ) \tag {1}

сходится равномерно по 0≤θ≤10 \leq \theta \leq 1. Таким образом, мы получаем простое доказательство теоремы Вейерштрасса об аппроксимации, согласно которой такая функция gg может быть равномерно приближена полиномом. Более того, (1) даёт приближающие полиномы.

?
Задача 4.7

(Продолжение задачи 4.6.) Если nXnnX_{n} имеет распределение Пуассона с параметром nθn\theta, то

e−nθ∑k=0∞g(kn)(nθ)kk!→g(θ)(2) e^{-n\theta } \sum _{k=0}^{\infty } g\left(\frac{k}{n}\right) \frac{(n\theta )^{k}}{k!} \to g(\theta ) \tag {2}

и сходимость равномерна на любом конечном интервале значений θ\theta. Равенство (2) также верно для нецелых значений nn.

?
Задача 4.8

Пусть X1,X2,…X_{1}, X_{2}, \ldots — последовательность независимых нормальных случайных величин с E[Xi]=0\mathbb {E}\left[X_{i}\right] = 0 и Var⁡[Xi]=1\operatorname {Var}\left[X_{i}\right] = 1, и пусть

ξn=nX1+⋯+XnX12+⋯+Xn2,ζn=X1+⋯+XnX12+⋯+Xn2. \xi _{n} = \sqrt{n} \frac{X_{1} + \cdots + X_{n}}{X_{1}^{2} + \cdots + X_{n}^{2}}, \qquad \zeta _{n} = \frac{X_{1} + \cdots + X_{n}}{\sqrt{X_{1}^{2} + \cdots + X_{n}^{2}}}.

Докажите, что ξn\xi_{n} и ζn→N(0,1)\zeta_{n} \to N(0, 1).

?
Задача 4.9

(Продолжение задачи 4.8.) Найдите асимптотическое (при n→∞n \to \infty) распределение

χn2=∑k=1nXk2иξn=nXn+1χn2. \chi _{n}^{2} = \sum _{k=1}^{n} X_{k}^{2} \qquad \text{и} \qquad \xi _{n} = \frac{nX_{n+1}}{\chi _{n}^{2}}.
?
Задача 4.10

nn чисел выбираются случайным образом из целых чисел 1,2,…,N1, 2, \ldots , N, скажем, k1,k2,…,knk_{1}, k_{2}, \ldots , k_{n}. Положим Xi=0X_{i} = 0, если ki=0k_{i} = 0 по модулю 3, Xi=1X_{i} = 1, если ki=1k_{i} = 1 по модулю 3, и Xi=−1X_{i} = -1, если ki=2k_{i} = 2 по модулю 3. Пусть Sn=∑i=1nXiS_{n} = \sum_{i=1}^{n} X_{i}. Докажите, что при nn и N→∞N \to \infty так, что n/N→c>0n/N \to c > 0, Sn/n→LN(0,2/3)S_{n}/\sqrt{n} \overset {L}{\to } N(0, 2/3).

?
Задача 4.11

Пусть SN=X1+X2+⋯XNS_{N} = X_{1} + X_{2} + \cdots X_{N} — сумма случайного числа NN случайных величин XiX_{i}, где XiX_{i} и NN независимы, ∣Xi∣<c\left|X_{i}\right| < c, E[Xi]=μ\mathbb {E}\left[X_{i}\right] = \mu, Var⁡[Xi]=σ2\operatorname {Var}\left[X_{i}\right] = \sigma^{2}, E[N]=n\mathbb {E}\left[N\right] = n и Var⁡[N]≤n1−ε\operatorname {Var}\left[N\right] \leq n^{1-\varepsilon }, ε>0\varepsilon > 0. Используя задачу 328 и ЦПТ, докажите, что при n→∞n \to \infty

SN−nμσn→N(0,1). \frac{S_{N} - n\mu }{\sigma \sqrt{n}} \to N(0, 1).
?
Задача 4.12

Пусть {Xn,n≥1}\left\{ X_{n}, n \geq 1\right\} — последовательность независимых случайных величин и

P(Xn=±12n)=12,n=1,2,…. \mathbb {P}\left(X_{n} = \pm \frac{1}{2^{n}}\right) = \frac{1}{2}, \qquad n = 1, 2, \ldots .

Докажите, что сумма

Sn=X1+…+Xn S_{n} = X_{1} + \ldots + X_{n}
?
(a)

сходится по распределению, и

(b)

найдите её асимптотическое распределение.

Задача 4.13

Если последовательность нормальных случайных величин XnX_{n} сходится по распределению к случайной величине XX, то XX также нормальна либо вырождена.

?
Задача 4.14

Докажите, что отрицательное биномиальное распределение

P(X=k)=(r+k−1k)prqk,k=0,1,2,…,(1) \mathbb {P}\left(X = k\right) = \binom {r+k-1}{k} p^{r} q^{k}, \qquad k = 0, 1, 2, \ldots , \tag {1}

при r→∞r \to \infty и q→0q \to 0 так, что rq→λ>0rq \to \lambda > 0, сходится к распределению Пуассона с параметром λ\lambda.

?
Задача 4.15

Если стохастическая последовательность {Xn}\left\{ X_{n}\right\} сходится по вероятности к случайной величине XX, где P(X≠0)=1\mathbb {P}\left(X \neq 0\right) = 1, то последовательность {1/Xn}→P1/X\left\{ 1/X_{n}\right\} \overset {P}{\to } 1/X.

?
Задача 4.16

Рассмотрим последовательность {Xn}\left\{ X_{n}\right\} независимых случайных величин с

P(Xn=±an)=1/2,n=1,2,…. \mathbb {P}\left(X_{n} = \pm a_{n}\right) = 1/2, \qquad n = 1, 2, \ldots .

Если ряд ∑an2\sum a_{n}^{2} сходится, докажите, что последовательность частичных сумм

Sn=X1+⋯+Xn, S_{n} = X_{1} + \cdots + X_{n},

также сходится в каждом из четырёх видов сходимости (см. Главу 8).

?
Задача 4.17

Пусть {Xk}\left\{ X_{k}\right\} — последовательность случайных величин с

P(Xk=±ka)=1/2. \mathbb {P}\left(X_{k} = \pm k^{a}\right) = 1/2.
?
(a)

Найдите значения aa, при которых

X‾n=1n∑k=1nXk→0 \overline{X}_{n} = \frac{1}{n} \sum _{k=1}^{n} X_{k} \to 0

по вероятности, почти наверное и в среднем квадратичном.

(b)

Исследуйте сходимость X‾n\overline{X}_{n} по распределению при a=1/2a = 1/2.

Задача 4.18

С помощью так называемого метода Монте-Карло, сколько испытаний необходимо, чтобы оценить интеграл

I=∫0π/2sin⁡x dx, I = \int _{0}^{\pi /2} \sin x \, dx,

так, чтобы абсолютная ошибка оценки не превышала 0.1%0.1\% от II с вероятностью p≥0.99p \geq 0.99?

?
Задача 4.19

Пусть VV — область плоскости с площадью единица, и ff определена на VV с ∣f(x,y)∣≤c\left|f(x, y)\right| \leq c. Для вычисления I=∬Vf(x,y) dx dyI = \iint_{V} f(x, y) \, dx \, dy методом Монте-Карло мы случайным образом выбираем nn точек (x1,y1),(x2,y2),…,(xn,yn)(x_{1}, y_{1}), (x_{2}, y_{2}), \ldots , (x_{n}, y_{n}) в VV и вычисляем II по формуле

In=1n∑i=1nf(xi,yi). I_{n} = \frac{1}{n} \sum _{i=1}^{n} f(x_{i}, y_{i}).

Докажите, что

E[In]=I,Var⁡[In]≤c24n. \mathbb {E}\left[I_{n}\right] = I, \qquad \operatorname {Var}\left[I_{n}\right] \leq \frac{c^{2}}{4n}.
?
§
Задача 5.1

При изучении последовательностей событий A1,A2,…A_{1}, A_{2}, \ldots с pk=P(Ak)p_{k} = \mathbb {P}\left(A_{k}\right) важную роль играет лемма Бореля--Кантелли:

?
(a)

Если ряд ∑pk\sum p_{k} сходится, то с вероятностью 1 происходит лишь конечное число событий AkA_{k}.

(b)

Если события (полностью) независимы и ряд ∑pk\sum p_{k} расходится, то с вероятностью 1 происходит бесконечное число событий AkA_{k}.

Задача 5.2

Пусть {Xn,n≥1}\left\{ X_{n}, n \geq 1\right\} — последовательность независимых случайных величин, и для произвольного c>0c > 0 рассмотрим усечённые случайные величины

Xn′={Xnесли ∣Xn∣≤c,0иначе. X_{n}' = \begin{cases} X_{n} & \text{если } \left|X_{n}\right| \leq c, \\ 0 & \text{иначе.} \end{cases}

Тогда ряд

S=∑n=1∞Xn S = \sum _{n=1}^{\infty } X_{n}

сходится с вероятностью 1 тогда и только тогда, когда сходятся следующие три ряда:

∑P(∣Xn∣>c)<∞,∑Var⁡[Xn]<∞и∑E[Xn′]. \sum \mathbb {P}\left(\left|X_{n}\right| > c\right) < \infty , \qquad \sum \operatorname {Var}\left[X_{n}\right] < \infty \qquad \text{и} \qquad \sum \mathbb {E}\left[X_{n}'\right].

В противном случае SS сходится с вероятностью 0.

?
Задача 5.3

Этот закон касается частоты появления больших значений стандартизованного числа успехов

Sn∗=Sn−npnpq, S_{n}^{*} = \frac{S_{n}-n p}{\sqrt{n p q}},

в бесконечной последовательности испытаний Бернулли. Согласно центральной предельной теореме (ЦПТ) Муавра--Лапласа, мы имеем

P(Sn∗>x)∼1−Φ(x), \mathbb {P}\left(S_{n}^{*} > x\right) \sim 1-\Phi (x),

где ∼\sim означает, что отношение обеих сторон стремится к единице.

Следовательно, для конкретного nn большие значения (>4>4) Sn∗S_{n}^{*} маловероятны, но, очевидно, при больших nn возможно, что Sn∗S_{n}^{*} рано или поздно превзойдёт любое большое значение. Насколько скоро это может произойти, показывает закон повторного логарифма (Хинчин; см., например, Феллер, 1957). С вероятностью 1

lim sup⁡n→∞Sn∗2log⁡log⁡n=1,(1) \limsup _{n \rightarrow \infty } \frac{S_{n}^{*}}{\sqrt{2 \log \log n}} = 1, \tag {1}

т.е. при λ>1\lambda > 1 с вероятностью 1 происходит лишь конечное число событий

Sn>np+λnpq2log⁡log⁡n(2) S_{n} > n p+\lambda \sqrt{n p q} \sqrt{2 \log \log n} \tag {2}

тогда как при λ<1\lambda < 1 (2) выполняется для бесконечного числа nn с вероятностью 1.

По соображениям симметрии (распределения Sn∗S_{n}^{*}) из (1) следует

lim inf⁡n→∞Sn∗2log⁡log⁡n=−1. \liminf _{n \rightarrow \infty } \frac{S_{n}^{*}}{\sqrt{2 \log \log n}} = -1.

Поведение SnS_{n} далее иллюстрируется следующим:

?
(a)

Существует постоянная c>0c > 0, зависящая от pp, но не от nn, такая что для всех nn

P(Sn>np)>c. \mathbb {P}\left(S_{n} > n p\right) > c.
(b)

Пусть xx (0≤x<10 \leq x < 1) имеет десятичное разложение

x=0,a1a2a3,…,(3) x = 0, a_{1} a_{2} a_{3}, \ldots , \tag {3}

где каждое aia_{i} — одна из цифр 0,1,…,90, 1, \ldots , 9. Пусть ai=0a_{i} = 0 (вместо 0 можно было бы выбрать любую другую цифру) определяет успех с p=1/10p = 1/10. Следовательно, (3) соответствует бесконечной последовательности испытаний Бернулли с p=1/10p = 1/10, и все предельные теоремы, касающиеся испытаний Бернулли с p=1/10p = 1/10, могут быть переведены в теоремы о десятичных разложениях. Sn(x)S_{n}(x), число нулей среди первых nn десятичных цифр xx, занимает место SnS_{n}. Покажите, что

  1. Sn(x)/x→0.1S_{n}(x)/x \rightarrow 0.1 по мере (Лебега) (по вероятности).

  2. Sn(x)/x→0.1S_{n}(x)/x \rightarrow 0.1 почти всюду (с вероятностью 1).

  3. lim sup⁡n→∞Sn−n/10(nlog⁡log⁡n)1/2\displaystyle \limsup_{n \rightarrow \infty } \frac{S_{n}-n/10}{(n \log \log n)^{1/2}}.

Задача 5.4

Пусть {Xn,n≥1}\left\{ X_{n}, n \geq 1\right\} — последовательность независимых случайных величин, и AA — событие, независимое от (любого события, определённого через) X1,…,XkX_{1}, \ldots , X_{k} для любого kk. Тогда либо P(A)=0\mathbb {P}\left(A\right) = 0, либо P(A)=1\mathbb {P}\left(A\right) = 1.

?
Задача 5.5

Для больших xx (x→∞x \rightarrow \infty) справедливо приближение

1−Φ(x)∼1xφ(x)(4) 1-\Phi (x) \sim \frac{1}{x} \varphi (x) \tag {4}

точнее, для каждого x>0x > 0 справедливо двойное неравенство

φ(x)(1x−1x3)<1−Φ(x)<φ(x)1x(5) \varphi (x)\left(\frac{1}{x}-\frac{1}{x^{3}}\right) < 1-\Phi (x) < \varphi (x) \frac{1}{x} \tag {5}

Более того, для каждой постоянной a>0a > 0 покажите, что при x→∞x \rightarrow \infty

{1−Φ(x+ax)}÷{1−Φ(x)}→e−a. \left\{ 1-\Phi \left(x+\frac{a}{x}\right)\right\} \div \left\{ 1-\Phi (x)\right\} \rightarrow e^{-a}.
?
Задача 5.6

Рассмотрим последовательность {An,n≥1}\left\{ A_{n}, n \geq 1\right\} независимых событий. Тогда с вероятностью 1 происходит конечное или бесконечное число событий AkA_{k} в зависимости от того, сходится или расходится ряд ∑nP(An)\sum_{n} \mathbb {P}\left(A_{n}\right) соответственно (см. приведённую выше лемму Бореля--Кантелли). Покажите это, используя теорему о трёх рядах.

?
Задача 5.7

Пусть {Xn,n≥1}\left\{ X_{n}, n \geq 1\right\} — последовательность случайных величин с μn=E[Xn]<∞\mu_{n} = \mathbb {E}\left[X_{n}\right] < \infty, и XX — случайная величина с Var⁡[X]<∞\operatorname {Var}\left[X\right] < \infty. Если для каждого kk величины X1,…,XkX_{1}, \ldots , X_{k} и X−(X1+⋯+Xk)X-(X_{1}+\cdots +X_{k}) независимы, докажите, что Var⁡[Xk]<∞\operatorname {Var}\left[X_{k}\right] < \infty для каждого kk, и что ряд

∑(Xk−E[Xk]) \sum (X_{k}-\mathbb {E}\left[X_{k}\right])

сходится с вероятностью 1 (почти всюду или почти наверное).

?
Задача 5.8

В последовательности (независимых) испытаний Бернулли с вероятностью успеха pp событие AkA_{k} реализуется, если между 2k2^{k}-м и 2k+12^{k+1}-м испытанием появляются kk последовательных успехов. Докажите, что если p≥1/2p \geq 1/2, то с вероятностью 1 происходит бесконечное число событий AkA_{k}, тогда как при p<1/2p < 1/2 с вероятностью 1 происходит конечное число событий AkA_{k}.

?
Задача 5.9

Непрерывная функция φ(t)\varphi (t) с φ(0)=1\varphi (0) = 1 является характеристической функцией тогда и только тогда, когда она неотрицательно определена, т.е. если для каждого n≥1n \geq 1 и для каждого набора из nn действительных чисел t1,…,tnt_{1}, \ldots , t_{n} и комплексных чисел Z1,…,ZnZ_{1}, \ldots , Z_{n} выполняется

∑j=1v∑k=1vφ(tj−tk)ZjZ‾k≥0.(*) \sum _{j=1}^{v} \sum _{k=1}^{v} \varphi (t_{j}-t_{k}) Z_{j} \overline{Z}_{k} \geq 0. \tag {*}

Докажите, что (∗)(*) является необходимым условием.

?
Задача 5.10

Докажите, что функции,

?
(a)

e−i∣t∣e^{-i\left|t\right|},

(b)

1/(1−i∣t∣)1/(1-i\left|t\right|),

(c)

cos⁡t2\cos t^{2},

не являются характеристическими функциями.

Задача 5.11

Если φ(t)\varphi (t) — характеристическая функция, докажите, что g(t)=eφ(t)−1g(t) = e^{\varphi (t)-1} также является характеристической функцией.

?
Задача 5.12

Покажите, что для действительной характеристической функции φ(t)\varphi (t) справедливы следующие неравенства:

?
(a)
1−φ(nt)≤n2(1−φ(t)),n=0,1,2,… 1-\varphi (n t) \leq n^{2}(1-\varphi (t)), \qquad n = 0, 1, 2, \ldots
(b)
1+φ(2t)≥2[φ(t)]2. 1+\varphi (2 t) \geq 2[\varphi (t)]^{2}.
Задача 5.13

Пусть XX — число испытаний Бернулли, необходимых до появления rr подряд идущих успехов. Найдите производящую функцию XX и E[X]\mathbb {E}\left[X\right].

?
Задача 5.14

Пусть MnM_{n} — максимальное число подряд идущих успехов (максимальная длина серии), наблюдаемое в nn испытаниях Бернулли. Если

Pn,r=P(Mn≤r), P_{n,r} = \mathbb {P}\left(M_{n} \leq r\right),

покажите, что

Pn,r=1−p1,r−p2,r−⋯−pn,r, P_{n,r} = 1-p_{1,r}-p_{2,r}-\cdots -p_{n,r},

где pn,rp_{n,r} было определено в предыдущей задаче (задача 5.13, число испытаний Бернулли, необходимых до появления rr подряд идущих успехов), и, следовательно, производящая функция pn,rp_{n,r} равна

∑n=r∞Pn,rtn=1−P(t)1−t=1−prtr1−t+prqtr+1. \sum _{n=r}^{\infty } P_{n,r} t^{n} = \frac{1-P(t)}{1-t} = \frac{1-p^{r} t^{r}}{1-t+p^{r} q t^{r+1}}.

Также покажите, что

E[M]=log⁡n−log⁡p+O(1), \mathbb {E}\left[M\right] = \frac{\log n}{-\log p}+O(1), Var⁡[M]=O(1). \operatorname {Var}\left[M\right] = O(1).
?
Задача 5.15

Найдите распределения с характеристическими функциями,

?
(a)

cos⁡t\cos t,

(b)

cos⁡2t\cos^{2} t,

(c)

∑k=0∞pkcos⁡kt\sum_{k=0}^{\infty } p_{k} \cos k t, где pk≥0p_{k} \geq 0, ∑pk=1\sum p_{k} = 1.

Задача 5.16

Найдите дискретные распределения с производящими функциями,

?
(a)

18(1+s)3\frac{1}{8}(1+s)^{3},

(b)

12(1−12s)−1\frac{1}{2}(1-\frac{1}{2} s)^{-1},

(c)

e(s−1)e^{(s-1)},

(d)

(14s+34)100(\frac{1}{4} s+\frac{3}{4})^{100}.

Задача 5.17

Используя неравенство Колмогорова: для независимых X1,…,XnX_{1}, \ldots , X_{n} пусть Sk=X1+⋯+XkS_{k} = X_{1}+\cdots +X_{k} с E[Sk]=mk\mathbb {E}\left[S_{k}\right] = m_{k}, Var⁡[Sk]=sk2\operatorname {Var}\left[S_{k}\right] = s_{k}^{2} (k=1,2,…k = 1, 2, \ldots); тогда для каждого ε>0\varepsilon > 0

P(∣Sk−mk∣<εsn, k=1,2,…,n)≥1−1ε2, \mathbb {P}\left(\left|S_{k}-m_{k}\right| < \varepsilon s_{n}, \, k = 1, 2, \ldots , n\right) \geq 1-\frac{1}{\varepsilon ^{2}},

покажите, что если ряд

∑k=1∞Var⁡[Xk]/k2<∞, \sum _{k=1}^{\infty } \operatorname {Var}\left[X_{k}\right]/k^{2} < \infty ,

то выполняется УЗБЧ, т.е.

1n∑k=1n[Xk−E[Xk]]→п.н.0. \frac{1}{n} \sum _{k=1}^{n} [X_{k}-\mathbb {E}\left[X_{k}\right]] \xrightarrow {\text{п.н.}} 0.
?
Задача 5.18

Вероятность того, что в каждой партии игры игрок получает 2k2^{k} долларов, равна

pk=12kk(k+1),k=1,2,…,(1) p_{k} = \frac{1}{2^{k} k(k+1)}, \qquad k = 1, 2, \ldots , \tag {1}

а вероятность того, что он получает 0 долларов, равна p0=1−(p1+p2+⋯ )p_{0} = 1-(p_{1}+p_{2}+\cdots ). Итак, ожидаемый (средний) выигрыш в каждой партии равен

μ=∑k=1∞2kpk=∑k=1∞1k(k+1)=(1−12)+(12−13)+(13−14)+⋯=1. \mu = \sum _{k=1}^{\infty } 2^{k} p_{k} = \sum _{k=1}^{\infty } \frac{1}{k(k+1)} = \left(1-\frac{1}{2}\right)+\left(\frac{1}{2}-\frac{1}{3}\right)+\left(\frac{1}{3}-\frac{1}{4}\right)+\cdots = 1.

Если в каждой партии игрок платит взнос в 1 доллар, то чистая прибыль игрока после nn партий равна

∑k=1nXk−n=Sn−n,сE[Sn−n]=0, \sum _{k=1}^{n} X_{k}-n = S_{n}-n, \qquad \text{с} \qquad \mathbb {E}\left[S_{n}-n\right] = 0,

т.е. игра честная (XkX_{k} — случайная величина с распределением (1)). Однако для каждого ε>0\varepsilon > 0 вероятность того, что за nn партий игрок проиграет больше (1−ε)n/log⁡2n(1-\varepsilon ) n/\log_{2} n долларов, стремится к 1, т.е. можно доказать (усекая случайные величины XkX_{k}, см. Феллер (1957) или Гнеденко (1962)), что

lim⁡n→∞P(Sn−n<(1−ε)nlog⁡2n)=1. \lim _{n \rightarrow \infty } \mathbb {P}\left(S_{n}-n < \frac{(1-\varepsilon ) n}{\log _{2} n}\right) = 1.
?
Задача 5.19

В последовательности {Xn,n≥1}\left\{ X_{n}, n \geq 1\right\} бернуллиевских случайных величин предположим, что

Yn=0еслиXnXn+1=1  или  Xn=0  и  Xn+1=0, Y_{n} = 0 \quad \text{если} \quad X_{n} X_{n+1} = 1 \; \text{или} \; X_{n} = 0 \; \text{и} \; X_{n+1} = 0, Yn=1еслиXn=1  или  Xn+1=1. Y_{n} = 1 \quad \text{если} \quad X_{n} = 1 \; \text{или} \; X_{n+1} = 1.

Найдите E[Zn]\mathbb {E}\left[Z_{n}\right] и Var⁡[Zn]\operatorname {Var}\left[Z_{n}\right], где Zn=∑i=1nYiZ_{n} = \sum_{i=1}^{n} Y_{i}.

?
Задача 5.20

Мы случайным образом выбираем два числа на (0,1)(0,1). Какова вероятность pp того, что их сумма меньше 1, а произведение меньше 3/16?

?
Задача 5.21

Автобус линии AA прибывает на автобусную станцию каждые 4 минуты, а автобус линии BB — каждые 6 минут. Интервал времени между прибытием автобуса линии AA и автобуса линии BB равномерно распределён между 0 и 4 минутами. Найдите вероятность:

?
(a)

того, что первым прибудет автобус линии AA;

(b)

того, что автобус прибудет в течение 2 минут (линии AA или BB).

Задача 5.22

NN звёзд случайным образом рассеяны, независимо друг от друга, в сфере радиуса RR.

?
(a)

Какова вероятность того, что ближайшая к центру звезда находится на расстоянии не менее rr?

(b)

Найдите предел вероятности из (а), если

R→∞иN/R3→4πλ/3. R \rightarrow \infty \qquad \text{и} \qquad N/R^{3} \rightarrow 4 \pi \lambda /3.
Задача 5.23

Спутник, движущийся по орбите между двумя параллелями 60∘60^{\circ } северной и 60∘60^{\circ } южной (широты), с равной вероятностью может приземлиться в любой точке между этими двумя параллелями. Какова вероятность pp того, что спутник приземлится в северном полушарии выше 30∘30^{\circ }?

?
Задача 5.24

В уравнении λ3+3Xλ+Y=0\lambda^{3}+3 X \lambda +Y = 0 коэффициенты X,YX, Y равномерно распределены в прямоугольнике ∣X∣≤a\left|X\right| \leq a, ∣Y∣≤b\left|Y\right| \leq b. Какова вероятность pp того, что уравнение имеет действительные корни?

?
Задача 5.25

Пусть Pk,nP_{k,n} обозначает вероятность kk успехов в nn независимых испытаниях Бернулли. Используя производящую функцию Gn(t)G_{n}(t) величины Pn,kP_{n,k} (k=0,1,2,…k = 0, 1, 2, \ldots), выведите биномиальное распределение.

?
Задача 5.26

AA и BB играют в следующую игру. Они подбрасывают монету; если выпадает орёл, AA получает 1 доллар от BB, в противном случае AA платит 1 доллар BB. Изначально у каждого из них по 3 доллара. Игра заканчивается, когда либо AA, либо BB теряет все свои деньги. Какова вероятность pnp_{n} того, что потребуется nn подбрасываний?

?
Задача 5.27

Пусть Yn=max⁡{X1,…,Xn}Y_{n} = \max \left\{ X_{1}, \ldots , X_{n}\right\}, где X1,…,XnX_{1}, \ldots , X_{n} — независимые одинаково распределённые случайные величины с равномерным распределением на (0,1)(0,1). Покажите, что распределение

Zn=n(1−Yn) Z_{n} = n(1-Y_{n})

сходится (при n→∞n \rightarrow \infty) к экспоненциальному распределению с функцией распределения F(z)=1−e−zF(z) = 1-e^{-z}.

?
Задача 5.28

Дискретная случайная величина XnX_{n}, встречающаяся в теории экстремальных значений, имеет функцию распределения

Fn(n)=1−(n)r(n+nx)r,1≤r≤n, F_{n}(n) = 1-\frac{(n)_{r}}{(n+n x)_{r}}, \qquad 1 \leq r \leq n,

и XnX_{n} принимает значения 1/n,2/n,…1/n, 2/n, \ldots. Покажите, что последовательность {Xn}\left\{ X_{n}\right\} сходится по распределению к непрерывному распределению с функцией распределения

F(x)={0,x≤0,1−(1+x)−r,x>0. F(x) = \begin{cases} 0, & x \leq 0, \\ 1-(1+x)^{-r}, & x > 0. \end{cases}
?
Задача 5.29

Если Xn→PXX_{n} \xrightarrow {P} X и E[(Xn−Yn)2]→0\mathbb {E}\left[(X_{n}-Y_{n})^{2}\right] \rightarrow 0, покажите, что последовательность {Yn}\left\{ Y_{n}\right\} также сходится к XX по вероятности.

?