5

Многомерное нормальное распределение

[40/83%]
Показать
LaTeX
Задача 5.1

В этой главе мы (пока) встретили три эквивалентных определения многомерного нормального распределения. Вот четвёртое: X\mathbf{X} нормален тогда и только тогда, когда существует ортогональное преобразование C\mathbf{C} такое, что случайный вектор CX\mathbf{CX} имеет независимые нормальные компоненты. Показать, что это определение действительно эквивалентно обычным (например, показав, что оно эквивалентно первому).

?
Задача 5.2

Предположим, что XX и YY имеют двумерное нормальное распределение со средними 00, дисперсиями 11 и коэффициентом корреляции ρ\rho, ∣ρ∣<1\left|\rho \right| < 1. Пусть (R,Θ)(R, \Theta ) — полярные координаты. Найти распределение Θ\Theta.

?
Задача 5.3

Случайные величины X1X_{1} и X2X_{2} независимы и имеют распределение N(0,1)N(0,1). Положим

Y1=X12−X22X12+X22иY2=2X1⋅X2X12+X22 . Y_{1} = \frac{X_{1}^{2}-X_{2}^{2}}{\sqrt{X_{1}^{2}+X_{2}^{2}}} \quad \text{и} \quad Y_{2} = \frac{2 X_{1} \cdot X_{2}}{\sqrt{X_{1}^{2}+X_{2}^{2}}} \, .

Показать, что Y1Y_{1} и Y2Y_{2} независимы и имеют распределение N(0,1)N(0,1).

?
Задача 5.4

Случайный вектор (X,Y)′(X, Y)' имеет двумерное нормальное распределение с Var⁡[X]=Var⁡[Y]\operatorname {Var}\left[X\right] = \operatorname {Var}\left[Y\right]. Показать, что X+YX+Y и X−YX-Y — независимые случайные величины.

?
Задача 5.5

Предположим, что XX и YY имеют совместное нормальное распределение с E[X]=E[Y]=0\mathbb {E}\left[X\right] = \mathbb {E}\left[Y\right] = 0, Var⁡[X]=σx2\operatorname {Var}\left[X\right] = \sigma_{x}^{2}, Var⁡[Y]=σy2\operatorname {Var}\left[Y\right] = \sigma_{y}^{2} и коэффициентом корреляции ρ\rho. Вычислить E[XY]\mathbb {E}\left[XY\right] и Var⁡[XY]\operatorname {Var}\left[XY\right].

?
Примечание.
?

Можно использовать тот факт, что XX и подходящая линейная комбинация XX и YY независимы.

Задача 5.6

Случайные величины XX и YY независимы и имеют распределение N(0,1)N(0,1). Найти

?
(a)

E[X∣X>Y]\mathbb {E}\left[X \mid X > Y\right],

(b)

E[X+Y∣X>Y]\mathbb {E}\left[X+Y \mid X > Y\right].

Задача 5.7

Из раздела 7 мы знаем, что если XX и YY совместно нормально распределены, то они независимы тогда и только тогда, когда они некоррелированы. Теперь пусть X∈N(0,1)X \in N(0,1) и c≥0c \geq 0. Определим YY следующим образом:

Y={X,при ∣X∣≤c,−X,при ∣X∣>c. Y = \begin{cases} X, & \text{при } \left|X\right| \leq c, \\ -X, & \text{при } \left|X\right| > c. \end{cases}
?
(a)

Показать, что Y∈N(0,1)Y \in N(0,1).

(b)

Показать, что XX и YY не являются совместно нормальными.

Далее пусть g(c)=Cov⁡[X,Y]g(c) = \operatorname {Cov}\left[ X, Y \right].

(c)

Показать, что g(0)=−1g(0) = -1 и что g(c)→1g(c) \rightarrow 1 при c→∞c \rightarrow \infty. Показать, что существует c0c_{0} такое, что g(c0)=0g(c_{0}) = 0 (то есть такое, что XX и YY некоррелированы).

(d)

Показать, что XX и YY не являются независимыми (при c=c0c = c_{0}).

Задача 5.8

В разделе 6 мы установили, что условные распределения нормальных векторов нормальны. Обратное, однако, неверно. А именно, рассмотрим двумерную плотность

fX,Y(x,y)=C⋅exp⁡{−(1+x2)(1+y2)},−∞<x,y<∞, f_{X,Y}(x,y) = C \cdot \exp \left\{ -(1+x^{2})(1+y^{2})\right\} , \quad -\infty < x, y < \infty ,

где CC — нормирующая константа. Это не двумерная нормальная плотность. Показать, что несмотря на это условные распределения нормальны, то есть вычислить условные плотности fY∣X=x(y)f_{Y \mid X=x}(y) и fX∣Y=y(x)f_{X \mid Y=y}(x) и показать, что они являются нормальными плотностями.

?
Задача 5.9

Предположим, что случайные величины XX и YY независимы и имеют распределение N(0,σ2)N(0,\sigma^{2}).

?
(a)

Показать, что X/Y∈C(0,1)X/Y \in C(0,1).

(b)

Показать, что X+YX+Y и X−YX-Y независимы.

(c)

Найти распределение (X−Y)/(X+Y)(X-Y)/(X+Y) (см. также задачу 1.43(б)).

Задача 5.10

Предположим, что производящая функция моментов (X,Y)′(X,Y)' равна

ψX,Y(t,u)=exp⁡{2t+3u+t2+atu+2u2}. \psi _{X,Y}(t,u) = \exp \left\{ 2t+3u+t^{2}+atu+2u^{2}\right\} .

Найти aa так, чтобы X+2YX+2Y и 2X−Y2X-Y стали независимыми.

?
Задача 5.11

Пусть X\mathbf{X} имеет трёхмерное нормальное распределение. Показать, что если X1X_{1} и X2+X3X_{2}+X_{3} независимы, X2X_{2} и X1+X3X_{1}+X_{3} независимы, а X3X_{3} и X1+X2X_{1}+X_{2} независимы, то X1X_{1}, X2X_{2} и X3X_{3} независимы.

?
Задача 5.12

Пусть X1X_{1} и X2X_{2} — независимые случайные величины с распределением N(0,1)N(0,1). Положим Y1=X1−3X2+2Y_{1} = X_{1}-3X_{2}+2 и Y2=2X1−X2−1Y_{2} = 2X_{1}-X_{2}-1. Найти распределение

?
(a)

Y\mathbf{Y}, и

(b)

Y1∣Y2=yY_{1} \mid Y_{2} = y.

Задача 5.13

Пусть X1X_{1}, X2X_{2} и X3X_{3} — независимые случайные величины с распределением N(1,1)N(1,1). Положим U=2X1−X2+X3U = 2X_{1}-X_{2}+X_{3} и V=X1+2X2+3X3V = X_{1}+2X_{2}+3X_{3}. Найти условное распределение VV при условии U=3U = 3.

?
Задача 5.14

Пусть X1,X2,X3X_{1}, X_{2}, X_{3} — независимые случайные величины с распределением N(2,1)N(2,1). Найти распределение X1+3X2−2X3X_{1}+3X_{2}-2X_{3} при условии 2X1−X2=12X_{1}-X_{2} = 1.

?
Задача 5.15

Пусть Y1,Y2Y_{1}, Y_{2} и Y3Y_{3} — независимые случайные величины с распределением N(0,1)N(0,1), и положим

X1=Y1−Y3,X2=2Y1+Y2−2Y3,X3=−2Y1+3Y3. X_{1} = Y_{1}-Y_{3}, \quad X_{2} = 2Y_{1}+Y_{2}-2Y_{3}, \quad X_{3} = -2Y_{1}+3Y_{3}.

Найти условное распределение X2X_{2} при условии X1+X3=xX_{1}+X_{3} = x.

?
Задача 5.16

Случайные величины X1X_{1}, X2X_{2} и X3X_{3} независимы и имеют распределение N(0,1)N(0,1). Рассмотрим случайные величины

Y1=X2+X3,Y2=X1+X3,Y3=X1+X2. Y_{1} = X_{2}+X_{3}, \quad Y_{2} = X_{1}+X_{3}, \quad Y_{3} = X_{1}+X_{2}.

Найти условную плотность Y1Y_{1} при условии Y2=Y3=0Y_{2} = Y_{3} = 0.

?
Задача 5.17

Случайный вектор X\mathbf{X} имеет трёхмерное нормальное распределение с вектором средних 0\mathbf{0} и ковариационной матрицей Λ\mathbf{\Lambda }, заданной как

Λ=(20−1031−115). \mathbf{\Lambda } = \begin{pmatrix} 2 & 0 & -1 \\ 0 & 3 & 1 \\ -1 & 1 & 5 \end{pmatrix} .

Найти распределение X2X_{2} при условии X1−X3=1X_{1}-X_{3} = 1 и X2+X3=0X_{2}+X_{3} = 0.

?
Задача 5.18

Случайный вектор X\mathbf{X} имеет трёхмерное нормальное распределение с математическим ожиданием 0\mathbf{0} и ковариационной матрицей Λ\mathbf{\Lambda }, заданной как

Λ=(12−1240−107). \mathbf{\Lambda } = \begin{pmatrix} 1 & 2 & -1 \\ 2 & 4 & 0 \\ -1 & 0 & 7 \end{pmatrix} .

Найти распределение X3X_{3} при условии X1=1X_{1} = 1.

?
Задача 5.19

Случайный вектор X\mathbf{X} имеет трёхмерное нормальное распределение с математическим ожиданием 0\mathbf{0} и ковариационной матрицей Λ\mathbf{\Lambda }, заданной как

Λ=(21−1130−105). \mathbf{\Lambda } = \begin{pmatrix} 2 & 1 & -1 \\ 1 & 3 & 0 \\ -1 & 0 & 5 \end{pmatrix} .

Найти распределение X2X_{2} при условии X1+X3=1X_{1}+X_{3} = 1.

?
Задача 5.20

Случайный вектор X\mathbf{X} имеет трёхмерное нормальное распределение с вектором средних μ=0\boldsymbol {\mu } = \mathbf{0} и ковариационной матрицей

Λ=(3−21−220101). \mathbf{\Lambda } = \begin{pmatrix} 3 & -2 & 1 \\ -2 & 2 & 0 \\ 1 & 0 & 1 \end{pmatrix} .

Найти распределение X1+X3X_{1}+X_{3} при условии

?
(a)

X2=0X_{2} = 0,

(b)

X2=2X_{2} = 2.

Задача 5.21

Пусть X∈N(μ,Λ)\mathbf{X} \in N(\boldsymbol {\mu }, \mathbf{\Lambda }), где

μ=(201)иΛ=(3−21−220102). \boldsymbol {\mu } = \begin{pmatrix} 2 \\ 0 \\ 1 \end{pmatrix} \quad \text{и} \quad \mathbf{\Lambda } = \begin{pmatrix} 3 & -2 & 1 \\ -2 & 2 & 0 \\ 1 & 0 & 2 \end{pmatrix} .

Найдите условное распределение X1−X3X_{1}-X_{3} при условии, что X2=−1X_{2} = -1.

?
Задача 5.22

Пусть X∈N(μ,Λ)\mathbf{X} \in N(\boldsymbol {\mu }, \mathbf{\Lambda }), где

μ=(201)иΛ=(3−21−220103). \boldsymbol {\mu } = \begin{pmatrix} 2 \\ 0 \\ 1 \end{pmatrix} \quad \text{и} \quad \mathbf{\Lambda } = \begin{pmatrix} 3 & -2 & 1 \\ -2 & 2 & 0 \\ 1 & 0 & 3 \end{pmatrix} .

Найдите условное распределение X1+X2X_{1}+X_{2} при условии, что X3=1X_{3} = 1.

?
Задача 5.23

Случайный вектор X\mathbf{X} имеет трёхмерное нормальное распределение с математическим ожиданием μ\boldsymbol {\mu } и ковариационной матрицей Λ\mathbf{\Lambda }, заданными как

μ=(110)иΛ=(4−21−230101). \boldsymbol {\mu } = \begin{pmatrix} 1 \\ 1 \\ 0 \end{pmatrix} \quad \text{и} \quad \mathbf{\Lambda } = \begin{pmatrix} 4 & -2 & 1 \\ -2 & 3 & 0 \\ 1 & 0 & 1 \end{pmatrix} .

Найдите условное распределение X1+2X2X_{1}+2X_{2} при условии, что

?
(a)

X2−X3=1X_{2}-X_{3} = 1.

(b)

X2+X3=1X_{2}+X_{3} = 1.

Задача 5.24

Случайный вектор X\mathbf{X} имеет трёхмерное нормальное распределение с вектором средних μ\boldsymbol {\mu } и ковариационной матрицей Λ\mathbf{\Lambda }, заданными как

μ=(10−2)иΛ=(3−21−24−11−12). \boldsymbol {\mu } = \begin{pmatrix} 1 \\ 0 \\ -2 \end{pmatrix} \quad \text{и} \quad \mathbf{\Lambda } = \begin{pmatrix} 3 & -2 & 1 \\ -2 & 4 & -1 \\ 1 & -1 & 2 \end{pmatrix} .

Найдите условное распределение X1X_{1} при условии, что X1=−X2X_{1} = -X_{2}.

?
Задача 5.25

Пусть X\mathbf{X} имеет трёхмерное нормальное распределение с вектором средних и ковариационной матрицей

μ=(111)иΛ=(21113−11−12), \boldsymbol {\mu } = \begin{pmatrix} 1 \\ 1 \\ 1 \end{pmatrix} \quad \text{и} \quad \mathbf{\Lambda } = \begin{pmatrix} 2 & 1 & 1 \\ 1 & 3 & -1 \\ 1 & -1 & 2 \end{pmatrix} ,

соответственно. Положим Y1=X1+X2+X3Y_{1} = X_{1}+X_{2}+X_{3} и Y2=X1+X3Y_{2} = X_{1}+X_{3}. Найдите условное распределение Y1Y_{1} при условии, что Y2=0Y_{2} = 0.

?
Задача 5.26

Пусть X∈N(0,Λ)\mathbf{X} \in N(\mathbf{0}, \mathbf{\Lambda }), где

Λ=(21−1130−105). \mathbf{\Lambda } = \begin{pmatrix} 2 & 1 & -1 \\ 1 & 3 & 0 \\ -1 & 0 & 5 \end{pmatrix} .

Найдите условное распределение X1X_{1} при условии, что X1=X2X_{1} = X_{2} и X1+X2+X3=0X_{1}+X_{2}+X_{3} = 0.

?
Задача 5.27

Случайный вектор X\mathbf{X} имеет трёхмерное нормальное распределение с математическим ожиданием 0\mathbf{0} и ковариационной матрицей Λ\mathbf{\Lambda }, заданной как

Λ=(210121012). \mathbf{\Lambda } = \begin{pmatrix} 2 & 1 & 0 \\ 1 & 2 & 1 \\ 0 & 1 & 2 \end{pmatrix} .

Найдите распределение X2X_{2} при условии, что X1=X2=X3X_{1} = X_{2} = X_{3}.

?
Задача 5.28

Пусть X∈N(0,Λ)\mathbf{X} \in N(\mathbf{0}, \mathbf{\Lambda }), где

Λ=(1−1232−122−132−14). \mathbf{\Lambda } = \begin{pmatrix} 1 & -\frac{1}{2} & \frac{3}{2} \\ -\frac{1}{2} & 2 & -1 \\ \frac{3}{2} & -1 & 4 \end{pmatrix} .

Найдите условное распределение (X1,X1+X2)′(X_{1}, X_{1}+X_{2})' при условии, что X1+X2+X3=0X_{1}+X_{2}+X_{3} = 0.

?
Задача 5.29

Пусть характеристическая функция (X,Y,Z)′(X,Y,Z)' равна

φ(s,t,u)=exp⁡{2is−s2−2t2−4u2−2st+2su}. \varphi (s,t,u) = \exp \left\{ 2is-s^{2}-2t^{2}-4u^{2}-2st+2su\right\} .

Вычислите условное распределение X+ZX+Z при условии, что X+Y=0X+Y = 0.

?
Задача 5.30

Пусть X1X_{1}, X2X_{2} и X3X_{3} имеют совместную производящую функцию моментов вида

ψ(t1,t2,t3)=exp⁡{2t1−t3+t12+2t22+3t32+2t1t2−2t1t3}. \psi (t_{1},t_{2},t_{3}) = \exp \left\{ 2t_{1}-t_{3}+t_{1}^{2}+2t_{2}^{2}+3t_{3}^{2}+2t_{1}t_{2}-2t_{1}t_{3}\right\} .

Найдите условное распределение X1+X3X_{1}+X_{3} при условии, что X1+X2=1X_{1}+X_{2} = 1.

?
Задача 5.31

Производящая функция моментов (X,Y,Z)′(X,Y,Z)' равна

ψ(s,t,u)=exp⁡{s22+t2+2u2−st2+3su2−tu2}. \psi (s,t,u) = \exp \left\{ \frac{s^{2}}{2}+t^{2}+2u^{2}-\frac{st}{2}+\frac{3su}{2}-\frac{tu}{2}\right\} .

Найдите условное распределение XX при условии, что X+Z=0X+Z = 0 и Y+Z=1Y+Z = 1.

?
Задача 5.32

Пусть (X,Y,Z)′(X,Y,Z)' имеет нормальное распределение с плотностью

C⋅exp⁡{−12(4x2+3y2+5z2+2xy+6xz+4zy)}, C \cdot \exp \left\{ -\frac{1}{2}(4x^{2}+3y^{2}+5z^{2}+2xy+6xz+4zy)\right\} ,

где CC — нормирующая константа. Найдите условное распределение XX при условии, что X+Z=1X+Z = 1 и Y+Z=0Y+Z = 0.

?
Задача 5.33

Пусть XX и YY — случайные величины, такие что

Y∣X=x∈N(x,τ2)приX∈N(μ,σ2). Y \mid X = x \in N(x, \tau ^{2}) \quad \text{при} \quad X \in N(\mu , \sigma ^{2}).
?
(a)

Вычислите E[Y]\mathbb {E}\left[Y\right], Var⁡[Y]\operatorname {Var}\left[Y\right] и Cov⁡[X,Y]\operatorname {Cov}\left[ X, Y \right].

(b)

Найдите распределение вектора (X,Y)′(X,Y)'.

(c)

Найдите (апостериорное) распределение X∣Y=yX \mid Y = y.

Задача 5.34

Пусть XX и YY совместно нормальны с нулевыми средними, единичными дисперсиями и коэффициентом корреляции ρ\rho. Вычислите производящую функцию моментов для X⋅YX \cdot Y при

?
(a)

ρ=0\rho = 0, и

(b)

произвольном ρ\rho.

Задача 5.35

Пусть X1X_{1}, X2X_{2} и X3X_{3} независимы и имеют распределение N(0,1)N(0,1). Вычислите производящую функцию моментов для Y=X1X2+X1X3+X2X3Y = X_{1}X_{2}+X_{1}X_{3}+X_{2}X_{3}.

?
Задача 5.36

Если XX и YY независимы и имеют распределение N(0,1)N(0,1), то X2+Y2∈χ2(2)X^{2}+Y^{2} \in \chi^{2}(2) (вспомните задачу 3.3.6). Теперь пусть XX и YY совместно нормальны с нулевыми средними, единичными дисперсиями и коэффициентом корреляции ρ\rho. В этом случае X2+Y2X^{2}+Y^{2} имеет нецентральное распределение χ2(2)\chi^{2}(2). Найдите производящую функцию моментов этого распределения.

?
Задача 5.37

Пусть (X,Y)′(X,Y)' имеет двумерное нормальное распределение с нулевыми средними, единичными дисперсиями и коэффициентом корреляции ρ\rho, ∣ρ∣<1\left|\rho \right| < 1. Найдите распределение (X2−2ρXY+Y2)/(1−ρ2)(X^{2}-2\rho XY+Y^{2})/(1-\rho^{2}), вычислив его производящую функцию моментов.

?
Примечание.
?

Вспомните пример 8.6 и замечание 9.1.

Задача 5.38

Пусть X1,X2,…,XnX_{1}, X_{2}, \ldots , X_{n} — независимые случайные величины с распределением N(0,1)N(0,1), и положим X‾k=1k−1∑i=1k−1Xi\overline{X}_{k} = \dfrac {1}{k-1}\sum_{i=1}^{k-1} X_{i}, 2≤k≤n2 \leq k \leq n. Покажите, что

Q=∑k=2nk−1k(Xk−X‾k)2 Q = \sum _{k=2}^{n} \frac{k-1}{k}(X_{k}-\overline{X}_{k})^{2}

имеет χ2\chi^{2}-распределение. Каково число степеней свободы?

?
Задача 5.39

Пусть X1X_{1}, X2X_{2} и X3X_{3} — независимые случайные величины с распределением N(1,1)N(1,1). Положим U=X1+X2+X3U = X_{1}+X_{2}+X_{3} и V=X1+2X2+3X3V = X_{1}+2X_{2}+3X_{3}. Найдите константы aa и bb, при которых E[(U−a−bV)2]\mathbb {E}\left[(U-a-bV)^{2}\right] минимально.

?
Задача 5.40

Пусть XX и YY — независимые случайные величины с распределением N(0,1)N(0,1). Тогда X+YX+Y и X−YX-Y независимы; см. пример 7.1. Цель данной задачи — указать (частичное) обращение этого утверждения. Пусть XX и YY — независимые случайные величины с общей функцией распределения FF. Предположим далее, что FF симметрична и что σ2=E[X2]<∞\sigma^{2} = \mathbb {E}\left[X^{2}\right] < \infty. Пусть φ\varphi — характеристическая функция XX (и YY). Покажите, что если X+YX+Y и X−YX-Y независимы, то

φ(t)=(φ(t/2))4. \varphi (t) = \left(\varphi (t/2)\right)^{4} .

Используя это соотношение, покажите, что φ(t)=e−σ2t2/2\varphi (t) = e^{-\sigma^{2}t^{2}/2}. Наконец, заключите, что FF является функцией распределения нормального распределения (N(0,σ2))(N(0,\sigma^{2})).

?
Примечание.
?

Замечание 1. Предположения о симметричности распределения и конечности дисперсии не являются необходимыми. Однако без них задача становится существенно сложнее.

Замечание 2. Результаты подобного рода называются теоремами характеризации. Другую характеризацию нормального распределения даёт следующая знаменитая теорема, принадлежащая шведскому вероятностнику и статистику Харальду Крамеру (1893--1985): если XX и YY — независимые случайные величины, такие что X+YX+Y имеет нормальное распределение, то XX и YY оба нормальны.