Глава 2

Многомерное нормальное распределение

[37/97%]
Показать
LaTeX
Задача 2.1

Предположим, что ε∼N3(0,σ2I3)\varepsilon \sim N_{3}\left(0, \sigma^{2} \mathrm{I}_{3}\right) и что Y0Y_{0} имеет распределение N(0,σ02)N\left(0, \sigma_{0}^{2}\right), независимо от εi\varepsilon_{i}. Определим

Yi=ρYi−1+εi(i=1,2,3) Y_{i} = \rho Y_{i-1}+\varepsilon _{i} \quad (i = 1,2,3)
?
(a)

Найдите матрицу дисперсий-ковариаций Y=(Y1,Y2,Y3)T\mathbf{Y} = \left(Y_{1}, Y_{2}, Y_{3}\right)^{T}.

(b)

Каково распределение Y\mathbf{Y}?

Задача 2.2

Пусть Y∼Nn(0,In)\mathbf{Y} \sim N_{n}\left(\mathbf{0}, \mathbf{I}_{n}\right), и положим X=AY,U=BY\mathbf{X} = \mathbf{A Y}, \mathbf{U} = \mathbf{B Y} и V=CY\mathbf{V} = \mathbf{C Y}. Предположим, что Cov⁡[X,U]=0\operatorname {Cov}\left[ \mathbf{X}, \mathbf{U} \right] = \mathbf{0} и Cov⁡[X,V]=0\operatorname {Cov}\left[ \mathbf{X}, \mathbf{V} \right] = \mathbf{0}. Покажите, что X\mathbf{X} независим от U+V\mathbf{U}+\mathrm{V}.

?
Задача 2.3

Если Y1,Y2,…,YnY_{1}, Y_{2}, \ldots , Y_{n} — случайная выборка из N(μ,σ2)N\left(\mu , \sigma^{2}\right), докажите, что Yˉ\bar{Y} независима от ∑i=1n−1(Yi−Yi+1)2\sum_{i = 1}^{n-1}\left(Y_{i}-Y_{i+1}\right)^{2}.

?
Задача 2.4

Если X\mathbf{X} и Y\mathbf{Y} — nn-мерные векторы с независимыми многомерными нормальными распределениями, докажите, что aX+bYa \mathbf{X}+b \mathbf{Y} также имеет многомерное нормальное распределение.

?
Задача 2.5

Если Y∼Nn(0,In)\mathbf{Y} \sim N_{n}\left(\mathbf{0}, \mathbf{I}_{n}\right) и a\mathbf{a} — ненулевой вектор, покажите, что условное распределение YTY\mathbf{Y}^{T} \mathbf{Y} при условии aTY=0\mathbf{a}^{T} \mathbf{Y} = 0 есть χn−12\chi_{n-1}^{2}.

?
Задача 2.6

Пусть Y∼Nn(μ1n,Σ)\mathbf{Y} \sim N_{n}\left(\mu \mathbf{1}_{n}, \mathbf{\Sigma }\right), где Σ=(1−ρ)In+ρ1n1nT\mathbf{\Sigma } = (1-\rho ) \mathbf{I}_{n}+\rho \mathbf{1}_{n} \mathbf{1}_{n}^{T} и ρ>−1/(n−1)\rho > -1 /(n-1). Покажите, что ∑i(Yi−Yˉ)2/(1−ρ)\sum_{i}\left(Y_{i}-\bar{Y}\right)^{2} /(1-\rho ) имеет распределение χn−12\chi_{n-1}^{2}.

?
Задача 2.7

Пусть Yi,i=1,…,n\mathbf{Y}_{i}, i = 1, \ldots , n, — независимые случайные векторы Np(μ,Σ)N_{p}(\mathbf{\mu }, \mathbf{\Sigma }). Покажите, что

1n−1∑i=1n(Yi−Y‾)(Yi−Y‾)T \frac{1}{n-1} \sum _{i = 1}^{n}\left(\mathbf{Y}_{i}-\overline{\mathbf{Y}}\right)\left(\mathbf{Y}_{i}-\overline{\mathbf{Y}}\right)^{T}

является несмещённой оценкой Σ\mathbf{\Sigma }.

?
Задача 2.8

Пусть Y∼Nn(0,In)\mathbf{Y} \sim N_{n}\left(\mathbf{0}, \mathbf{I}_{n}\right) и пусть A\mathbf{A} и B\mathbf{B} — симметричные идемпотентные матрицы с AB=BA=0\mathbf{A B} = \mathbf{B A} = \mathbf{0}. Покажите, что YTAY,YTBY\mathbf{Y}^{T} \mathbf{A Y}, \mathbf{Y}^{T} \mathbf{B Y} и YT(In−A−B)Y\mathbf{Y}^{T}\left(\mathbf{I}_{n}-\mathbf{A}-\mathbf{B}\right) \mathbf{Y} имеют независимые распределения хи-квадрат.

?
Задача 2.9

Пусть (Xi,Yi),i=1,2,…,n\left(X_{i}, Y_{i}\right), i = 1,2, \ldots , n — случайная выборка из двумерного нормального распределения со средними μ1\mu_{1} и μ2\mu_{2}, дисперсиями σ12\sigma_{1}^{2} и σ22\sigma_{2}^{2} и корреляцией ρ\rho, и пусть

W=(XT,YT)T=(X1,X2,…,Xn,Y1,Y2,…,Yn)T \mathbf{W} = \left(\mathbf{X}^{T}, \mathbf{Y}^{T}\right)^{T} = \left(X_{1}, X_{2}, \ldots , X_{n}, Y_{1}, Y_{2}, \ldots , Y_{n}\right)^{T}
?
(a)

Покажите, что W\mathbf{W} имеет распределение N2n(μ,Σ)N_{2 n}(\mathbf{\mu }, \mathbf{\Sigma }), где

μ=(μ11nT,μ21nT)T и Σ=[σ12Inρσ1σ2Inρσ1σ2Inσ22In] \mathbf{\mu } = \left(\mu _{1} \mathbf{1}_{n}^{T}, \mu _{2} \mathbf{1}_{n}^{T}\right)^{T} \quad \text{ и } \quad \mathbf{\Sigma } =\left[\begin{smallmatrix} \sigma _{1}^{2} \mathbf{I}_{n} & \rho \sigma _{1} \sigma _{2} \mathbf{I}_{n} \\ \rho \sigma _{1} \sigma _{2} \mathbf{I}_{n} & \sigma _{2}^{2} \mathbf{I}_{n} \end{smallmatrix}\right]
(b)

Найдите условное распределение X\mathbf{X} при условии Y\mathbf{Y}.

Задача 2.10

Если Y∼N2(0,Σ)\mathbf{Y} \sim N_{2}(\mathbf{0}, \mathbf{\Sigma }), где Σ=(σij)\mathbf{\Sigma } = \left(\sigma_{i j}\right), докажите, что

(YTΣ−1Y−Y12σ11)∼χ12 \left(\mathbf{Y}^{T} \mathbf{\Sigma }^{-1} \mathbf{Y}-\frac{Y_{1}^{2}}{\sigma _{11}}\right) \sim \chi _{1}^{2}
?
Задача 2.11

Пусть a0,a1,…,ana_{0}, a_{1}, \ldots , a_{n} — независимые случайные величины N(0,σ2)N\left(0, \sigma^{2}\right), и определим

Yi=ai+ϕai−1(i=1,2,…,n) Y_{i} = a_{i}+\phi a_{i-1} \quad (i = 1,2, \ldots , n)

Покажите, что Y=(Y1,Y2,…,Yn)T\mathbf{Y} = \left(Y_{1}, Y_{2}, \ldots , Y_{n}\right)^{T} имеет многомерное нормальное распределение, и найдите его матрицу дисперсий-ковариаций. (Последовательность Y1,Y2,…Y_{1}, Y_{2}, \ldots называется процессом скользящего среднего первого порядка и широко используется в анализе временных рядов в качестве модели.)

?
Задача 2.12

Пусть Y∼N3(0,In)\mathbf{Y} \sim N_{3}\left(\mathbf{0}, \mathbf{I}_{n}\right). Найдите производящую функцию моментов величины 2(Y1Y2−Y2Y3−Y3Y1)2\left(Y_{1} Y_{2}-Y_{2} Y_{3}-Y_{3} Y_{1}\right). Отсюда покажите, что эта случайная величина имеет то же распределение, что и 2U1−U2−U32 U_{1}-U_{2}-U_{3}, где UiU_{i} — независимые случайные величины χ12\chi_{1}^{2}.

?
Задача 2.13

Теорему 2.3 можно использовать как определение многомерного нормального распределения. Если это так, выведите из этого определения следующие результаты:

?
(a)

Если Z1,Z2,…,ZnZ_{1}, Z_{2}, \ldots , Z_{n} — н.о.р. N(0,1)N(0,1), то Z∼Nn(0,In)\mathbf{Z} \sim N_{n}\left(\mathbf{0}, \mathbf{I}_{n}\right).

(b)

Если Y∼Nn(μ,Σ)\mathbf{Y} \sim N_{n}(\mathbf{\mu }, \mathbf{\Sigma }), то Y\mathbf{Y} имеет производящую функцию моментов (2.5).

(c)

Если Σ\mathbf{\Sigma } положительно определена, докажите, что Y\mathbf{Y} имеет функцию плотности (2.1).

Задача 2.14

Пусть Y=(Y1,Y2,…,Yn)T\mathbf{Y} = \left(Y_{1}, Y_{2}, \ldots , Y_{n}\right)^{T} — вектор из nn случайных величин (n>3)(n > 3) с функцией плотности

f(y)=(2π)−n/2exp⁡(−12∑i=1nyi2){1+∏i=1n[yiexp⁡(−12yi2)]}−∞<yi<∞(i=1,2,…,n) \begin{aligned} f(\mathbf{y}) = & (2 \pi )^{-n / 2} \exp \left(-\frac{1}{2} \sum _{i = 1}^{n} y_{i}^{2}\right)\left\{ 1+\prod _{i = 1}^{n}\left[y_{i} \exp \left(-\frac{1}{2} y_{i}^{2}\right)\right]\right\} \\ & -\infty < y_{i} < \infty \quad (i = 1,2, \ldots , n) \end{aligned}

Докажите, что любое подмножество из n−1n-1 случайных величин являются взаимно независимыми величинами N(0,1)N(0,1).

?
Задача 2.15

Пусть Y=(Y1,Y2,Y3,Y4)T∼N4(0,I4)\mathbf{Y} = \left(Y_{1}, Y_{2}, Y_{3}, Y_{4}\right)^{T} \sim N_{4}\left(\mathbf{0}, \mathrm{I}_{4}\right), и пусть Q=Y1Y2−Y3Y4Q = Y_{1} Y_{2}-Y_{3} Y_{4}.

?
(a)

Докажите, что QQ не имеет распределения хи-квадрат.

(b)

Найдите производящую функцию моментов QQ.

Задача 2.16

Если Y∼Nn(0,In)\mathbf{Y} \sim N_{n}\left(\mathbf{0}, \mathbf{I}_{n}\right), найдите дисперсию

(Y1−Y2)2+(Y2−Y3)2+⋯+(Yn−1−Yn)2 \left(Y_{1}-Y_{2}\right)^{2}+\left(Y_{2}-Y_{3}\right)^{2}+\cdots +\left(Y_{n-1}-Y_{n}\right)^{2}
?
Задача 2.17

Дано Y∼Nn(μ,Σ)\mathbf{Y} \sim N_{n}(\mathbf{\mu }, \mathbf{\Sigma }), докажите, что

Var⁡[YTAY]=2tr⁡(AΣAΣ)+4μTAΣAμ. \operatorname {Var}\left[\mathbf{Y}^{T} \mathbf{A} \mathbf{Y}\right] = 2 \operatorname {tr}(\mathbf{A} \mathbf{\Sigma } \mathbf{A} \mathbf{\Sigma })+4 \mathbf{\mu }^{T} \mathbf{A} \mathbf{\Sigma } \mathbf{A} \mathbf{\mu } .
?
§
Задача 2a.1

Покажите, что

f(y1,y2)=k−1exp⁡[−12(2y12+y22+2y1y2−22y1−14y2+65)] f\left(y_{1}, y_{2}\right) = k^{-1} \exp \left[-\frac{1}{2}\left(2 y_{1}^{2}+y_{2}^{2}+2 y_{1} y_{2}-22 y_{1}-14 y_{2}+65\right)\right]

является плотностью двумерного нормального случайного вектора Y=(Y1,Y2)T\mathbf{Y} = \left(Y_{1}, Y_{2}\right)^{T}.

?
(a)

Найдите kk.

(b)

Найдите E[Y]\mathbb {E}\left[\mathbf{Y}\right] и Var⁡[Y]\operatorname {Var}\left[\mathbf{Y}\right].

Задача 2a.2

Пусть U\mathbf{U} имеет плотность gg, и пусть Y=A(U+c)\mathbf{Y} = \mathbf{A}(\mathbf{U}+\mathbf{c}), где A\mathbf{A} невырождена. Покажите, что плотность ff величины Y\mathbf{Y} удовлетворяет

f(y)=g(u)/∣det⁡(A)∣ f(\mathbf{y}) = g(\mathbf{u}) /\left|\operatorname {det}\left(\mathbf{A}\right)\right|

где y=A(u+c)\mathbf{y} = \mathbf{A}(\mathbf{u}+\mathbf{c}).

?
Задача 2a.3
?
(a)

Покажите, что матрица 3×33 \times 3

Σ=[1ρρρ1ρρρ1] \mathbf{\Sigma } =\left[\begin{smallmatrix} 1 & \rho & \rho \\ \rho & 1 & \rho \\ \rho & \rho & 1 \end{smallmatrix}\right]

является положительно определённой при ρ>−12\rho > -\frac{1}{2}.

(b)

Найдите Σ1/2\mathbf{\Sigma }^{1 / 2}, если

Σ=[1ρρ1] \mathbf{\Sigma } =\left[\begin{smallmatrix} 1 & \rho \\ \rho & 1 \end{smallmatrix}\right]
§
Задача 2b.1

Найдите производящую функцию моментов двумерного нормального распределения из примера 2.2.

?
Задача 2b.2

Если Y∼Nn(μ,Σ)\mathbf{Y} \sim N_{n}(\mathbf{\mu }, \mathbf{\Sigma }), покажите, что Yi∼N(μi,σii)Y_{i} \sim N\left(\mu_{i}, \sigma_{i i}\right).

?
Задача 2b.3

Предположим, что Y∼N3(μ,Σ)\mathbf{Y} \sim N_{3}(\mathbf{\mu }, \mathbf{\Sigma }), где

μ=[212] и Σ=[211130101] \mathbf{\mu } =\left[\begin{smallmatrix} 2 \\ 1 \\ 2 \end{smallmatrix}\right] \quad \text{ и } \quad \mathbf{\Sigma } =\left[\begin{smallmatrix} 2 & 1 & 1 \\ 1 & 3 & 0 \\ 1 & 0 & 1 \end{smallmatrix}\right]

Найдите совместное распределение Z1=Y1+Y2+Y3Z_{1} = Y_{1}+Y_{2}+Y_{3} и Z2=Y1−Y2Z_{2} = Y_{1}-Y_{2}.

?
Задача 2b.4

Дано Y∼Nn(μ,In)\mathbf{Y} \sim N_{n}\left(\mathbf{\mu }, \mathbf{I}_{n}\right), найдите совместную плотность aTY\mathbf{a}^{T} \mathbf{Y} и bTY\mathbf{b}^{T} \mathbf{Y}, где aTb=0\mathbf{a}^{T} \mathbf{b} = 0, и, следовательно, покажите, что aTY\mathbf{a}^{T} \mathbf{Y} и bTY\mathbf{b}^{T} \mathbf{Y} независимы.

?
Задача 2b.5

Пусть (Xi,Yi),i=1,2,…,n\left(X_{i}, Y_{i}\right), i = 1,2, \ldots , n, — случайная выборка из двумерного нормального распределения. Найдите совместное распределение (Xˉ,Yˉ)(\bar{X}, \bar{Y}).

?
Задача 2b.6

Если Y1Y_{1} и Y2Y_{2} — случайные величины такие, что Y1+Y2Y_{1}+Y_{2} и Y1−Y2Y_{1}-Y_{2} являются независимыми случайными величинами N(0,1)N(0,1), покажите, что Y1Y_{1} и Y2Y_{2} имеют двумерное нормальное распределение. Найдите среднее и матрицу дисперсий Y=(Y1,Y2)T\mathbf{Y} = \left(Y_{1}, Y_{2}\right)^{T}.

?
Задача 2b.7

Пусть X1X_{1} и X2X_{2} имеют совместную плотность

f(x1,x2)=12πexp⁡[−12(x12+x22)][1−x1x2(1+x12)(1+x22)]−∞<x1,x2<∞. \begin{array}{r} f\left(x_{1}, x_{2}\right) = \frac{1}{2 \pi } \exp \left[-\frac{1}{2}\left(x_{1}^{2}+x_{2}^{2}\right)\right]\left[1-\frac{x_{1} x_{2}}{\left(1+x_{1}^{2}\right)\left(1+x_{2}^{2}\right)}\right] \\ -\infty < x_{1}, x_{2} < \infty . \end{array}

Покажите, что X1X_{1} и X2X_{2} имеют маргинальные распределения N(0,1)N(0,1).

?
Задача 2b.8

Предположим, что Y1,Y2,…,YnY_{1}, Y_{2}, \ldots , Y_{n} независимо распределены как N(0,1)N(0,1). Вычислите п.ф.м. случайного вектора

(Yˉ,Y1−Yˉ,Y2−Yˉ,…,Yn−Yˉ) \left(\bar{Y}, Y_{1}-\bar{Y}, Y_{2}-\bar{Y}, \ldots , Y_{n}-\bar{Y}\right)

и, следовательно, покажите, что Yˉ\bar{Y} независима от ∑i(Yi−Yˉ)2\sum_{i}\left(Y_{i}-\bar{Y}\right)^{2}.

?
Задача 2b.9

Пусть X1,X2X_{1}, X_{2} и X3X_{3} — н.о.р. N(0,1)N(0,1). Пусть

Y1=(X1+X2+X3)/3Y2=(X1−X2)/2Y3=(X1+X2−2X3)/6 \begin{aligned} & Y_{1} = \left(X_{1}+X_{2}+X_{3}\right) / \sqrt{3} \\ & Y_{2} = \left(X_{1}-X_{2}\right) / \sqrt{2} \\ & Y_{3} = \left(X_{1}+X_{2}-2 X_{3}\right) / \sqrt{6} \end{aligned}

Покажите, что Y1,Y2Y_{1}, Y_{2} и Y3Y_{3} являются н.о.р. N(0,1)N(0,1). (Приведённое выше преобразование является частным случаем так называемого преобразования Гельмерта.)

?
§
Задача 2c.1

Если Y1,Y2,…,YnY_{1}, Y_{2}, \ldots , Y_{n} имеют многомерное нормальное распределение и попарно независимы, являются ли они взаимно независимыми?

?
Задача 2c.2

Пусть Y∼Nn(μ1n,Σ)\mathbf{Y} \sim N_{n}\left(\mu \mathbf{1}_{n}, \mathbf{\Sigma }\right), где Σ=(1−ρ)In+ρJn\mathbf{\Sigma } = (1-\rho ) \mathbf{I}_{n}+\rho \mathbf{J}_{n} и ρ>−1/(n−1)\rho > -1 /(n-1). Когда ρ=0\rho = 0, Yˉ\bar{Y} и ∑i(Yi−Yˉ)2\sum_{i}\left(Y_{i}-\bar{Y}\right)^{2} независимы, по примеру 2.8. Независимы ли они при ρ≠0\rho \neq 0?

?
Задача 2c.3

Дано Y∼N3(μ,Σ)\mathbf{Y} \sim N_{3}(\mathbf{\mu }, \mathbf{\Sigma }), где

Σ=σ2[1ρ0ρ1ρ0ρ1] \mathbf{\Sigma } = \sigma ^{2}\left[\begin{smallmatrix} 1 & \rho & 0 \\ \rho & 1 & \rho \\ 0 & \rho & 1 \end{smallmatrix}\right]

при каком значении (значениях) ρ\rho величины Y1+Y2+Y3Y_{1}+Y_{2}+Y_{3} и Y1−Y2−Y3Y_{1}-Y_{2}-Y_{3} статистически независимы?

?
§
Задача 2d.1

Покажите, что п.ф.м. для (2.10) равна ∏1n(1−2tdi)−1/2\prod_{1}^{n}\left(1-2 t d_{i}\right)^{-1 / 2}.

?
Задача 2d.2

Пусть Y∼Nn(0,In)\mathbf{Y} \sim N_{n}\left(\mathbf{0}, \mathrm{I}_{n}\right) и пусть A\mathbf{A} симметрична.

?
(a)

Покажите, что п.ф.м. YTAY\mathbf{Y}^{T} \mathbf{A Y} равна [det⁡(In−2tA)]−1/2\left[\operatorname {det}\left(\mathbf{I}_{n}-2 t \mathbf{A}\right)\right]^{-1 / 2}.

(b)

Если A\mathbf{A} идемпотентна ранга rr, покажите, что п.ф.м. равна (1−2t)−r/2(1-2 t)^{-r / 2}.

(c)

Найдите п.ф.м., если Y∼Nn(0,Σ)\mathbf{Y} \sim N_{n}(\mathbf{0}, \mathbf{\Sigma }).

Задача 2d.3

Если Y∼N2(0,I2)\mathbf{Y} \sim N_{2}\left(0, \mathbf{I}_{2}\right), найдите значения aa и bb, такие что

a(Y1−Y2)2+b(Y1+Y2)2∼χ22 a\left(Y_{1}-Y_{2}\right)^{2}+b\left(Y_{1}+Y_{2}\right)^{2} \sim \chi _{2}^{2}
?
Задача 2d.4

Предположим, что Y∼N3(0,In)\mathbf{Y} \sim N_{3}\left(\mathbf{0}, \mathbf{I}_{n}\right). Покажите, что

13[(Y1−Y2)2+(Y2−Y3)2+(Y3−Y1)2] \frac{1}{3}\left[\left(Y_{1}-Y_{2}\right)^{2}+\left(Y_{2}-Y_{3}\right)^{2}+\left(Y_{3}-Y_{1}\right)^{2}\right]

имеет распределение χ22\chi_{2}^{2}. Имеет ли какая-либо кратная величина

(Y1−Y2)2+(Y2−Y3)2+⋯+(Yn−1−Yn)2+(Yn−Y1)2 \left(Y_{1}-Y_{2}\right)^{2}+\left(Y_{2}-Y_{3}\right)^{2}+\cdots +\left(Y_{n-1}-Y_{n}\right)^{2}+\left(Y_{n}-Y_{1}\right)^{2}

хи-квадрат распределение для общего nn?

?
Задача 2d.5

Пусть Y∼Nn(0,In)\mathbf{Y} \sim N_{n}\left(0, \mathrm{I}_{n}\right) и пусть A\mathbf{A} и B\mathbf{B} симметричны. Покажите, что совместная п.ф.м. YTAY\mathbf{Y}^{T} \mathbf{A Y} и YTBY\mathbf{Y}^{T} \mathbf{B Y} равна [det⁡(In−2sA−2tB)]−1/2\left[\operatorname {det}\left(\mathbf{I}_{n}-2 s \mathbf{A}-2 t B\right)\right]^{-1 / 2}. Отсюда покажите, что эти две квадратичные формы независимы, если AB=0\mathbf{A B} = 0.

?