6c

6.4 Сравнение прямых линий: 6.4.1 Общая модель, 6.4.2 Использование фиктивных объясняющих переменных

[4/100%]
Показать
LaTeX
Задача 6c.1

Используя обозначения примера 6.2, докажите, что оценки наименьших квадратов для αk\alpha_{k} и общего наклона β\beta (при нулевой гипотезе параллельности) даются формулами

α~k=Yˉk−β~xˉk \tilde{\alpha }_{k} = \bar{Y}_{k}-\tilde{\beta } \bar{x}_{k}

и

β~=∑k∑i(Yki−Yˉk.)(xki−xˉk.)∑k∑i(xki−xˉk.)2 \tilde{\beta } = \frac{\sum _{k} \sum _{i}\left(Y_{k i}-\bar{Y}_{k .}\right)\left(x_{k i}-\bar{x}_{k .}\right)}{\sum _{k} \sum _{i}\left(x_{k i}-\bar{x}_{k .}\right)^{2}}

Докажите, что

RSSH3=∑k∑i(Yki−Yˉk⋅)2−β~2∑k∑i(xki−xˉk⋅)2. \mathrm{RSS}_{H_{3}} = \sum _{k} \sum _{i}\left(Y_{k i}-\bar{Y}_{k} \cdot \right)^{2}-\tilde{\beta }^{2} \sum _{k} \sum _{i}\left(x_{k i}-\bar{x}_{k} \cdot \right)^{2} .

Если β^k\widehat{\beta }_{k} — оценка наименьших квадратов для βk\beta_{k} в общей модели, докажите, что

RSSH1−RSS=∑kβ^k2∑i(xki−xˉk.)2−β~2∑k∑i(xki−xˉk.)2 \mathrm{RSS}_{H_{1}}-\mathrm{RSS} = \sum _{k} \widehat{\beta }_{k}^{2} \sum _{i}\left(x_{k i}-\bar{x}_{k} .\right)^{2}-\tilde{\beta }^{2} \sum _{k} \sum _{i}\left(x_{k i}-\bar{x}_{k} .\right)^{2}
?
Задача 6c.2

В примере 6.3 найдите оценки наименьших квадратов для α\alpha и β\beta, когда верна H2H_{2}.

?
Задача 6c.3

В примере 6.4 выведите следующие результаты.

?
(a)

Покажите, что оценки наименьших квадратов для α\alpha и βk\beta_{k} при H3H_{3} задаются формулами

(N−x1.2∑ix1i2−⋯−xK.2∑ixKi2)αT=(Y..−x1⋅⋅∑iY1ix1i∑ix1i2−⋯−xK⋅⋅∑iYKixKi∑ixKi2) \begin{aligned} & \left(N-\frac{x_{1.}^{2}}{\sum _{i} x_{1 i}^{2}}-\cdots -\frac{x_{K .}^{2}}{\sum _{i} x_{K i}^{2}}\right) \alpha ^{T} \\ & \quad \quad = \left(Y . .-\frac{x_{1 \cdot } \cdot \sum _{i} Y_{1 i} x_{1 i}}{\sum _{i} x_{1 i}^{2}}-\cdots -\frac{x_{K \cdot } \cdot \sum _{i} Y_{K i} x_{K i}}{\sum _{i} x_{K i}^{2}}\right) \end{aligned}

и

βkT=∑i(Yki−αT)xki∑ixki2(k=1,2,…,K) \beta _{k}^{T} = \frac{\sum _{i}\left(Y_{k i}-\alpha ^{T}\right) x_{k i}}{\sum _{i} x_{k i}^{2}} \quad (k = 1,2, \ldots , K)
(b)

Когда значения xx одинаковы для каждой прямой, так что nk=nn_{k} = n и xki=xi(k=1,2,…,K)x_{k i} = x_{i}(k = 1,2, \ldots , K), докажите, что

αT=Yˉ..−xˉ∑∑Yki(xi−xˉ)K∑(xi−xˉ)2=Yˉ..−xˉ∑kβ^kK,Var⁡[αT]=σ2∑xi2nK∑(xi−xˉ)2 \begin{gathered} \alpha ^{T} = \bar{Y} . .-\frac{\bar{x} \sum \sum Y_{k i}\left(x_{i}-\bar{x}\right)}{K \sum \left(x_{i}-\bar{x}\right)^{2}} = \bar{Y} . .-\bar{x} \frac{\sum _{k} \widehat{\beta }_{k}}{K}, \\ \operatorname {Var}\left[\alpha ^{T}\right] = \frac{\sigma ^{2} \sum x_{i}^{2}}{n K \sum \left(x_{i}-\bar{x}\right)^{2}} \end{gathered}

и

RSS⁡H3=∑k∑iYki2−(∑∑Ykixi)2∑xi2−(αT)2Kn∑(xi−xˉ)2∑xi2 \operatorname {RSS}_{H_{3}} = \sum _{k} \sum _{i} Y_{k i}^{2}-\frac{\left(\sum \sum Y_{k i} x_{i}\right)^{2}}{\sum x_{i}^{2}}-\left(\alpha ^{T}\right)^{2} K n \frac{\sum \left(x_{i}-\bar{x}\right)^{2}}{\sum x_{i}^{2}}

Указание: Yˉ\bar{Y}. и β^k\widehat{\beta }_{k} некоррелированы.

Задача 6c.4

Примеры из раздела 6.4 являются частными случаями следующей задачи.

Рассмотрим модель

G:E[Y]=X1β1+X2β2=Xβ G: \mathbb {E}\left[Y\right] = \mathbf{X}_{1} \mathbf{\beta }_{1}+\mathbf{X}_{2} \mathbf{\beta }_{2} = \mathbf{X} \mathbf{\beta }

где Xi\mathbf{X}_{i} имеет размер n×pin \times p_{i} и ранг pi(i=1,2)p_{i}(i = 1,2). Мы хотим проверить гипотезу HH о том, что все элементы β2\mathbf{\beta }_{\mathbf{2}} равны (некоторому β\beta, т.е. β2=1p2β\mathbf{\beta }_{2} = \mathbf{1}_{p_{2}} \beta).

?
(a)

Если β~\tilde{\beta } — оценка наименьших квадратов для β\beta при HH, покажите, что

β~=1p2TX2T(In−P1)Y1p2TX2T(In−P1)X21p2 \tilde{\beta } = \frac{\mathbf{1}_{p_{2}}^{T} \mathbf{X}_{2}^{T}\left(\mathbf{I}_{n}-\mathbf{P}_{1}\right) \mathbf{Y}}{\mathbf{1}_{p_{2}}^{T} \mathbf{X}_{2}^{T}\left(\mathbf{I}_{n}-\mathbf{P}_{1}\right) \mathbf{X}_{2} \mathbf{1}_{p_{2}}}

где P1=X1(X1TX1)−1X1T\mathbf{P}_{1} = \mathbf{X}_{1}\left(\mathbf{X}_{1}^{T} \mathbf{X}_{1}\right)^{-1} \mathbf{X}_{1}^{T}.

(b)

Если β^2\widehat{\mathbf{\beta }}_{\mathbf{2}} — оценка наименьших квадратов для β2\mathbf{\beta }_{\mathbf{2}} при GG, докажите, что

RSSH−RSS⁡G=(β^2−β~1p2)TX2T(In−P1)Y \mathrm{RSS}_{H}-\operatorname {RSS}_{G} = \left(\widehat{\mathbf{\beta }}_{2}-\tilde{\beta } \mathbf{1}_{p_{2}}\right)^{T} \mathbf{X}_{2}^{T}\left(\mathbf{I}_{n}-\mathbf{P}_{1}\right) \mathbf{Y}
(c)

Если Y^G\widehat{\mathbf{Y}}_{G} — подогнанная регрессия для GG, докажите, что

Y^G=P1Y+(In−P1)X2β^2 \widehat{\mathbf{Y}}_{G} = \mathbf{P}_{1} \mathbf{Y}+\left(\mathbf{I}_{n}-\mathbf{P}_{1}\right) \mathbf{X}_{2} \widehat{\mathbf{\beta }}_{2}

и

RSS⁡H−RSS⁡G=(1p2β~−β^2)TX2T(In−P1)X2(1p2β~−β^2) \operatorname {RSS}_{H}-\operatorname {RSS}_{G} = \left(\mathbf{1}_{p_{2}} \tilde{\beta }-\widehat{\mathbf{\beta }}_{2}\right)^{T} \mathbf{X}_{2}^{T}\left(\mathbf{I}_{n}-\mathbf{P}_{1}\right) \mathbf{X}_{2}\left(\mathbf{1}_{p_{2}} \tilde{\beta }-\widehat{\mathbf{\beta }}_{2}\right)

Указание: Для (а) и (б) примените теорему 3.6 с Z\mathbf{Z}, равным X2\mathbf{X}_{2} и 1p2\mathbf{1}_{p_{2}} соответственно. Для пункта (в) заметьте, что RSS⁡G−RSS⁡H=∥Y^G−Y^H∥2\operatorname {RSS}_{G}-\operatorname {RSS}_{H} = \left\| \widehat{\mathbf{Y}}_{G}-\widehat{\mathbf{Y}}_{H}\right\|^{2}.